在国民革命军的编制序列中，历史上曾先后出现过2个第40军。分别为湘军和西北军。
湘军
贺耀祖所属部组成的第40军，该军前身是湘系军队贺耀祖一部。1926年8月28日，贺耀祖率湘军第1师与湘军总司令赵恒惕决裂，加入国民革命军后被编为独立第9军军长后，仍兼任独立第2师师长。同年10月，该师奉命北伐，在江西境内先后参加了进攻南昌、九江等战役的作战。1927年3月26日，国民政府将独立第2师扩编为第40军，贺耀祖任军长。下辖：
第1师，谷正伦任师长；
第2师，杨永清任师长；
第3师，毛秉文任师长。
同年6月，该军隶属北伐右军，编入第3纵队，贺耀祖任指挥，率独立第2师向沪、宁进攻，后北伐进军至徐州。7月，该军奉命撤回长江以南，隶属第1路军。9月，该军在长沙以南，奉命参加了追击孙传芳残部的战斗。1928年2月16日，该军进行整编，重新任命贺耀祖为军长，毛秉文为副军长，谢履任参谋长。原所辖第1、第2、第3师依次改编为第82、第83和第84师，并另组建教导师，龚宪任师长。同年7月后，国民党军进行编遣，该军缩编为第8师，朱绍良任师长。
西北军
西北军庞炳勋部组成的第40军，该军前身是西北军中国民军一部。1927年，国民军庞炳勋部改编为第2集团军第20军。1930年5月，中原大战时，被编为反蒋联军的第3路军，庞炳勋任总指挥。1930年秋，中原大战结束后，该部被蒋介石收编扩编为陆军第40军，庞炳勋任军长，马法五任副军长。下辖：
第39师，庞炳勋兼任师长。
该军组建后，先后参加了1933年的长城和冀东的抗日作战，以及镇压冯玉祥在察北建立的抗日同盟军等军事行动。1934年10月，该军被编为西北“剿匪”军第2预备队，对撤出鄂豫皖苏区转入长征的红25军，进行了多次的围追堵截作战。1937年8月，抗日战争全面爆发后，该军新增骑兵第14旅，张占魁任旅长。隶属第1集团军，由运城开赴津浦前线，参加了津浦路北线段沿线的防御作战，担任正面防务，当时番号第三兵团。1938年1月，该军参加了徐州会战。在此次会战中，该军在鲁南地区死守临沂，阻止了日军东路军南下，为国民党军夺取台儿庄战役的胜利起了重大作用。1939年1月，国民党军进行整编，将第43军与第40军合并组成新的第40军，原第43军下辖第106师改隶第40军建制。此次整编后，该军隶属冀察战区。庞炳勋任军长，马法五、沈克任副军长，下辖：
第39师，刘世荣任师长；
第106师，马法五兼任师长；
骑兵第14旅，张占魁任旅长。
同年12月，该军参加了1939年冬季攻势作战。后不久，在国民党顽固派发动的第一次反共高潮中，该军奉命参加了阎锡山发动的反共“晋西事变”的作战行动。1941年，该军改隶第24集团军，同时将原辖骑兵第14旅改隶胡宗南的第34集团军，1942年5月，庞炳勋升任冀察战区副总司令和第24集团军总司令后，由马法五继任军长，刘世荣、李振清任副军长，同时，将原战区下辖的独立第46旅调归该军建制。此时，该军下辖：
第39师，李运通任师长；
第106师，李振清任师长；
独立第46旅，司元恺任旅长。
1943年，该军将原辖独立第46旅扩编为新编第40师。同年5月，庞炳勋和该军第106师师长李震汾率部叛投日军，军长马法五率该军一部避开日军主力安全转移。战后，经收容残部及整理后恢复第40军建制，由马法五升任冀察战区副司令兼军长。1944年4月，该军参加了河南会战取得优异战绩，在豫中灵宝战役对阻止日军进入潼关和关中作出贡献，106师长李振清、39师长司元恺受到嘉奖，此战也受到毛主席称赞。
1945年10月，该军奉命进攻冀鲁豫和冀南解放区，在邯郸战役中被解放军歼灭，战区副司令长官兼军长马法武被俘。此次战役后，国民党重建第40军，由原副军长李振清代理军长，重建的第40军将原辖新编第40师番号取消。
1946年，国民党对军队进行整编，第40军改编为整编第40师，原军长李振清改任师长，原辖第39、第106师依次改编为整编第39旅，司元恺任旅长；整编第106旅，韩凤仪任旅长。此次整编后，该军隶属整编第26军。1947年3月，该军改隶第12绥靖区后，奉命参加了豫北战役。在此次战役中，该军一部遭到解放军围歼。此后，由豫北增援鲁西南，被刘伯承、邓小平评价是敌军十七个旅中最有战斗力的部队。同年6月至9月，该军在参加鲁西南战役后，又对挺进中原的解放军部队，进行了鲁西南至大别山的追击和堵机截作战。其中，在大别山区作战的高山铺战役中，与刘邓两个纵队激战二十九小时，该整编师师部及所辖第106旅全部和第39旅1个团被解放军歼灭。战后，该整编师在河南安阳、新乡，经过休整补充后重建第39旅和第106旅。同时，另建第43、第264师，隶属第40军指挥，守备安新地区。
1948年9月，整编第40师恢复第40军番号，隶属第12绥靖区。原师长李振清改任军长，原辖部队统一整编为：
第3师，师长（姓名不详）；
第106师，赵天兴任师长；
第264师。师长（姓名不详）。
同年10月，该军部率第106师参加郑州战役。11月初，该军第39师奉命由安阳开赴徐州参战，编入李弥第13兵团。在淮海战役第三阶段，该军第39师扩编为第115军后，被解放军全歼于陈官庄地区。1949年4月，该军参加安新战役后第43师在安阳地区被解放军全歼，军部率第106、第264师在新乡地区放下武器，接受解放军的改编。
