在国民革命军的编制序列中，历史上曾先后出现过2个第35军。分别为湘军和晋军。
湘军
湘军第8军第2师组成的第35军，该军前身是湘系唐生智所属一部。1926年3月，湘军军阀唐生智起兵赶走了湖南省长赵恒惕，自任代理省长和善后督办。同年4月，湘军其他各部起兵反唐。唐生智被迫接受国民政府改编。1927年2月，国民政府将唐生智部的第8军第2师扩编成第35军，隶属第4集团军。何键任军长，叶琪任副军长，下辖：
第1师，叶琪兼任师长；
第2师，刘建绪任师长；
第3师，陶广任师长。
同年4月，该军除一部留守湖南外，大部在刘兴第2纵队编成内继续北伐。7月，武汉政府下令讨蒋，该军在何键指挥的江左军的编成内向南京挺进。10月，南京政府西征讨唐，该军退回湖南，被西征军收编，仍编为第35军。12月，叶琪调任第12军军长后，该军第1师被刘兴铏部收编，改编为独立第5师。同时，何键将湖南军阀陈渠珍部所属戴斗垣独立第10师改隶为该军第1师，并将王东原部编为该军教导师。1928年5月，何键将程潜第6军一部，改编为该军独立第17、第19师。此时，何键任军长，刘建绪任副军长，下辖6个师：
第1师，戴斗垣任师长；
第2师，刘建绪兼任师长；
第3师，陶广任师长；
教导师，王东原任师长；
独立第17师，周希武任师长；
独立第19师，张其雄任师长。
同年底，该军被缩编为第19师。
晋军
晋军傅作义部组成的第35军，该军前身是晋阎军一部。1930年11月，中原大战结束后，南京政府将战败残存的晋军和西北军改编为边防军。其中晋军被改编为边防第3、第4、第5、第6军。1931年1月，边防军第6军改编为国民党军第35军，傅作义任军长，下辖：
第72师，李生达任师长；
第73师，傅作义兼任师长。
该军编成后即驻守在归绥地区担任守备任务。1936年5月，该军第210旅奉命参加了阻止红1方面军东征的山西战役。同年上半年，阎锡山对晋系军队进行编制调整，第72师该隶第19军建制，第73师该隶第33军建制。另从第34军第71师中抽出一部该隶该军为第211旅。从第33军第73师中抽出一部该隶该军为第218旅。此时，该军下辖第211旅、第218旅。11月，该军在绥远发起百灵庙战役，重创投靠日寇的伪蒙军。
1937年8月，抗日战争全面爆发后，该军参加了平绥路东段阻止日军的作战。10月，傅作义升任第7集团军总司令兼军长，叶启杰任副军长。此时，该军下辖：
第215旅，田树海任旅长；
第211旅，孙岚峰任旅长；
第218旅，董其武任旅长。
随后，该军参加太原会战之忻口战役和太原保卫战的作战。太原会战结束后，第73师回归第35军建制。同时，将第218旅、山西独立第7旅和警备第3、第9团编成第101师。此时，该军下辖；
第73师，刘奉滨任师长；
第101师，董其武任师长；
第211旅，孙岚峰任旅长。
1939年1月，傅作义升任第8战区副司令长官后，第35军改隶第8战区。同时，将第73师改隶第7集团军直辖，将第211旅改编为新编第31师，另将第215旅裁减，其余部队合编为该军新编第32师。此时，傅作义仍兼军长，叶启杰、陈炳谦任副军长。下辖：
第101师，董其武任师长；
新编第31师，安春山任师长；
新编第32师，袁庆荣任师长。
此次整编后，该军在绥西地区先后参加了包头战役、五原战役和1939年冬季攻势作战等。1944年1月，傅作义辞去兼军长一职，董其武接任军长，张濯清、刘万春任副军长。1945年5月，董其武升任陕甘绥边区副总司令后，鲁英麟接任军长。此时，该军编制不变。下辖：
第101师、
新编第31师、
新编第32师。
1945年8月，抗日战争胜利后，该军隶属第12战区。同年10月至1046年，该军在华北战区多次与解放军作战，先后参加了绥远战役、晋北绥东战役、张家口战役等。1947年初，该军新编第31师与暂编第3军之暂编第17师对调建制。此时，该军下辖：
第101师，郭景云任师长；
新编第32师，李铭鼎任师长；
暂编第17师，朱大纯任师长。
1948年1月该军沿平汉路南下，在涞水战役中，遭到解放军的重创，其新编第32师全部和第101师大部在涞水战役的庄町战斗中被解放军歼灭。军长鲁英麟兵败自杀，新编第32师师长李铭鼎阵亡。此次作战后，国民党重建该军，郭景云任军长。同时，将重建后的新编第32师拨归暂编第4军，另将暂编第26师调归该军。此时，该军下辖：
第101师，冯梓任师长；
暂编第17师，朱大纯任师长；
暂编第26师，温汉民任师长。
同年9月，原暂编第17师改称第262师，朱大纯兼任师长；暂编第26师改称第267师，温汉民任师长。12月，该军在平津战役第2阶段作战中，被解放军全歼于新保安地区，中将军长郭景云自杀毙命。中将副军长王雷震被俘。随后，该军以留守北平的第262师为骨干重建第35军，由朱大纯继任军长。1949年1月，该军在北平和平解放中接受解放军的和平改编。
