在国民革命军的编制序列中，历史上曾先后出现过2个第34军。分别为中央军和晋军。
中央军
国民第5军第1师组成的第34军，该军前身是方振武国民第5军第1师。1927年夏，国民革命军北伐后，队伍迅速扩大，将方振武部国民第5军编为第3方面军第1军，方振武任军长，下辖：
第1师，阮玄武任师长，
另辖有收编的直军袁宝德师和黄子正旅。
该军组成后，奉命北上参加北伐时，袁宝德离队叛逃，改徐岱东为师长。1928年3月，南京政府改方振武部国民第5军为第4军团，并将方振武国民军第5军第1师扩编为国民革命军第34军。阮玄武任军长，下辖：
第88师，王日新任师长；
第89师，王相臣任师长；
第90师，徐衍昆任师长。
该军编成后，参加了对奉军的北伐。同年秋，该军改编为第44师，阮玄武任师长，原下辖的第88、第89、第90师，依次改编为第130、第131、第132旅。
晋军
晋军一部组成的第34军，该军前身是晋军阎锡山所属一部。1930年11月，中原大战结束后，晋军阎锡山被蒋介石打败后，晋系军队按国民党军统一番号改编，其一部改编为第34军，杨爱源任军长，傅存怀任副军长，隶属太原绥靖公署。下辖：
第66师，杨效欧任师长；
第70师，王靖国任师长；
第71师，杨耀芳任师长。
该军编成后，主要驻防在太原、汾阳等地担任守备任务。1936年2月，该军奉命参加了阻止红一方面军东征的山西战役的作战。同年7月，军长杨爱源改任晋绥“剿匪”总指挥部总指挥，由杨效欧继任军长。
1937年5月31日，军长杨效欧病死，第6集团军总司令杨爱源兼任军长。同年7月19日，杨爱源免去兼职，杨澄源继任军长，傅存怀任副军长。下辖：第66师，杜春忻任师长；第70师，王靖国任师长；第71师，郭宗汾任师长。此时，该军隶属第6集团军。9月，参加了太原会战。战后，阎锡山为控制军队，对部队编制进行调整，将第66师调归战区直辖：第70师拨归国民革命军第19军。此时，该军仅辖第71师。1939年，该军进行编制调整，第71师拨归国民革命军第33军建制，同时，另调第201、第205旅和新建独立第21旅归该军直辖。同年2月，军长杨澄源升任国民革命军第八集团军副总司令，由彭毓斌继任军长。下辖：
第201旅，张翼任旅长；
第205旅，张敬俊任旅长；
独立第21旅，续儒林任旅长。
1940年，将独立第21旅改称第218旅。1941年1月，军长彭毓斌调走后，由王乾元继任军长，滑廷壁任副军长，同时，将原辖第201旅扩编成暂编第43师，刘谦任师长；第205旅扩编成暂编第44师，赵恭任师长；第218旅扩编成暂编第45师，王凤山任师长。此次整编后，该军隶属国民革命军第七集团军。1942年8月，军长王乾元他调。由张翼升任军长，滑廷壁任副军长。1943年，晋系军队进行整编，阎锡山将该军暂编第43师改隶国民革命军第43军，另将国民革命军第23军第73师改隶该军。同年12月，军长张翼调任战区长官司令部高级参谋，高卓之继任军长，赵恭任副军长。此时，第34军下辖：
第73师，席安仁任师长；
暂编第44师，王楫任师长；
暂编第45师，马儒魁任师长。
抗日战争胜利后，该军在1946年至1948年6月，在与解放军的作战中，先后参加了吕梁战役、汾孝战役和晋中战役等。其中在晋中战役中，该军军部及所辖第73师被解放军全歼，中将副军长张翼、少将高级参谋席安仁等被俘，暂编第44师师长杨栖凤被解放军击毙。晋中战役后该军重建军部和第73师。同年9月，国民党军统一番号，将暂编第44师改番号为第278师；暂编第45师该番号为第279师。此时，该军下辖：
第73师，席安仁任师长；
第278师，李子法任师长；
第279师，郑继周任师长。
10月，该军参加太原战役，在小店战斗中，暂编第44师，暂编第45师，被解放军全歼，师长李子法、郑继周被俘。1949年4月，该军军部及第73师在太原战役第3阶段作战中被解放军全歼，军长高卓之、政治部主任彭登旺等被俘。
