该军前身是北洋军阀吴佩孚部第18混成旅。1925年10月，北洋军阀吴佩孚部第18混成旅扩编为第25师，于学忠任师长。1927年5月，第26师扩编为第25师、第26师，1927年秋，第25师、第26师与第7师合编为东北军第20军。
1930年9月，张学良在中原大战中发出拥蒋通电后，率东北军主力入关，为蒋介石赢的中原大战的胜利创造了条件。在此期间，该军改称为东北第1军，于学忠任军长，率兵入关，驻平、津一带。1933年2月，根据国民党军队的编制序列，进入关内的东北军统一改编为4个军。原东北军第1军改编成第51军，于学忠任军长，下辖：
第111 师，师长董英斌；
第113师，师长李振唐；
第114师，师长牟中衍；
第115师，师长熊正平。
该军组成后，在参加了长城抗战和冀东抗战后，奉命调往鄂豫皖苏区和陕甘苏区，参加了对红军的“清剿”作战。1935年6月，国民政府任命于学忠为陕甘川“剿匪”总司令，兼第51军军长，该军编为西北“剿匪”军2路军第8纵队，参加了阻击红一方面军西征的作战。此时，该军第111师、第115师改隶第57军，第118师由第57军改隶该军。
1937年4月26日，于学忠被任命为江苏绥靖公署主任，该军由甘肃调至江苏淮阴整编，于学忠兼军长，李振堂任副军长，原下辖的118师番号撤消，所属部队编入第113、第114师。“七七”事变后，该军隶属第3集团军，开赴山东担任海防守备。同年12月，日军占领南京以后，为了沟通南北战场，打通津浦路，南路日军从镇江、南京、芜湖渡江被上时，该军奉命从青岛南调，开赴蚌埠、临淮关一线，参加津浦路北段抗日阻击作战。1938年2月，该军参加了徐州会战，在台儿庄附近的陶墩、柿树园、彩里徐（在今枣庄市台儿庄区和峄城区）一线阵地阻击敌人，同北上欲夹击中国军队的日军第13师团激战10日，双方阵地反复易手，战况惨烈，51军此战牺牲6000多人，为李宗仁部取得台儿庄战役胜利立下汗马功劳。
1938年5月，徐州会战失败后，该军奉命转进铜山附近，占领津浦路东之国防工事，掩护鲁南兵团撤退。8月，该军调赴大别山北麓前线，在参加武汉会战后，与第7、第10军等部被留置大别山区担任游记作战。
1939年1月，国民党军事统帅部为建立敌后根据地，成立鲁苏战区。3月中旬，该军奉命由安徽省立煌县开赴鲁南，进入沂蒙山区，担任沂水、蒙阴、安丘一带守备。此时，于学忠免去军长兼职，牟中衍接任军长，周毓英任副军长。下辖：
第113、第114师编制不变。
同年6月，日军以第5师团为基干，并调集第21、第32、第114师团和第5独立混成旅团各一部，对沂蒙山实施分进合围大“扫荡”。该军利用沂蒙山区的有利地形，与日军周旋，经20余天的作战，粉碎了日军的“围剿”。在此次作战中，第114师师长方叔洪在冯家场战斗中阵亡。1941年，山东伪满军一部改为暂编第12师，拨归该军建制。1942年1月，牟中衍调任山东省府主席，由周毓英接任军长。此时，该军下辖：
第113师，李玉唐任师长；
第114师，黄德兴任师长；
暂编第12师，赵保原任师长。
同年春，暂编第12师改隶鲁苏战区直辖，该军仍辖第113、第114师。1943年3月至5月，驻山东日军和伪军吴化文等部万余人，向该军所在的鲁南地区连续发动攻势作战，该军损失惨重，第113师师长韩子乾被俘；第114师全部阵亡。6月上旬，该军奉命撤出鲁南，暂往鲁西待命。1944年3月，鲁苏战区撤消后，该军隶属第5战区，调往鄂豫边界的大别山区，参加了豫中会战。此次会战后，该军在河南商城整训。
1946年5月，国民党军队进行整编时，该军改编为整编第52师，原军长周毓英改任师长，韩世儒任副师长，原第 113师改编为整编第113旅，李玉唐任旅长；原第114师改编为整编第114旅，李步青任旅长。同年，国民党对山东解放区发动全面进攻后，该军由河南调往苏鲁战场时，并将原整编第26师第41旅拨归该师建制，董继淘任旅长。同年12月至1947年1月，该师在参加宿北战役和鲁南战役中，被山东人民解放军全歼。中将师长周毓英、少将副师长韩世儒、少将参谋长李献中等被俘。此次作战后，国民党军重建整编第51师，王严任师长，王秉钺任副师长。下辖：
第41 旅，黄继淘任旅长；
第113旅，王匡任旅长。
该师重建后隶属第1绥靖区，驻防淮阴，担任苏北地区的守备任务。同年11月至1948年5月，该师在参加李堡栟茶战役、益林战役、盐（城）南战役等作战中，第113旅再次被人民解放军全部歼灭。
1948年9月，国民党军进行整编时，该整编师恢复第51军的番号。王严（王秉钺）任军长。原整编第41旅恢复第41师番号，刘卫任师长；原整编第113旅恢复第113师番号，王楚任师长。1949年4月下旬，人民解放军发起渡江战役后，该军在三江营至申港段长江防线担任防御任务时，第41师被人民解放军歼灭。残部逃入上海外围后，在参加上海近郊防御作战中，再次被人民解放军全歼，中将军长王秉钺、少将参谋长向建白等被俘。退入市区的残部重建第51军，由淞沪警备副司令刘昌义兼任军长。5月27日，该军在刘昌义率领下向人民解放军投诚。
