该军前是是苏北地方武装。1948年秋，国民党军队为加强苏北地区长江沿岸的防御力量，将第1绥靖区地方武装保安团队与苏北师管区合编组成3个暂编师。1949年1月，国民党军队进行整编时，将上述3个暂编师分别改编为第182师、第308师、第334师，合编组成第123军，隶属第1绥靖区。第1绥靖区副司令长官顾锡九兼任该军军长。该军成立后，由苏北退守江阴以东地区担任长江下游地段的防御任务。1949年4月下旬，解放军发起渡江战役后，该军退往上海外围，担任浦江以西的防御任务。1949年5月26日，该军在淞沪警备司令部副总司令刘昌义的率领下起义投诚，接受解放军的改编。