一九二八年十二月，国民党军从东西两面分向永新，酃县进攻，开始对井冈山发起第三次围剿。朱毛召开党政军紧急会议，商讨对策，会议决定朱毛亲率红四军主力向赣南方面突围，转移到闽赣边区游击。刚上井冈山的彭德怀指挥红五军（七八百人）和袁文才，王佐部留守井冈山。

会议之后，当晚，毛泽东向朱德提议：其一，因二十九团在湘南八月失败后损失了一个主力营，之后又在历次战斗中伤亡甚大，如今兵员不足，应该缩编为一个营，以利于作战指挥。其二，调三十一团党代表何挺颖任二十八团党代表，并将二十九团政治干部调二十八团工作，以加强党（其实是毛泽东本人）)对二十八团的政治领导。朱德表示同意，立即进行了上述缩编和调整。

朱毛率红四军于一九二九年一月初突破国民党军包围向大汾方向进发，部队人员约三千五百余名。后在大庾县城外与国民党军发生激战，战死三百余人，新任二十八团党代表何挺颖负重伤，于三日后死去。何挺颖是参加秋收暴动后跟随毛泽东上井冈山的，忠诚勇敢能干，深得毛泽东信任，他的死使毛泽东至为痛惜。

从井冈山突围东进后，毛泽东掌握红四军的心情和需要更加迫切，二十八团是朱德带上山的嫡系，也是红四军中战斗力最强的主力，团长王尔琢死后，团长职位当时还是由朱德兼任，下面的营长只有林彪与毛泽东关系较好，其余几个营长都是朱德的拥护者，唯朱德马首是瞻。当在井冈山准备突围时候，毛泽东提议从三十一团调何挺颖任二十八团党代表，其目的就是加强对这个主力团的控制。但仅有何挺颖一人，孤掌难鸣，仍觉控制力不够，因此，毛泽东希望提升林彪担任二十八团团长，以加强自己对二十八团的掌控力。当红军占领大庾县城时（之后没几日何挺颖就负伤死亡了），毛泽东向朱德提出：在目前军事行动紧张时期，朱德应该集中精力指挥整个四军，不应再继续兼任二十八团团长，分散精力。关于二十八团团长一职，应从现任三个营长中遴选一个年轻有为的充任，以分担一部分责任。朱德答复说：现在兵力不大，尽可由他先兼任，眼下又正在行动时期，不应更动人事，以免影响军心。而且现在的三个营长中，论资历周子昆最适合，可惜他健康不佳。林彪勇敢有余但经验稍嫌不足，且资历尚浅，恐难服众，所以暂时仍以维持现状为好。毛泽东不便强行坚持，暂时作罢。但他事后找林彪谈心，把他与朱德的上述对话告诉了林彪，林彪当时才二十出头，血气方刚，自负不凡，听了毛泽东的话，在感激毛泽东对自己赏识的同时，也对朱德心生不满，耿耿于怀，从此之后，林彪在朱毛之间一直是坚定的“拥毛反朱”派。

红四军占领占领大庾县城后，国军党军反攻，红四军被迫撤出，何挺颖负伤死去，当时掩护退却就是由林彪担当指挥。之后由粤赣边区一路流窜途中，被国民党军跟踪追击，处境艰难，林彪指挥打了许多仗，终于脱离了国民党军的追击，使得部队得到喘息机会。那时朱毛和陈毅等人又开了一次会议，讨论部队整理问题时，毛泽东提出两个方案：第一方案，把二十八团（缺少一个营）改编为第一纵队，以林彪为纵队长；把由二十九团改编而成的二十八团第二营及团部直属队的独立营，特务营合编为第二纵队，以朱德或胡少海任纵队长，三十一团改编为第三纵队，以该团团长（原团长是张子清，张子清后受伤，团长改由他人担任，具体姓名未查到）为纵队长。第二方案，以林彪为二十八团团长，以便确实掌握部队，随机应变。毛泽东进一步解释说，我们是革命队伍，任用干部的原则，只问能力及对党是否忠诚，不能仍似军阀军队般专讲资历或人事背景，你们（朱德陈毅等）对人事上的安排，必须打破旧观念，树立革命的新观念，新作风，才能适合党的要求。朱德认为改变为三个纵队的方案，本属可行，但仓促编组，恐怕动摇军心，于是改为同意第二方案，将林彪升任为二十八团团长。时间大约是在一九二九年二月间，如此，林彪从一九二八年四五月间朱毛井冈山会师时候的连长，到同年八月间王尔琢意外死去，袁崇全叛逃后，升任为一营营长，再到一九二九年二月间升任二十八团团长，在仅仅不到一年的时间里脱颖而出，成为红四军里耀眼的青年将领，当时年仅二十一岁出头。此后一年（一九三零年），林彪升任红四军军长，又两年（一九三二年）升任红一军团军团长，时年二十五岁。林彪的红一军团与彭德怀的红三军团当时是朱毛红一方面军（也就是中央红军）中最富战斗力的主力部队。