当初,在秦军的威慑下,匈奴北遁,10多年不敢南侵。等到秦朝灭亡,匈奴才又渐渐往南渡过黄河。
冒顿是匈奴单于头曼的长子,被立为太子。后来,头曼所宠爱的阏氏(单于妻子的称号)又为他生了个小儿子,头曼便想立小儿子为太子。周边的东胡和月氏强大起来,头曼就派冒顿到月氏去当人质。不久以后,头曼猛烈地进攻月氏,其实是想逼着月氏杀掉作为钩枪,古代兵器人质的冒顿。结果冒顿偷了一匹月氏的好马骑上逃回了匈奴。头曼因此认为冒顿勇猛强壮,就把1万名骑兵交给他统率。冒顿就为自己制作了响箭,让部下练习马上射箭的技术,下令说:“我的响箭射出以后,不一齐射向目标的人,斩首!”然后冒顿就用响箭射他自己骑的好马,然后又对他宠爱的妻子射响箭,手下的人有不敢跟着射的,都杀了。最后冒顿又朝头曼骑的好马射响箭,他手下的人也都跟着放箭射单于的马。此后冒顿知道这些士兵可以用了,一日,冒顿和头曼一同外出打猎,用响箭射向头曼,他手下的人也跟着响箭一齐射头曼,就把头曼杀死了。冒顿又杀掉了后母、胞弟,还有不一心的臣子,自立为单于。东胡知道冒顿继位以后,就派出使者对冒顿他说:“我们想得到头曼当单于时的千里马。”冒顿向群臣询问,群臣都说:“不能拱手把我们的宝马送给他们!”冒顿说:“怎么能与人相邻却舍不得一匹马呢?”于是送了东胡这匹千里马。过了不久,东胡又派使者来对冒顿说:“我们想得到单于的一位阏氏。”冒顿再度征求大臣们的意见,群臣都愤怒地说:“东胡太不像话,竟敢索求阏氏,请发兵攻打它!”冒顿说:“怎么能与人相邻却舍不得一个女子呢!”就送了东胡一名自己宠爱的阏氏。
在东胡与匈奴之间,有一块没有人居住、被丢弃的荒地,方圆1000多里,双方各自占据地的一边,设置了哨所戍守。
东胡王越来越骄纵,这次又派出使者对冒顿说:“我想要得到这块没有人居住的荒地。”冒顿还向群臣询问,群臣中有人说:“这是块荒地,给不给都无关紧要。”谁知冒顿却勃然大怒,说:“土地是国家的根本,怎么能给别人呢?”立即处决了那些同意送出土地的大臣。然后冒顿骑上战马,下令说:“都城里有晚出发的人,斩首!”随即率领军队袭击东胡。此前东胡一直轻视冒顿,完全没有防备匈奴的进攻因此一败涂地,冒顿因此就这样轻而易举地灭掉了东胡。冒顿凯旋之后,又进攻西邻月氏,月氏远遁;往南兼并了居住在黄河以南的楼烦、白羊二王的领地;随即入侵燕、代地区,当年被秦军攻占的匈奴旧地趁机全部被收复,还乘胜从中原夺取了大片新土地。
这时,汉军正与项羽相持,中原被战争拖累得疲惫不堪,两大军事势力都无暇也无力分心他顾,因此冒顿得以强大起来,能弯弓射箭的士兵有30多万,周边各国无不受其威慑。