阎锡山，字百川，1883年10月8日出生于山西省五台县河边村一个地主兼商业高利贷者家庭。
他六岁丧母，由外祖母扶养。九岁入私塾，十六岁随父阎书堂到县城自家开设的吉庆昌钱铺学习经商。1900年，父子俩在一次买空卖空的“打虎生意”中蚀了大本，只得逃离县城，回到河边村。不久，为避债又逃到太原，阎锡山经人介绍进裕盛店当了伙计。阎锡山不甘心在店里受人差使，1902年，清政府在山西设立武备学堂，他认为这是跻身官场之路，于是应机报考。初试时，他做了《韩信将兵多多益善论》的论文；口试时，他对答灵便，深得山西新军第四十三混成协统姚鸿法的赏识，被顺利录取。1904年，阎锡山考取官费生赴日本留学。先入振武学校，后入日本陆军士官学校，结识了冈村宁次、板桓征四郎、土肥原贤二等人。另外，在此期间，他也结识了孙中山，参加了同盟会，并加入了孙中山在军人中成立的“铁血丈夫团”。1909年3月，阎锡山毕业回国。他先后在北京和太原四处活动，获得了山西陆军小学教官的位置，三个月后升任监督。之后，他又积极谋取兵权，1910年春，他升任山西新军第四十三混成协第八十六标标统。在此期间，他施展两面派的手法，一方面讨好清朝官吏和立宪派，抓住兵权；一方面组织以同盟会员和反清分子为骨干的模范队，以图在革命到来时作为自己的资本。
1911年10月，武昌起义爆发，阎锡山与八十五标标统黄国良及温寿泉等策划太原起义，由八十五标首先发动。10月29日，八十五标在第二管管带姚以价的指挥下率部起义，攻打抚署。在太原起义的过程中，阎锡山也玩弄两面手法，一面给所部下令，称“八十五标兵变”，调动一部分兵力协助清军保护抚署；一面密令余部相机击溃抗拒起义的巡防马队营。而他则躲在大教场东北的树林里，派人四处观察打探情况，随时向他报告，以便看风使舵，成则居功，败则诿过。当起义军占领巡抚衙门，击毙巡抚陆钟琦，起义已成定局时，他便公开率部参加起义。太原起义成功，为选举山西都督，同盟会员与立宪派展开了争斗。在公选会议上，有选举立宪派首领梁善济的倾向，在表决的关键时刻，阎锡山的亲信张树帜持枪跳上***台，大声说道：“选阎锡山为大都督，赞成的举手！“全体议员在惊愕中，相顾举手，一致通过。就这样，阎锡山、温寿泉分别当选为大都督和副都督。
太原起义后，清政府派第六镇统制吴禄贞为山西巡抚，带兵入晋，镇压革命。但吴禄贞早已参加了革命党，当领兵进至石家庄后，即前往娘子关与阎锡山会晤，组织燕晋革命联军，吴禄贞任大都督兼总司令，阎锡山、张绍曾为副都督兼副总司令，决定挥戈进京，扫除清室。对此，清廷及内阁***大臣袁世凯惊恐万分，便以重金贿买吴禄贞旧部周符麟，设计将吴刺杀。随后，又派张锡銮为山西巡抚，率领第三镇曹锟所部进攻山西。阎锡山只得撤离太原，向北进军，攻取大同，又会合吴行芳、张培梅带领的雁门、怀仁两部民军，攻占包头。1912年2月，清帝下诏退位，南北政府和议告成，袁世凯窃据临时大总统之位。阎锡山看到形势已定，便下令返回山西。但袁世凯借口阎锡山弃省出走，不承认山西为起义省份，电令其不准擅自行动。阎锡山焦急万分，他马上施展手腕，急电亲信南桂馨面见孙中山，请求支援；一面派与袁世凯拜过把子的董崇仁进京，千方百计向袁世凯表忠。袁世凯终于在3月15日任命阎锡山为山西都督，他才得以重返太原。阎锡山回到太原后，深知要坐稳都督的宝座，就必须要讨好袁世凯。他派人长驻北京，贿赂袁世凯的亲信、总统府秘书长梁士诒，向袁世凯表示恭顺。荐请任命董崇仁为晋南镇守使，又请任与袁族有亲戚关系的陈钰为山西民政长。
为取得袁世凯的信任，他还把自己的父亲阎书堂送到北京长住，作为人质。1912年10月，袁世凯下令解散国民党，阎锡山立即声明脱离国民党，并在三个月内将山西国民党党部一律解散。1913年，国民党发动的二次革命失败，阎锡山虽在这次革命中袖手旁观，但因他是同盟会员出身，袁世凯也不轻易放过，便三次传见阎锡山，想寻机剪除。但阎锡山每次都俯首恭顺，故作庸碌、懦弱和畏惧的样子，使袁世凯认为他没有反骨，不仅没有撤他的职，还封他为“同武将军”。此时，阎锡山已完全***投靠袁世凯，完全背叛了孙中山。但是在表面上，他对革命的旗号既不举起，也不放下，而是见机行事。1915年，袁世凯要实行称帝，阎锡山亦投其所好，向袁密奏“国本大计”，倡议“废共和而行帝制，以帝制而行宪政”，得到袁世凯的赏识。之后，他又争先请愿，接连三次电请袁世凯登基称帝。后来，蔡锷等组织护国军讨袁，他立即致电指责其为“破坏大局，不顾国家”，阎锡山的所为，甚得袁世凯的欢心，袁一即帝位，便封他为一等侯。1916年6月6日，袁世凯死去。
阎锡山认为再无畏惧之人，于是，不择手段，要独揽山西军政大权。他先以“独断军事”等罪名，将与他一起发动辛亥太原起义的黄国良撤去旅长之职，后又把他赶出山西。又将曾利用来联络袁世凯的晋南镇使董崇仁撤职。继而逼令曾在阎出走包头时出过大力的晋北镇守使孔庚交出军权。阎锡山在借故铲除异己的同时，把自己的亲信都安插到军队之中。收回军权后，他又策划夺取行政权，唆使省议会和督军团会议相继赶走省长沈铭昌及继任孙发绪，自己乘机兼任省长。阎锡山虽然夺取了山西军政大权，但没有北京政府的正式任命，总是不大放心。于是，他便多方接近和讨好当时的手握大权的国务***段祺瑞。在“府院之争”和张勋复辟中，他都站在段祺瑞一边。因此，1917年张勋复辟失败，段祺瑞重新上台后，段祺瑞政府任命阎锡山为山西省督军兼省长。从此，山西的军政大权就集中阎锡山的一身了。
阎锡山总揽军政大权后，在山西实行政治扩张，提出“保境安民”的口号，实质是推行军国主义式的“用民政治”，以武力加强对人民的统治。为了达到这一目的，他进行大规模的扩军。晋军初建于1912年。当时阎锡山从包头返回太原后，组建军队为一个师，师辖两个旅，旅辖两个团。另有直辖炮兵一个团，骑兵一个团。1914年，阎锡山派孔庚率部参加了袁世凯的“征蒙”行动。事平后孔庚师留驻包头。由于孔庚原为吴禄贞的部下，且在部队中不断安插自己的亲信，所以为阎锡山所不容，乃暗中操纵张培梅、张树帜等发动兵变。1914年6月1日夜，变兵几十人闯入孔庚的办公室、寝室，开枪射击。孔庚藏于天花板上未被击中，变兵抢劫后逃去。孔庚对此兵变不谙内情，乱杀官兵四十余人。阎锡山以此兵变为口实，将孔师缩编为第十三混成旅，孔庚降为旅长。阎锡山将编余士兵另组成第十二混成旅。不久，晋军就扩编成三个混成旅。1917年8月，阎锡山将所部与山西巡防营改编的警备队，合并扩编为四个混成旅，辖十二个步兵团、四个炮兵营、一个机枪营，共有步、骑枪一万余支。
为提高军队素质，1918年底，阎锡山又成立第九步兵团，专门培训军事干部。半年后，该团被命名为学兵团，专收学生施以军训。又成立了四个在乡军人训练连，分期分批轮训全省壮丁，每期三个月，训练后还乡，随时召征入伍。阎锡山通过不断扩军，壮大军事实力，巩固了他在山西的统治，同时，使得晋系成为了北洋军阀中举足轻重的一股势力。袁世凯死后，北洋军阀分裂成皖、直、奉等几大派系，各派为了争夺中央政权和自己的地盘展开了长期的明争暗斗。在军阀混战中，阎锡山坐镇山西，规测方向，看风使舵，扩张势力，准备在适当的时刻与各路群雄一较高下。1924年，第二次直奉战争爆发。开始，双方都派人与阎锡山联系，争取支援。但阎锡山见局势不明，采取中立态度，暗中却派他的参谋主任台寿民到北京、天津探听情况。待冯玉祥反直倒戈，发动北京政变后，他见曹锟、吴佩孚已倒，大局将定，便联合冯玉祥、张作霖出兵石家庄，致使直军兵败，直系倒台。于是，冯玉祥与张作霖、段祺瑞联合组成北京政府，段祺瑞任临时总执政。阎锡山因出兵讨曹、吴有功，得以继续统治山西。
1926年春，奉系张作霖与直系吴佩孚重新修好，联合段祺瑞，排斥冯玉祥，发动了对国民军的“讨赤战争”。阎锡山仍然两面讨好，见机行事。一方面对冯军表示友好态度，一方面又暗中协助吴佩孚，阻隔河南国民军与直隶间的联系，使冯军处于直、奉、晋三军的包围之中。冯军调整部署，决定先击破山西，宋哲元率部从杀虎口、得胜口分数路合击大同。这时，阎锡山公开与张作霖、吴佩孚合作，派兵死守关口及重镇，阻挡国民军的进攻。在直、奉、晋三方军阀的联合攻击下，经过三个多月的激战，冯军被击败，退守西北地区。阎锡山乘势将国民军韩复榘、石友三、陈希圣等部收编，编为自己的三个师，还派商震率部一路追杀，攻至绥远城。这样，阎锡山的地盘由山西扩大至绥远。随即，他着手进行山西第二次扩军，把部队扩充为十七个师又八个炮兵团，军队亦改名为晋绥军。1926年7月，广州国民政府正式出师北伐。
9月，冯玉祥在五原誓师，加入国民革命军行列，出兵响应北伐。阎锡山为讨好冯玉祥，把收编西北军的韩复榘、石友三、陈希圣三个师归还给他，而阎锡山自己则伺机观变，按兵不动。10月，北伐军攻占武汉。广州国民政府派代表到太原，请阎锡山派人到武汉商讨参加北伐事宜。阎锡山派老同盟会员赵丕廉前往。赵丕廉到武汉会见了国民革命军政治部主任邓演达，又到南昌会见了国民革命总司令蒋介石。国民政府请阎锡山早日在山西举事，并授他为北方国民革命军总司令。阎锡山了解详情后，并不马上表明态度，也就任北方国民革命军总司令一职，仍持观望态度。冯玉祥多次催促他出兵讨奉，他置之不理。到了1927年6月，北伐军会师郑州，奉军溃败北撤，他认为时机已到，才宣布就职，开始悬挂青天白日旗，正式归属国民政府，并出兵娘子关，占领石家庄。随后，他又按兵不动，保存实力。
7月，他在山西实行“清党”运动，同时，又进行了山西第三次扩军，收编了一些地方部队，把晋绥军统编为七个军。对阎锡山的易帜，张作霖甚为不满，派人到山西拉拢，并以“安国军政府”副元帅相许。阎锡山表示，虽然易帜，但不一定与奉张决裂。张作霖见阎锡山按兵不动，加上宁汉不和，蒋介石被逼下野时之机，率兵南下反攻，一路攻打在河南的武汉国民政府之张发奎部，一路沿津浦线援救孙传芳。与此同时，张作霖也派于珍前往丰镇平地泉一带部署军事。阎锡山察觉此举是针对自己来的，便于1927年9月，公开与张作霖决裂，向奉军发起攻击，爆发了晋奉之战。开战之初，晋军占主动地位。阎锡山以徐永昌为右路军总指挥、孙楚为前敌指挥，集中四个军的步兵附以骑兵和炮兵，沿京汉路西侧前进。以商震为总指挥，张荫梧为前敌指挥的左路军，集中两个军的步兵附以骑兵、炮兵沿京绥路两侧前进。另以傅作义及李服膺两部，出蔚县走山路，直取北京。晋军开战告捷，右路军占领石家庄、新县，向望都攻击，左路占领宣化。10月7日，奉军反攻。激战十天，奉军在京汉线占领了定州、正定、石家庄；在京绥线占领了宣化、张家口、柴沟堡。晋军全线撤退。奉军又集中号称三十万大军，张学良、韩麟春部沿京汉线，张作相、万福麟部沿京绥线大举攻击。晋军凭险固守，奉军无法突破晋军防线，战争呈胶着状态。从10月15日双方开始了围绕涿州的为时三个月的空前激烈的攻守战，直到1928年1月12日晋军撤退，奉军和平接受涿州城，战事始告结束。晋军失败后，冯玉祥部也受到奉军的威胁，阎、冯为了摆脱困境，联名致电下野后留居日本的蒋介石回国，主持“北伐”战争，共同对付张作霖。不久，蒋介石从日本回到南京，再任国民革命军总司令。
1928年2月，蒋介石在徐州召开军事会议，改编军队，成立四个集团军。阎锡山的北方国民军编为第三集团军，阎锡山任总司令。4月，蒋介石、冯玉祥、阎锡山、李宗仁四个集团军联合北伐。阎军一举夺取石家庄，收复大同，进而攻打保定。与此同时，他派人潜入天津，与日本驻屯军司令新井勾结。新井表示：“阎军如果占领保定，日军保证北京、天津不用放一枪，唾手可得。”阎锡山得到日军许诺后，全力攻打保定，迫使张学良放弃保定北撤，6月，阎军不战而相继占领北京、天津。面对这一事实，蒋介石也只好委任阎锡山兼任平津卫戍总司令。阎锡山举张荫梧为北平警备司令，傅作义为天津警备司令、商震为河北省***。至此，阎锡山通过投机手段兼并了晋、冀、察、绥四省及平津两市，势力骤然扩大。在此期间，阎锡山的第三集团军不断扩编，到1928年7月，他已拥有十一个军，辖三十个师。朱绶光为参谋长，商震、杨爱源、徐永昌、傅存怀、傅作义、丰玉玺、张荫梧、谭***、李维新、徐源泉、方玉晋分任各军军长。此外，李培基、赵承绶、孙楚、高鸿文、王靖国、李服膺、李生达、周玳、杨澄源、彭毓斌、史泽波、陈长捷等都是他的重要将领。
