1934年底,苏联历史上的政治悲剧“大清洗”拉开了序幕。一时间,冤狱遍地,人人自危,给苏联的政治生活蒙上了巨大阴影,并留下了严重的后遗症。这是斯大林政治生涯中最灰暗的一页。在大清洗年代,内务人民委员部肆意使用肉体和精神折磨的方法,被告人的家属,特别是子女,往往被作为人质扣了起来,他们的安全被当作换取认罪的讨价还价的筹码。事实上,即便是被告“坦白”了他们的罪行,他们家属的结局往往也是悲惨的,他们中的许多人都被送进劳改局,甚至被枪决。同时,为了从被告人以及成千上万人口中挖出供词,内务人民委员部普遍使用体罚手段。在镇压浪潮中,许多无辜的人惨遭不幸,而受害最深的是列宁时代的老布尔什维克、党和国家优秀活动家、重要领导人。这从出席第十七次党代表大会的代表和中央委员的结局中可以看出。在1225名代表(他们大部分都是革命时期入党的)中,有1108人被捕,其中多数人死于内务人民委员部之手。在139名中央委员和候补中央委员中,有98人遭到厄运。受害者还包括经济学家、知识分子、在苏联的外国共产党员、加盟共和国的大批共产党员,以及共青团和工会的领导人等。尤其令人痛心的是,斯大林对图哈切夫斯基等杰出的军事家和重要指挥员的清洗,严重地削弱了国防力量。至于在大清洗中到底有多少人受伤害,至今无准确资料。据法国苏联史专家艾伦斯坦说,在1936年-1938年间,共逮捕400万-500万人,其中约50万人被处决。而据德安沃尔科戈诺夫估计,在1937年-1938年两年里,大约有350万-450万人遭到镇压,其中有60万-80万人被判了死刑。
图哈切夫斯基被处决是军队大清洗的开始。在1937年-1938年的大清洗中,共有3.5万多人成了牺牲品,其中高级军事指挥员受害最深。他们包括:5名元帅中的3名,15名集团军司令级干部中的13名,85名军长级干部中的57名,196名师长级干部中的110名,406名旅长级干部中的220名,所有11名副军事人民委员,以及最高军事委员会85名委员中的75名。上校级以下的军官有3万名被清洗,苏联军队的战斗力受到了严重的影响,以至于出现苏德战争初期的被动局面。历史事实表明,斯大林对于30年代的大清洗负有直接责任。在高度集权体制下,必须得到斯大林的许可,否则内务人民委员会是决不敢这样胡作非为的。今天揭露出来的材料表明,不仅斯大林发动了大清洗运动,而且他亲自参与了镇压活动,经他批准的镇压名单就有数百份之多,这是斯大林政治生涯中抹不掉的一个污点。斯大林的肃反运动,主要是针对苏联内部列宁时期的老资格的反对派,有些人在党内和军队中的地位很高,很有影响力。斯大林认为不把这些人从红军中清洗干净,他就无法全面地,直接地,真正地掌握苏联的军事力量,提高部队的执行力。