袁世凯为了打击排挤唐绍仪,暗中让内务总长赵秉钧和陆军总长段祺瑞与他相抗衡。于是,赵秉钧和段祺瑞便在国务会议上先是公然反对划清总统跟国务院的权限,说每件事都要奉令承教于大总统,他们不同意把国务院设为政府必备的一个机构,还呼吁国务员们行动起来响应他们的提议。
南京临时政府于1912年4月搬到北京没多长时间,对于内务部的司员人选,总理唐绍仪的意见是要求数名同盟会的会员进入,来向世人表明新旧合作得非常好。而赵秉钧要求凡重要的部门一定要用北洋的旧人。
唐绍仪是国务院总理,赵秉钧的后台是大总统袁世凯,因此两人各不相让,谁也不惧谁,吵得不可开交。赵秉钧用“素无共和政治知识”为借口,在会上公开宣布自己要带领着内务部要害部门的全部人员辞职不干了。这一招,果然有用,弄得唐绍仪惊出了一身汗,很是无奈,最后只有做出妥协。
然而,赵秉钧并不满足,自此以后,每当召开国务会议,他经常不肯来,有关内务部的事务,就直接找袁世凯。而袁世凯,则是直接向一些重要的部门做人事推荐,直接下命令,故意把总理唐绍仪隔过去,不经过他。
没过多长时间,袁世凯和唐绍仪之间因为向帝国主义六国银行团借款的事情发生严重意见不和。自打清朝末年以来,英、法、美、德四国银行团就想着一起对中国借款予以垄断,进而对中国政府形成控制。在唐绍仪刚开始组阁的时候,财政方面就极为拮据,可以说已经达到了顶点。唐绍仪遵从袁世凯之命,打着筹备善后的旗号向六国——原来的四国后来又加上了日、俄两国——的银行借款。而银行团向中国政府提出了以监督中国财政为必要条件,他们提出的监督方式有两种,一种是监督用款,一种是监督遣散军队。对于如此不合理故意要挟的苛刻条件,是个真正的中国人,就不会答应。唐绍仪也进行了严词拒绝。与此同时,同盟会也坚决不同意如此借款。为了打破这个烦人的小圈圈,唐绍仪转而向比利时华比银行借了一百万磅。这件事让六国银行团大为恼怒,为了维护他们对中国借款的垄断权,他们便用停止向中国贷款相要挟,驻北京的外交团也向中国政府提出了抗议。作为中华民国大总统的袁世凯让总理唐绍仪向人家赔理道歉,而银行团看他们示弱,更是要求提出取消比利时华比银行的借款协约,而且还对他们自己贷款的政治条件一丝一毫也不肯放松。
对于袁世凯向六国银行团的妥协,孙中山、黄兴等同盟会很不满意,大骂袁世凯是“软骨头”,是自己看错人了。为了解决中国政府的财政困难,黄兴在南京发起了“国民捐”,向广大人民进行募捐。国务总理唐绍仪见同盟会这样做,自己感到很惭愧,更加的从心里亲近同盟会,于是在5月3日,也断然拒绝了银行团的无理要求。
为此,六国银团恼羞成怒,阴险地说:“唐绍仪不愿借款告成……以致中国各界误会各国政见。”
此时的袁世凯正需要国际上对自己的支持,唯恐这些国家不高兴,见他们如此说,也十分的懊恼,怒道:“都是这个唐绍仪,净干些‘好事’,好事都给他办坏了!”
于是赶紧一边命财政总长熊希龄跟他们进行谈判,一边着手让唐绍仪滚下总理的位置。
也就在这个时候,王芝祥事件发生了。王芝祥任直隶总督本来只是唐绍仪在组阁的时候给同盟会的口头答复,且袁世凯也表示了同意。却不知这不过是袁世凯的权宜之计,空头许诺而已,主要是想骗取同盟会的信任,让他们同意唐绍仪组阁政府。实际上,袁世凯一向把直隶看成是自己的发迹地,一般情况下他是不会让跟自己毫无关系的人来管这个地盘,况且这个王芝祥又和同盟会十分亲近。于是袁世凯便私下做了精心的布置。当王芝祥被直隶省推举为都督向袁世凯呈报的时候,直隶就有五路军队忽然起来反对了,不愿让王芝祥当这个都督。袁世凯便顺水推舟以此为由头,让王芝祥到南方军队当宣慰使。对此,唐绍仪表示反对,他对袁世凯说道:“大总统,我们政府不应当以军队反对为由而失信于民。”
坐在一边的段祺瑞是袁世凯的亲信大臣,听了这话,他马上进行了反驳:“如果军队施行暴动,这个责任谁来负呢?”
袁世凯看看段祺瑞,又看看唐绍仪,满脸横肉地笑笑说:“除了这事以外,什么都可以听总理的。”
然后,就把没有经过总理签名的委任状交予了王芝祥,命往南京办理遣散军队,将冯国璋任命为直隶总督。
此时的唐绍仪心里已经明白袁世凯的图谋,就是想架空他唐绍仪,他跟了袁世凯二十多年,对袁世凯的毒辣手段是相当熟悉的,于是,便急忙写了辞呈,没有向袁世凯告辞,就逃往天津去了。
唐绍仪走后,袁世凯又重新组阁。