蒙哥汗元年(1251年),蒙哥即位后,任命二弟忽必烈总管漠南汉地军国庶事。忽必烈南下驻于爪忽都(蒙古人对金北边部族的泛称)之地,建藩府于金莲川(今内蒙古正兰旗闪电河),常驻于桓(今内蒙古正兰旗北)、抚(今内蒙古兴和县)二州间。在他身边招纳了一批汉族士人为幕僚,如刘秉忠、姚枢、许衡、郝经等人。通过他们的引荐,吸引了更多的中原士人。他们用儒家思想和历代行之有效的治国之道影响忽必烈,促使忽必烈采纳他们的策略,以汉法来治理中原。
蒙哥汗二年(1252年)正月,谋士姚枢建议改变春去秋来,夺城后剽杀掳掠的作战方式,采取以守为主,亦战亦耕,广积粮储,充实边备的灭宋方针。忽必烈采纳了这一建议,首先整治邢州(今河北邢台)。当时,邢州在两个答剌军统治下,民户由一万多户锐减为五千七百户。忽必烈任用汉人张耕为邢州安抚使、刘肃为邢州商榷使。他们到邢州后,革除弊政,惩办贪暴,召抚流亡,仅几个月时间,邢州大治,于是,忽必烈请设经略司于汴忽必烈像(今河南开封),以汉人史天泽、杨惟中、赵壁等为经略使,整顿河南军政。汉将史天泽等到河南后,打击暴虐贪淫的地方军阀,处死横暴的州官,兴利除害,深得民心。他们还在唐(今河南唐河县)、邓(今河南邓县)屯田。屯田的农民,敌至则战,敌走则耕,不久,河南大治。
蒙哥汗三年(1253年),蒙哥把关中地区封给忽必烈。第二年,忽必烈在京兆(今陕西西安)立宣抚司,以孛兰和儒臣杨惟中为宣抚使并屯田于凤翔(今陕西凤翔)。又奏割河东解州盐池的收入以供军食,招募百姓以盐换粮,支援四川前线。他们改革弊政,努力恢复农业生产,减免关中赋税整顿吏治,处死害民的贵族,并进一步严肃军纪,关中情况大为改观。忽必烈还任命许衡为京兆提学,在关中建立学校,释放俘掠的儒士,编入儒籍;又立京兆交钞提举司,所发纸钞,以佐经用。关陇地区的社会经济得以恢复。忽必烈上述措施,得到了汉族地主、儒生的广泛支持,巩固了自己的地位。他也从中学到了统治汉地的方法。
蒙哥汗六年(1256年)春,忽必烈命刘秉忠在桓州东、滦河北岸的龙冈(今内蒙古多伦西北)营建宫室、房舍。三年后建成,称开平府(今内蒙古锡林郭勒盟正兰旗东五十里),作为藩王府的常驻地。开平府聚集了忽必烈的重要谋士,成为他治理汉地的政治中心。汉地社会经济的恢复,也为后来建立元朝奠定了物质基础。
忽必烈采用汉法治理中原地区,取得了显著成效,改变了过去那种人民逃亡,农田荒芜、典章不立的混乱状乱。但是却招致了蒙古统治集团中一部分贵族的不满。蒙古旧贵族企图用旧的统治方式来统治中原汉地。于是,有人向蒙哥大汗告状,说忽必烈在中原收买人心,财赋尽入王府,恐枝大于本,不利朝廷等等,引起了蒙哥的疑忌。蒙哥汗七年(1257年)春,蒙哥以王府诸臣多擅权营奸利事为名,派遣亲信阿兰答儿等到关中主管政务,并在关中设钩考局,核查关中、河南等处钱谷事。阿兰答儿从忽必烈所任命的经略、宣抚司官员中,罗列罪状一百四十余条,企图通过罢免忽必烈所信任起用的官员来打击他的势力。蒙哥下令解除忽必烈在汉地的军权。忽必烈于冬天亲自送家属到和林,并单独朝见蒙哥,这才解除了蒙哥对他的猜忌。蒙哥决定不追究忽必烈,同时停止了对关中、河南的核查。但是,忽必烈所设置的行部、安抚、经略、宣抚、都藩诸司全部废除。蒙哥伐南宋时,仍以忽必烈患足疾为名,不予统兵之权。直到蒙哥汗九年(1259年)十月才不得不改命忽必烈统东路军征南宋。忽必烈以谦恭忍让保全了自己,避免了一场不测之祸。