1261年秋，阿里不哥领兵往征阿鲁忽。阿鲁忽在普刺城迎战，斩阿里不哥大将哈刺不花。阿鲁忽得胜而回，不再戒备。阿里不哥的后军阿速台突然进至阿力麻里地区，阿鲁忽败走和田、喀什噶尔。阿里不哥军遂驻冬阿力麻里，阿鲁忽西走撤马尔罕。

　　阿里不哥进驻阿力麻里后大肆屠掠，阿鲁忽部下多被杀死。1264年春天，又值饥荒，人民死亡甚多。阿里不哥部下将士多逃至驻在阿尔泰地区的扎布汗河上的玉龙答失，共商归降忽必烈。阿里不哥众叛亲离，又怕阿鲁忽报复，走投无路，不得不投附忽必烈。阿里不哥来见忽必烈请罪。忽必烈问他说：我和你谁对?阿里不哥回答说：在以前，是我对。今天，算你对。忽必烈命宗王和将领审讯拥立阿里不哥的诸臣，李鲁欢等被处死。忽必烈又分遣使者征询波斯旭烈兀、钦察别儿哥和察合台兀鲁思的阿鲁忽三王，决定赦免阿里不哥及阿速台罪。不久，阿里不哥病死。

　　忽必烈经过和阿里不哥的斗争，巩固了自己的地位后，继续进行对南宋的侵略。南宋小朝廷这时内部已衰朽不堪，1276年都城临安(杭州)陷落。以后虽有文天祥、张世杰、陆秀夫等坚持抗战，但不幸先后失败，南宋政权于1279年被完全消灭。

　　忽必烈从青年时起受汉文化影响较多，即位后又多倚靠汉人地主的支持，所以他的统治日益带有汉化色彩。1271年，在即位10多年之后，正式仿效中国王朝建国号为大元，取《易经》干元之义。1272年改金中都为大都(北京)，宣布在此建都，宫殿建成后即迁都于此。他统治中心日益移入中国内地，成为中国的一个统治王朝。1276年南宋降，1279年追灭南宋卫王于崖山，完成多民族的统一国家。

　　忽必烈即位后，采纳僧子聪等幕僚的建策，依据汉人封建王朝的传统，颁布即位诏，称皇帝。自成吉思汗建立蒙古国家以来，从未建立年号。忽必烈始建元“中统”，下诏说：“稽列圣之洪规，讲前代之定制。建元表岁，示人君万世之传。纪时书王，见天下一家之义。法《春秋》之正始，体大《易》之干元。”表明他是中原封建王朝的继承人。

　　忽必烈借鉴了蒙古、金、宋等国的政治制度，设立行省制度，对某些特殊地方则灵活采用不同的制度，如对吐番地区就采用政教合一的制度。这个制度在军事、政治、经济等方面都是服务于多民族统一国家的。为了同一个目标，元朝实行了非常特殊的户籍制度，重新开凿大运河，使原来水陆并用的大运河成为真正的运河。开辟海运，用了三十年时间，开辟了从刘家港(今上海)至直沽的近海航行。陆路交通也大力开拓，设驿道、驿站，被称为“星罗棋布，脉络相通”。

　　他还充分利用原蒙古西征的有利条件，发展了同中东、欧洲的交往。元人形容为：“适千里者如在户庭，之万里者如出邻家。”他允许并鼓励各国商人在国内经商或经营国际贸易，对各种宗教、文化采取兼容并蓄政策，甚至欧洲的商人、教士往来中国和欧洲之间。忽必烈还亲自询问威尼斯商人尼哥罗兄弟，了解欧洲状况。后来尼哥罗的儿子、著名的马可·波罗居中国17年，为官元朝，写下了名著《马可·波罗游记》，为东西方文明的沟通起到不可替代的作用。罗马教庭也派出众多教士来中国传教，在大都、杭州、泉州、扬州等地都设立了教堂。

　　西方天文、数学、历史、地理、医学都进入中国，如欧几里德几何学就在那时传人中国。忽必烈甚至让阿拉伯建筑师黑迭儿参加元大都皇城和宫殿的设计和建设。中国使节也到达法国、意大利等欧洲国家。商船还到达非洲，元人汪大渊随船到达今坦桑尼亚等国，他还遣使索马里、摩洛哥。摩洛哥商人长住在中国，大批精美的中国瓷器远销摩洛哥。忽必烈创立的元朝，是中国历史上同世界交往空前的朝代。

　　忽必烈不但结束了中国长期的南北分裂状态，而且实现了辽东、漠北、西域、吐番、云南等地区的空前大统一。特别是吐蕃地区首次并入版图，使中国幅员远胜汉、唐。他还使各民族人员空前大批相互流动，形成元帝国文化多样性的显著特色，尤其是精通汉文化的各族文人学者的涌现，更是前朝没有的盛事。这其实奠定了中华帝国真正统一的基础。