入元以后，怯薛权力大为削弱，但作为蒙古传统的皇家卫士之角色依然存留，并受特殊优待。怯薛设长，分四班轮值，并负责宫城守卫和帝室警卫。与侍卫亲军不同，怯薛不隶于枢密院而直属皇帝。不过怯薛也失去了蒙古国时代的大中军功能，非皇帝亲征，很少出征，其军事作用在于与卫军相互制衡。而怯薛与侍卫亲军构成的中央禁军又是控制地方镇戍诸军的平衡力量。
与宋朝“强干弱枝”政策不同，在保持中央精兵的同时，基于治安和国防的需要，元朝在内地重镇及边远要塞派驻了大量军队。忽必烈与谋臣斟定全国镇戍规模，命宗王将兵镇边徼襟喉之地，而河洛、山东据天下腹心，则以蒙古、探马赤军列大府以屯之。淮、江以南，地尽南海，则名藩列郡又各以汉军及新附等军戍守，又根据区域、军队的分布，划分若干镇戍区。
所谓汉地，主要指原金朝辖境而言，即河北、山西、山东、河南、辽东、陕甘等地，还包括了四川。灭宋以后，元以宋境为新拓疆域，江南又系当时经济中心，统军大帅伯颜等人审地理之宜，据军事布防需要，拟定留六十三处屯兵所，然后由此分兵，四出镇守。
按元朝镇戍兵力分布，江南因原宋都所在，又是经济发达、人口稠密地区，故置重兵戍守，由宋朝降兵组成的新附军大都驻扎在此。而华南兵力相对较弱，所以遇有反元势力崛起，元廷往往抽调江南兵力支援，以致有时江南兵力为之削弱。
元朝军政建置中镇戍作用的突出是因为元朝在征服汉地、南宋以后，许多地方对异族统治并不认同，反抗活动不断发生，加上元朝在以往所谓羁縻地区推行直接统治，引发当地部族首领激烈反抗；在江南地区过度聚敛则激化了当地的社会矛盾。上述情况的发生使元朝的统治处于不稳定状态，因而军事镇戍对元朝统治者来说无疑是必要手段。而为加强对辽阔境土的有效控御，根据蒙古传统的分封习俗，元朝还建立了宗王出镇制度。
所谓宗王出镇，即宗王受封某地，负责该地区镇戍征伐，并代表朝廷监临当地军政。其实这种受封并非实封，是封藩不治藩，仅取“封建之余意”。他们的主要职责在于军事镇戍。所以从名义上讲出镇宗王为镇戍区最高军政长官，但地区行政并不归其管领，行政由行省地方官员掌握。二者的分工在于，出镇宗王重在统军镇戍，而地方行政及部分治安由元朝地方官僚系统控制，正是所谓“镇之以亲王，使重臣治其事”。由此形成戍地、宗派不同的出镇体系。
江南元军经过两次征讨琼州，讨伐安南、占城及远征日本几乎皆是由江南新附军抽调，这些战事使得新附军兵力大损，尤其是征日本就有十五万人殒命大海。而这也可以说是忽必烈有意为之，要知道探马赤军人的军需装备，主要由军户自备，不足部分由政府补给。汉军士兵的冬、夏军装和武器，由政府发给，并按月发放口粮，服装的不足部分、其他装备和开支，由本军户和贴户凑齐，定期送到军中。
军户制的实行，可以保证国家有稳定的兵源，又可以维持一支庞大的军队而使政府负担不致过重。而新附军人的装备，全由政府供给，口粮每月米六斗、盐一斤，家属每月每人支粮四斗，可以说供给全是由国家财政支付，庞大的数目对于哪个国家都是沉重的负担，忽必烈便将他们当做了消耗品。多年后屯驻江南的新附军数量大为减少。
随着对外战事的减少，忽必烈觉得江南业已稳定，便在至元二十二年，元廷将江淮、江西两行省所辖兵力进行了整编，重新编成三十七个万户镇戍各地，其中又区分为上中下三等，算下来屯驻江南的元军总数也就减少到二十余万，比之从前少了近半。