为防御北方柔然族南下，北魏王朝开始修筑长城。北魏长城东起今河北省赤城县，经今乌兰察布市南部、鄂尔多斯东部，西至包头市西，绵延200余里。还在今内蒙古地区设置恒州，州治在今凉城县双古城，辖今乌兰察布市黄旗海、岱海以南地区；朔州，州治盛乐，在今和林格尔县北，辖今呼和浩特平原、鄂尔多斯东北部地区；夏州，州治统万，在今乌审旗无定河左岸白城子，辖今鄂尔多斯大部分地区；凉州，辖今额济纳河流域。北魏神年（429），在阴山一线设有6个军镇：沃野镇（今五原县北）、怀朔镇（今固阳县白灵淖尔乡城库伦）、武川镇（今武川县土城梁）、抚冥镇（今四子王旗乌兰花土城子）、柔玄镇（今兴和县台基庙东北）、怀荒镇（今河北省张北县境）。