追溯今中共内蒙古自治区委党史和地方志研究室网站境内在历史上的行政区划建制，始见于战国时期。赵武灵王元年～二十八年（公元前325～公元前298年），设置云中郡，治所今托克托县古城乡。并建原阳（今呼和浩特市郊区大黑河左岸）、九原（今包头市郊区西境）、安阳（今乌拉特前旗境）等县城邑。辖境相当于今呼和浩特大青山以南地区。燕昭王十二年（公元前300年）时的上谷郡、右北平郡和辽西郡，郡治所虽不在今内蒙古境内，但分别管辖今锡林郭勒盟南部、赤峰市西部和哲里木盟西南部一些地区。秦、魏诸侯国在今伊克昭盟区域也辖有一些地区。

中国有统一的地方行政区域建制始于秦朝。自秦朝统一全国地方行政区域建制以后，历代统治者在相当今内蒙古境内，既曾设置有与全国一致的地方行政建制，又曾设置管理少数民族地区特殊形式的行政建制，也曾有北魏、辽、蒙元等朝代的临时国都、都城等。