东晋十六国时期，先后统治今巴彦淖尔市境的有：后赵石勒元年（319），后赵统辖今乌拉特前旗和乌拉特中、后二旗中部阴山以南及磴口县地区。乌拉特中、后二旗阴山北部属代（拓跋鲜卑）统治区；前秦建元十八年（382）时，今市全境属前秦统治；后秦皇初二年（395）时，后秦统辖今市境乌拉特前旗和乌拉特中、后旗中部阴山以南及磴口县地区。

夏龙升三年（409）时，匈奴铁弗赫连勃勃夏政权统辖今市境乌拉特前旗和乌拉特中、后二旗中部阴山以南及磴口县地区。乌拉特中、后二旗中部以北地区属魏统辖。