公元前60年左右，匈奴虚闾权渠单于死，引起内部分裂，先后出现五单于争立的情况，混战不断，最后发展为呼韩邪单于和郅支单于的相互攻伐。公元前53年，呼韩邪单于附汉，是为南匈奴。北匈奴在郅支单于领导下曾击败大宛、乌孙等国，强迫四方各族进贡，威震西域，一度领导了匈奴的短暂复兴，后被汉朝击败，开始大规模西迁。
南匈奴（48年—216年）是南部匈奴贵族醢落尸逐鞮单于建立的政权。是相对于西迁的北匈奴而言的。
建武二十四年(48)，匈奴内部为争王位发生动乱，匈奴贵族相互残杀，匈奴再次分为南匈奴和北匈奴。日逐王比率领部众归附东汉王朝。东汉政府设立匈奴中郎将进行监护。