西晋末年，“八王之乱”搅得中原大地动荡不止。
晋惠帝永兴元年（公元304年）发生了“荡阴之战”，成都王司马颖俘获了晋惠帝，准备在自己的封地邺城搞“挟天子以令诸侯”的把戏。都督幽州诸军事王浚不满司马颖的所作所为，引乌桓部鲜卑族骑兵大举来攻。鲜卑骑兵极其凶悍，一路连战连捷，势如破竹。司马颖大为恐惧。司马颖手下有一个匈奴族大将，姓刘名渊，曾经担任匈奴族五部大都督，献计说，匈奴族五部骑兵的战斗力比鲜卑骑兵更强，不如由他回匈奴部的左国城请兵。司马颖同意了他的建议。
临行前，刘渊一再告诫：鲜卑骑兵虽然厉害，但长于野战而短于攻坚，只要坚守不出，其粮食一尽，自然退兵，千叮咛万嘱咐司马颖万万不可出城自取灭亡。然而，刘渊前脚一走，司马颖后脚就把他的嘱咐忘得一干二净。司马颖把邺城的守军开到城外，列阵与王浚的步骑对砍。
这一战，幽州铁骑和鲜卑骑兵遂将骑兵的优势发挥得淋漓尽致，他们策马驰骋，来回包抄、纵横切割，把邺城的军队尽情蹂躏了个够。司马颖感觉到邺城难于再守，逃往洛阳，最后死在东海王司马越的刀下。
这里主要不是说司马颖，而是刘渊。
刘渊，是一个汉化极深的匈奴人。早在汉高祖时代，汉朝就开始和匈奴冒顿单于和亲。随着和亲次数增多，一部分匈奴人和汉人相处的时间越来越长，他们的子孙渐渐承认了自己身上的汉人血统，和汉人越来越亲近。
东汉初年，匈奴人赖以生存的蒙古大草原发生了前所未有的大旱灾，赤地千里，草木尽枯，人畜饿毙，尸堆如山，因无人清理，又引发了巨大的瘟疫，匈奴汗国终于陷入分裂，分裂为南北两部。
南匈奴入居长城以南地区，并在离石（今山西）等地建立了自己部族的定居地。为了制约北匈奴，东汉政府一直和南匈奴保持友好关系。北匈奴向西迁移，后被东汉大军逐出金微山（阿尔泰山）以外，长途跋涉，在匈牙利平原立国，融合于欧洲各族之中。
黄巾之乱，南匈奴的单于羌渠还曾派他的儿子於扶罗带兵协助汉朝，讨伐黄巾军。
其实，在这段时间里，南匈奴内部也出现了许多动荡因素，只是单于羌渠感于汉朝的恩德，还是毅然向汉朝伸出了援手。
於扶罗开赴中原不久，南匈奴果真发生了内乱，羌渠控制不了局面，在混乱中被手下杀死。这样一来，带兵在外的於扶罗有家难回，有国难奔，只得留在了汉朝，成立了流亡政府，自称匈奴单于。
於扶罗的部族主要集居现在的山西、河东一带。於扶罗死时，他的儿子太小，由他的弟弟呼厨泉继任单于。南匈奴和汉朝的来往既久远又亲密，而於扶罗这一支又已迁入了汉朝内地，他们的后人已经和汉人无异了，名字也大都是汉名。
於扶罗认为自己是汉朝公主的后人，身上流着汉高祖刘邦的血液，就以刘为姓，给自己的儿子取名刘豹。
