呼厨泉接过兄长的单于之位，封刘豹为左贤王。
曹操平定北方，将呼厨泉的众多部落按地理位置分为左右南北中五部：左部居住在太原的兹氏（今山西临汾），右部居住在祁地（今山西祁县），南部居住在蒲子（今山西隰县），北部居住在新兴（今山西忻州北），中部居住在大陵（今山西文水县）。
其中刘豹为左部首领。刘渊乃是刘豹之子。刘渊小小年纪，就显示出许多异于常人的地方。他爱好学习，熟读《毛诗》、《京氏易》和《马氏尚书》，最爱《春秋左氏传》、《孙吴兵法》。这对一个匈奴人来说，太不简单了。刘渊读《史记》、《汉书》及诸子的著作，并不是单单读书而读书，喜欢在读书中带着问题思考。
他对一起学习的同学说：“我每次阅读书传，都忍不住要鄙视随何、陆贾这些人，他们虽有文才而缺乏武功，而周勃、灌婴虽武功却又缺少文才。道义是由圣人来发扬光大的，知识不全面，能成得了什么事？随何、陆贾遇上汉高祖而不能够建立起封侯的功业，算是白活了；周勃、灌婴跟随在汉文帝左右又不能开创教化大业，瞎活了！”
在这种思想的指导下，他在学习文化的同时，也专注于练习武艺。刘渊身材魁梧，身高八尺四寸，两臂奇长，善于射箭，力大过人。他的仪表威猛，胡须有三尺多长，有人注意到，其中有三根血红色的毫毛，又粗又长（眼神忒好！）。屯留人崔懿之、襄陵人公师彧等当世名士见了，无不大为惊讶，叹道：“这人的形体、相貌太不平凡了，乃是世间罕有啊。”
晋泰始年间（270年前后），“长臂猿”刘渊作为匈奴部的人质羁居洛阳。晋武帝司马炎见了刘渊，也有同样的感受，称赞说：“刘渊的容颜、仪表奇特，如果单从以貌取人的角度来说，我总觉得春秋的由余、汉代的金日磾也不能高出他。”有意让他担任统帅平定东吴。
有臣子及时劝阻了，说：“正如您老人家所说，刘渊的才干现在既然没有人能与他相比，您又授予他之么大的权力，替他树立他威望，那么，平定吴地之后，恐怕他就不会再回来了。皇上，刘渊与我们不是同一个民族，必然有异心。现在，委任他治理本部的事务，我们已为陛下您感到寒心，若是还要将天然险阻之地赐给他，后果将不堪设想。”
于是，晋武帝司马炎把平定东吴的事交给了杜预和王濬等人。
晋咸宁四年（278年），秃发鲜卑部在秦州、凉州作乱，晋武帝又神经错乱，准备征发匈奴五部，由刘渊挂帅前去平乱。
幸亏，又有大臣阻止了。
大臣们说：“刘渊若是能够平定凉州，斩杀树机能，恐怕凉州境内又要乱了。蛟龙得到云雨，就不再是池塘中无法施展能耐的小东西了。”这样，刘渊又一次与统兵驰骋疆场失之交臂。
为此，刘渊在九曲河滨为以游侠著称的东莱人王弥饯行时，慷慨悲歌，纵酒长啸，叹息说：“今生今世，我只能老死于洛阳城内了！”其啸声清越，远播四野，在座的人无不跟着落泪。
惠帝元康末年，司马颖被任命为镇北大将军，镇守邺城，他久闻刘渊的大名，就起用他为宁朔将军、监五部军事，调到邺城以供驱使——禁锢魔鬼的瓶子就这样被无知的渔夫打开了。
蛟龙出海！
这年（晋永安元年，公元304年），都督幽州诸军事王浚联络鲜卑族骑兵助战猛攻邺城讨，司马颖大为恐惧，准备从邺城出逃。刘渊一看有戏，便自告奋勇地说：“王浚、司马腾二部来势凶猛，兵众十余万，恐怕凭咱们目前的兵力难以抵挡，不如让我回去说服我们匈奴五部骑兵，前来共赴国难。”
司马颖有些犹豫，说：“五部兵马能保证如期而来吗？要我说，鲜卑、乌桓骑兵强劲、快捷如风，也不是那么容易对付的，我打算护送皇上回洛阳，先躲过这个风头，再告示天下，以平叛的名义，将他们制服。”
刘渊一听就急了，是真急，错过了这个机会，估计真要老死了，他急赤白脸地说：“这是什么话呢！这是什么话呢！殿下乃是武帝之子，对朝廷有贡献，有威望、有恩泽，天下人无不钦佩您的风范，无不愿为您赴汤蹈火。王浚不过一个反复无常的小人，哪能与殿下您相提并论！殿下您一旦示弱于人，就算到了洛阳，威望与权力都已易位，所谓告示，不过一纸空文，谁还会去尊奉！您所担心的鲜卑、乌桓之类的东胡兵马，根本抵挡不了我匈奴骑兵的兵锋。只要殿下您固守邺城，坚守不出，等我带来五部人马，司马腾和王浚这两个鼠辈的首级指日就可悬挂在邺城城头。”
