最初的時候，司馬穎奏表匈奴左賢王劉淵任冠軍將軍，監理匈奴五部的事務，讓他在鄴城統領軍隊。

  劉淵的兒子叫劉聰，勇武過人，博覽群書，很有文采，用的弓力大無比，年青時候到京都遊曆，京都名士都願意與他結交，司馬穎任用他做積弩將軍。

  劉淵的堂祖父劉宣是匈奴右賢王，他對他的族人說：“漢朝時，我們的先人與漢朝約為兄弟，同甘共苦。自漢朝滅亡以來，魏、晉興起，我們的單於徒有虛名，不再擁有一寸土地。其餘的王侯，地位和百姓沒有什麽差別，現在我們雖然衰落了，但是，人口也超過兩萬以上，上天如果不想讓匈奴興盛起來，是不會生出劉淵這個人的。如今司馬氏骨肉相殘，四海之內的動亂如同鍋內燒開的水一樣沸騰，光複匈奴人的偉大事業，就是這個時候。”

  於是，匈奴人召開會議，謀劃著要複興，會上推舉劉淵為大單於，並派劉淵的親信呼延攸去鄴城把會議的情況向他匯報。

  劉淵得到情報，擔心司馬穎不讓他離開，借口回鄉要參加葬禮，司馬穎把這些貴族留在身邊，相當於人質，就是怕這些人回到地方，拉起隊伍，和自己作對，因此，司馬穎沒有答應。

  劉淵讓呼延攸先回去，告訴劉宣等人，召集五部人馬及其他少數民眾，表麵上宣稱響應司馬穎，實際上打算背叛他。

  不久，東贏公司馬騰、安北將軍王浚起兵討伐司馬穎。

  劉淵對司馬穎說：“現在幽州、並州二鎮的將領猖狂之極，兵力十多萬人，恐怕禁衛軍及附近郡縣的兵力不足以抵擋，我請求回去，勸說五部的人馬來共赴國難。”

  司馬穎說：“五部的人馬果真能發動嗎？即使能前來參戰，鮮卑、烏桓士兵來去如電，也不是輕易能抵擋的。我打算護送皇上回洛陽，避開他們的鋒芒，接著再昭告天下，以叛亂的名人，名正言順的製服他們，你覺得怎麽樣？”

  劉淵說：“殿下是武帝的兒子，為朝廷立過大功，美名傳遍天下，誰都願意為您赴湯蹈火，在所不辭，這種情況下，征發士兵有什麽難的呢？王浚就是個小人，東贏公是關係疏遠的皇親，他們怎麽可以與殿下抗衡呢？殿下如果離開鄴城，那就是向人示弱，還到得了洛陽嗎？即使到了洛陽，恐怕殿下不一定還能掌握權力。希望殿下勉勵部眾，安撫好他們，我請求用二部匈奴兵為殿下攻打東贏公，用三部匈奴兵去攻打王浚，高懸二人的頭顱在鄴城之上，指日可待。”

  司馬穎非常高興，任命劉淵為北單於，參丞相軍事等職務。

  劉淵回到左國城（今山西方山縣），劉宣等人給他封上大單於的稱號，短短20天之內，就聚集了五萬人，建都離石（今山西呂梁市離石區），封劉聰為鹿蠡王。

  劉淵派左於陸王劉宏率精騎5000前去和司馬穎部將王粹匯合，共同阻擊司馬騰的並州兵，可惜的是劉宏還沒有趕到，王粹已經被司馬騰擊敗，劉宏無功而返。

  王浚、司馬騰聯合起來向王斌發起進攻，王斌慘敗。

  王浚又派主薄祁弘擔任前鋒，發起平棘（今河北趙縣）之戰，在平棘打敗石超。

  祁弘乘勝前進，逼近鄴城。

  戰敗的消息傳來，鄴城的官員和百姓非常震驚，四處逃散。

  司馬穎也很恐慌，盧誌勸司馬穎挾持惠帝返回洛陽。

  當時還有士卒15000人，盧誌連夜部署分工，早上將要出發的時候，司馬穎的母親、程太妃不願意離開鄴城，司馬穎也猶豫不決。

  關鍵的時刻還猶豫不決，士卒及身邊的人受不了，大家幹脆逃命去了。

  司馬穎一看，必須果斷，就帶領剩下的幾十人與盧誌一起，陪惠帝登上馬車，向洛陽逃去。

  這次出逃可以說是相當的狼狽，史書是這樣記載的。

  倉促間逃跑，君臣都沒有帶錢，隻有個宦官在行李中藏了三千錢，那是私產，隻好借，怎麽借？

  以詔令形式借他的錢，這恐怕是很搞笑的事。

  有了錢，才在逃亡路上買了吃的，不至於餓肚子。

  吃飯時也沒有皇室用的器具，隻能用瓦盆吃。

  惠帝夜裏睡覺沒有被子，就借宦官的被子蓋，其他人更慘，沒有被子，隻能挨凍。

  司馬潁一行到達溫縣，溫縣是司馬家族的發家之地，祖宗陵墓在此，他們決定去祭拜一番。

  可是惠帝疲於奔命，狼狽之極，鞋子都走丟了，隻好把侍從的鞋借過來穿上，在陵墓前祭拜祖宗的時候，惠帝淚流滿麵，心中的委屈無處申訴。

  惠帝一行過黃河後，張方派自己的兒子張羆帶領3000騎兵，用自己的車駕迎接惠帝。

  行到邙山下，張方在那裏率領10000多騎兵迎接惠帝。

  張方將要跪下叩拜，惠帝竟然不顧禮儀，下車製止了他，可見，惠帝驚魂未定，就像抓住救命稻草一樣。

  惠帝回到皇宮，很多官員也聞風而至，文武官員大致齊備了。

  王浚在司馬潁逃走後，進入了鄴城，縱容士兵燒殺搶，無惡不作，很多無辜的貧民被殺死。

  烏桓人羯朱的一支軍隊一路追趕司馬穎等人到朝歌，追不上才返回了。

  王浚返回薊城，發現鮮卑人搶劫了許多良家婦女，晚上陪睡覺，白天當糧食吃，人數眾多，還影響行軍速度，便下令：“膽敢有私藏婦女的斬！”

  胡人此時畢竟還不夠強大，暫時還要有王浚的庇護，也不能因為搶女人就放棄自己的野心，在過易水的時候，把這8000多婦女全部趕入水中淹死了。

  劉淵聽說司馬潁離開鄴城，歎息著說：“司馬潁不聽我的話，向相反的方向跑，真是蠢材。然而，我與他有言在先，不能不去救他。”

  劉淵打算發兵攻打烏桓、鮮卑。

  劉宣等人勸諫說：“晉人像奴隸一樣驅使我們，現在他們骨肉之間互相殘殺，是老天拋棄他們而讓我們光複呼韓邪單於的事業的大好時機。烏桓、鮮卑與我們是同類，可以作為我們的後援，怎麽能攻打他們呢？”