最初的时候，司马颖奏表匈奴左贤王刘渊任冠军将军，监理匈奴五部的事务，让他在邺城统领军队。

刘渊的儿子叫刘聪，勇武过人，博览群书，很有文采，用的弓力大无比，年青时候到京都游历，京都名士都愿意与他结交，司马颖任用他做积弩将军。

刘渊的堂祖父刘宣是匈奴右贤王，他对他的族人说：“汉朝时，我们的先人与汉朝约为兄弟，同甘共苦。自汉朝灭亡以来，魏、晋兴起，我们的单于徒有虚名，不再拥有一寸土地。其余的王侯，地位和百姓没有什么差别，现在我们虽然衰落了，但是，人口也超过两万以上，上天如果不想让匈奴兴盛起来，是不会生出刘渊这个人的。如今司马氏骨肉相残，四海之内的动乱如同锅内烧开的水一样沸腾，光复匈奴人的伟大事业，就是这个时候。”

于是，匈奴人召开会议，谋划着要复兴，会上推举刘渊为大单于，并派刘渊的亲信呼延攸去邺城把会议的情况向他汇报。

刘渊得到情报，担心司马颖不让他离开，借口回乡要参加葬礼，司马颖把这些贵族留在身边，相当于人质，就是怕这些人回到地方，拉起队伍，和自己作对，因此，司马颖没有答应。

刘渊让呼延攸先回去，告诉刘宣等人，召集五部人马及其他少数民众，表面上宣称响应司马颖，实际上打算背叛他。

不久，东赢公司马腾、安北将军王浚起兵讨伐司马颖。

刘渊对司马颖说：“现在幽州、并州二镇的将领猖狂之极，兵力十多万人，恐怕禁卫军及附近郡县的兵力不足以抵挡，我请求回去，劝说五部的人马来共赴国难。”

司马颖说：“五部的人马果真能发动吗？即使能前来参战，鲜卑、乌桓士兵来去如电，也不是轻易能抵挡的。我打算护送皇上回洛阳，避开他们的锋芒，接着再昭告天下，以叛乱的名人，名正言顺的制服他们，你觉得怎么样？”

刘渊说：“殿下是武帝的儿子，为朝廷立过大功，美名传遍天下，谁都愿意为您赴汤蹈火，在所不辞，这种情况下，征发士兵有什么难的呢？王浚就是个小人，东赢公是关系疏远的皇亲，他们怎么可以与殿下抗衡呢？殿下如果离开邺城，那就是向人示弱，还到得了洛阳吗？即使到了洛阳，恐怕殿下不一定还能掌握权力。希望殿下勉励部众，安抚好他们，我请求用二部匈奴兵为殿下攻打东赢公，用三部匈奴兵去攻打王浚，高悬二人的头颅在邺城之上，指日可待。”

司马颖非常高兴，任命刘渊为北单于，参丞相军事等职务。

刘渊回到左国城（今山西方山县），刘宣等人给他封上大单于的称号，短短20天之内，就聚集了五万人，建都离石（今山西吕梁市离石区），封刘聪为鹿蠡王。

刘渊派左於陆王刘宏率精骑5000前去和司马颖部将王粹汇合，共同阻击司马腾的并州兵，可惜的是刘宏还没有赶到，王粹已经被司马腾击败，刘宏无功而返。

王浚、司马腾联合起来向王斌发起进攻，王斌惨败。

王浚又派主薄祁弘担任前锋，发起平棘（今河北赵县）之战，在平棘打败石超。

祁弘乘胜前进，逼近邺城。

战败的消息传来，邺城的官员和百姓非常震惊，四处逃散。

司马颖也很恐慌，卢志劝司马颖挟持惠帝返回洛阳。

当时还有士卒15000人，卢志连夜部署分工，早上将要出发的时候，司马颖的母亲、程太妃不愿意离开邺城，司马颖也犹豫不决。

关键的时刻还犹豫不决，士卒及身边的人受不了，大家干脆逃命去了。

司马颖一看，必须果断，就带领剩下的几十人与卢志一起，陪惠帝登上马车，向洛阳逃去。

这次出逃可以说是相当的狼狈，史书是这样记载的。

仓促间逃跑，君臣都没有带钱，只有个宦官在行李中藏了三千钱，那是私产，只好借，怎么借？

以诏令形式借他的钱，这恐怕是很搞笑的事。

有了钱，才在逃亡路上买了吃的，不至于饿肚子。

吃饭时也没有皇室用的器具，只能用瓦盆吃。

惠帝夜里睡觉没有被子，就借宦官的被子盖，其他人更惨，没有被子，只能挨冻。

司马颍一行到达温县，温县是司马家族的发家之地，祖宗陵墓在此，他们决定去祭拜一番。

可是惠帝疲于奔命，狼狈之极，鞋子都走丢了，只好把侍从的鞋借过来穿上，在陵墓前祭拜祖宗的时候，惠帝泪流满面，心中的委屈无处申诉。

惠帝一行过黄河后，张方派自己的儿子张罴带领3000骑兵，用自己的车驾迎接惠帝。

行到邙山下，张方在那里率领10000多骑兵迎接惠帝。

张方将要跪下叩拜，惠帝竟然不顾礼仪，下车制止了他，可见，惠帝惊魂未定，就像抓住救命稻草一样。

惠帝回到皇宫，很多官员也闻风而至，文武官员大致齐备了。

王浚在司马颍逃走后，进入了邺城，纵容士兵烧杀抢，无恶不作，很多无辜的贫民被杀死。

乌桓人羯朱的一支军队一路追赶司马颖等人到朝歌，追不上才返回了。

王浚返回薊城，发现鲜卑人抢劫了许多良家妇女，晚上陪睡觉，白天当粮食吃，人数众多，还影响行军速度，便下令：“胆敢有私藏妇女的斩！”

胡人此时毕竟还不够强大，暂时还要有王浚的庇护，也不能因为抢女人就放弃自己的野心，在过易水的时候，把这8000多妇女全部赶入水中淹死了。

刘渊听说司马颍离开邺城，叹息着说：“司马颍不听我的话，向相反的方向跑，真是蠢材。然而，我与他有言在先，不能不去救他。”

刘渊打算发兵攻打乌桓、鲜卑。

刘宣等人劝谏说：“晋人像奴隶一样驱使我们，现在他们骨肉之间互相残杀，是老天抛弃他们而让我们光复呼韩邪单于的事业的大好时机。乌桓、鲜卑与我们是同类，可以作为我们的后援，怎么能攻打他们呢？”