西晉晉武帝司馬炎駕崩後不久， 八王之亂就爆發了， 整個西晉帝國在內訌中搖搖欲墜——西晉貴族的紙醉金迷和百姓的貧苦，
此時， 內遷的匈奴人， 對晉朝也十分不滿， 於是， 在匈奴貴族的密謀下， 決定推舉劉淵為領袖， 起兵反晉， 並且以恢復漢朝為名（漢朝時期， 漢朝皇族和匈奴王族和親， 因此匈奴首領劉淵以漢朝皇帝的外甥名義恢復漢朝）。
劉淵此時還在西晉的成都王司馬穎身邊， 想要脫身很困難。 起初劉淵以家裡有事為名， 向司馬穎請假， 打算利用這個機會回到匈奴部落造反， 而司馬穎沒有准許。
而之後不久， 司馬穎在內戰中失利， 兵源吃緊， 這時候， 劉淵出來哄騙司馬穎， 說自己是匈奴人的首領，
司馬穎此時焦頭爛額， 哪能多想， 於是， 放劉淵回匈奴各部去招兵， 不料， 劉淵回去以後， 就宣佈反對晉朝， 光復漢朝， 並且為西晉的滅亡敲響了喪鐘。