永興元年(304年)， 劉淵在南郊築壇設祭， 自稱漢王， 赦免境內囚犯， 建年號為元熙， 追尊劉禪為孝懷皇帝， 建造漢高祖以下三祖五宗的神位進行祭祀，
東嬴公、並州刺史司馬騰聞訊， 派將軍聶玄討伐劉淵， 戰於大陵(今山西文水)， 聶玄軍大敗， 司馬騰害怕， 於是率領並州二萬多戶百姓逃到山東， 到處侵犯、騷擾。 劉淵乘勝進軍， 派遣建武將軍劉曜接連攻下太原、泫氏、屯留、長子、中都。 元熙二年(305年)， 司馬騰又派司馬瑜、周良、石鮮等人率軍討伐劉淵， 他們駐紮在離石的汾城。
劉淵派遣武牙將軍劉欽等六軍迎戰司馬瑜等人。
四次交戰， 司馬瑜都被擊敗， 於是， 劉欽整頓軍隊， 凱旋回師。 同年， 離石發生大饑荒， 劉淵遷居黎亭， 以便食用邸閣屯積的糧食。
劉淵留太尉劉宏、護軍馬景守離石， 派大司農蔔豫運送糧食供給他們。 接著， 任命前將軍劉景為使持節、征討大都督、大將軍， 在版橋截擊劉琨， 被劉琨擊敗， 於是， 劉琨進據晉陽。 侍中劉殷、王育規勸劉淵道:"殿下您從起兵至今已一年， 然而， 只據守在偏遠的地方，
劉淵高興地說道:"這就是我所想的啊。 "
於是進據河東， 攻佔蒲阪(今山西永縣)、平陽(今山西臨汾)。
接著， 劉淵進入蒲子， 並將它作為都城， 河東、平陽屬縣的各壘壁都投降於他。
當時， 汲桑在趙魏起兵， 上郡四部鮮卑陸逐延、氐族酋長單于征、東萊人王彌以及石勒等人都相繼投降劉淵， 劉淵都授予他們官爵。
永嘉二年(308年)， 劉淵正式稱帝， 大赦境內囚犯， 改年號為永鳳。
任命大將軍劉和為大司馬， 封梁王， 尚書令劉歡樂為大司徒， 封陳留王， 御史大夫呼延翼為大司空， 封雁門郡公， 宗室中以親疏為等級， 皆封郡縣王， 異姓中以功勞、謀略為等級， 皆封郡縣公侯。 太史令宣于修之對劉淵進言道:"陛下您雖然如龍騰起，
蒲子地域崎嶇狹小， 不可長久安身。 平陽有天子之氣， 又兼是陶唐的舊都， 希望陛下您上合天象之變， 下合地理之祥。 "於是遷都平陽。 有人從汾水中得到玉璽， 上面的文字是"有新保之"， 大概是王莽時的玉璽， 得到的人順便增加了"淵海光"三字， 劉淵認為是自己的好徵兆， 於是大赦境內囚犯， 改年號為河瑞。 又封他的兒子劉裕為齊王， 劉隆為魯王。
不久， 劉淵命其子劉聰和王彌進攻洛陽， 劉曜和趙固等人作為後繼。 西晉東海王司馬越派平北將軍曹武、將軍宋抽、彭默等人迎戰， 晉軍大敗。
劉聰等率軍迅速到達宜陽。
平昌公司馬模派將軍淳于定、呂毅等率軍從長安討伐劉聰軍，在宜陽決戰，淳於定等大敗。劉聰依仗連續的勝利，沒有設防，弘農太守垣延假稱投降，乘夜偷襲，劉聰軍大敗而回，劉淵穿著白衣服前來迎接。
同年冬，再次徵發士卒，派遣劉聰、王彌與劉曜、劉景等人率領精銳騎兵五萬去進攻洛陽，派呼延翼率步兵接應，結果，在黃河南面將晉軍打敗。劉聰進軍，駐紮在洛陽西明門，西晉護軍賈胤乘夜接近他們，在大夏門大戰，斬殺劉聰的將領呼延顥，呼延顥軍潰敗。劉聰向南撤退，在洛水構築壁壘，不久，又進駐宣陽門，劉曜駐紮在上東門，王彌駐紮在廣陽門，劉景攻擊大夏門，劉聰親自到中嶽嵩山求神，命令將領劉厲、呼延朗等負責指揮留守的士兵。
東海王司馬越命令參軍孫詢、將軍丘光、樓裒等人率領手下勇士三千，從宣陽門攻擊並斬殺呼延朗。劉聰得到消息後快馬趕回，劉厲因害怕劉聰給自己治罪，於是投水而死。
王彌勸劉聰說:"現在既然失利，而洛陽又非常牢固，殿下您不如回師，以後再慢慢地圖謀。我當在兗州、豫州之間招募兵士，收聚糧食，以等待進攻的日期。"宣于修之又勸劉淵說:"辛未那一年，當攻下洛陽。現在晉朝的紫氣還很盛，大軍不回，必定失敗。"劉淵派黃門郎傅詢快馬召劉聰等回師。王彌從轘轅撤出，司馬越派薄盛等人率兵追擊，雙方在新汲大戰，王彌軍大敗。於是整頓蒲阪的防守，回到平陽。
劉淵任命劉歡樂為太傅，劉聰為大司徒，劉延年為大司空，劉洋為大司馬，赦免境內囚犯。又立妻子單氏為皇后，兒子劉和為皇太子、劉乂為北海王。
永嘉四年(310年)七月，劉淵臥病，準備囑託後事，任命劉歡樂為太宰，劉洋為太傅，劉延年為太保，劉聰為大司馬、大單于，並且統領尚書事務，在平陽西部建造單于台，任命其子劉裕為大司徒。劉淵病重，召劉歡樂和劉洋等人到宮禁中接受遺詔，輔佐朝政。八月，劉淵在光極殿去世，共在位六年。劉淵死後，其子劉和繼位。
不久，劉聰自西明門攻入西室，殺劉和自立。同年九月，劉聰葬劉淵於永光陵，上諡號為光文皇帝，廟號高祖。
劉淵是漢化的匈奴貴族後裔，他在西晉日趨衰敗、各地流民紛紛起義反晉的浪潮中，趁勢在中原建立了第一個少數民族政權--匈奴漢國政權。漢國政權建立進一步把中原推向戰爭和動亂，同時改變了曹操以來匈奴五部統治結構，重新恢復了匈奴傳統舊制。
但從少數民族對漢人的長期統治過程中，為各民族之間深層次的融合，準備了條件。
平昌公司馬模派將軍淳于定、呂毅等率軍從長安討伐劉聰軍，在宜陽決戰，淳於定等大敗。劉聰依仗連續的勝利，沒有設防，弘農太守垣延假稱投降，乘夜偷襲，劉聰軍大敗而回，劉淵穿著白衣服前來迎接。
同年冬，再次徵發士卒，派遣劉聰、王彌與劉曜、劉景等人率領精銳騎兵五萬去進攻洛陽，派呼延翼率步兵接應，結果，在黃河南面將晉軍打敗。劉聰進軍，駐紮在洛陽西明門，西晉護軍賈胤乘夜接近他們，在大夏門大戰，斬殺劉聰的將領呼延顥，呼延顥軍潰敗。劉聰向南撤退，在洛水構築壁壘，不久，又進駐宣陽門，劉曜駐紮在上東門，王彌駐紮在廣陽門，劉景攻擊大夏門，劉聰親自到中嶽嵩山求神，命令將領劉厲、呼延朗等負責指揮留守的士兵。
東海王司馬越命令參軍孫詢、將軍丘光、樓裒等人率領手下勇士三千，從宣陽門攻擊並斬殺呼延朗。劉聰得到消息後快馬趕回，劉厲因害怕劉聰給自己治罪，於是投水而死。
王彌勸劉聰說:"現在既然失利，而洛陽又非常牢固，殿下您不如回師，以後再慢慢地圖謀。我當在兗州、豫州之間招募兵士，收聚糧食，以等待進攻的日期。"宣于修之又勸劉淵說:"辛未那一年，當攻下洛陽。現在晉朝的紫氣還很盛，大軍不回，必定失敗。"劉淵派黃門郎傅詢快馬召劉聰等回師。王彌從轘轅撤出，司馬越派薄盛等人率兵追擊，雙方在新汲大戰，王彌軍大敗。於是整頓蒲阪的防守，回到平陽。
劉淵任命劉歡樂為太傅，劉聰為大司徒，劉延年為大司空，劉洋為大司馬，赦免境內囚犯。又立妻子單氏為皇后，兒子劉和為皇太子、劉乂為北海王。
永嘉四年(310年)七月，劉淵臥病，準備囑託後事，任命劉歡樂為太宰，劉洋為太傅，劉延年為太保，劉聰為大司馬、大單于，並且統領尚書事務，在平陽西部建造單于台，任命其子劉裕為大司徒。劉淵病重，召劉歡樂和劉洋等人到宮禁中接受遺詔，輔佐朝政。八月，劉淵在光極殿去世，共在位六年。劉淵死後，其子劉和繼位。
不久，劉聰自西明門攻入西室，殺劉和自立。同年九月，劉聰葬劉淵於永光陵，上諡號為光文皇帝，廟號高祖。
劉淵是漢化的匈奴貴族後裔，他在西晉日趨衰敗、各地流民紛紛起義反晉的浪潮中，趁勢在中原建立了第一個少數民族政權--匈奴漢國政權。漢國政權建立進一步把中原推向戰爭和動亂，同時改變了曹操以來匈奴五部統治結構，重新恢復了匈奴傳統舊制。
但從少數民族對漢人的長期統治過程中，為各民族之間深層次的融合，準備了條件。