常遇春出身貧窮， 從小跟著父母下田務農。 但生不逢時處於亂世之中， 元朝末期爆發了多次農民起義， 常遇春迫於無奈加入了一夥強盜， 過著打家劫舍的日子。 他所在的強盜團夥實力還是十分強悍的， 開始的時候還覺得新鮮， 可過久了， 就感覺這幫人沒有大志， 便萌生去意。
常遇春獨自一人游走在江邊， 想著自己到底要幹什麼呢？這時朱元璋帶領起義的隊伍從他旁邊經過， 他看見這支部隊， 紀律嚴明， 跟別的隊伍明顯不一樣， 於是就決定加入他們， 起初朱元璋很看不起他， 認為他只是為了在部隊混口飯吃而已。
有一天朱元璋問他， 你是不是在外面打家劫舍被仇人所追， 為了保命才到我的部隊裡面來的。 常遇春回答道， 我當初只是打家劫舍混口飯吃， 並不傷人性命。 所以並沒有仇人， 我早前聽聞將軍胸懷大志， 帶兵有方日後必將能成一番大事， 特此投靠將軍。
朱元璋看常遇春說話神情凝重， 並不像撒謊。 於是就把它安排到部隊中跟隨自己， 常遇春也真是一個戰爭奇才， 1356年2月， 朱元璋即率軍渡江南下， 在著名的採石磯大戰中， 元兵利用地理優勢多次把義軍的進攻阻擋回去， 漸漸的義軍顯示出敗像。 但在這千鈞一髮之際， 常遇春乘一艘小船， 左手持盾， 右手揮戈冒著亂箭衝鋒向前， 隻身一人把元兵沖得七零八落。
1357年， 他帶兵進攻甯國， 不幸身中流矢， 他執意不下火線， 裹傷再戰。 此後連克甯國、池州、婺州等城。 1363年， 陳友諒舉國之力出動60萬大軍與常遇春在鄱陽湖大戰， 雙方死傷無數最後依靠常遇春用火攻之計， 大勝陳友諒讓朱元璋在眾多軍閥中脫穎而出。
隨後常遇春跟隨朱元璋大小上百戰， 未嘗一敗。 但常遇春當了將軍之後， 弑殺的性格漸漸暴露了出來， 不僅大事殺死俘虜， 連城中的老百姓也不放過， 常遇春打仗之時經常屠城。
明朝那些事兒(增補版全套共9冊) 當年明月著 ￥163.8 購買
洪武二年， 常遇春從上都凱旋歸來突然暴斃在軍中， 朱元璋聽聞十分傷心， 親自帶人把常遇春安葬在鐘山之下。 對於常遇春死亡的原因有很多， 一個說法是當時張無忌給他治病的時候折了一半陽壽， 另一個說法是他一生殺戮太多，糟了天譴。