梁太清二年（548年）八月東魏降將侯景舉兵反梁， 次年三月， 攻破宮城， 梁武帝病餓而亡， 太子蕭綱（503～551年）被侯景扶為皇帝。 由於鎮守廣州的梁宗室曲江侯蕭勃無意討伐， 陳霸先只好遣使往江陵， 投到梁武帝第七子、湘東王蕭繹（508～554年）帳下， 受其節制。
大寶元年（550年）正月， 陳霸先大軍從始興出發， 抵達大庾嶺， 擊敗奉蕭勃之命在南野（今江西南康以南約十五公里處）攔截的蔡路養， 乘勝進駐南康。 陳霸先被蕭繹授為明威將軍、交州刺史。 此後近一年半時間， 陳霸先與回應侯景的高州刺史李遷仕在南康一帶展開了拉鋸戰， 終於擒斬李遷仕， 於大寶二年六月發兵南康， 沿贛江北下。 八月， 陳霸先準備與蕭繹部下都督王僧辯會師。 由於陳霸先名聲在王僧辯之上， 故王僧辯心存畏忌。 當時， 王僧辯等西路各軍正好缺糧， 情勢不妙， 而陳霸先已貯有軍糧五十萬石， 陳霸先以大局為重，
陳霸先發兵南康時， 梁國戰局發生了轉變， 蕭繹部下大將王僧辯、胡僧佑、陸法和等， 在巴陵（今湖南岳陽）、郢州（今湖北武漢）一帶擊敗侯景主力， 任約、宋子仙被擒，
大寶二年（551年）七月， 侯景廢梁簡文帝蕭綱， 立梁豫章王蕭棟為帝。 十月殺蕭鋼， 十一月又廢蕭棟自立為帝。 三年（552年）正月， 陳霸先南路征討大軍從豫章（今江西南昌）出發， 這時已有甲士三萬人， 強弩五千張， 舟艦二千艘， 水陸俱下， 另有前軍五千由驍將杜僧明統領， 已抵達湓口（鄱陽湖入長江口）。
二月， 王僧辯等西路大軍又從尋陽起行， 在白茅灣（今安徽懷寧以東）與陳霸先會師。 王僧辯與陳霸先登壇設誓， 締結了盟約。 征討大軍沿路攻克蕪湖、姑熟（今安徽當塗）， 三月在建康與侯景展開了大決戰， 終於徹底摧毀了侯景暴亂勢力， 侯景被殺。 經王僧辯、陳霸先等各路將士勸進， 蕭繹在江陵稱帝， 即梁元帝。 陳霸先奉命鎮守在京口（今江蘇鎮江）。