在《三國演義》中我們看董卓和呂布形影不離， 常常會誤認為呂布是董卓最依賴的心腹大將。 其實不然， 在歷史上董卓是個很狡猾的人， 至始至終他所信賴的就是他從西涼帶來的自己的人， 呂布作為降將， 董卓為了拉攏他讓他做自己的貼身保鏢， 但並沒有賦予呂布真正的軍權， 董卓最依賴的是他的西涼四將， 這四個人分別是：李傕 郭汜 樊稠 張濟。 這四個人分管了董卓的西涼軍， 是相當有實力的人物。
在董卓死後李傕和郭汜擊敗了呂布 王允等人佔據了長安把持了朝政， ， 張濟因為力量最弱， 於是外出屯駐弘農， 後來李傕郭汜二人不和互相功伐直到兩敗俱傷， 董卓的西涼軍陸續被曹操和其他的勢力兼併， 只有張濟的這支西涼軍存活了下來。
當初李傕郭汜混戰結束的時候， 漢獻帝出長安東歸， 晚上在霸陵， 侍從官員與衛士都饑餓不堪， 張濟派人從糧食食物救濟漢獻帝。 事後漢獻帝感激張濟的所為拜張濟為驃騎將軍， 如同三公一樣開府辟召掾屬。 這樣張濟在名義上已成了朝廷大員， 官職顯赫得意一時。
然李傕郭汜兵敗之後董卓的西涼軍勢力被嚴重削弱， 由於張濟以前是董卓的舊部，
張濟死後他的妻子就被張繡贍養， 建安二年曹操南征， 部隊到達淯水， 張繡率眾投降。 曹操見到張濟的妻子於是就將其收納為妾， 張繡得知後大怒， 出其不意反叛曹操， 在叛亂中曹操的愛將典韋和長子曹昂均在這次戰鬥中戰死， 曹操事後也懊悔不已。