牛皋， 字伯遠， 汝州魯山縣人。 靖康之變後， 宋高宗南遷， 但中原地區仍活躍著數支抗金武裝， 京西北路安撫制置使翟進率領的軍隊就是其中之一。 牛皋投入翟進軍中， 多次參加與金軍的戰鬥。
建炎二年（西元1128年）七月， 力主抗金的東京留守宗澤病逝， 接任者杜充殘酷而無謀， 人心不服， 位於開封附近的義軍紛紛脫離他的指揮， 散而為盜。 原留守司統制楊進率部下數萬人向西流竄到汝州一帶， 與翟進發生摩擦， 雙方戰於鳴皋山下， 翟進陣亡， 他的哥哥京西北路兵馬鈐轄翟興繼續率領餘部一面抵抗金人，
不久， 牛皋轉入京西南路招捉副使、汝州知州王俊軍中。 王俊本是宋軍小校， 在建炎元年十二月金軍攻陷汝州後收集潰兵保傘蓋山， 有眾數萬， 金軍撤退後收復汝州， 與翟興同屬京西抗金力量。 王俊舉薦牛皋為武節大夫（武官第十八階， 正七品）、果州團練使、招捉司中軍統領。 在京西地區， 宋金兩軍形成對峙局面， 牛皋多次擊敗金人， 名聲漸顯。
此時杜充已率開封諸軍十余萬南撤， 由京畿轉運副使上官悟代理東京留守， 中原地區兵力空虛。 上官悟即任命牛皋為留守司同統制兼京西南路提刑。
這年秋天， 金軍大舉南侵， 東路自馬家渡過江追擊宋高宗， 西路自黃州渡江追擊隆祐太后。 西路軍在蹂躪江西、湖南後， 因無法趕上隆祐太后， 于建炎四年正月開始撤退。
建炎四年七月， 金國立降臣、原宋濟南知府劉豫為帝， 國號齊， 以河南、陝西為疆域。 此時的中原地區幾乎全部淪陷， 局勢日益惡化， 僅有翟興子翟琮、牛皋等繼續在敵後堅持鬥爭。 牛皋在魯山縣境內的鄧家橋擊敗金國一名貝勒， 又設伏丹霞大敗金與偽齊聯軍，
紹興二年冬， 襄陽府、郢州鎮撫使李橫率軍北伐， 至紹興三年三月相繼收復潁順軍（今河南省禹州市）、潁昌府（今河南省許昌市）、汝州， 傳檄收復京師， 中原震動。 牛皋率部來會合， 李橫舉薦他為蔡、唐州鎮撫使。 消息傳到臨安， 宋高宗又升牛皋為左武大夫（武官第十三階， 正六品）、安州觀察使。 四月， 李橫進至開封附近後遭遇金與偽齊聯合進攻， 兵敗退回襄陽。 敵眾我寡， 牛皋也南奔至洪州（今江西省南昌市）。 時鎮南軍承宣使、神武后軍統制、江南西路、舒、蘄州制置使岳飛駐江州（今江西省九江市），
五月，嶽飛奉旨出兵收復襄漢諸郡，因牛皋長期在京西作戰，熟悉敵情，任命他為神武后軍中部統領兼制置司中軍統制。嶽飛先派前軍統制張憲進攻隨州，一個多月沒能拿下，於是牛皋主動請纓前往。出發前牛皋下令僅攜帶三天糧草，其他人都嘲笑牛皋自大，結果糧草還沒用完，牛皋已經攻下隨州，擒偽齊知州王嵩。七月，牛皋領唐、鄧、郢州、襄陽府安撫副使。
九月，偽齊劉豫派其子劉麟率軍南侵，金軍出兵五萬合進，直取兩淮。宋高宗也自臨安前往建康，督諸將迎戰。十二月，敵軍進犯淮西，集英殿修撰、淮南西路安撫使、廬州知州仇悆調發城中戍兵一千攔截，結果全軍覆沒，一個人也沒能逃回來。仇悆急向嶽飛求援，岳飛派牛皋與另一員統制徐慶率兵二千前往。牛皋與徐慶率騎兵數十人先至廬州城內，剛剛坐下來，斥候來報金軍五千騎將至，於是牛皋與徐慶立即出城，向敵大呼：“牛皋在此，爾輩胡為見犯。”牛皋在京西抗金六年，勇名聞於敵軍，因此敵人看到牛皋的旗幟後就知道碰到了硬骨頭。說話間，牛皋已經揮舞長矛沖了上來，敵軍懷疑有埋伏，轉頭就走。
仇悆對牛皋大加讚賞，在給嶽飛的感謝信中用大量筆墨誇獎牛皋，相比之下徐慶就被冷落了。岳飛雖為抗金名將，但並不是沒有缺點的。徐慶是嶽飛的愛將，而牛皋雖受嶽飛器重，終究不是最早跟隨嶽飛的，親疏可判，岳飛看到仇悆的信就很不高興，在給宋高宗的請功奏摺中把主要功勞安在徐慶身上，因此徐慶以奇功連進十九官，而牛皋只進兩官，為中侍大夫（武官第七階，正五品）。
紹興五年二月，牛皋隨嶽飛征討洞庭湖楊么。岳飛至鼎州，牛皋與湖南統制任士安屯兵龍陽縣舊城之南，進逼敵軍巢穴，屢次擊敗來犯之敵。六月，敵軍悍將楊欽投降，岳飛指揮眾將向水寨發起總攻，敵軍大敗。楊么投水，被牛皋跳入湖中生擒。（一說楊么被同黨黃誠殺害，向宋軍投降。）隨後朝廷論功行賞，牛皋升中侍大夫、武泰軍承宣使，擔任京西、湖北宣撫司左軍統制。（岳飛為宣撫使）
此後數年間，主戰派領袖張浚擔任宰相，抗金形勢不斷取得好轉。偽齊鎮汝軍知軍薛亨以驍勇聞名，紹興六年八月，岳飛派牛皋前去進攻，生擒薛亨，接著牛皋又率兵至蔡州，焚毀敵人囤積的糧草。第二年三月，牛皋落中侍大夫階官，為建州觀察使（正五品）。
紹興九年，宋金兩國第一次和談，金歸還宋河南、陝西領土。十月，宋高宗與宰相秦檜等人商量駐守開封武將人選，秦檜曾向宋高宗推薦牛皋，但宋高宗雖然讚賞牛皋的英勇，卻因為嗜酒被否決。（最後用的是劉錡，結果走到半路金軍就再次南下，雙方大戰於順昌。）
紹興十年五月，已經掌握國內軍政大權的完顏宗弼（即兀術）攛掇金熙宗撕毀和約，向河南、陝西發動大規模進攻，戰火再次點燃。一向反對議和的嶽飛積極調兵遣將，迎擊金軍。此時劉琦在順昌大敗完顏宗弼主力部隊，抗金形勢向好。六月，牛皋在京西地區擊敗金軍，又與徐慶會合張憲擊敗金將韓常，收復淮寧府，以功升捧日天武四廂都指揮使、成德軍承宣使（正四品）。七月，嶽飛取得郾城大捷，進至開封城郊，但由於秦檜的無恥阻撓與破壞，功虧一簣。
紹興十一年四月，岳飛與韓世忠、張俊同時遭接除兵權，出任樞密副使，宣撫司被撤銷。牛皋改任捧日天武四廂都指揮使、甯國軍承宣使（正四品）、鄂州駐劄御前左軍統制。
紹興十七年三月，都統制田師中召集諸將飲宴，晚上牛皋回家後毒發，自知必死，對身邊的人說：“皋年六十一，官至侍從，幸不啻足。所恨南北通和，不以馬革裹屍，顧死牖下耳。”第二天不治而亡。當時普遍認為是秦檜指使田師中下毒，聞者歎恨。後來朝廷追贈安德軍節度使。
“將軍氣節垂千古，震世英風伴鄂王。嶺上雲霞增慷慨，洞中風雨起淒涼。淚揮野草生紅藥，英雄墓地宿鳳凰。世人至今罵秦檜，何必裹屍向疆場。”
對翟進、翟興、翟琮兩代抗金歷史感興趣的可以點選連結查看：說宋朝|宋金戰爭之翟氏守洛
五月，嶽飛奉旨出兵收復襄漢諸郡，因牛皋長期在京西作戰，熟悉敵情，任命他為神武后軍中部統領兼制置司中軍統制。嶽飛先派前軍統制張憲進攻隨州，一個多月沒能拿下，於是牛皋主動請纓前往。出發前牛皋下令僅攜帶三天糧草，其他人都嘲笑牛皋自大，結果糧草還沒用完，牛皋已經攻下隨州，擒偽齊知州王嵩。七月，牛皋領唐、鄧、郢州、襄陽府安撫副使。
九月，偽齊劉豫派其子劉麟率軍南侵，金軍出兵五萬合進，直取兩淮。宋高宗也自臨安前往建康，督諸將迎戰。十二月，敵軍進犯淮西，集英殿修撰、淮南西路安撫使、廬州知州仇悆調發城中戍兵一千攔截，結果全軍覆沒，一個人也沒能逃回來。仇悆急向嶽飛求援，岳飛派牛皋與另一員統制徐慶率兵二千前往。牛皋與徐慶率騎兵數十人先至廬州城內，剛剛坐下來，斥候來報金軍五千騎將至，於是牛皋與徐慶立即出城，向敵大呼：“牛皋在此，爾輩胡為見犯。”牛皋在京西抗金六年，勇名聞於敵軍，因此敵人看到牛皋的旗幟後就知道碰到了硬骨頭。說話間，牛皋已經揮舞長矛沖了上來，敵軍懷疑有埋伏，轉頭就走。
仇悆對牛皋大加讚賞，在給嶽飛的感謝信中用大量筆墨誇獎牛皋，相比之下徐慶就被冷落了。岳飛雖為抗金名將，但並不是沒有缺點的。徐慶是嶽飛的愛將，而牛皋雖受嶽飛器重，終究不是最早跟隨嶽飛的，親疏可判，岳飛看到仇悆的信就很不高興，在給宋高宗的請功奏摺中把主要功勞安在徐慶身上，因此徐慶以奇功連進十九官，而牛皋只進兩官，為中侍大夫（武官第七階，正五品）。
紹興五年二月，牛皋隨嶽飛征討洞庭湖楊么。岳飛至鼎州，牛皋與湖南統制任士安屯兵龍陽縣舊城之南，進逼敵軍巢穴，屢次擊敗來犯之敵。六月，敵軍悍將楊欽投降，岳飛指揮眾將向水寨發起總攻，敵軍大敗。楊么投水，被牛皋跳入湖中生擒。（一說楊么被同黨黃誠殺害，向宋軍投降。）隨後朝廷論功行賞，牛皋升中侍大夫、武泰軍承宣使，擔任京西、湖北宣撫司左軍統制。（岳飛為宣撫使）
此後數年間，主戰派領袖張浚擔任宰相，抗金形勢不斷取得好轉。偽齊鎮汝軍知軍薛亨以驍勇聞名，紹興六年八月，岳飛派牛皋前去進攻，生擒薛亨，接著牛皋又率兵至蔡州，焚毀敵人囤積的糧草。第二年三月，牛皋落中侍大夫階官，為建州觀察使（正五品）。
紹興九年，宋金兩國第一次和談，金歸還宋河南、陝西領土。十月，宋高宗與宰相秦檜等人商量駐守開封武將人選，秦檜曾向宋高宗推薦牛皋，但宋高宗雖然讚賞牛皋的英勇，卻因為嗜酒被否決。（最後用的是劉錡，結果走到半路金軍就再次南下，雙方大戰於順昌。）
紹興十年五月，已經掌握國內軍政大權的完顏宗弼（即兀術）攛掇金熙宗撕毀和約，向河南、陝西發動大規模進攻，戰火再次點燃。一向反對議和的嶽飛積極調兵遣將，迎擊金軍。此時劉琦在順昌大敗完顏宗弼主力部隊，抗金形勢向好。六月，牛皋在京西地區擊敗金軍，又與徐慶會合張憲擊敗金將韓常，收復淮寧府，以功升捧日天武四廂都指揮使、成德軍承宣使（正四品）。七月，嶽飛取得郾城大捷，進至開封城郊，但由於秦檜的無恥阻撓與破壞，功虧一簣。
紹興十一年四月，岳飛與韓世忠、張俊同時遭接除兵權，出任樞密副使，宣撫司被撤銷。牛皋改任捧日天武四廂都指揮使、甯國軍承宣使（正四品）、鄂州駐劄御前左軍統制。
紹興十七年三月，都統制田師中召集諸將飲宴，晚上牛皋回家後毒發，自知必死，對身邊的人說：“皋年六十一，官至侍從，幸不啻足。所恨南北通和，不以馬革裹屍，顧死牖下耳。”第二天不治而亡。當時普遍認為是秦檜指使田師中下毒，聞者歎恨。後來朝廷追贈安德軍節度使。
“將軍氣節垂千古，震世英風伴鄂王。嶺上雲霞增慷慨，洞中風雨起淒涼。淚揮野草生紅藥，英雄墓地宿鳳凰。世人至今罵秦檜，何必裹屍向疆場。”
對翟進、翟興、翟琮兩代抗金歷史感興趣的可以點選連結查看：說宋朝|宋金戰爭之翟氏守洛