北宋靖康元年冬， 康王趙構到相州， 于臘月初一日開河北兵馬大元帥府， 岳飛隨同劉浩所部一起劃歸大元帥府統轄。 劉浩為元帥府前軍統制， 趙構命他南趨濬州（今河南浚縣西北）、滑州方向以作馳援開封的疑兵， 自己則率領元帥府主力北上大名府。
岳飛奉劉浩的命令， 帶一支三百人的騎兵小隊往李固渡進行偵察， 在侍禦林與金兵遭遇， 嶽飛殺死敵將， 擊退金軍。 在滑州南的遭遇戰中， 嶽飛奮勇當先， 又以百騎殺敗金軍。 兩次小戰， 嶽飛的勇敢和武藝便得到顯露。
劉浩軍至濬州渡黃河受阻， 只得追隨元帥府人馬北上。
1127年（靖康二年）二月， 岳飛隨軍轉戰曹州， 他揮動雙鐧， 身先士卒， 直貫敵陣。 宋軍以白刃近戰打敗金軍， 追奔數十裡。 岳飛因功遷武翼郎。 劉浩的兩千兵馬進駐廣濟軍定陶縣的柏林鎮後， 元帥府又命他改隸黃潛善， 不再讓宗澤指揮此軍。 這時黃潛善掌握著三萬六千人馬， 卻只知保存實力， 按兵不動， 使只有二萬五千人的宗澤陷入孤軍奮戰的境地。
是年四月， 金軍從已被洗劫一空的汴京城撤出， 滿載著金帛、珍寶北上， 徽宗、欽宗二帝和皇室成員、機要大臣、百工等三千餘人都做了俘虜。 北宋就此滅亡， 史稱“靖康之恥”。
五月初一， 康王趙構在應天府（今河南商丘）即位， 是為南宋高宗， 改元建炎。 趙構雖起用了抗戰派名臣李綱為左相， 但仍舊對投降派黃潛善、汪伯彥等人頗為器重。 趙構採取黃潛善等避戰南遷的政策， 預備南行“巡幸”， 欲退避到長安、襄陽、揚州等地。 時年25歲的岳飛得知這個消息， 不顧自己官卑職低， 披肝瀝膽， 向宋高宗趙構“上書數千言”， 其略雲：
陛下已登大寶， 社稷有主， 已足伐敵之謀。
然而， 他的耿耿丹心只換得“小臣越職， 非所宜言”八字批語， 並且被革除軍職、軍籍， 逐出軍營。
岳飛的抗金決心並未因此動搖。 1127年（南宋建炎元年）八月， 岳飛渡河北上， 奔赴抗金前線——北京大名府， 經過河北西路招撫使幹辦公事趙九齡推薦， 會見了當時“聲滿河朔”， 正多方收攬英才抗金的招撫使張所。 這是他第四次從軍。 張所知悉嶽飛的遭遇後， 十分同情， 便留他在“帳前使喚”。 由於岳飛的非凡見識、高超武藝， 張所終於決定破格提拔他。 先是“以白身借補修武郎”，
然而高宗、黃、汪等為了向金人乞和， 有意打壓朝中的抗金力量：先是堅決主張抗金的李綱被罷相， 繼而張所也因從前曾彈劾黃潛善而遭貶謫發配嶺南， 最終死於貶途。 被張所派去收復衛州等地的王彥、嶽飛一軍， 也因河北西路招撫司的撤銷而成為孤軍。
王彥駐軍衛州新鄉縣的石門山， 為集結金軍所包圍， 因此謹慎出戰。 岳飛有些年少氣盛， 責備王彥膽怯：“二帝蒙塵， 賊據河朔， 臣子當開道以迎乘輿。 今不速戰， 而更觀望， 豈真欲附賊耶！”率領部下擅自出戰， 攻佔新鄉縣。 金軍誤以為王彥、嶽飛軍是宋軍主力， 於是抽調各路人馬， 雲集新鄉， 準備與宋軍決戰。 王、嶽軍僅七千人，