少林寺創建於北魏太和十九年（495年）， 孝文帝元宏為安頓來朝傳授小乘佛教的印度僧人跋陀， 因此在嵩山少室山建寺, 故名"少林寺"。 現任方丈是曹洞正宗第47世、第33代嗣祖沙門釋永信。
少林寺是漢傳佛教的禪宗祖庭， 號稱"天下第一名刹"。 少林寺因其歷代少林武僧潛心研創和不斷發展的少林功夫而名揚天下， 有 "天下功夫出少林， 少林功夫甲天下"之說。
曹洞正宗起源：歷史資料記載嵩山少林寺在元代以前是屬於十方選賢住持寺院， 曾有佛教禪宗的臨濟、溈仰、法眼、雲門、曹洞等五大宗派僧侶同住和修；元初， 雪庭福裕禪師住持少林寺以後， 將原有的五大宗派僧侶統一尊立曹洞宗為正宗， 創立了少林寺曹洞正宗派別， 並撰寫了子孫輩訣， 此後歷代少林寺弟子均照此取名， 自此嵩山少林寺稱為子孫推賢住持寺院。
506年， 印度高僧勒拿摩提和菩提流支先後到少林寺開闢譯場， 在少林寺西台舍利塔設立翻經堂翻譯經書。 之後， 慧光在少林寺弘揚《四分律》等師說， 經多代發展， 後世最終形成四分律宗。
北魏孝明帝孝昌三年（527年）， 釋迦牟尼佛第二十八代徒菩提達摩來到少林寺， 他在跋陀開創的基礎上，
唐初， 少林寺十三和尚因助唐有功， 受到唐太宗的封賞， 賜田千頃， 水碾一具， 並稱少林僧人為僧兵， 從此， 少林寺名揚天下， 被譽為天下第一名刹。
嘉靖時期， 日本倭寇襲擾中國沿海，
相傳禪宗二祖慧可， 向菩提達摩學佛， 斷臂得到衣缽真傳後， 曾在此養傷。 殿前有四眼井， 傳說是慧可所鑿。 這四眼井相距甚近， 但水味各異， 名為“卓錫井”， 當地人也稱“苦、辣、酸、甜四眼井”。
國民政府建立後， 日本在東三省的活動使國民政府十分憂慮。 軍方於是發起愛國強民運動， 成立南京中央國術館及武術研究所等組織。 以“武術歸宗少林”為號召， 將愛國抗金英雄岳飛， 與成功從外族取回政權之明太祖朱元璋皆被比做少林英雄。