霧靈山歷史上曾稱伏淩山、孟廣硎山、五龍山，
明代始稱霧靈山。
自夏殷代以來就有人煙居住。
霧靈山地處我國古代山戎、東胡、拓跋、契丹等北方少數民族與幽燕漢族交往之地。
霧靈山因其特點和所謂的靈性，
歷史上就有許多文人騷客吟頌霧靈，
來此遊覽，
並被她的險峻所折服。
北魏地理學家酈道元、唐朝進士祖詠都曾到過霧靈山，
讚美過她的雄渾和壯美。
酈道元在《水經注》中稱“伏淩山（霧靈山）甚高峻，
嚴障寒深。
陰崖積雪，
凝冰夏結，
故世人因以名山也”。
古人另稱霧靈山“其山陡峻，
峰巒拱列”。
顧炎武在《昌平山水記》中也稱霧靈山“其山高峻，
有雲霧蒙其上，
四時不絕”，
這也可能就是稱為霧靈山的原因吧。
還稱霧靈山“上多奇花，
又名萬花台，
山之左右峰巒拱列，
深松茂柏”。
霧靈山也曾是一座佛山， 據記載， 霧靈山在宋代就建有寺院， 修建了諸多廟宇， “有僧道萬餘人”， 元代曾有僧道來此做佛事， 《昌平山水記》記載“文宗（元）命西僧於霧靈山作佛事一月， 而其絕頂可瞰塞內”。 現存的寺廟遺址有：紅梅寺、鐘古院、雲峰寺等， 在當時被稱為下院、中院和上院。 相傳過去在紅梅寺“有名和尚三千六， 無名和尚賽牛毛”， 這就說明在當時霧靈山一帶僧道甚多， 香火旺盛。 據《長安客話》記載， “霧靈山有雲峰寺， 相傳寶志公錫於此”。
到明代， 霧靈山為邊關重地。 明洪武年間， 中丞劉基（字伯溫）巡視邊陲重鎮曹家路時， 曾登臨霧靈山， 行至半山勞累煩熱， 歇于一巨石下， 忽覺一陣涼風襲來， 疲勞頓覺消失， 隨賜“霧靈山清涼界”。 二百年後的明崇禎八年， 後人在此石上刻字銘古， 成為京東特有石質巨碑， 人稱“大字石”， 上刻有“霧靈山清涼界”六個大字， 每字約四平方米，豪放灑脫，蒼勁有力，另外還有許多不同型號的小字，內容大都是守關將士的名字和詩句。
霧靈山山體高大，崖懸壁險，具有一定的軍事防禦價值，又處於邊關，所以霧靈山上就建有許多長城，大都是明長城，現存近百公里。有黑谷關、龍門關等關口。除長城外，在高山險峰上建有許多烽火臺，現在可以看到破壁殘垣。
清順治二年，霧靈山被劃為清東陵的“後龍風水禁地”，封禁長達270年。清東陵陵區占地2500平方公里，分後龍和前圈兩部分。
其中陵寢後龍，是風水來龍之地，它從陵後的長城開始，向北經過清東陵的少祖山霧靈山。整個後龍地帶山巒起伏，群峰疊翠，奇峰秀嶺，縱橫交錯，風景異常美麗。
清王朝為了保護清東陵，這包括後龍區的保護，後龍的邊界標誌主要是木樁和界石，其中木樁分為紅、白、青三種，紅樁為內界，白樁為外界，青樁在白樁10華里之外，每青樁上寫“後龍風水重地”，規定“凡木樁以內，軍民人等不准越入設窯燒炭，各宜凜遵。如敢故違，嚴拿從重治罪”。
定霧靈山為官山，清王朝為了加強霧靈山的保護，專設牆子路和曹家路二兵營重兵守護後龍一帶安全。通過清王朝的嚴密防護措施，在清東陵的二百多年的歷史中，沒有發生過重大火災，這無疑對霧靈山森林資源的保護起到了重要作用。
霧靈山隨著長時間的封禁，宋元時期所修的廟宇，也開始荒廢敗落。這段時期人文歷史遺跡較少。清聖祖康熙帝在《曉發古北口望霧靈山》一詩中寫道“流吹淩晨發，長旗出塞分，遠峰猶見月，古木半籠出，地迥疏人跡，山回簇馬群，觀風當夏景，澗草自含薰”。從詩中可以看到，當時看到的只是山景樹木，人跡稀少。
霧靈山在清王朝長時間的封禁下，霧靈山的居民被迫遷出，這就給森林的生長創造了條件，森林、野獸在無憂無慮的生長著。霧靈山形成了“森林滿山，樹木遮天，野獸無數、遍地湧泉”的壯麗景觀。
隨著清王朝的衰敗，作為皇家風水禁地的霧靈山也隨之開禁開墾。清末宣統二年（1910年）因朝廷財政困乏，遂將東陵範圍內的“風水地”允許清兵開墾。由於開荒種地，時常引起山火，一著就是幾個月，不下大雨火不滅，原始森林遭到了破壞。到後來，直系和奉系軍閥混戰，霧靈山又遭到了戰火的洗劫，破壞十分嚴重。
抗日戰爭時期，霧靈山是八路軍抗日根據地。1938年2月9日，毛澤東同志指示八路軍前方總部：“以霧靈山為中心開闢遊擊區，創建敵後根據地”，八路軍第四縱隊便從平西齋堂出發東進，開進霧靈山，以霧靈山為中心開展遊擊戰爭，創建了興（隆）灤（平）豐（潤）、承（德）興（隆）平（泉）等八個抗日聯合政府。
日軍採取“囚籠政策”，製造無人區，把山上的老百姓趕下山，進入“人圈”，不斷放火燒山，試圖割斷我軍民聯繫。日寇以“鐵壁合圍”、“梳篦清剿”的慘無人道的手段欲達到“民匪隔離”的目的，但是霧靈山區的人民的抗日烈火始終沒有被撲滅，堅持抗戰。
1948年，霧靈山經歷了37年血與火的洗禮，終於回到了人民的懷抱。
解放後，為了建設霧靈山，發展霧靈山，保護好這快綠色寶地，1950年始建森林經營機構，成立霧靈山森林經營所，全面開展封山育林，荒山造林。為了更好的建設和經營霧靈山這寶貴的森林，1962年為林業部直屬實驗林場，並將主峰周圍8000畝劃為自然保護區。
1984為省級保護區，1988年為國家級保護區，霧靈山的發展進入了新的時期，1995年霧靈山加入中國人與生物圈網路組織。
每字約四平方米，豪放灑脫，蒼勁有力，另外還有許多不同型號的小字，內容大都是守關將士的名字和詩句。
霧靈山山體高大，崖懸壁險，具有一定的軍事防禦價值，又處於邊關，所以霧靈山上就建有許多長城，大都是明長城，現存近百公里。有黑谷關、龍門關等關口。除長城外，在高山險峰上建有許多烽火臺，現在可以看到破壁殘垣。
清順治二年，霧靈山被劃為清東陵的“後龍風水禁地”，封禁長達270年。清東陵陵區占地2500平方公里，分後龍和前圈兩部分。
其中陵寢後龍，是風水來龍之地，它從陵後的長城開始，向北經過清東陵的少祖山霧靈山。整個後龍地帶山巒起伏，群峰疊翠，奇峰秀嶺，縱橫交錯，風景異常美麗。
清王朝為了保護清東陵，這包括後龍區的保護，後龍的邊界標誌主要是木樁和界石，其中木樁分為紅、白、青三種，紅樁為內界，白樁為外界，青樁在白樁10華里之外，每青樁上寫“後龍風水重地”，規定“凡木樁以內，軍民人等不准越入設窯燒炭，各宜凜遵。如敢故違，嚴拿從重治罪”。
定霧靈山為官山，清王朝為了加強霧靈山的保護，專設牆子路和曹家路二兵營重兵守護後龍一帶安全。通過清王朝的嚴密防護措施，在清東陵的二百多年的歷史中，沒有發生過重大火災，這無疑對霧靈山森林資源的保護起到了重要作用。
霧靈山隨著長時間的封禁，宋元時期所修的廟宇，也開始荒廢敗落。這段時期人文歷史遺跡較少。清聖祖康熙帝在《曉發古北口望霧靈山》一詩中寫道“流吹淩晨發，長旗出塞分，遠峰猶見月，古木半籠出，地迥疏人跡，山回簇馬群，觀風當夏景，澗草自含薰”。從詩中可以看到，當時看到的只是山景樹木，人跡稀少。
霧靈山在清王朝長時間的封禁下，霧靈山的居民被迫遷出，這就給森林的生長創造了條件，森林、野獸在無憂無慮的生長著。霧靈山形成了“森林滿山，樹木遮天，野獸無數、遍地湧泉”的壯麗景觀。
隨著清王朝的衰敗，作為皇家風水禁地的霧靈山也隨之開禁開墾。清末宣統二年（1910年）因朝廷財政困乏，遂將東陵範圍內的“風水地”允許清兵開墾。由於開荒種地，時常引起山火，一著就是幾個月，不下大雨火不滅，原始森林遭到了破壞。到後來，直系和奉系軍閥混戰，霧靈山又遭到了戰火的洗劫，破壞十分嚴重。
抗日戰爭時期，霧靈山是八路軍抗日根據地。1938年2月9日，毛澤東同志指示八路軍前方總部：“以霧靈山為中心開闢遊擊區，創建敵後根據地”，八路軍第四縱隊便從平西齋堂出發東進，開進霧靈山，以霧靈山為中心開展遊擊戰爭，創建了興（隆）灤（平）豐（潤）、承（德）興（隆）平（泉）等八個抗日聯合政府。
日軍採取“囚籠政策”，製造無人區，把山上的老百姓趕下山，進入“人圈”，不斷放火燒山，試圖割斷我軍民聯繫。日寇以“鐵壁合圍”、“梳篦清剿”的慘無人道的手段欲達到“民匪隔離”的目的，但是霧靈山區的人民的抗日烈火始終沒有被撲滅，堅持抗戰。
1948年，霧靈山經歷了37年血與火的洗禮，終於回到了人民的懷抱。
解放後，為了建設霧靈山，發展霧靈山，保護好這快綠色寶地，1950年始建森林經營機構，成立霧靈山森林經營所，全面開展封山育林，荒山造林。為了更好的建設和經營霧靈山這寶貴的森林，1962年為林業部直屬實驗林場，並將主峰周圍8000畝劃為自然保護區。
1984為省級保護區，1988年為國家級保護區，霧靈山的發展進入了新的時期，1995年霧靈山加入中國人與生物圈網路組織。