爺臺山位於陝西省淳耀縣（包含今淳化縣和銅川市耀州區部分地區）東部， 山勢雄偉， 峰巒疊翠， 松柏鬱鬱， 古稱大唐山。 山上古代建有廟宇， 供奉神祇， 當地人稱呼神祇為“爺”， 爺台即神台， 所以當地人也把這座山叫作爺臺山。
抗日戰爭勝利前夕， 陝甘寧邊區部隊在這裡進行了一次較大規模的自衛反擊戰。 習仲勳參與組織了此次戰鬥。 事情起因是所謂的關中“淳化事件”， 它本來是國民黨內部相互傾軋、鬥爭的結果， 國民黨卻嫁禍於中國共產黨。
關中地區， 是陝甘寧邊區與胡宗南防區交錯分佈的地方。 這裡既包括陝甘寧邊區所轄的關中分區， 也包括國民黨陝西彬洛戰區。 國民黨陝西彬洛戰區專員梁幹喬依仗胡宗南的權勢， 橫徵暴斂， 欺壓百姓， 引起民怨沸騰。 淳化各界群眾向國民黨陝西省政府主席祝紹周告狀， 強烈要求懲治梁幹喬。 梁幹喬是胡宗南的親信，
其實， 這兩件事並不複雜， 陝甘寧邊區也表示願意配合國民黨方面將事件的來龍去脈搞清楚。 然而， 國民黨方面故意歪曲事實， 隱瞞真相， 大造輿論， 攻擊中共策劃這兩起“叛逃”事件， 指責中共破壞抗戰， 企圖以此為由再掀起一輪反共高潮。 胡宗南公然從河南前線、黃河防線及西安等地調集九個師之眾， 向陝甘寧邊區關中分區集結，
為了抗日大局， 中共一再克制。 八路軍總司令朱德、副總司令彭德懷和陝甘寧晉綏聯防軍司令員賀龍等， 先後向蔣介石、胡宗南等發出通電， 要求國民黨當局停止軍事行動。 同時， 籲請組織公正社會團體， 調查“淳化事件”真相， 制止內戰。 雖然中共一再讓步， 但胡宗南部置若罔聞， 加緊向我根據地進犯。
經過反復考慮， 胡宗南最終選擇了爺臺山。 爺臺山是淳耀地區的一個戰略要地， 主峰海拔1313米， 地處關中根據地與國民黨統治區的接合部， 北麓緊鄰耀縣照金革命根據地， 南麓是國民黨統治區。 如果爺臺山失守， 胡宗南部就可順勢攻佔關中門戶淳耀地區， 進入關中分區的腹部， 拿下陝甘寧邊區的南大門關中，
7月21日， 胡宗南部暫編第五十九師、騎兵第二師突然向爺臺山等地發起攻擊。 關中分區保安縱隊和警一旅及新四旅一部英勇自衛， 奮起抵抗， 打敗了敵軍的進攻。 23日， 胡宗南將預備第三師也投入戰場。 我軍官兵頑強抵抗，由於實力懸殊，7月27日，我守軍奉命撤出爺臺山及其以西的41個村莊。胡宗南部隊佔領了陝甘寧邊區寬50公里、縱深10多公里的地方，準備繼續北犯。國民黨軍侵佔爺臺山後，以暫編第五十九師第三團守備，並以8個步兵師、1個騎兵師向淳陽、新寧、新正等地集結，準備對陝甘寧邊區發動全面進攻。
國共全面內戰一觸即發。緊要關頭，毛澤東以兩手對兩手。文的這一手，由《解放日報》在延安，《新華日報》在重慶，連續發表文章，詳細報導爺臺山戰事真相，揭露國民黨的內戰陰謀。中共通電全國，宣佈“淳化事變”真相，呼籲國民黨軍隊立即停止進攻，撤返原防地，要求組織公正的社會調查團體，調查真相，得到全國各界輿論的同情和支持。武的這一手，對於胡宗南部的挑釁，中共決定進行自衛戰。毛澤東點將，決定由張宗遜、習仲勳組織和指揮這場自衛戰。
當時，習仲勳正在延安參加西北黨史座談會。這次座談會是根據毛澤東的指示召開的，得到了朱德、任弼時、陳雲的指導，專門研究和討論西北黨史上的幾個重要問題。習仲勳是陝北根據地的主要領導人之一，是這段歷史的親歷者和見證人，理所當然地要參加這次會議。接到中共中央的緊急命令後，習仲勳立即離開會場，與張宗遜一道來到王家坪，聆聽毛澤東、周恩來、葉劍英的指示。毛澤東說：“胡宗南他們已經戰役展開，問題是大打還是小打，小打就是打爺臺山。大打，要準備他們打到延安。如果我們在爺臺山打贏了，就有可能制止戰爭升級。”中央軍委命令成立爺臺山反擊戰臨時指揮部，任命張宗遜為司令員，習仲勳為政治委員，王世泰、王近山、黃新廷為副司令員，譚政為副政治委員，張經武為參謀長，甘泗淇為政治部主任，並向張宗遜、習仲勳下達作戰命令，要求堅決打敗胡宗南的進攻，奪回失地。
習仲勳是從關中地區走向武裝鬥爭道路的。早在1930年，年僅17歲的習仲勳奉黨組織之命，來到關中地區的長武縣，投入陝西地方武裝畢梅軒部開展兵運工作，在士兵中秘密發展了一批黨的力量。1932年，與劉林圃等在甘肅省兩當縣組織發動兵變，成立紅軍陝甘遊擊隊第五支隊，任隊委書記。兵變失敗後，在劉志丹、謝子長的領導下，投身照金革命根據地的創建，任陝甘邊特委委員、軍委書記，遊擊隊總指揮部政治委員，當選為陝甘邊區革命委員會副主席，兼任黨團書記。1934年11月，在陝甘邊區第一次工農兵代表大會上當選為陝甘邊區蘇維埃政府主席。
習仲勳（右一）
中共中央結束長征到達陝北後，設立了三邊、神府、關中三個特區，其中關中特區下轄淳耀、赤水、永紅、新正、新寧五縣。這些新設縣包括了陝甘兩省接壤的旬邑、淳化、耀縣、宜君、正甯、寧縣所屬的部分平原和廣大山區，是陝甘寧邊區的南大門。中共中央成立了以賈拓夫為書記的關中特委，下轄淳耀、赤水、永紅和甘肅省境內的新正、新寧等五個縣委。1936年初，習仲勳受中央派遣，南下關中。行前，中央軍委副主席周恩來專門約見習仲勳，說：“中央派你去關中特區任蘇維埃政府副主席、黨團書記，任務是發動群眾，擴大和鞏固陝甘蘇區，開展遊擊戰，配合中央整個戰略部署，威脅西安，迎接將要到來的抗日高潮。”習仲勳牢記周恩來的囑託，積極協助賈拓夫，開展統一戰線和武裝鬥爭。4月，國民黨東北軍大舉進攻，關中特區五個縣的蘇維埃政權全部被摧毀，賈拓夫等大部人馬被迫撤回陝北，只留下習仲勳等少數人，組成以習仲勳為書記的關中工委，繼續堅持戰鬥。不久，習仲勳也撤回陝北。
1936年9月下旬，習仲勳再次奉中央之命，南下關中，擔任關中特委書記。中共中央總負責人張聞天約見習仲勳，指示說：“你去先試一試，凡是民團團長都可以搞統一戰線，包括保甲長、聯保主任。”根據這一指示，到達關中後，習仲勳圍繞武裝鬥爭這個中心，開展了卓有成效的工作。很快就成立了關中遊擊隊指揮部，郭炳坤任指揮，習仲勳兼任政委，統一領導關中遊擊隊。習仲勳採取各種靈活措施開展統戰工作，爭取進步、中間的民團、保甲，打擊最反動的少數分子。在習仲勳的努力下，關中特區的革命形勢進入高潮，恢復和擴大了遊擊隊，建有赤水4個支隊，淳耀3個支隊，新正4個支隊，新寧3個支隊，計14個支隊500多人。蘇區得到了恢復與發展，建立了淳耀、赤水、新正、新寧等四個縣蘇維埃政權，全部恢復了黨的工作。
西安事變和平解決後，習仲勳在加強與國民黨的統一戰線工作過程中，顯示出靈活的政治頭腦和高超的工作藝術，始終對潛伏在統一戰線中的矛盾保持高度警惕。他告誡特委的同志們說：“我們大部分區鄉幹部對統一戰線政策瞭解得不正確，一方面認識不足，以為革命成功了，忽視統一戰線中的鬥爭一面；另一方面則對統戰物件仍懷著階級仇恨，不願做統戰工作，不與友方聯合。”他利用統戰工作這個平臺，大力“擴大紅軍，加強整訓”，“大量發展黨的組織”。在他的領導下，通過友好談判，特區與國民黨方面劃分了行政區域界線，簽訂了互不侵犯條約，雙方保持了較長時期的和平共處狀態。特區對於每一個人，每一個派別，每一個社會團體，每一支武裝隊伍，都根據其不同情況，在抗日救國的總方針下，同其接洽、協商、談判，以訂立各種地方的、局部的、暫時的或長久的、成文的或口頭的協定。同當中的一些人、一些單位，建立起各種不同程度的統一戰線關係。許多民團對中共的態度發生重大變化，贊成、支持中共的統一戰線政策。在四個縣的保安團中，除一股頑固的地主武裝反對我們以外，其餘的都與我們建立了統一戰線關係，向我們提供了許多情報和槍支彈藥，一些民團還投奔了蘇區。
抗日戰爭時期，關中分區擔負的反摩擦任務十分繁重。胡宗南在封鎖線上集結了20萬配有精良裝備的正規軍，而關中分區只有保安獨立一營、二營、三營及幾個縣大隊，實力對比猶如雲泥之別。習仲勳運籌帷幄，指揮若定，粉碎了頑軍一次又一次的挑釁和進攻。
擔任中共關中分委書記兼保安司令部政委的習仲勳，在反摩擦鬥爭中採取了三條策略：在任何情況下，都高舉統一戰線和抗戰兩面旗幟，確保我們佔據政治和道義的制高點。以政治進攻為主，在軍事上實行“人不犯我，我不犯人，人若犯我，我必犯人”的自衛原則。盡一切可能爭取同情者，建立廣泛的統一戰線，孤立、打擊反動分子和頑固分子。
幾年間，習仲勳組織關中分區軍民進行了大小數十次反摩擦戰鬥，並取得了勝利。在這一鬥爭中，習仲勳十分講究鬥爭策略和方式，堅持有理、有利、有節，靈活有度，適可而止。1939年1月，國民黨旬邑縣縣長張中堂及國民黨彬縣專員張明經調集保安隊兩三千人，武裝圍攻建在旬邑縣城南土橋鎮的八路軍榮校（殘廢院）。習仲勳指示，榮校撤離土橋鎮，退駐旬邑縣城以北數十裡處的看花宮。5月，該縣保安隊槍殺八路軍榮校出城採購的一名工作人員。榮校代表前往國民黨縣政府請願，保安隊竟然開槍打死代表9名，並和鄰近幾個縣的保安大隊一道圍攻關中分區部隊。關中分區部隊抵抗數日，終因寡不敵眾被迫退出縣城。遠在延安的習仲勳立即趕回關中，研究對策。分區官兵紛紛要求展開反擊。習仲勳耐心地勸說大家，在敵眾我寡的情況下，如果我們武力反擊，一則對我不利，二則為頑固派擴大戰事提供了藉口。我們一定要維護抗日大局，爭取和平解決。習仲勳一方面向中央彙報情況，請求中央援助，一方面給國民黨駐軍寫信，曉之以民族大義。中共中央通電全國，向國民黨方面施加壓力。最後，國民黨方面不得不派人調查處理。
在習仲勳的堅強領導下，關中分區軍民團結一致，群策群力，守住了陝甘寧邊區的南大門。在關中，習仲勳始終走在群眾中，在群眾中獲得了崇高的威望，群眾遇到困難時，總是說：“找仲勳去。”黨組織評價習仲勳是“党的寶貴的群眾領袖”。習仲勳的卓越才華和高超的鬥爭藝術，得到了中共中央、毛澤東的高度認可。1942年2月，中共中央和毛澤東派習仲勳去邊區最大的分區綏德，擔任中共綏德地委書記，保衛邊區的北大門。毛澤東決定對胡宗南部展開反擊時，自然就想到了習仲勳。
張宗遜和習仲勳日夜兼程趕回關中，在馬欄設立爺臺山反擊戰臨時指揮部。根據中央軍委的命令，新編第四旅、教導第一旅、教導第二旅和三五八旅共8個團歸屬張宗遜、習仲勳指揮，參加爺臺山自衛反擊戰。在習仲勳主持下，指揮部召開作戰會議，研究作戰方案。
張宗遜傳達中央軍委命令後，習仲勳發言。他首先分析了當前的形勢。他說：今年5月，國民黨召開六大，竟然聲稱，今天的中心工作在於消滅共產黨！日本是我們國外的敵人，中共是我們國內的敵人！只有消滅中共，才能達成我們的任務。胡宗南侵佔關中，是國民黨發動全面內戰的前奏。只有打敗胡宗南，才能迫使國民黨與我們談判，從而延緩和制止戰爭的爆發。所以，我們別無選擇，只有進行戰爭，才能保衛和平。但是，日本帝國主義還未投降，中日民族矛盾仍然是我國的主要矛盾，抗日仍然是黨的第一位的任務，對胡宗南部的反擊必須在這個大局下進行。胡宗南既有積極反共的一面，也有抗日的一面。接著，習仲勳分析了胡宗南的處境，說：“蔣介石規定了胡宗南的十六字方針，即‘東禦日寇，北制共匪，西防蘇俄，內懾回馬’，重輕次序是東、北、西、內。在各方總的態勢未根本變化的情況下，如果胡宗南與我大打，對我固然不利，對胡宗南也不利，不符合蔣介石規定的十六字方針。”最後，習仲勳提出了自衛反擊戰的策略，即堅持有理、有利、有節原則，對胡宗南採取鬥而不破的方針，對其進行堅決反擊，將其打痛，但又要把戰役控制在一定程度和一定範圍內，不能導致國共合作關係的破裂。
習仲勳的一番話，讓大家認清了形勢，明確了方向，把握了要求。經過熱烈討論，最後，指揮部決定，抓住敵人剛進入爺臺山地區、軍事部署還未完成之機，集中優勢兵力，迅速發起自衛反擊戰，全殲來犯之敵。新四旅五個營配山炮一門擔任主攻，警備第一旅第三團配合，消滅爺臺山、老莊、宋家窪之敵，而後擴大戰果，收復全部被侵佔的村莊；三五八旅為第二梯隊，集結於鳳凰山、照金地區機動，主要任務是隨時支援主攻部隊，並阻擊增援之敵；教導第一、第二旅集結在嶺灣、上畛子地區，為戰役預備隊，並嚴密監視東、西兩面之敵，保障我軍後方安全。
軍事部署完畢之後，習仲勳立即到當地政府與群眾中進行動員。胡宗南部侵佔爺臺山及其附近地區後，燒、殺、搶、掠，無惡不作，激起人民群眾的強烈憤慨。
習仲勳找到關中地委負責同志商定了一個擁軍支前的方案。根據習仲勳意見，關中地委下發《關於保衛關中制止內戰的緊急指示》，要求各地各單位“部隊需要什麼就給什麼，需要多少就送多少”。在關中黨組織帶領下，地方政府及人民群眾積極擁軍參戰，迅速組成“戰地工作團”，負責擔架、運輸、嚮導、籌糧等支前工作，僅赤水縣就動員支前隊員1400多人，出動擔架400多副，籌集軍糧萬餘斤，送軍鞋1萬多雙，為保證反擊戰鬥的勝利，創造了有利條件。
各參戰部隊紛紛趕赴馬欄，迅速完成集結，臨戰準備工作大體完成。習仲勳主持召開軍民動員大會，參加會議的有赤水縣和淳耀縣的領導和群眾代表，還有各參戰部隊。習仲勳進行政治動員。他義憤填膺地說：“同志們，關中根據地是我們用鮮血建立起來的。胡宗南軍不去打日本，屢屢在關中進行挑釁，殘殺根據地軍民，搶劫糧食，姦淫婦女，無惡不作，罪行滔天。是可忍，孰不可忍？”說到激動處，他振臂高呼：“我們一定打敗胡宗南！保衛毛主席！保衛黨中央！”最後，習仲勳對大家提出了明確要求，務必堅決、勇敢地消滅敵人，速戰速決。同時，嚴格執行命令和戰場紀律，不得任意擴大戰事，做到有理、有利、有節。
動員會結束後，張宗遜、習仲勳把指揮部移到距爺臺山10公里的鳳凰山下的兔鹿村，靠前指揮戰鬥。
8月7日，參戰各部隊從馬欄出發，向預定作戰地域前進。8日黃昏，參戰部隊全部進入陣地，做好了戰前的一切準備工作。午夜，司令員張宗遜發佈了總攻令。三顆紅色信號彈劃過夜空，格外醒目。雖然天空下著瓢潑大雨，參戰官兵仍奮不顧身，向敵人發起勇猛攻擊。
國民黨軍侵佔爺臺山後，在山上搶修了大小10多座碉堡和一些掩體、塹壕等工事，其中尤以主峰的碉堡最大、工事最多。爺臺山上駐守的是胡宗南暫編第五十九師第三團的四個步兵連，一個輕機槍連，一個重機槍排。主峰內是暫編第五十九師的所謂“常勝連”——三團二營四連，配備輕重機槍7挺。敵軍居高臨下，憑險據守，從碉堡裡往下猛烈掃射。我軍官兵冒著敵人強大的火力往上沖，前面的戰士倒下了，後面的戰士繼續往上沖。雖然我軍官兵作戰勇敢，但由於敵軍火力十分強大，加上地形對敵有利，我軍進展緩慢。
習仲勳和張宗遜商量後，決定增援主攻部隊。9日淩晨，集結於耀縣照金地區的三五八旅投入戰鬥。旅長黃新廷命令全旅的3門山炮、8門迫擊炮，集中火力向敵軍陣地開炮。
在戰鬥最艱苦的時期，習仲勳冒著生命危險，深入前沿陣地，和官兵們一同戰鬥，極大地鼓舞了我軍士氣。官兵們前仆後繼，向敵人陣地發起更加猛烈的進攻。下午2時，三五八旅八團六連首先攻上主峰。他們搭人梯，從背面登上了爺臺山，與國民黨軍展開了拼刺刀，全殲爺臺山守敵。其他部隊也迅速擴大戰果，收復被占村莊，殘敵倉皇逃出關中根據地。我軍收復了爺臺山等全部失地，全殲入侵的國民黨軍五個連及一個營部，斃傷敵100餘名，俘敵營長以下36名，繳獲輕重機槍19挺及大批彈藥。至此，爺臺山戰鬥以我軍勝利宣告結束。
中共中央接到收復爺臺山的捷報後，立即指示賀龍邀請在西安的美軍調查組前來進行“現場調查”，並通知爺臺山臨時指揮部，做好相應的準備。習仲勳說，我們不僅要打贏軍事仗，還要打贏政治仗。臨時指揮部決定，由擔任爺臺山主攻任務的新四旅十六團團長程悅長陪同美軍調查組。8月12日，由包瑞德上校、西蒙少校、科林少校、卡斯伯格少校等組成的美軍調查組，由楊尚昆等陪同，黃華、馬海德做翻譯，來到爺臺山進行“現場調查”。調查組企圖搜集我軍“破壞抗戰”的罪證。他們在陣地上發現，到處都是國民黨軍敗退後留下的彈殼和彈藥箱，上面一律印著英文字母。我軍特意把繳獲的大量美式武器擺在戰場上。美軍調查組狼狽不堪，在鐵的證據面前，不得不承認，國民黨軍對這次武裝衝突負有責任。胡宗南被迫按照蔣介石的命令，把部隊撤回防地。我軍不僅奪回了失地，而且挫敗了國民黨企圖擴大戰爭的陰謀，贏得了政治上的主動。
就在爺臺山自衛反擊戰結束的當天，毛澤東在延安發表《對日寇的最後一戰》聲明，命令八路軍、新四軍及其他人民武裝力量，在全國範圍內展開反攻，對日軍進行最後一戰。人民軍隊在各個戰場上，以秋風掃落葉之勢，對日偽軍展開了全面的戰略反攻。
1945年8月13日，毛澤東發表《抗日戰爭勝利後的時局和我們的方針》，高度評價爺臺山保衛戰，指出：“不久以前，國民黨調了六個師來打我們關中分區，有三個師打進來了，佔領了寬一百里、長二十裡的地方。我們也照他的辦法，把在這寬一百里、長二十裡地面上的國民黨軍隊，乾淨、徹底、全部消滅之。我們是針鋒相對，寸土必爭，絕不讓國民黨輕輕易易地占我們的地方，殺我們的人。當然，寸土必爭，並不是說要像過去‘左’傾路線那樣‘不放棄根據地的一寸土地’。這一回我們就放棄了寬一百里、長二十裡的地方。七月底放棄，八月初收回。”
8月14日，我軍打掃了戰場，掩埋了犧牲的戰友，召開了追悼會和軍民聯歡晚會，慶祝爺臺山反擊戰的勝利。
我軍官兵頑強抵抗，由於實力懸殊，7月27日，我守軍奉命撤出爺臺山及其以西的41個村莊。胡宗南部隊佔領了陝甘寧邊區寬50公里、縱深10多公里的地方，準備繼續北犯。國民黨軍侵佔爺臺山後，以暫編第五十九師第三團守備，並以8個步兵師、1個騎兵師向淳陽、新寧、新正等地集結，準備對陝甘寧邊區發動全面進攻。國共全面內戰一觸即發。緊要關頭，毛澤東以兩手對兩手。文的這一手，由《解放日報》在延安，《新華日報》在重慶，連續發表文章，詳細報導爺臺山戰事真相，揭露國民黨的內戰陰謀。中共通電全國，宣佈“淳化事變”真相，呼籲國民黨軍隊立即停止進攻，撤返原防地，要求組織公正的社會調查團體，調查真相，得到全國各界輿論的同情和支持。武的這一手，對於胡宗南部的挑釁，中共決定進行自衛戰。毛澤東點將，決定由張宗遜、習仲勳組織和指揮這場自衛戰。
當時，習仲勳正在延安參加西北黨史座談會。這次座談會是根據毛澤東的指示召開的，得到了朱德、任弼時、陳雲的指導，專門研究和討論西北黨史上的幾個重要問題。習仲勳是陝北根據地的主要領導人之一，是這段歷史的親歷者和見證人，理所當然地要參加這次會議。接到中共中央的緊急命令後，習仲勳立即離開會場，與張宗遜一道來到王家坪，聆聽毛澤東、周恩來、葉劍英的指示。毛澤東說：“胡宗南他們已經戰役展開，問題是大打還是小打，小打就是打爺臺山。大打，要準備他們打到延安。如果我們在爺臺山打贏了，就有可能制止戰爭升級。”中央軍委命令成立爺臺山反擊戰臨時指揮部，任命張宗遜為司令員，習仲勳為政治委員，王世泰、王近山、黃新廷為副司令員，譚政為副政治委員，張經武為參謀長，甘泗淇為政治部主任，並向張宗遜、習仲勳下達作戰命令，要求堅決打敗胡宗南的進攻，奪回失地。
習仲勳是從關中地區走向武裝鬥爭道路的。早在1930年，年僅17歲的習仲勳奉黨組織之命，來到關中地區的長武縣，投入陝西地方武裝畢梅軒部開展兵運工作，在士兵中秘密發展了一批黨的力量。1932年，與劉林圃等在甘肅省兩當縣組織發動兵變，成立紅軍陝甘遊擊隊第五支隊，任隊委書記。兵變失敗後，在劉志丹、謝子長的領導下，投身照金革命根據地的創建，任陝甘邊特委委員、軍委書記，遊擊隊總指揮部政治委員，當選為陝甘邊區革命委員會副主席，兼任黨團書記。1934年11月，在陝甘邊區第一次工農兵代表大會上當選為陝甘邊區蘇維埃政府主席。
習仲勳（右一）
中共中央結束長征到達陝北後，設立了三邊、神府、關中三個特區，其中關中特區下轄淳耀、赤水、永紅、新正、新寧五縣。這些新設縣包括了陝甘兩省接壤的旬邑、淳化、耀縣、宜君、正甯、寧縣所屬的部分平原和廣大山區，是陝甘寧邊區的南大門。中共中央成立了以賈拓夫為書記的關中特委，下轄淳耀、赤水、永紅和甘肅省境內的新正、新寧等五個縣委。1936年初，習仲勳受中央派遣，南下關中。行前，中央軍委副主席周恩來專門約見習仲勳，說：“中央派你去關中特區任蘇維埃政府副主席、黨團書記，任務是發動群眾，擴大和鞏固陝甘蘇區，開展遊擊戰，配合中央整個戰略部署，威脅西安，迎接將要到來的抗日高潮。”習仲勳牢記周恩來的囑託，積極協助賈拓夫，開展統一戰線和武裝鬥爭。4月，國民黨東北軍大舉進攻，關中特區五個縣的蘇維埃政權全部被摧毀，賈拓夫等大部人馬被迫撤回陝北，只留下習仲勳等少數人，組成以習仲勳為書記的關中工委，繼續堅持戰鬥。不久，習仲勳也撤回陝北。
1936年9月下旬，習仲勳再次奉中央之命，南下關中，擔任關中特委書記。中共中央總負責人張聞天約見習仲勳，指示說：“你去先試一試，凡是民團團長都可以搞統一戰線，包括保甲長、聯保主任。”根據這一指示，到達關中後，習仲勳圍繞武裝鬥爭這個中心，開展了卓有成效的工作。很快就成立了關中遊擊隊指揮部，郭炳坤任指揮，習仲勳兼任政委，統一領導關中遊擊隊。習仲勳採取各種靈活措施開展統戰工作，爭取進步、中間的民團、保甲，打擊最反動的少數分子。在習仲勳的努力下，關中特區的革命形勢進入高潮，恢復和擴大了遊擊隊，建有赤水4個支隊，淳耀3個支隊，新正4個支隊，新寧3個支隊，計14個支隊500多人。蘇區得到了恢復與發展，建立了淳耀、赤水、新正、新寧等四個縣蘇維埃政權，全部恢復了黨的工作。
西安事變和平解決後，習仲勳在加強與國民黨的統一戰線工作過程中，顯示出靈活的政治頭腦和高超的工作藝術，始終對潛伏在統一戰線中的矛盾保持高度警惕。他告誡特委的同志們說：“我們大部分區鄉幹部對統一戰線政策瞭解得不正確，一方面認識不足，以為革命成功了，忽視統一戰線中的鬥爭一面；另一方面則對統戰物件仍懷著階級仇恨，不願做統戰工作，不與友方聯合。”他利用統戰工作這個平臺，大力“擴大紅軍，加強整訓”，“大量發展黨的組織”。在他的領導下，通過友好談判，特區與國民黨方面劃分了行政區域界線，簽訂了互不侵犯條約，雙方保持了較長時期的和平共處狀態。特區對於每一個人，每一個派別，每一個社會團體，每一支武裝隊伍，都根據其不同情況，在抗日救國的總方針下，同其接洽、協商、談判，以訂立各種地方的、局部的、暫時的或長久的、成文的或口頭的協定。同當中的一些人、一些單位，建立起各種不同程度的統一戰線關係。許多民團對中共的態度發生重大變化，贊成、支持中共的統一戰線政策。在四個縣的保安團中，除一股頑固的地主武裝反對我們以外，其餘的都與我們建立了統一戰線關係，向我們提供了許多情報和槍支彈藥，一些民團還投奔了蘇區。
抗日戰爭時期，關中分區擔負的反摩擦任務十分繁重。胡宗南在封鎖線上集結了20萬配有精良裝備的正規軍，而關中分區只有保安獨立一營、二營、三營及幾個縣大隊，實力對比猶如雲泥之別。習仲勳運籌帷幄，指揮若定，粉碎了頑軍一次又一次的挑釁和進攻。
擔任中共關中分委書記兼保安司令部政委的習仲勳，在反摩擦鬥爭中採取了三條策略：在任何情況下，都高舉統一戰線和抗戰兩面旗幟，確保我們佔據政治和道義的制高點。以政治進攻為主，在軍事上實行“人不犯我，我不犯人，人若犯我，我必犯人”的自衛原則。盡一切可能爭取同情者，建立廣泛的統一戰線，孤立、打擊反動分子和頑固分子。
幾年間，習仲勳組織關中分區軍民進行了大小數十次反摩擦戰鬥，並取得了勝利。在這一鬥爭中，習仲勳十分講究鬥爭策略和方式，堅持有理、有利、有節，靈活有度，適可而止。1939年1月，國民黨旬邑縣縣長張中堂及國民黨彬縣專員張明經調集保安隊兩三千人，武裝圍攻建在旬邑縣城南土橋鎮的八路軍榮校（殘廢院）。習仲勳指示，榮校撤離土橋鎮，退駐旬邑縣城以北數十裡處的看花宮。5月，該縣保安隊槍殺八路軍榮校出城採購的一名工作人員。榮校代表前往國民黨縣政府請願，保安隊竟然開槍打死代表9名，並和鄰近幾個縣的保安大隊一道圍攻關中分區部隊。關中分區部隊抵抗數日，終因寡不敵眾被迫退出縣城。遠在延安的習仲勳立即趕回關中，研究對策。分區官兵紛紛要求展開反擊。習仲勳耐心地勸說大家，在敵眾我寡的情況下，如果我們武力反擊，一則對我不利，二則為頑固派擴大戰事提供了藉口。我們一定要維護抗日大局，爭取和平解決。習仲勳一方面向中央彙報情況，請求中央援助，一方面給國民黨駐軍寫信，曉之以民族大義。中共中央通電全國，向國民黨方面施加壓力。最後，國民黨方面不得不派人調查處理。
在習仲勳的堅強領導下，關中分區軍民團結一致，群策群力，守住了陝甘寧邊區的南大門。在關中，習仲勳始終走在群眾中，在群眾中獲得了崇高的威望，群眾遇到困難時，總是說：“找仲勳去。”黨組織評價習仲勳是“党的寶貴的群眾領袖”。習仲勳的卓越才華和高超的鬥爭藝術，得到了中共中央、毛澤東的高度認可。1942年2月，中共中央和毛澤東派習仲勳去邊區最大的分區綏德，擔任中共綏德地委書記，保衛邊區的北大門。毛澤東決定對胡宗南部展開反擊時，自然就想到了習仲勳。
張宗遜和習仲勳日夜兼程趕回關中，在馬欄設立爺臺山反擊戰臨時指揮部。根據中央軍委的命令，新編第四旅、教導第一旅、教導第二旅和三五八旅共8個團歸屬張宗遜、習仲勳指揮，參加爺臺山自衛反擊戰。在習仲勳主持下，指揮部召開作戰會議，研究作戰方案。
張宗遜傳達中央軍委命令後，習仲勳發言。他首先分析了當前的形勢。他說：今年5月，國民黨召開六大，竟然聲稱，今天的中心工作在於消滅共產黨！日本是我們國外的敵人，中共是我們國內的敵人！只有消滅中共，才能達成我們的任務。胡宗南侵佔關中，是國民黨發動全面內戰的前奏。只有打敗胡宗南，才能迫使國民黨與我們談判，從而延緩和制止戰爭的爆發。所以，我們別無選擇，只有進行戰爭，才能保衛和平。但是，日本帝國主義還未投降，中日民族矛盾仍然是我國的主要矛盾，抗日仍然是黨的第一位的任務，對胡宗南部的反擊必須在這個大局下進行。胡宗南既有積極反共的一面，也有抗日的一面。接著，習仲勳分析了胡宗南的處境，說：“蔣介石規定了胡宗南的十六字方針，即‘東禦日寇，北制共匪，西防蘇俄，內懾回馬’，重輕次序是東、北、西、內。在各方總的態勢未根本變化的情況下，如果胡宗南與我大打，對我固然不利，對胡宗南也不利，不符合蔣介石規定的十六字方針。”最後，習仲勳提出了自衛反擊戰的策略，即堅持有理、有利、有節原則，對胡宗南採取鬥而不破的方針，對其進行堅決反擊，將其打痛，但又要把戰役控制在一定程度和一定範圍內，不能導致國共合作關係的破裂。
習仲勳的一番話，讓大家認清了形勢，明確了方向，把握了要求。經過熱烈討論，最後，指揮部決定，抓住敵人剛進入爺臺山地區、軍事部署還未完成之機，集中優勢兵力，迅速發起自衛反擊戰，全殲來犯之敵。新四旅五個營配山炮一門擔任主攻，警備第一旅第三團配合，消滅爺臺山、老莊、宋家窪之敵，而後擴大戰果，收復全部被侵佔的村莊；三五八旅為第二梯隊，集結於鳳凰山、照金地區機動，主要任務是隨時支援主攻部隊，並阻擊增援之敵；教導第一、第二旅集結在嶺灣、上畛子地區，為戰役預備隊，並嚴密監視東、西兩面之敵，保障我軍後方安全。
軍事部署完畢之後，習仲勳立即到當地政府與群眾中進行動員。胡宗南部侵佔爺臺山及其附近地區後，燒、殺、搶、掠，無惡不作，激起人民群眾的強烈憤慨。
習仲勳找到關中地委負責同志商定了一個擁軍支前的方案。根據習仲勳意見，關中地委下發《關於保衛關中制止內戰的緊急指示》，要求各地各單位“部隊需要什麼就給什麼，需要多少就送多少”。在關中黨組織帶領下，地方政府及人民群眾積極擁軍參戰，迅速組成“戰地工作團”，負責擔架、運輸、嚮導、籌糧等支前工作，僅赤水縣就動員支前隊員1400多人，出動擔架400多副，籌集軍糧萬餘斤，送軍鞋1萬多雙，為保證反擊戰鬥的勝利，創造了有利條件。
各參戰部隊紛紛趕赴馬欄，迅速完成集結，臨戰準備工作大體完成。習仲勳主持召開軍民動員大會，參加會議的有赤水縣和淳耀縣的領導和群眾代表，還有各參戰部隊。習仲勳進行政治動員。他義憤填膺地說：“同志們，關中根據地是我們用鮮血建立起來的。胡宗南軍不去打日本，屢屢在關中進行挑釁，殘殺根據地軍民，搶劫糧食，姦淫婦女，無惡不作，罪行滔天。是可忍，孰不可忍？”說到激動處，他振臂高呼：“我們一定打敗胡宗南！保衛毛主席！保衛黨中央！”最後，習仲勳對大家提出了明確要求，務必堅決、勇敢地消滅敵人，速戰速決。同時，嚴格執行命令和戰場紀律，不得任意擴大戰事，做到有理、有利、有節。
動員會結束後，張宗遜、習仲勳把指揮部移到距爺臺山10公里的鳳凰山下的兔鹿村，靠前指揮戰鬥。
8月7日，參戰各部隊從馬欄出發，向預定作戰地域前進。8日黃昏，參戰部隊全部進入陣地，做好了戰前的一切準備工作。午夜，司令員張宗遜發佈了總攻令。三顆紅色信號彈劃過夜空，格外醒目。雖然天空下著瓢潑大雨，參戰官兵仍奮不顧身，向敵人發起勇猛攻擊。
國民黨軍侵佔爺臺山後，在山上搶修了大小10多座碉堡和一些掩體、塹壕等工事，其中尤以主峰的碉堡最大、工事最多。爺臺山上駐守的是胡宗南暫編第五十九師第三團的四個步兵連，一個輕機槍連，一個重機槍排。主峰內是暫編第五十九師的所謂“常勝連”——三團二營四連，配備輕重機槍7挺。敵軍居高臨下，憑險據守，從碉堡裡往下猛烈掃射。我軍官兵冒著敵人強大的火力往上沖，前面的戰士倒下了，後面的戰士繼續往上沖。雖然我軍官兵作戰勇敢，但由於敵軍火力十分強大，加上地形對敵有利，我軍進展緩慢。
習仲勳和張宗遜商量後，決定增援主攻部隊。9日淩晨，集結於耀縣照金地區的三五八旅投入戰鬥。旅長黃新廷命令全旅的3門山炮、8門迫擊炮，集中火力向敵軍陣地開炮。
在戰鬥最艱苦的時期，習仲勳冒著生命危險，深入前沿陣地，和官兵們一同戰鬥，極大地鼓舞了我軍士氣。官兵們前仆後繼，向敵人陣地發起更加猛烈的進攻。下午2時，三五八旅八團六連首先攻上主峰。他們搭人梯，從背面登上了爺臺山，與國民黨軍展開了拼刺刀，全殲爺臺山守敵。其他部隊也迅速擴大戰果，收復被占村莊，殘敵倉皇逃出關中根據地。我軍收復了爺臺山等全部失地，全殲入侵的國民黨軍五個連及一個營部，斃傷敵100餘名，俘敵營長以下36名，繳獲輕重機槍19挺及大批彈藥。至此，爺臺山戰鬥以我軍勝利宣告結束。
中共中央接到收復爺臺山的捷報後，立即指示賀龍邀請在西安的美軍調查組前來進行“現場調查”，並通知爺臺山臨時指揮部，做好相應的準備。習仲勳說，我們不僅要打贏軍事仗，還要打贏政治仗。臨時指揮部決定，由擔任爺臺山主攻任務的新四旅十六團團長程悅長陪同美軍調查組。8月12日，由包瑞德上校、西蒙少校、科林少校、卡斯伯格少校等組成的美軍調查組，由楊尚昆等陪同，黃華、馬海德做翻譯，來到爺臺山進行“現場調查”。調查組企圖搜集我軍“破壞抗戰”的罪證。他們在陣地上發現，到處都是國民黨軍敗退後留下的彈殼和彈藥箱，上面一律印著英文字母。我軍特意把繳獲的大量美式武器擺在戰場上。美軍調查組狼狽不堪，在鐵的證據面前，不得不承認，國民黨軍對這次武裝衝突負有責任。胡宗南被迫按照蔣介石的命令，把部隊撤回防地。我軍不僅奪回了失地，而且挫敗了國民黨企圖擴大戰爭的陰謀，贏得了政治上的主動。
就在爺臺山自衛反擊戰結束的當天，毛澤東在延安發表《對日寇的最後一戰》聲明，命令八路軍、新四軍及其他人民武裝力量，在全國範圍內展開反攻，對日軍進行最後一戰。人民軍隊在各個戰場上，以秋風掃落葉之勢，對日偽軍展開了全面的戰略反攻。
1945年8月13日，毛澤東發表《抗日戰爭勝利後的時局和我們的方針》，高度評價爺臺山保衛戰，指出：“不久以前，國民黨調了六個師來打我們關中分區，有三個師打進來了，佔領了寬一百里、長二十裡的地方。我們也照他的辦法，把在這寬一百里、長二十裡地面上的國民黨軍隊，乾淨、徹底、全部消滅之。我們是針鋒相對，寸土必爭，絕不讓國民黨輕輕易易地占我們的地方，殺我們的人。當然，寸土必爭，並不是說要像過去‘左’傾路線那樣‘不放棄根據地的一寸土地’。這一回我們就放棄了寬一百里、長二十裡的地方。七月底放棄，八月初收回。”
8月14日，我軍打掃了戰場，掩埋了犧牲的戰友，召開了追悼會和軍民聯歡晚會，慶祝爺臺山反擊戰的勝利。