在中國， 軍訓最早可追溯至夏商時期。 根據記載， 在商代， 由於諸侯間戰爭增多， 統治者對軍事訓練日益重視， 除了對正規軍隊進行訓練外， 還通過學校對各級貴族進行軍事教育。 從西周開始， 官學分“國學”與“鄉學”， 並有“小學”和“大學”兩級。
大學學六藝， 禮、樂、射、禦、書、數， 其中的射、禦， 即為古代的軍訓， 教師一般直接由軍官擔任。
春秋時期尚武， 但凡讀書人都得學騎馬射箭， 就連孔子的“民辦學校”私學也很重視軍訓。 孔子說， “射禦足力則賢”， 把軍事技能優劣， 視為一個人賢能與否的標誌， 認為“以不教民戰， 是謂棄之”。
他認為讀書人就該文武兼修， 後來秦漢以後， 儒家成為正統， 六藝也變為六經， 軍訓教育漸漸不行。
到了王莽新朝， 每年春秋之際， 經學家劉昆都會帶領五百多名弟子習武， 以至於王莽以為他要造反， 把他及家屬都關了起來。
隋朝時更是開始“偃武修文”大力削減武力裝備， 國家教育重點由學武轉為修文， 科舉也逐漸開始成為主流。 但唐太宗李世民于貞觀元年(627年)曾說：“朕雖以武功定天下， 終當以文德綏海內。 ” 唐朝的取士之法仍偏科舉， 學校淪為科舉附屬品， 軍訓廢止。