1920年的直皖戰爭, 以直系軍閥的速勝而告終。 吳佩孚是直皖戰爭倒皖的急先鋒, 戰爭的勝利, 讓吳佩孚在政治上、輿論上成為“中國當代第一號人物”。 吳佩孚為此飄飄然, 自以為成為不可一世的風雲人物, 從而在戰後提出了許多政治主張。
然而, 以直皖戰爭為藉口大舉入關的奉系張作霖卻不把吳佩孚放在眼裡, 北洋政府總統徐世昌等從自身權勢考慮, 對吳佩孚進行排斥, 就連新任直系軍閥頭領、吳的老上司曹錕, 也對吳的“武力統一”加以否認, 吳佩孚見狀, 便決定駐節洛陽, 專事練兵, “未雨綢繆, 預為準備”。
洛陽是中國九朝古都, 軍事重地, 交通發達。 中華民國成立後, 袁世凱曾在洛陽建了一座中西合璧的陸軍大營房, 張勳、張敬堯等也都先後在此駐紮過軍隊和訓練士兵。 洛陽附近的鞏縣設有兵工廠;又有京漢、津浦、隴海三條鐵路, 交通可通武漢、南京兩大兵工廠, 可以為練兵提供武器槍械, 具有很大的便利條件。
吳佩孚首先成立了治軍機關———教育處, 責成李成霖擬定了教育計畫。 他從其第三師步兵第十二標(團)訓練入手, 以一班12人為單位, 全師步、騎、炮、輜重、電信、鐵道、艦空諸隊最滿定員為1.2萬人。 再將幼年兵團1000人擴充為一旅6000人, 合計為1.8萬人。 在訓練中, 該團的一切設備、給養十分完備, 採取封閉式訓練, 不許外人參觀。
在小範圍軍事訓練成功的基礎上,
吳佩孚還組織所謂有1500人的“幼年兵團”參加訓練。 幼年兵團學員為全國各省招收的10歲至15歲的青少年學生。
吳佩孚還重視現代軍事技術的培養應用。
從1920年至1924年, 吳佩孚在洛陽編練的軍隊計有5個正規師、兩個非正規師, 號稱練兵10萬。 通過洛陽練兵, 吳佩孚掌握了一支訓練有素的部隊, 為此後搶佔地盤, 將陝西、兩湖、河南等省納入直系控制之下, 打贏第一次直奉戰爭打下了堅實基礎。