西元7世紀的“大化改新”後，日本社會武力爭奪土地資源與政治權力的鬥爭日益激烈，武士階層逐漸形成。11世紀末，日本封建領主源義家擔任陸奧守時，曾平定當地一次內亂。源義向朝廷請功，
遭到拒絕。源義家便自行對家臣論功行賞。這個舉動贏得了人心，關東(今東京一帶)武士紛紛投靠他，與其結成主從關係。從此，武士階層的基礎在日本正式形成。久而久之，這種武士階層的思維、道德和行為規範逐漸形成了“武士道”。它驅使武士以效忠和服從主君為首要義務，為主君殺伐征戰、攻城掠地，是典型的殺人與戰爭之道。
12世紀末，鐮倉幕府成立後，設立禦家人制度，進一步以儀式和法律形式確立主從關係，武士的政治地位開始上升，武家政治制度也隨之強化，儒學、禪宗佛教和神道教等思想開始成為銘刻在武士心靈深處的法典。此時的武士道同樣是以殺人為目的的戰爭之道，但是，它更強調獻身精神和禮儀。
最典型的是，死的傾向被美化，切腹自殺成為“光榮的解脫法”。當時對切腹的崇尚已到了瘋狂的境地，以至於在切腹的體位和方法上還有多種區別。另外，還有更殘忍的殉死切腹，少則數人，多則上百人。江戶時代前，武士的公務以軍役為中心，在戰場上建功立業。江戶時代的200多年間，實質性的戰鬥已經消失，武士作為戰鬥者的角色形式化，主要公務轉化為行政事務。
武士道的基本內容轉化為忠誠、武勇、名譽、服從、義、儉樸、禮儀、勤學等。當然，這些無一不是旨在強化武家政治和主從關係，無一不是武士經濟生活與職責義務的需要，無一不是在培養為主君建功立業的技能和“品格”。其中，“忠誠”是核心和靈魂，起統帥作用。
這種“忠誠”表現為日益濃烈、盲目狹隘的復仇主義。影響最深遠的就是“赤穗47浪人”復仇事件。1701年，江戶城的義央污辱了播州赤穗城城主淺野內匠頭長矩，長矩自殺。淺野的47名家臣成為浪人，又合謀殺死義央，然後自殺殉主。這一赤穗事件成為日本歷代各種文學體裁競相表現的“忠臣藏”主題。事實上，從明治維新以來，日本軍國主義者以武士道為精神支柱和戰爭工具，不遺餘力地對外侵略、掠奪，
獲得的巨大賠款和殖民地收益，極大地加快了日本現代化的發展步伐。當前，日本式企業經營方式的三大法寶——終身雇用制、年功序列制和企業內工會，即“勞資命運共同體”，就是直接來源於武家社會“君臣一體”家族觀念中的傳統模式。這足可見武士道對日本的影響之深。