
La classe de guerriers professionnels du Japon, constituée d'archers montés sur des étalons, trouve son origine dans la volonté de l'empereur Kammu de conquérir des terres des Aïnus à la fin de la période Nara.
Jusque là, le Japon disposait d'une armée basée sur la conscription, inspirée du modèle chinois. Les hommes âgés de vingt à trente ans étaient conscrits, répartis en autant de gunki (corps de mille soldats et officiers) qu'il y avait de provinces et attachés au service du kokushi (gouverneur de la province).
Ce système se révéla totalement inefficace pour lutter contre les « barbares » Aïnus, redoutables cavaliers. L'empereur décida en 792 de le dissoudre pour mettre en place un nouveau système appelé kondeisei. Le Kondesei avait l'avantage de réduire le poids du service militaire chez les paysans (sur qui reposait l'économie) puisqu'il était constitué de jeunes cavaliers-archers issus de milieux plus aisés. Cette milice, formée de 3964 hommes commença à tomber en désuétude au Xème siècle, mais on ne peut affirmer qu'elle soit à l'origine des premiers samouraïs, apparus à cette époque.
L'ère Heian est pour la cour impériale une période de paix et de prospérité. Les provinces, en revanche, étaient secouées de révoltes paysannes dues aux lourds impôts, réprimées par les kokushi (gouverneurs de provinces nommés par le gouvernement impérial). Les petits fermiers se placèrent sous la protection de puissantes familles de propriétaires terriens, qui de ce fait s'enrichirent et furent bientôt en mesure de recruter des armées privées, constituées de guerriers professionnels mais aussi de simples civils (paysans, artisans, citadins).
Ces armées conféraient une certaine puissance et une indépendance grandissante à ces propriétaires terriens, riches mais dénigrés par l'aristocratie de Kyōto, et leur permettait de défendre leurs terres contre les menaces diverses, mais aussi de s'étendre aux dépends de leurs voisins. De plus, certains tentaient de se dégager de la tutelle du gouvernement central, ce qui provoqua des révoltes auxquels prirent part certains des premiers gouvernements samouraïs.
Premières rébellions
En 935, Tairano Masakado, gouverneur de la province de Shimosa, tua son oncle Kunika et rallia à lui de nombreux guerriers, gagnant ainsi le contrôle de la quasi-totalité du Kantō et s'autoproclama empereur en 939. La même année, sur les côtes de la mer intérieure, Fujiwara no Sumitomo rassembla des wako (pirates) et se révolta également.
Le gouvernement n'eut pas de mal à réprimer ces premières révoltes samouraïs, se contentant d'engager d'autres clans pour lutter contre les premiers.
En 1028, Tairo no Tadatsune se révolta également et prit le contrôle du Kanto. La cour tarda alors à réagir, les forces impériales étaient trop faibles pour intervenir efficacement contre lui. Au bout de quatre mois, cependant, la cour envoya contre lui Taira no Naokata, qui fut vaincu. En 1031, Minamoto no Yorinobu se joignit aux forces de pacification impériale, obligea Tadatsune à se rendre, et prit le contrôle du Kantō.
Par la suite, les familles de samouraïs les plus influentes, notamment les Taira et les Minamoto, furent appelées à la cour pour assurer la sécurité de l'empereur et de l'aristocratie, avec qui ils tissèrent peu à peu des liens, bien que gardant un statut très bas. Les joko, notamment, s'entouraient de gardes du corps samouraïs à demeure dans son palais, les hokumen no bushi (ce qu'on peut traduire par « samouraïs du côté nord ».)
Dans les provinces du Tohoku, la partie nord de l'île de Honshū, plus récemment colonisées et loin de la capitale, des seigneurs tentaient d'échapper à l'influence de la cour. En1051, Abe no Yoritoki se souleva et la province de Mutsu fut secouée par les affrontements de la première guerre de neuf ans, qui dura en réalité jusqu'en 1062, le général des forces impériales, Minamoto no Yoriyoshi (fils de Yorinobu) ayant fait appel au clan Hiyohara de la province de Dewa. La cour attribua les biens du clan Abe à ces derniers, et lorsqu'en 1083 Minamoto no Yoshiie, fils de Yoriyoshi, fut nommé juge dans une querelle interne des Kiyohara, il en profita pour les détruire au cours de ce qu'on appelle la seconde guerre de trois ans. Estimant qu'il avait agi pour des raisons personnelles, la cour refusa de lui attribuer une récompense et il dut prélever des parcelles sur son propre domaine pour payer ses hommes. Cet acte qui le rendit très populaire et de nombreuses familles de samouraïs se mirent à son service.
Ces premières rébellions samouraïs, actions isolées et menées loin de la cour eurent au final peu d'impact dans l'arrivée au pouvoir à la fin du XIIème siècle. En revanche, les clans de samouraïs présents à la cour tirèrent parti de la lutte de pouvoir entre l'empereur Go Shirikawa et l'empereur retiré Sutoku en 1156. À l'issue de ce qui est connu comme la rébellion de Hogen, l'influence des régents Fujiwara diminua considérablement et les clans Taira et Minamoto parvinrent à gagner des positions importantes à la cour.
En 1159, lorsque Minamoto no Yoshitomo et Fujiwara no Nobuyori tentèrent un coup d'État connu sous le nom de rébellion de Heiji, Taira no Kyomori écrasa les Minamoto, massacrant une bonne partie du clan et entama une ascension qui l'amena en 1167 au poste de dajō-daijin, premier ministre.
Cependant, en 1180 éclata la guerre de Gempei, une guerre de succession au trône impérial, les Minamoto reconstitués soutenant un candidat différent de celui des Taira. Au terme de cinq ans de guerre, les Taira furent finalement éliminés et Minamoto no Yoritomo mit en place le premier bakufu, avant d'être nommé shogun en 1192. Pour la première fois, le Japon était dirigé par des samouraïs, et le resta jusqu'en 1868.
Avec la pacification de la période Edo, la fonction combattante des guerriers diminue et ceux-ci deviennent des fonctionnaires. Ils vont laisser le côté guerrier pour les cérémonies, et commencer à s'intéresser aux arts (surtout l'écriture). Néanmoins, peut-être pour se redonner de la valeur, ils vont codifier des règles très strictes de leur caste, sous le nom de Bushido (voie du guerrier). Le suicide rituel du seppuku — aussi connu sous le nom d'Hara-Kiri (littéralement « ouvrir le ventre " ) — devra être interdit à certaines périodes par le shogun (dictateur militaire du Japon). En effet, pour sauvegarder son honneur, un samouraï devait se faire seppuku s'il arrivait malheur à son maître, à sa famille, ou simplement s'il avait fait une faute grave, son seigneur pouvait lui commander à n'importe quel moment le seppuku s'il ne s'estimait pas satisfait. Ce rite provoquait parfois des ravages dans les rangs des samouraïs.