O spôsobe boja Ju-Jitsu existovali zmienky v starej japonskej mytológii už pred 2000 rokmi. Začiatok moderného Ju-Jitsu sa traduje medzi 8. a 16. storočím nášho letopočtu.

V týchto časoch bolo Japonsko zmietané neustálymi občianskymi vojnami. Ju-Jitsu bolo bojovým umením japonskej triedy bojovníkov Buhi, ktorá zahrňovala aj slávnych samurajov. Samuraji sa obracali k Ju-Jitsu, keď prišli o svoj meč v boji, alebo keď boli zastihnutí bez neho. Bol to spôsob neozbrojeného boja, ale využival v prípade potreby aj zbrane (nôž, palicu a iné).