Judon perustaja Jigoro Kano (1860-1938) syntyi Mikagen kylässä lähellä Koben kaupunkia. Hän aloitti vuonna 1877 opinnot Tokion Keisarillisessa yliopistossa kirjallisuudessa, valtiotieteessä ja kansantaloustieteessä, mutta vaihtoi sitten kasvatustieteeseen, jossa lopulta väitteli tohtoriksi. Kano toimi myöhemmin Japanin Amatööriurheiluliiton puheenjohtajana, ministerinä ja Kansainvälisen Olympiakomitean jäsenenä.
Samaan aikaan, kun Kano kirjoittautui yliopistoon, hän liittyi oppilaaksi arvostettuun ju-jutsukouluun. Koulun mestarit Hachinosuke Fukuda ja Masatomo Iso huomasivat oppilaansa lahjakkuuden ja ahkeruuden, ja molemmat jättivät kuollessaan Kanolle sukunsa salaiset ju-jutsua koskevat kirjoitukset. Kano oli nyt koulun mestari, mutta hän opiskeli vielä useissa erityylisissä ju-jutsukouluissa, kunnes mestari Tsunetoshi Jikudo joutui tunnustamaan, että hänellä ei ollut Kanolle enää mitään opetettavaa.
Vuonna 1882 Kano vuokrasi neljä huonetta Eisho-jin temppelistä ja perusti oman dojon (harjoitussali), jossa hän alkoi opettaa Kodokan judo nimistä lajia (Kodokan = paikka jossa opiskellaan tietä). Judossa päätavoitteena oli henkinen kasvu, eikä tappavan taistelutaidon kehittäminen kuten perinteisissä taistelulajeissa. Kano jätti pois vastustajaa vahingoittavat ju-jutsu tekniikat ja kehitti uusia liikkeitä. Tavoitteena oli luoda liikuntamuoto, jolla olisi itsepuolustuksellista ja kasvatuksellista merkitystä.
Ylevät periaatteet judossa herättivät kunnioitusta, mutta lajin tehokkuutta epäiltiin. Vuonna 1886 Japanissa etsittiin poliiseille sopivaa kamppailulajia ja haluttiin selvittää mikä laji on paras. Järjestettiin ottelu kuuluisan ju-jutsukoulun ja Kodokan judon välillä. Molemmat asettivat 15 parasta oppilastaan kilpailuun. Kodokan saavutti 13 voittoa ja kaksi tasapeliä.
Judosta tuli näin poliisien laji ja pian pakollinen aine kouluissa. Judo levisi pian Eurooppaan ja Yhdysvaltoihin, jossa lajia harjoiteltiin ensimmäisen kerran vuonna 1903. Lontooseen perustettiin ensimmäinen judoseura vuonna 1918. Suomeen judon toi Japanin lähetystösihteeri Shigemi Tagami 1950-luvulla. Suomen Judoliitto perustettiin 1958. Judo oli ensimmäistä kertaa Olympialaisten ohjelmassa Tokiossa 1964.
