In de jaren dertig werd Imi geconfronteerd met antisemitisme in de stad Bratislava, Slowakije en het geweld dat daarmee gepaard ging. Er verschenen fascistische en antisemitische bolwerken die tot doel hadden chaos teweeg te brengen en de joodse gemeenschap van de stad te verdrijven. Deze groepen reageerden hun woede met extreem geweld af op de Joodse gemeenschap. Zelfverdediging tegen deze groepen werd een bittere noodzaak. Imi en andere jongeren organiseerden eigen groepen met als doel de Joodse gemeenschap te beschermen, een groep waarvan de meeste zich hadden bekwaamd in boksen en worstelen. Deze groep probeerden de antisemitische bendes buiten de Joodse woonwijk te houden.
Ondanks zijn ervaring met vele vechtsporten, ontdekte Imi dat er een groot verschil is tussen een vechtsport en een echt straatgevecht. Vechtsporten bleken in de praktijk niet effectief te zijn om jezelf te verdedigen. De noodzaak om zelfverdedigingstechnieken te ontwikkelen was geboren. Dit was de start van het latere Krav Maga.
Imi leerde dat zelfverdediging snel en eenvoudig moest zijn en gebruikte de natuurlijke en instinctieve reacties om zichzelf te verdedigen. Iedereen heeft een natuurlijke reactie als hij of zij onder hevige stress komt te staan. Deze reactie gebruikte Imi als basis voor een techniek, deze techniek is daardoor makkelijker te onthouden en toe te passen.
Vanaf 1944 onderwees Imi mensen van de Hagana en Palmach in de zaken waarin hij vaardig was, zoals worstelen en zwemmen. In 1948, toen de staat Israël werd gesticht, werd hij hoofdinstructeur voor Krav Maga aan het instituut voor fysieke training van het Israëlische defensieleger. Later werd de zelfverdedigingskunst meer afgestemd op burgers. In latere jaren kreeg Krav Maga steeds meer een internationaal karakter, met scholen in diverse landen, waaronder Nederland en België.
Kenmerkend voor Krav Maga is dat training vaak plaatsvindt met zeer uiteenlopende realistische situaties, zoals berovingen (denk aan geldautomaten), bedreiging met een vuurwapen of mes, aanvallen door meerdere personen tegelijk, enzovoorts. Ook kan er op verschillende locaties getraind worden, behalve in de vaste trainingsruimte kan er ook gekozen worden voor overvallen in een auto, bedreigingen in een zwembad of vliegtuig.
Grootmeester Imi Sde-Or overleed in januari 1998