Gdy niemieckie wojska wkroczyły do Kijowa we wrześniu 1941 roku, miasto było już prawie puste i zniszczone. Zostało w nim około 60 tysięcy Żydów. Niemcy rozkleili na murach ogłoszenia, w których wzywano ludność żydowską do stawienia się w określonym miejscu rzekomo w celu przesiedlenia. Choć spodziewano się około 56 tysięcy osób, przyszło ponad 30 tysięcy.
Ludzie do ostatniej chwili wierzyli w przesiedlenie – tak sprytnie zorganizowano całą akcję. Gdy kolumny dotarły do wąwozu Babi Jar, oszustwo stało się jasne. Strażnicy krzyczeli, psy szczekały, a ludzi zmuszano do rozebrania się. Później prowadzono ich do wąwozu o długości około 150 metrów, szerokości 30 metrów i głębokości 15 metrów.
Na dnie czekali członkowie oddziałów egzekucyjnych. Rozstrzeliwano ich jeden po drugim, a zwłoki układano w warstwach. Świadek wspominał, że strzelcy stali na ciałach już zabitych i strzelali do kolejnych ofiar, które kładły się na martwych. Niektórzy błagali o litość, inni w milczeniu rozbierali się i schodzili do rowu.
Dzieci wołały „Mamo, mamo! ”. Wśród ofiar było wielu intelektualistów, lekarzy, inżynierów, artystów – cała kijowska inteligencja żydowska. Do dziś znanych jest co najmniej 29 ocalałych.
Raporty wysyłane do Berlina brzmiały jak wojskowe podsumowania. Żołnierze i policjanci ładowali na ciężarówki dobytek zamordowanych – pieniądze, buty, ubrania – i wysyłali je do magazynów, skąd trafiały między innymi do armii niemieckiej walczącej na wschodzie. Niektórych ofiar nie rozstrzeliwano – wrzucano ich żywcem do dołów. Szacuje się, że podczas okupacji nazistowskiej w Babim Jarze zamordowano łącznie od 100 do 150 tysięcy osób.
Była to jedna z największych masowych egzekucji podczas II wojny światowej. Po wojnie do Kijowa wrócił Paul Blobel, aby poprowadzić tajną operację „1005”. Polegała ona na ekshumacji i spaleniu ciał z masowych grobów w całej Europie Wschodniej. W Babim Jarze około 300 więźniów z pobliskiego obozu koncentracyjnego w Syrcu zmuszono do wykopania rozkładających się zwłok, ułożenia ich w stosy i spalenia.
W ten sposób Niemcy próbowali zatrzeć ślady zbrodni. 29 stycznia 1946 roku na dzisiejszym Placu Niepodległości w Kijowie zgromadziło się około 200 tysięcy osób, aby zobaczyć egzekucję mężczyzn odpowiedzialnych za śmierć ponad 100 tysięcy niewinnych ludzi. Ciężarówki ruszyły do przodu, pozostawiając skazanych nazistów wiszących w powietrzu.
W przeciwieństwie do sprawców wielu innych masakr, główni odpowiedzialni za zbrodnię w Babim Jarze zostali ukarani.
