Fritz se narodil 25. října 1879 jako šesté dítě chudým rodičům. Byl to tichý chlapec, zřídka se stýkal se svými vrstevníky mimo školu. Od raného věku bylo jeho chování podivné. Vyhýbal se činnostem, kterým se věnují chlapci v jeho letech a místo toho si hrál s panenkami svých sester a oblékal si jejich šaty. Obzvláště si oblíbil vyšívání a vaření. Mezi ním a matkou vznikl úzký vztah a matka ho v tomto ohledu podporovala a rozmazlovala.
V roce 1886 začal Fritz chodit do školy, kde vyšlo najevo, jak je rozmazlený a náchylný ke snění. Učení mu šlo špatně, dvakrát propadl. Jeden z učitelů ho údajně sexuálně obtěžoval, ale Haarmann se o tom nikdy podrobně nezmínil. Po skončení školy (1894) se krátce učil na zámečníka, ale rok nato vstoupil do armády. Zpočátku mu vojenská služba vyhovovala, ale po pěti měsících začal mít pravidelné výpadky paměti a známky úzkostné neurózy. Z armády byl propuštěn a vrátil se domů.
V šestnácti letech začal lákat mladé chlapce do opuštěných míst, obvykle sklepů, a sexuálně zneužívat. Po prozrazení byl zatčen a roku 1897 poslán do psychiatrické léčebny, ze které s pomocí matky uprchl k příbuzným do Curychu ve Švýcarsku. Za 16 měsíců, v dubnu 1899, se vrátil zpět do Hannoveru. V říjnu dostal povolávací rozkaz a nastoupil vojenskou službu. Podle hodnocení nadřízených byl Haarmann příkladným vojákem, ale poté, co se v říjnu 1901 nervově zhroutil při cvičení, byl hospitalizován a koncem července 1902 propouštěn z vojenské služby s měsíčním důchodem 21 zlatých marek. Pak se živil krádežemi a podvody.
Bylo dokázáno, že mezi roky 1918 až 1924 se Haarmann dopustil nejméně 24 vražd a z dalších tří byl podezřelý. Všechny jeho oběti byly chlapci a muži ve věku 10 až 22 let, které nalákal na jednu ze tří adres, kde bydlel, pod příslibem ubytování, získání práce nebo jako ukrytí před policií. Po příchodu do bytu je pohostil, možná potom znásilnil a v každém případě jim prokousl hrdlo v místě tzv. ohryzku (Adamova jablka, výběžku štítné žlázy), následkem čehož se oběť udusila. Při několika vraždách se Haarmann takto prokousal až do průdušnice. Sám tomu pak cynicky říkal „modřina z lásky“ (cucflek). Těla obětí potom rozporcoval.
Poté, co byl zatčen, se začaly šířit fámy o tom, že se masem obětí i živil a přebytky prodával na černém trhu jako vepřové nebo koňské maso. Nebylo to však dokázáno. Haarmann měl pověst zdatného obchodníka s pašovaným masem, které však bylo vždy vykostěné, nakrájené na kostky nebo mleté. Když se zákazníci zajímali o původ masa, říkal jim, že ho koupil do řezníka jménem „Karl“.
Předobraz „hrdinů“ filmů Psycho nebo Mlčení jehňátek. Který sériový vrah inspiroval nejvíce filmařů?
Osobní majetek obětí použil pro svou potřebu nebo pro potřebu svého milence Hanse Granse a co nepotřebovali, prodávali na černém trhu za pomoci dalších jim podobných pochybných existencí. V několika případech věci zavražděných i darovali. Co se nepodařilo prodat, naházeli do řeky Leiny, stejně jako části těl svých obětí.
Haarmannovou první obětí se v roce 1918 stal sedmnáctiletý Friedel Rothe, který zmizel v září toho roku. Jeho přátelé vypovídali, že ho naposled viděli u Haarmanna. Když strážníci během vyšetřování přišli do Haarmannova bytu, přistihli ho právě při znásilňování nějakého polonahého třináctiletého chlapce. Prohlídka bytu pro ně potom už nebyla tak důležitá a provedli ji nedbale, protože hlava Friedla Rotha, zabalená v novinách a schována za sporákem, jejich pozornosti unikla. Haarman byl tehdy odsouzen na 9 měsíců do vězení, ale celý rok 1919 se nástupu do vězení s úspěchem vyhýbal.
V říjnu se setkal na nádraží s osmnáctiletým Hansem Gransem, který po hádce se svým otcem utekl z domova. Grans se k němu nastěhoval a ačkoli byl heterosexuál, sám se Haarmannovi nabídl, že mu „prodá svoje tělo“ a stal se jeho milencem a podílníkem na jeho zločinech. Harmannovy další oběti byly mladí bezdomovci, které vyhledával většinou na nádraží nebo v jeho okolí.
Jeho zločiny začaly vycházet najevo až květnu 1924, kdy dvě děti, které si hrály u řeky Leine, našly na břehu lidskou lebku. Za dva týdny byla nalezena další a pytel plný lidských kostí a celkem byly nalezeny ostatky patřící asi 22 lidem. Policie začala Haarmanna podezírat a tajně sledovat. Zanedlouho ho policisté na nádraží přistihli při hádce s patnáctiletým Karlem Frommem. Haarmann potom žádal policisty, aby mladíka zatkli, protože má padělané doklady. Během výslechu zjistili, že Fromm žije s Haarmannem už čtyři dny a že ho Haarmann opakovaně znásilnil, a to i tak, že mu někdy držel na krku nůž.
Policie potom u Haarmanna vykonala domovní prohlídku a tentokrát už usvědčující důkazy proti němu našla. Na otázku, kolik lidí Haarmann vlastně zabil, vrah odpověděl: „Něco mezi 50 až 70. Existují však nějaké (oběti), o kterých nevíte, ale nejsou to ty, které předpokládáte.“ Policie ho nakonec mohla obvinit pouze ze zavraždění 27 osob. Haarmann k tomu dodal, že některé z nich zabil na naléhání svého společníka Granse.
Rozsudek nebyl žádným překvapením. Haarman byl odsouzen k trestu smrti a 15. dubna 1925 sťat gilotinou. Grans byl odsouzen na 12 let vězení. Zda to vedlo k jeho nápravě, známo není.
