V době Hitlerových politických začátků měl Röhm už za sebou skvělou vojenskou minulost, sloužil v první světové válce, kde byl zraněn a dosáhl hodnosti kapitána. Po válce se připojil k pololegální vojenské jednotce Freikorps, vstoupil do NSDAP (Národně socialistická německá dělnická strana) a pomáhal organizovat jednotky SA. Po neúspěchu „Pivního puče“ v Mnichově v roce 1923, jehož byl aktivním účastníkem, byl odsouzen k 15 měsícům vězení. Stal se jedním z nejbližších přátel Adolfa Hitlera. V roce 1928 Röhm odjel do Bolívie, kde pracoval jako poradce bolivijské armády v hodnosti podplukovníka. O dva roky později ho Hitler telefonicky požádal, aby se vrátil do Německa a sloužil ve štábu SA a Röhm mu vyhověl. Zároveň se v SA obklopil svými nejbližšími přáteli, převážně homosexuální orientace.
V té době již oddíly SA měly přes milion členů, kteří pokračovali v pouličních bitkách proti komunistům, jiným soupeřícím stranám během volebních kampaní, Židům a dalším, které nacisté považovali za svoje nepřátele. Zasahovali proti stávkujícím dělníkům a jejich zastrašování přispělo ke snadnějšímu vzestupu nacistů. Postupem času se však SA stávaly pro nacisty spíše překážkou. Jejich členové byli považováni kvůli bitkám a pitkám za násilníky a opilce a neposloužila jim ani obecně zcela nepřijatelná homosexualita Röhma a dalších nižších velitelů SA jako třeba Edmunda Heinese, o níž se spekulovalo. A když v červnu 1931 uveřejnily noviny Röhmovy některé soukromé dopisy, už o ní nemohly být žádné pochyby.
Hitler si byl vědom toho, že situace s SA a Röhmem se stává neudržitelnou. Kromě jiného i proto, že ho s Röhmem pojilo tak blízké přátelství, že Röhm byl jedním z mála jeho soukmenovců, kteří mohli Hitlerovi tykat a oslovovat ho křestním jménem, a dokonce i jeho zdrobnělinou „Adi“. To pak mohlo vyvolávat dojem, že Hitler je též homosexuál. A to bylo rovněž nepřijatelné. Nastal čas SA a Röhma zlikvidovat.
V rámci příprav na čistku, později známou jako „Noc dlouhých nožů“, připravil Himmler s Heydrichem důkazy, z nichž vyplývalo, že Röhm přijal od francouzské vlády 12 milionů říšských marek (tj. cca astronomických 48 milionů EUR v roce 2009) za to, že Hitlera svrhne. V rámci příprav byl vypracován seznam Röhmových „spoluspiklenců“, tedy osob, které bylo třeba zlikvidovat spolu s ním. Göring potom jednomu z nich pomohl zachránit si život – byl to Willi Lehmann, úředník gestapa a agent sovětské zpravodajské služby NKVD.
K vlastní akci došlo 30. června 1934, kdy Hitler spolu s větší skupinou příslušníků SS a policie odletěli do Mnichova a tam ráno mezi 6. a 7. hodinou v hotelu Hanselbauer překvapili velení SA ještě v posteli. Röhma a další vysoké důstojníky Hitler zatkl osobně. Edmunda Heinese pak našli vojáci SS v posteli s neznámým osmnáctiletým mladíkem. Vůdce nařídil, aby všichni zadržení byli odvedeni mimo hotel a zastřeleni.
Váhal pouze pokud šlo o Röhma. Nakonec jeho rozsudek smrti podepsal s tím, že mu má být dána možnost zastřelit se. 1. července proto Brigadeführer Eicke (později velitel koncentračního tábora Dachau) a Obersturmbannführer Lippert navštívili Röhma ve vězení. V jeho cele mu podali pistoli zn. Browning nabitou jediným nábojem a řekli mu, že má deset minut na to, aby se zastřelil, nebo to udělají oni sami. Röhm jim vztekle odpověděl: „Jestliže mám být zabit, tak ať to udělá Adolf sám!“ Když Eicke a Lippert v určené době neslyšeli žádný výstřel, vrátili se v 14.50 hodin do Röhmovy cely. Našli ho tam stojícího, s odkrytou hrudí a se vzdorovitým výrazem ve tváři a zastřelili ho.
Čistka ve vedení SA byla sotva o pár hodin později, 3. července 1934. Hitler, tehdy již německý kancléř (od 30. 1. 1933) ji nechal legalizovat zákonem jako opatření na ochranu státu proti zradě. Zabito během ní bylo přes 200 lidí, přičemž většina z nich neměla s Röhmem žádnou osobní spojitost, ale byla odstraněna jen z politických důvodů. A jak už to v totalitních státech bývá, a známe to i z praxe u nás po únoru 1948, měla zmizet i Röhmova stopa v dějinách. Za tím účelem byly třeba z propagandistického filmu „Vítězství víry“ (Der Siege des Glaubens, 1933) vystříhány a zničeny všechny záběry, v nichž se Röhm objevil, a to zřejmě na přímý Hitlerův příkaz. Do popředí se potom v hitlerovském Německu jako ozbrojená složka NSDAP dostaly SS.