O Konrádově mládí toho moc nevíme, jen tolik, že se narodil někdy v letech 1180-90. V soudobých církevních pramenech je popisován jako vysoce schopný muž, kterému se patrně dostalo univerzitního vzdělání. Jinak se o něm mluví, že „to byl muž jinak učený a života neposkvrněného“. Byl pověstný svým asketickým způsobem života a horlivostí při obraně církve. Již od mládí se převážně věnoval potlačování hereze v církvi a podílel se i na křížové výpravě proti albigenským v jižní Francii v letech 1208 až 1209. Papež Inocenc III., který křížovou výpravu vyhlásil, byl jedním z Konrádových raných podporovatelů.
Po úmrtí papeže Inocence (1216) byl Konrád z Marburku jeho nástupcem Honoriem III. pověřen řadou úkolů vyžadujících diplomatický talent. Při jejich plnění si ho oblíbil durynský lankraběte Ludvík IV. a Konrád na jeho dvoře získal velký vliv. Stal se také zpovědníkem a náboženským rádcem jeho manželky Alžběty Durynské. Přistupoval k ní však se stejnou tvrdostí jako sám k sobě. Jako pokání údajně používal tělesné tresty a bití a donutil Alžbětu i k odloučení od jejích tří dětí. Ty opustila právě na příkaz svého přísného zpovědníka, odešla z Wartburgu do Marburgu a připojila se ke třetímu řádu sv. Františka.
V Marburgu pod hradem postavila špitál, kde sama denně ošetřovala nemocné, vařila a posluhovala. Tam také 17. listopadu 1231, ve věku 24 let, zemřela, buď na mor, anebo fyzickým vyčerpáním. Vzhledem k jejím mimořádným skutkům milosrdenství, byl záhy zahájen proces jejího svatořečení a Konrád byl pověřen prozkoumáním svědectví o jejím životě a zázracích. Pro účely kanonizace sepsal i její životopis. Od roku 1253 potom tuto původem uherskou princeznu známe již jako sv. Alžbětu Durynskou.
V následujících letech Konrád působil jako papežský inkvizitor pro oblast Durynska a Hesenska. Proslul zejména svým fanatickým bojem proti herezi v církvi, která se v té době šířila celou Evropou. Konkrétně šlo zejména o katarské hnutí a valdenství. První proces, ve kterém hrál Konrád rozhodující roli, byl namířen proti Heinrichu Minnike, proboštovi z Goslaru.
Proces trval dva roky a Minnike byl shledán vinným, předán světské moci a upálen na hranici v roce 1227. Následovala celá řada podobných procesů a Konrád si za tuto činnost vysloužil mimořádné ocenění od arcibiskupů z Trevíru a Mohuče i samotného papeže Řehoře IX. Ten rozšířil Konrádovu působnost na celé Německo a udělil mu výsadu ignorovat při potírání hereze jakékoliv standardní církevní postupy. Podle mnoha zdrojů zpráva, že přijíždí Konrád z Marburku, vyvolávala zděšení a paniku.
Konrád si při vyšetřování počínal s mimořádnou krutostí, fanatickou zuřivostí a uplatňoval surovou důslednost. Jeho asistenti, dominikánský laický bratr Konrád Dorso a Jan, naprostý laik, byli nevzdělaní fanatici se sadistickými sklony. Pokud obviněný přiznal svou vinu a kál se, měl ještě šanci vyváznout pouze s oholenou hlavu a přísným pokáním. Pokud však vinu popřel, byl označen za zatvrzelého kacíře, odsouzen a upálen. Konrádovou zásadou bylo raději upálit spíše sto nevinných než propustit jednoho viníka. Však on si to Pán Bůh přebere.
V roce 1233 Konrád obvinil z účasti na satanských orgiích hraběte ze Saynu Jindřicha II. Jindřich se však odvolal ke shromáždění biskupů v Mohuči a to jej shledalo nevinným. Konrád odmítl toto rozhodnutí akceptovat a dožadoval se, aby rozsudek biskupů byl zrušen. Byl proto předvolán, aby se zodpovídal před říšským sněmem, kde mu byla udělena důtka. Na zpáteční cestě z Mohuče do Marburku byl 30. června 1233 inkvizitorův kočár přepaden několika rytíři a Konrád i jeho asistent byli zabiti. To, že by útočníci byli najati hrabětem Jindřichem je sice logické, ale nikdy se to neprokázalo.
Jméno Konráda z Marburku se potom po staletí synonymem pro sadismus a temnou stránku historie církve. Místo, kde byl Konrád zavražděn, Hof Kapelle poblíž Marburku, je označeno kamenem a místní dlouho věřili, že zde straší. Dnes se nachází na pozemku soukromé farmy a údajně se zde konají černé rituály.
Další památkou na Konráda z Marburku bývala v Marburku fontána v blízkosti kostela zasvěceného sv. Alžbětě, jedné z prvních obětí Konrádova fanatizmu. Završovala ji socha mnicha, ve kterém místní obyvatelé spatřovali Konráda z Marburku a studenti z místní univerzity ji pravidelně strhávali. Dnes je tato socha nahrazena architektonickým ornamentem.
ěsto Marburg jako kdyby přitahovalo zlo a zkázu dodnes. Byl po něm totiž v roce 1967 pojmenován virus krvácivé horečky Marburg, a to na památku toho, že prvnímu potvrzenému nakažení člověka tímto virem došlo právě v tomto městě, když se zaměstnanci tamní laboratoře touto infekcí nakazili od opic dovezených z Ugandy. Jde o jeden z nejnebezpečnějších filovirů na světě podobný svými projevy známějšímu viru Ebola. Je však s průměrnou smrtností 87 % považován za ještě nebezpečnější.
Konrád z Marburku se stal rovněž hrdinou populárního francouzského komiksu Třetí závěť (Le Troisieme Testament) autorů Xaviera Dorisona a Alexe Alice.
