Jeho rodiče, ortodoxní Židé, se do Spojených států přistěhovali z Litvy (matka) a z Ukrajiny (otec), on sám se narodil už v New Yorku. Záhy přišel o otce, který zemřel na infarkt, rodina, tedy Larry, jeho matka a jeho bratr, skončila na dávkách. Poté, co King ukončil studia na veřejné střední škole v rodném Brooklynu, začal pracovat, aby podpořil rodinný rozpočet. Od svého mládí toužil po tom pracovat v rozhlase, což se mu splnilo již v 50. letech, když byl zaměstnán v rozhlasovém vysílání na Floridě jako hlasatel.
Jeho pořad „Larry King Live“ začala v červnu 1985 vysílat americká televizní stanice CNN. Do vysílání za ním mezi jinými přišli Bob Hope (herec), Stephen King (spisovatel hororů), Frank Sinatra (zpěvák), Barbra Streisandová (herečka) a dokonce i prezidenti USA Nixon a Reagan. Jeho živě vysílané rozhovory s Billem Clintonem a Georgem Bushem trvaly půldruhé hodiny, rozhovor s Michailem Gorbačovem celou hodinu. Zvláštní hodinové vysílání věnoval Hillary Clintonové a jejímu skandálu s investicemi do nemovitostí „Whitewater“, do kterého byla zapletena a jehož vyšetřování bylo nakonec ukončeno, protože veškeré zásadní doklady týkající se této věci se „ztratily“. Pozval i kontroverzní hosty a probíral i takové témata jako je existence UFO a mimosmyslového vnímání.
Na rozdíl od mnoha jiných moderátorů si Larry King udržoval ve vztahu ke svým hostům sice přímý, ale nekonfrontační přístup. Byl pověstný tím, že jim kladl přímé otázky, ale například před rozhovorem s autory knih nečetl předem jejich díla, aby jeho znalosti byly stejné jako znalosti obecenstva. Show skončila na základě jeho vlastního rozhodnutí, když 29. června 2010, ve svých 77 letech, Larry King oznámil, že s ní končí. Podle CNN během 25 let jejího trvání Larry King odmoderoval více než 30 000 rozhovorů.
Po infarktu, který prodělal v roce 1987, založil Larry King Cardiac Foundation, která hradí operace srdce pacientům, kteří by si ji z finančních důvodů nemohli dovolit.
Stejně jako jeho show byl bohatý i manželský život Larryho King. Oženil se celkem 8 x, a to se 7 ženami:
- V roce 1952 se oženil se svou láskou ze střední školy, Fredou Millerovou, když mu bylo 19 let. Manželství trvalo jen do příštího roku, kdy údajně na příkaz rodičů bylo zrušeno.
- Manželství s Annette Kaye trvalo krátce; v listopadu 1961 mu porodila syna Larryho Jr., se kterým se jeho otec setkal, až když byl třicátník.
- Roku 1961 se jeho třetí manželkou stala Alene Akins, „zajíček“ z Playboye. King adoptoval jejího syna Andyho v roce 1962. V následujícím roce se manželé rozvedli.
- Se čtvrtou manželkou, Mary Francis „Mickey“ Stuphin se oženil v roce 1963. Rozvedli se a za šest let se znovu oženil s manželkou č. 3, Alene Akins, a narodilo se jim druhé dítě Chaia. Podruhé se rozvedli v roce 1972.
- V září 1976 se King oženil se svou pátou manželkou, učitelkou matematiky a asistentkou produkce, Sharon Lepore. Rozvedli se za 7 let.
- King potkal v srpnu 1989 podnikatelku Julii Alexander a 7. října téhož roku se stala jeho šestou ženou. Každý však žil v jiném městě, následovala odluka a pak rozvod (1992). Po pěti týdnech známosti se zasnoubil s herečkou Deannou Lund, ale jejich vztah skončil ještě dříve, než se stačili vzít.
- Se svou sedmou, poslední (?), manželkou Shawn Southwick (*1959), herečkou a televizní moderátorkou, se oženil v roce 1997 v nemocnici, tři dny předtím, než podstoupil operaci srdce. Mají dvě děti: Chance (*1999) a Cannon (*2000). King při 10. výročí sňatku vtipkoval, že manželství se Shawn je jediné, jehož délka se dá vyjádřit dvouciferným číslem. Přesto se oba chtěli roku 2010 nechat rozvést, ale usmířili se – až 20. srpna 2019 Larry King znovu požádal o rozvod a pár zatím žije odděleně.
Pokud jde o potomky, má Larry King (zatím) 5 dětí, 9 vnoučat a 4 pravnoučata.
Je stoupenec agnosticismu, domnívá se, že existence nadpřirozena (metafyzična), včetně Boha apod. se nedá ani potvrdit, ani vyloučit. Těžko říct, zda ho k tomuto názoru dovedla spíše jeho námětově velmi košatá talk-show anebo jeho početná manželství, případně obojí.
