Zámek začal vyrůstat v roce 1553 a u jeho zrodu stál jistý Florián Gryspek z Gryspachu. Původ tohoto rodu lze najít v Rakousku a Bavorsku, kde potomci žijí dodnes. Gryspek je pouze zkomolenina původního jména. Tento pán se narodil v roce 1504, v tyrolském Innsbrucku. Studoval v Paříži a v roce 1530 vstoupil do služeb Ferdinanda I. který si ho jako velmi vzdělaného sekretáře oblíbil. V roce 1547 se při stavovském povstání postavil na tu správnou stranu a v krátké době velice zbohatl. Kaceřov, Nelahozeves, Rožmitál pod Třemšínem. Pan Gryspek na svém majetku neseděl, věnoval se rozsáhlé podnikatelské a stavební činnosti.
Byl velmi čilý i v jiném směru, a s třináctiletou Rosinou Hölzlovou zplodil postupně 24 dětí. Ano čtete dobře, dvacet čtyři dětí. Čtrnáct synů a deset dcer. Pana Floriána přežilo sedm synů, kteří si postupně rozdělili otcův majetek. Pan Florián se dožil úctyhodného věku 83 let, a zemřel na svém milovaném zámku. Nicméně je pohřben vedle své milované ženy, v kostele sv. Petra a Pavla v Kralovicích u Plzně. Synáčkové se otcovy víry nedržely a načichli protestanstvím. Synové Vratislav a Blažej studovali v Paříži, a o bartolomějské noci unikli smrti jen díky varování od anglické královny Alžběty. Proč neunikli i ostatní hugenoti a proč královna varovala jenom je, to je dodnes záhada.
Potomci pana Floriána už tak dobrý odhad neměli. Připojili se ke stavovskému povstání a na podzim roku 1622 jim byl zkonfiskován veškerý majetek a většina z nich emigrovala. Zajímavá legenda vypráví, že se všichni sešli na zámku v Kaceřově a hromadně spáchali sebevraždu jedem. Není to prokázáno, ale je fakt, že od roku 1615 do roku 1620 zemřelo sedm příslušníků rodu a legenda byla na světě.
Zajímavé je i to, že pan Florián Gryspek byl mecenášem renesančních básníků a na zámku v Nelahozevsi se setkávala kulturní smetánka. Obrazárna a obrovská knihovna byla samozřejmostí. Renesanční zámek, který vlastnila jedna z jeho katolických neteří, byl v roce 1623 prodán Polyxeně z Lobkowicz, a od té doby již patřil rodu Lobkoviců. Po peripetiích s nacismem a komunismem byl zámek opět navrácen a nyní je jeho majitelem Wiliam Lobkowicz.
Expozice na zámku představuje dvanáct dobových pokojů a představuje život šlechty, druhé poloviny devatenáctého století. Pánská a dámská ložnice, pracovny, hudební salon, knihovna, sbírky zbraní, rodinná kaple, jídelna, studovna. Zámecká knihovna čítá 65 000 svazků (je přístupná jen zcela výjimečně), a z obrazů zde nalezneme díla Rubense, Veroneseho a Brueghela staršího. Zámek je velmi vděčným objektem k návštěvě. Pokud vám ani hodinový, poutavý výklad nebude stačit, můžete navštívit i nedaleký rodný dům, hudebního skladatele Antonína Dvořáka.