Po vyučení u Karla Podlipného v Poděbradech (1928) pracoval v královehradecké Fotochemě a pak u Karla Stehlíka. Roku 1931 se už jako společníci přesunuli do Prahy. Ehm se seznámil s ředitelem Státní grafické školy Ladislavem Sutnarem (1897 v Plzni – 1976 v New Yorku)
a byl jím roku 1934 přijat do školy jako odborný učitel. Ehm tam zpočátku působil vedle dosluhujícího profesora Karla Nováka (1875 v Horažďovicích – 1950 v Praze), roku 1935 se po Novákově odchodu do důchodu stal vedoucím fotografického oddělení Jaromír Funke (1896 ve Skutči – 1945 v Kolíně).
Od roku 1934 vydávala škola formou soukromých tisků publikace, na jejichž vzniku se podílely jednotlivé školní ateliéry a dílny. Josef Ehm se svými žáky zhotovil fotografický doprovod knihy Kostel sv. Jiří na hradě Pražském (1936). O rok později vyšla kniha Fotografie vidí povrch, první svazek z plánované edice Fotografovaný svět, kterou připravovali Ladislav Sutnar a Jaromír Funke. Na realizaci knihy se podíleli žáci a pedagogové školy (Funke, Novák, Rudolf Gilbert, Otakar Hejzlar a Josef Ehm), ale i přizvaní odborníci (V. V. Štech, Josef Cibulka, Karel Herain, Vincenc Kramář a další). Všechny publikace školy byly upraveny Ladislavem Sutnarem a dnes je považujeme za markantní ukázky funkcionalistického grafického designu.
Přelomem ve vnímání avantgardní fotografie v Československu se roku 1936 stala Mezinárodní výstava fotografie v Mánesu, která představila všechny nejaktuálnější tendence avantgardní fotografie. Josef Ehm se jí zúčastnil, podobně jako o rok později ve stejné výstavní síni přehlídky Celostátní výstava fotografů odborníků.
Roku 1939 se Josef Ehm ujal redakce časopisu Fotografický obzor. Společně s Jaromírem Funkem a skupinou přispěvatelů (Sudek, Hák, Lukas, Paul ad.) publikovali řadu textů a fotografií, které ostře kontrastovaly s umírněností české fotografie počátku okupace.
Ehm se roku 1949 stal členem SVÚ Mánes, v letech 1960-67 byl pedagogem SPGŠ a FAMU (1965-67). Byl předsedou čs. komitétu Mezinárodní federace umělecké fotografie FIAP (1969-85), členem ČSVU.
Ve své volné tvorbě byl Ehm nepřehlédnutelným představitelem proudu vycházejícího z tzv. nové věcnosti. V jeho díle se propojoval smysl pro purismus fotografie s perfekcionismem řemesla.
Většina jeho díla je věnována fotografii uměleckých památek – J. V. Myslbek (1939, 1954), Krásy plná, slávou i kletbou bohatá… Praho! (1948), Prahou včerejška i dneška (1958, 1965), Československé hrady a zámky (1972), Praha (1972, 1985, 1991), Praha v 88 barevných fotografiích (1973), České gotické umění (1977).
Výjimečné fotografie často vznikaly v souvislosti s jeho zakázkovou prací v přírodě, v ulicích Prahy i v ateliérech. Komorní soubor Ehmových aktů, portrétů, přírodních a městských krajin i originálních námětů ze 30. až 60. let jsou souměřitelné s nejhodnotnějšími pracemi podobného zaměření ve světové fotografii.
V průběhu roku 1982 Josef Ehm vybral a daroval Ústavu dějin umění AV ČR svá fotografická díla, která předtím publikoval v uměleckohistorické literatuře.
Zemřel 8. listopadu 1989 v Praze.
Zdroje: Antonín Dufek, Encyklopedie českých a slovenských fotografů, 1993; Wikipedie; Galerie Josefa Sudka, 2007