Un anno dopo della nascita a Budapest ai tempi dell'Impero Austro-Ungarico del figlio Leo, i suoi genitori ebrei, l'ingegnere civile Louis Spitz e Tekla Vidor, cambiarono il cognome della famiglia dallo "Spitz" tedesco al "Szilard" ungherese. 

Durante il liceo, Leo Szilard mostrò attitudine per la fisica e la matematica. Nel settembre del 1916, frequentò la Palatine Joseph Technical University come studente di ingegneria, ma si arruolò nell'esercito austro-ungarico nel 1917 al culmine di prima guerra mondiale, come allievo ufficiale di artiglieria e si salvò da una probabile morte in battaglia per un’influenza.  Alla fine della guerra fu congedato con onore. 

Conseguì il dottorato in fisica col massimo dei voti con una tesi di termodinamica e meccanica statistica molto lodata da Einstein ed era noto tra i colleghi per la sua personalità eccentrica – curiosamente dove alloggiava teneva sempre una valigia pronta – ma anche come un fine, creativo e originale pensatore; anche se non numerosi, i lavori pubblicati testimoniano la varietà dei suoi interessi.

Di fronte alla minaccia della politica antisemita del partito nazista e al duro trattamento degli accademici ebrei, Szilard lasciò la Germania nel 1933. Si trasferisce a Londra, dove aveva prenotato una piccola camera d’albergo, continuando nel suo stile di vita precedente: una gradevole colazione, seguita da due o tre ore di immersione in una vasca. Annotate in un taccuino le idee che gli erano venute in mentre faceva in bagno, si recava a lavorare per il resto della giornata.

A Londra, dove Southampton Row passa davanti a Russell Square, di fronte al British Museum di Bloomsbury, Leo Szilard attese irritato una grigia mattina che il semaforo cambiasse, quando gli apparve la possibilità di una reazione nucleare a catena. Durante la notte era caduta una traccia di pioggia; l’alba del 12 settembre 1933 era fresca, umida e opaca. Nel primo pomeriggio sarebbe ricominciata la pioggerella. Il semaforo è diventato verde. Szilard scese dal marciapiede. Quando Szilard raccontò più tardi la storia, non menzionò la sua destinazione. Potrebbe non averne; camminava spesso per pensare. 

Sviluppò l'idea della reazione a catena nucleare e nel 1934 si unì a Enrico Fermi brevettando il primo reattore nucleare funzionante al mondo. Ha anche scritto la lettera firmata da Albert Einstein nel 1939 che convinse il Presidente degli Stati Uniti Franklin Roosevelt, della necessità di Progetto Manhattan per costruire la bomba atomica. 

Nel film “L'ombra di mille soli” (Fat Man and Little Boy) del 1989 diretto da Roland Joffé, si rappresenta la scena di quando il generale Groves, interpretato da Paul Newman, bussa alla porta di una camera d’albergo per intervistare Leo Szilard, interpretato da Gerald Hiken, che lo aspettava dentro la vasca da bagno per spiegargli il potere della bomba atomica.

Ebbe tuttavia numerosi e vivaci scontri col Generale Groves, capo del progetto Manhattan, che lo fece dichiarare sospetto e pericoloso, per cui venne tenuto ai margini del progetto, pedinato, minacciato di arresto e costretto a cedere i brevetti in suo possesso al Governo USA. Nonostante ciò diede numerosi contributi specialmente sulla costruzione dei reattori ‘autofertilizzanti’ e nel 1943 ottenne la cittadinanza statunitense.

Scosso dalla forza distruttiva dell'arma che aveva contribuito a creare, Szilard decise di dedicare il resto della sua vita alla sicurezza nucleare, controllo degli armamenti e prevenzione dell'ulteriore sviluppo dell'energia nucleare per scopi militari.

Negli anni 1920 e 1930 Szilard è stato un compagno di vita non sposato della cantante lirica berlinese Gerda Philipsborn. Il 13 ottobre 1951 a New York City sposò la compagna, la Dott.ssa Gertrud (Trude) Weiss, medico di igiene pubblica. La coppia non ebbe figli. 

Dopo che nel 1959 gli fu diagnosticato un tumore alla vescica, rifiutò le cure tradizionali e progettò il protocollo per la propria radioterapia usando un regime di trattamento al cobalto 60, che gli venne applicata al Memorial Hospital di New York con successo e completa guarigione. Dopo un secondo ciclo di cure nel 1962, Szilard fu dichiarato privo di cancro. La terapia al cobalto progettata da Szilard è ancora utilizzata per il trattamento di molti tumori inoperabili. 

Nell'aprile del 1964, Szilard e la Dott.ssa. Weiss si trasferirono in un bungalow dell'hotel di La Jolla, di San Diego, in California, dove morì di infarto nel sonno il 30 maggio 1964, all'età di 66 anni. 

Oggi una parte delle sue ceneri è sepolta nel cimitero di Lakeview, Itaca, New York, insieme a quelli di sua moglie.

L’asteroide 38442 Szilárd, scoperto nel 1999 e il minerale Leószilárdite, segnalato nel 2016, portano suo nome.