I suoi genitori, gli scozzesi Joseph James Thompson ed Emma Swindells, hanno cercato di iscrivere suo figlio maggiore, Joseph John Thomson, a un apprendistato di ingegneria presso la Sharp-Stewart &Co., produttori di locomotive, ma questo piano fu abrogato dopo la morte di suo padre nel 1873. Aveva iniziato la sua istruzione in una piccola scuola privata, dove aveva sviluppato un interesse nel campo della scienza. Si iscrisse quindi all'Owens College di Manchester nel 1870, all'età di quattordici anni.

Nel 1876, si trasferì al Trinity College di Cambridge, dove nel 1880 ottenne la laurea in matematica e viene nominato professore di fisica sperimentale. La nomina di Thomson, che all'epoca era relativamente giovane, fu una sorpresa per molti in quanto vi erano candidati molto più esperti. 

Thomson seguiva attivamente il lavoro di tutti i suoi studenti e giovani ricercatori e giornalmente controllava i loro progressi e spesso suggerendo loro come migliorare i propri esperimenti. 

Una delle prime donne ammesse agli studi universitari avanzati fu Rose Paget, che nel 1889 effettuava esperimenti su bolle di sapone dopo aver seguito le lezioni di Thomson. I due si sposarono nel 1890 ed ebbero due figli, George Paget Thomson, futuro fisico sperimentale e Premio Nobel nel 1937, e Joan Paget Thomson, che accompagnò spesso il padre nei suoi viaggi.

Ottenne il titolo di Sir nel 1908

Un giorno, concluse le sue importanti ricerche, J. J. Thomson commenta: “Abbiamo la materia in un nuovo stato … col quale sono costruiti tutti gli elementi chimici”. Questa affermazione fu accolta con molto scetticismo: “All’inizio pochissimi credettero all’esistenza di tali particelle più piccole degli atomi e un famoso fisico mi disse che pensava che li prendessi per i fondelli”.

JJ Thomson è morto 30 agosto 1940. Fu cremato e le sue ceneri furono custodite nell'Abbazia di Westminster vicino alla tomba di Sir Isaac Newton e Ernest Rutherford, suo ex studente.

Fu chiamata l'unità per misurare il rapporto massa-carica nella spettrometria di massa, Thomson (simbolo: Th) nel 1991.