geldt als één van de succesvolste en beroemdste ondernemers uit de eerste helft van de 20e eeuw. Zijn unieke ondernemingsbeleid maakte van IBM wereldwijd de grootste producent van ponskaartinstallaties.
Zijn carrière begon in 1896 als verkoper van kasregisters bij de National Cash Register (NCR). In 16 jaar tijd werkte Watson zich tot substituut van bedrijfsoprichter John H. Patterson op. In 1913 werd hij door de excentrieke Patterson ontslagen.
Gevormd door Pattersons leiders- en verkoopstijl bekleedde hij vanaf 1914 een managersfunctie bij de Computing Tabulating Recording Company, die vanaf 1924 IBM zou gaan heten. Zijn doel was een eigen bedrijfscultuur uit te bouwen. Hij eiste uniforme kledij en liet bedrijfsliederen en -gedichten schrijven.
Hoewel hij zijn werknemers in slagzinnen tot denken aanzette, nam hij patriarchaal zelf alle beslissingen. In tegenstelling tot Patterson voelde hij zich wel verantwoordelijk voor zijn personeel. Het organiseren van sociale en politieke activiteiten beschouwde hij als een vanzelfsprekende plicht van elke onderneming.
Zes weken voor zijn dood in 1956 droeg hij de leiding van de firma aan zijn zoon Thomas J. Watson Jr. over. Deze zou voor een grondige firmaherstructurering zorgen. Hij verdeelde de verantwoordelijkheid over meerdere personen en matigde de overdreven bedrijfscultus. Zijn grootste verdienste lag in de invoering van elektronica, die van IBM de grootste computeronderneming van de wereld zou maken.
Vooraleer hij hoofd van IBM werd, was Watson Jr. niet zo vastberaden als zijn vader. Hij haalde slechte schoolresultaten en toonde alleen maar interesse voor de vliegerij.
Zijn carrière als piloot bij de Amerikaanse luchtmacht tijdens WO II zou zijn leven voorgoed veranderen. Hij was vastberaden zijn vader bij IBM op te volgen en de firma op het nakende computertijdperk voor te bereiden. Hij wist zich t.o.v. zijn vader te handhaven door de ontwikkeling van elektronische ponskaartentechnieken en gegevensverwerking te steunen.
Zoals Watson Sr. instond voor het succes van de ponskaartenonderneming IBM, zo stond Watson Jr. in voor het succes van de computerfirma IBM.