Fundada el 1911 a Nova York, com a fusió de tres empreses constructores de maquinària d’oficina i de precisió, s’expandí considerablement amb la invenció de la tabuladora-impressora i la difusió de les targetes perforades. El 1935 presentà la primera màquina d’escriure elèctrica, i el 1944 el primer calculador electrònic, fabricat en sèrie a partir del 1951. Al maig del 1997, la computadora del grup IBM anomenada Deep Blue guanyà el campió del món d’escacs Garry Kasparov després de sis partides celebrades a Nova York. Era la primera vegada que una màquina vencia un jugador d’alt nivell. Les seves activitats s’estenen a molts països amb filials i fàbriques pròpies. Orientat sobretot envers la construcció de grans equips i aplicacions empresarials, el seu pes en el sector dels ordinadors personals és molt menys decisiu. Al començament dels anys noranta, una greu crisi obligà a reestructurar l’empresa. Entre les mesures adoptades, el 1993 hom tancà la filial IBM España SA, situada a la Pobla de Vallbona (Camp de Túria). A partir del 1994 tingué una presència creixent en el camp del software
(adquisició dels programes Lotus, Wilkinson, etc) El 1996 la xifra de vendes superava els 800 000 milions de dòlars i la plantilla era de més de 250 000 treballadors. La companyia obtingué uns ingressos de 87 548 milions de dòlars el 1999, amb un lleuger descens respecte a l’exercici anterior. Un gir estratègic de l’empresa ha fet que perdés pes la venda de maquinària i en canvi tingués cada cop més importància la prestació de serveis. L’any 2005 el grup empresarial xinès Lenovo adquirí el negoci d’ordinadors personals d’IBM. D’aquesta manera el grup xinès ha esdevingut una empresa capdavantera en el sector. D’altra banda IBM comprà el 2002 el negoci de consultoria de Pricewaterhouse Coopers.