Germà de John Sherman. Participà en la guerra de Califòrnia (1846) i el 1853 deixà l’exèrcit. Es distingí a la guerra de Secessió i fou ascendit a general. Entre moltes altres accions, dirigí l’ocupació de Carolina del Nord (1865). Fou comandant en cap de l’exèrcit dels EUA (1869-83).