Skupaj s svojim bratom Robertom Shermanom je bil zaslužen za več kot 150 pesmi za Disney. Zaradi bolezni poveznih s starostjo je umrl v svojem 95- letu. Sherman in njegov brat Robert sta osvojila dva oskarja za uspešnico Mary Poppins iz leta 1964, za najboljšo glasbo in za najboljšo pesem. Njuna privlačna in energična pesem "Supercalifragilisticexpialidocious" je postala pop uspešnica in se leta 1965 uvrstila na Billboard Hot 100.
Druge nagrade Shermanovih vključujejo 23 zlatih in platinastih albumov, prislužila pa sta si tudi zvezdo na Hollywoodovem pločniku slavnih.