Γόνοι Ρωσοεβραίων μεταναστών, ο Robert και ο Richard Sherman άρχισαν να γράφουν τραγούδια μαζί το 1951 μετά από πρόκληση του πατέρα τους, του τραγουδοποιού Al Sherman. Τα αδέλφια έγραφαν μαζί και με διαφορετικούς συνθέτες καθ' όλη τη διάρκεια της υπόλοιπης δεκαετίας.
Το 1958 ο Robert ίδρυσε την εταιρεία μουσικών εκδόσεων Music World Corporation. Αργότερα είχε σχέση με τον εκδοτικό βραχίονα της Disney που συνδέεται με το BMI, την Wonderland Music Company. Την ίδια χρονιά, οι αδελφοί Sherman είχαν την πρώτη τους επιτυχία στο top-ten με το "Tall Paul", που τραγουδήθηκε από την Mouseketeer Judy Harriet στην εταιρεία Surf Records. Το τραγούδησε επίσης η Mouseketeer Annette Funicello. Η επιτυχία αυτού του τραγουδιού τράβηξε την προσοχή του Walt Disney. Στη συνέχεια προσέλαβε τους αδελφούς Σέρμαν ως προσωπικό τραγουδοποιό για τα στούντιο της Walt Disney. Το πρώτο τραγούδι που έγραψαν με προσωπική ανάθεση από τον Walt Disney ήταν το "Strummin' Song" το 1961. Χρησιμοποιήθηκε στην τηλεοπτική ταινία της Annette Funicello με τίτλο The Horsemasters.
Όσο εργάζονταν στη Disney, οι αδελφοί Σέρμαν έγραψαν τις περισσότερες μουσικές για κινηματογραφικές ταινίες από οποιονδήποτε άλλο συνθέτη στην ιστορία του κινηματογράφου. Έγραψαν επίσης το πιο γνωστό ίσως τραγούδι τους, το "It's a small world (after all)" για την Παγκόσμια Έκθεση της Νέας Υόρκης το 1964. Έκτοτε, ορισμένοι έχουν υποστηρίξει ότι αυτό έχει γίνει το τραγούδι που έχει μεταφραστεί και εκτελεστεί περισσότερο στη Γη, αν και αυτό οφείλεται σε μεγάλο βαθμό στο γεγονός ότι παίζεται στα ομώνυμα αξιοθέατα του θεματικού πάρκου της Disney "it's a small world".
Το 1965 οι αδελφοί Σέρμαν κέρδισαν δύο Όσκαρ για τη Mary Poppins, η οποία περιλαμβάνει τα τραγούδια "Feed The Birds", "Supercalifragilisticexpialidocious" και το βραβευμένο με Όσκαρ "Chim Chim Cher-ee". Από την πρώτη προβολή της Mary Poppins, οι Shermans έχουν κερδίσει εννέα υποψηφιότητες για Όσκαρ, δύο βραβεία Grammy, τέσσερις υποψηφιότητες για βραβείο Grammy και 23 άλμπουμ με χρυσή και πλατινένια πιστοποίηση.
Οι Robert και Richard Sherman εργάστηκαν απευθείας για τον Walt Disney, ολοκληρώνοντας τη μουσική για τις μουσικές ταινίες ζωντανής δράσης The Happiest Millionaire και The One and Only, Genuine, Original Family Band μέχρι το θάνατο του Disney το 1966. Μετά την αποχώρησή τους από την εταιρεία, οι αδελφοί εργάστηκαν ως ελεύθεροι συνθέτες σε μουσικές ταινιών, τηλεοπτικών εκπομπών, θεματικών πάρκων και θεατρικών μιούζικαλ.
Η πρώτη τους δουλειά εκτός Disney ήρθε με την κινηματογραφική παραγωγή Chitty Chitty Bang Bang του Albert R. Broccoli για την United Artists το 1968. Η ταινία χάρισε στα αδέρφια την τρίτη τους υποψηφιότητα για Όσκαρ Καλύτερου Πρωτότυπου Τραγουδιού για το ιδιαίτερα αξιομνημόνευτο ομώνυμο τραγούδι.
Το 1970, οι Σέρμαν επέστρεψαν στη Disney για ένα σύντομο πέρασμα, όπου ολοκλήρωσαν τη δουλειά τους στις ταινίες The Aristocats και Bedknobs and Broomsticks. Η τελευταία ταινία χάρισε στα αδέρφια την τέταρτη και πέμπτη υποψηφιότητά τους για Όσκαρ. Το 1972 κυκλοφόρησε η ταινία Snoopy Come Home, για την οποία τα αδέρφια έλαβαν υποψηφιότητα για Grammy.
Το 1973 οι αδελφοί Σέρμαν έγραψαν επίσης ιστορία, καθώς έγιναν οι μόνοι Αμερικανοί που κέρδισαν το πρώτο βραβείο στο Φεστιβάλ Κινηματογράφου της Μόσχας για την ταινία Tom Sawyer, για την οποία είχαν γράψει και το σενάριο.
Το 1976 το "The Slipper and the Rose" επιλέχθηκε ως η βασιλική παράσταση της χρονιάς. Την παράσταση παρακολούθησε η βασίλισσα Ελισάβετ, η βασίλισσα μητέρα. Μια σύγχρονη μουσική εκδοχή της κλασικής ιστορίας της Σταχτοπούτας, η "Παντόφλα", περιείχε επίσης τραγούδια, μουσική και σενάριο από τους αδελφούς Σέρμαν. Δύο ακόμη υποψηφιότητες για Όσκαρ πήραν οι αδελφοί για την ταινία. Την ίδια χρονιά οι αδελφοί Σέρμαν απέκτησαν το αστέρι τους στο "Walk of Fame" του Χόλιγουντ ακριβώς απέναντι από το Grauman's Chinese Theater.
Οι αδελφοί Σέρμαν έχουν πολλές άλλες κορυφαίες εισπράξεις από ταινίες της Disney και άλλες ταινίες εκτός Disney, όπως Το βιβλίο της ζούγκλας (1967), Οι Αριστογάτες (1970), Η παγίδα των γονέων (1961), Η παγίδα των γονέων (1998), Ο ιστός της Σάρλοτ (1973), Huckleberry Finn (1974), Οι πολλές περιπέτειες του Γουίνι το Αρκουδάκι (1977), Σνούπι, έλα σπίτι (1972), Bedknobs and Broomsticks (1971) και Ο μικρός Νέμο: Νήμος: Περιπέτειες στη Σλούμπερλαντ (1989).
Εκτός κινηματογραφικών ταινιών, το υποψήφιο για βραβείο Τόνι, το θριαμβευτικό τους χτύπημα Over Here! (1974) ήταν το μιούζικαλ του Μπρόντγουεϊ με τις μεγαλύτερες εισπράξεις εκείνης της χρονιάς. Οι αδελφοί Sherman έχουν επίσης γράψει πολυάριθμα τραγούδια με κορυφαίες πωλήσεις, όπως το "You're Sixteen", το οποίο έφτασε στο Top 10 του Billboard Hot 100 δύο φορές: πρώτα με τον Johnny Burnette το 1960 και στη συνέχεια στο #1 με τον Ringo Starr περισσότερα από δεκατρία χρόνια αργότερα. Άλλες κορυφαίες επιτυχίες περιλαμβάνουν τα "Pineapple Princess", "Let's Get Together" και άλλα.
Το 2000 οι αδελφοί Sherman έγραψαν τη μουσική επένδυση για την ταινία της Disney The Tigger Movie. Αυτή η ταινία σηματοδότησε την πρώτη μεγάλη κινηματογραφική ταινία των αδελφών για την εταιρεία Disney μετά από 28 χρόνια.
Το 2003, τέσσερα μιούζικαλ των αδελφών Σέρμαν κατατάχθηκαν στις 10 πιο αγαπημένες παιδικές ταινίες όλων των εποχών σε μια βρετανική δημοσκόπηση του BBC. Πιο συγκεκριμένα, το Chitty Chitty Bang Bang του 1968 βρέθηκε στην κορυφή της λίστας, στο νούμερο 1.
Τα επόμενα χρόνια, με τη μετακόμιση του Ρόμπερτ στο Λονδίνο, τα αδέλφια έγραψαν πολλά νέα τραγούδια για τις θεατρικές μουσικές παραστάσεις των ταινιών Chitty Chitty Bang Bang και Mary Poppins, παραγωγής Disney και Cameron Mackintosh.
Για τη συμβολή τους στην κινηματογραφική βιομηχανία, οι αδελφοί Σέρμαν έχουν ένα αστέρι στο Walk of Fame του Χόλιγουντ, στη διεύθυνση 6918 Hollywood Blvd. Εισήχθησαν στο Hall of Fame των τραγουδοποιών στις 9 Ιουνίου 2005. Στις 16 Νοεμβρίου 2006, η πρεμιέρα της ταινίας Mary Poppins έγινε στο θέατρο New Amsterdam Theatre του Μπρόντγουεϊ.
Στις 17 Νοεμβρίου 2008 οι αδελφοί Σέρμαν έλαβαν το Εθνικό Μετάλλιο Τεχνών, το οποίο είναι η υψηλότερη τιμή που απονέμεται σε καλλιτέχνες από την κυβέρνηση των Ηνωμένων Πολιτειών. Το βραβείο απονεμήθηκε από τον Πρόεδρο των Ηνωμένων Πολιτειών George W. Bush σε μια τελετή στο East Room του Λευκού Οίκου.
Στις 22 Μαΐου 2009 προβλήθηκε στις αίθουσες η ταινία The Boys: The Sherman Brothers' Story, μια ταινία για το ζευγάρι. Τη σκηνοθεσία και την παραγωγή της ταινίας ανέλαβαν οι γιοι τους, Gregory V. Sherman και Jeff Sherman. Η ταινία κυκλοφόρησε από την Walt Disney Pictures.
Τον Οκτώβριο του 2009, η Disney κυκλοφόρησε μια συλλογή 59 κομματιών σε δύο CD με τη δουλειά τους για το στούντιο που καλύπτει σαράντα δύο χρόνια. Το CD φέρει τον τίτλο "The Sherman Brothers Songbook".
Στις 11 Μαρτίου 2010 οι αδελφοί Σέρμαν απέκτησαν ένα παράθυρο στην Mainstreet Disneyland στο Άναχαϊμ της Καλιφόρνια, προς τιμήν της συνεισφοράς τους στα θεματικά πάρκα της Disney. Στις 17 Μαΐου 2010, οι αδελφοί Σέρμαν έλαβαν το "Career Achievement Award" στο Gala των Βραβείων 2010 του The Theatre Museum στη Νέα Υόρκη.
