Το 1947 επέστρεψε στη Γερμανία, όπου ξεκίνησε την επαγγελματική του καριέρα τραγουδώντας το σόλο βαρύτονου στο Ein Deutsches Requiem του Μπραμς χωρίς καμία πρόβα. (Ήταν αντικαταστάτης της τελευταίας στιγμής για έναν τραγουδιστή που ήταν άρρωστος.) Έδωσε το πρώτο του ρεσιτάλ Lieder στη Λειψία αργότερα την ίδια χρονιά.
Από τις αρχές της καριέρας του συνεργάστηκε με τις διάσημες λυρικές σοπράνο Elisabeth Schwarzkopf και Irmgard Seefried, καθώς και με τον παραγωγό δίσκων Walter Legge, παράγοντας πολύ δημοφιλή άλμπουμ με τραγούδια των Franz Schubert και Hugo Wolf.
Το φθινόπωρο του 1948, ο Fischer-Dieskau έγινε πρώτος λυρικός βαρύτονος στην Städtische Oper του Βερολίνου (Δημοτική Όπερα του Δυτικού Βερολίνου), κάνοντας την πρώτη του εμφάνιση στην όπερα στο ρόλο του Posa στο Don Carlos του Verdi υπό τη διεύθυνση του Ferenc Fricsay. Ο θίασος αυτός, γνωστός μετά το 1961 ως Deutsche Oper, θα αποτελούσε την καλλιτεχνική του στέγη μέχρι την αποχώρησή του από την οπερατική σκηνή, το 1978.
Η Fischer-Dieskau έκανε guest εμφανίσεις στις όπερες της Βιέννης και του Μονάχου. Μετά το 1949 πραγματοποίησε συναυλιακές περιοδείες στις Κάτω Χώρες, την Ελβετία, τη Γαλλία και την Ιταλία. Το 1951 εμφανίστηκε για πρώτη φορά σε συναυλία στο Φεστιβάλ του Σάλτσμπουργκ με τα Lieder eines fahrenden Gesellen (Τραγούδια ενός οδοιπόρου) του Μάλερ υπό τον Βίλχελμ Φούρτβανγκλερ. Άρχισε να εμφανίζεται σε όλο τον κόσμο: στο Royal Albert Hall του Λονδίνου, στη Βοστώνη της Μασαχουσέτης και στο Φεστιβάλ του Μπαϊρόιτ.
Ως τραγουδίστρια όπερας, η Fischer-Dieskau εμφανίστηκε κυρίως στο Βερολίνο και στη Βαυαρική Κρατική Όπερα του Μονάχου. Έκανε επίσης guest εμφανίσεις στην Κρατική Όπερα της Βιέννης, στη Βασιλική Όπερα του Κόβεντ Γκάρντεν στο Λονδίνο, στην Κρατική Όπερα του Αμβούργου, στην Ιαπωνία και στο King's Theatre του Εδιμβούργου, κατά τη διάρκεια του Φεστιβάλ του Εδιμβούργου. Η πρώτη του περιοδεία στις Ηνωμένες Πολιτείες πραγματοποιήθηκε το 1955, όταν ήταν 29 ετών. Στα ρεσιτάλ του εκεί τον συνόδευε ο Gerald Moore. Ηχογράφησε πολλά Lieder με τον Gerald Moore, και έδωσε πολλά ρεσιτάλ μαζί του μέχρι που ο Moore αποσύρθηκε το 1967. Ωστόσο, συνέχισαν να κάνουν ηχογραφήσεις και μετά από αυτό. Οι ηχογραφήσεις τους με τους κύκλους τραγουδιών του Σούμπερτ Die schöne Müllerin και Die Winterreise είχαν μεγάλη εκτίμηση.
Η Fischer-Dieskau ερμήνευσε επίσης πολλά έργα ζωντανών συνθετών, όπως οι Benjamin Britten, Samuel Barber, Hans Werner Henze, Karl Amadeus Hartmann, Ernst Krenek και Witold Lutosławski.
Ο Fischer-Dieskau ηχογράφησε επίσης πολλούς διάσημους ρόλους σε ιταλικές όπερες, π.χ. τον Ριγκολέτο του Βέρντι και τον Ροντρίγκο στον Δον Κάρλος του Βέρντι, τον Σκάρπια στην Τόσκα του Τζιάκομο Πουτσίνι. Αποσύρθηκε από την όπερα το 1978.
Η μουσικότητα και η τεχνική του Fischer-Dieskau ήταν πάντα τέλειες. Αποσύρθηκε από την αίθουσα συναυλιών την Πρωτοχρονιά του 1993, σε ηλικία 67 ετών, και αφιέρωσε τον χρόνο του στη διεύθυνση, τη διδασκαλία (ιδίως την ερμηνεία των Lieder), τη ζωγραφική και τη συγγραφή βιβλίων.