Η μουσική γράφτηκε από τον Haydn το 1797 ως ύμνος της Αυστρίας. Ονομάστηκε "Gott erhalte Franz den Kaiser" ("Ο Θεός να προστατεύει τον αυτοκράτορά μας Φραντς"). Τα λόγια που χρησιμοποιούνται σήμερα γράφτηκαν από τον ποιητή August Heinrich Hoffman von Fallersleben το 1841.
Σήμερα, η πρώτη φράση "Γερμανία, Γερμανία πάνω απ' όλα" ακούγεται πολύ έντονη για ορισμένους ανθρώπους και συχνά παρερμηνεύεται. Ο Fallersleben ήθελε μια ενωμένη Γερμανία όταν το έγραψε. Εκείνη την εποχή, η Γερμανία δεν ήταν μια χώρα, αλλά πολλές μικρές χώρες. Έτσι, το "Γερμανία πάνω απ' όλα" σήμαινε ότι το πιο σημαντικό πράγμα που έπρεπε να γίνει ήταν να υπάρξει μια ενωμένη Γερμανία. Επίσης, ο ποιητής βρισκόταν στο Χελιγκόλαντ, όπου οι άνθρωποι μιλούσαν γερμανικά, αλλά κυβερνούνταν από τους Βρετανούς.
Η μουσική του Fallersleben ήταν πολύ δημοφιλής στη Γερμανία κατά το δεύτερο μισό του 19ου αιώνα. Το τραγούδι αυτό δεν ήταν τότε εθνικός ύμνος, αλλά ένα τραγούδι για τους ανθρώπους που αγαπούσαν την ιδέα μιας ισχυρής και ενωμένης Γερμανίας. Το 1918 αντικατέστησε τον ύμνο της Γερμανικής Αυτοκρατορίας "Heil Dir im Siegerkranz" ("Δόξα στον νικητή του πολέμου"), όταν ο αυτοκράτορας Γουλιέλμος Β' έχασε την εξουσία στο τέλος του Α' Παγκοσμίου Πολέμου. Το 1921, μια "τέταρτη στροφή", ένα νέο μέρος ή στίχος, γράφτηκε από τον ποιητή Albert Matthai με λόγια για τη δύσκολη ζωή στη Γερμανία εκείνη την εποχή. Δεν τραγουδήθηκε πολύ συχνά.
Κατά την εποχή του Χίτλερ, χρησιμοποιήθηκε μόνο το πρώτο μέρος του τραγουδιού. Συχνά ακολουθούσε ένα τραγούδι του ναζιστικού κόμματος. Αυτό το μέρος του τραγουδιού ήταν δύσκολο για μερικούς ανθρώπους που δεν ήταν Γερμανοί, επειδή περιέχει λέξεις που περιγράφουν τη Γερμανία ως χώρα που περιλάμβανε και εδάφη που βρίσκονταν σε άλλες χώρες.
Μετά τον Δεύτερο Παγκόσμιο Πόλεμο, η Γερμανία χωρίστηκε σε δύο χώρες. Το 1949, η νέα Δυτική Γερμανία προσπάθησε να πάρει ένα νέο τραγούδι για τον εθνικό ύμνο. Επιλέχθηκε ένα άλλο τραγούδι, γραμμένο από τον ποιητή Rudolf Alexander Schröder. Δεν ήταν πολύ δημοφιλές. Τελικά, το τρίτο μέρος του τραγουδιού Fallersleben έγινε ο εθνικός ύμνος.
Στο άλλο τμήμα της Γερμανίας, την Ανατολική Γερμανία, χρησιμοποιήθηκαν τα λόγια του ποιητή Johannes R. Becher ("Auferstanden aus Ruinen" - "Ξαναχτίστηκε από τα ερείπια") με ένα τραγούδι γραμμένο από τον Hanns Eisler. Δεν ήταν πολύ δημοφιλές, και από τη δεκαετία του 1970 τα λόγια δεν τραγουδήθηκαν, λόγω του στίχου "Γερμανία, [η] ενωμένη πατρίδα μας".
Μετά την επανένωση της Ανατολικής και της Δυτικής Γερμανίας το 1990, το τραγούδι Fallersleben έγινε και πάλι ο εθνικός ύμνος της Γερμανίας, αλλά χρησιμοποιείται μόνο το τρίτο μέρος. Σήμερα, το πρώτο μέρος του τραγουδιού είναι δημοφιλές στους εθνικιστές εξτρεμιστές.