Αφού έδωσαν κάποιες μικρές συναυλίες σε όλη την Αγγλία, το συγκρότημα κυκλοφόρησε το πρώτο του άλμπουμ, με την ονομασία Led Zeppelin I. Το ταλέντο του John Bonham ακούγεται σε τραγούδια όπως το "Good Times, Bad Times", με το μονό του μπάσο σε όλο το τραγούδι. Αμέσως μετά από αυτό, το συγκρότημα αναχώρησε για περιοδεία στην Αμερική, την Boxing Day (26 Δεκεμβρίου 1969). Μετά από μια αρκετά επιτυχημένη περιοδεία, οι Zeppelin κυκλοφόρησαν το δεύτερο άλμπουμ τους, ονομάζοντάς το Led Zeppelin II. Αυτό το άλμπουμ περιλάμβανε το τραγούδι "Moby Dick", το οποίο είχε ένα διάσημο σόλο ντραμς από τον Bonham. Κατά τη διάρκεια του σόλο, ο Bonham έδειξε το ταλέντο του παίζοντας ντραμς με τα χέρια, ενώ συνέχιζε να χρησιμοποιεί το δεξί του πόδι.
Μέχρι τότε, οι Led Zeppelin είχαν γίνει πιο γνωστοί. Με την κυκλοφορία του τρίτου τους άλμπουμ (που δεν αποτελεί έκπληξη το Led Zeppelin III), έγιναν ένα από τα μεγαλύτερα συγκροτήματα στον κόσμο. Το χαρακτηριστικό τραγούδι του Bonham σε αυτό το άλμπουμ, το οποίο έγραψε ο ίδιος, ήταν το "Out On The Tiles".
Οι Led Zeppelin κυκλοφόρησαν αργότερα τα άλμπουμ Led Zeppelin IV (το οποίο αρχικά δεν ονομαζόταν), Houses of the Holy και Physical Graffiti. Κατά τη διάρκεια αυτής της περιόδου, οι Zeppelin περιόδευαν ασταμάτητα. Εκτός από το ότι εξακολουθούσε να παίζει το "Moby Dick", ο Bonham έλαβε επίσης προσοχή για τη δουλειά του σε τραγούδια όπως τα "Four Sticks", "The Ocean" και "In My Time Of Dying".
Αμέσως μετά το Physical Graffiti, το συγκρότημα πήρε ένα διάλειμμα επειδή ο Robert Plant τραυματίστηκε σε αυτοκινητιστικό δυστύχημα. Σε αυτό το διάλειμμα, εκτός από το να περνάει χρόνο με την οικογένειά του και να μαστορεύει αυτοκίνητα, ο Bonham δούλευε πάνω στο επόμενο άλμπουμ τους, το Presence.
