Ο Charles Ryder, ο οποίος αφηγείται την ιστορία, είναι φοιτητής στο Πανεπιστήμιο της Οξφόρδης. Γίνεται φίλος με τον Σεμπάστιαν Φλάιτ, τον μικρότερο γιο μιας αριστοκρατικής οικογένειας. Ο Σεμπάστιαν, ο οποίος προέρχεται από μια πολύ πλούσια οικογένεια, παίρνει τον Τσαρλς στο σπίτι της οικογένειάς του, το κάστρο Brideshead. Ο Κάρολος γνωρίζει την οικογένειά του, συμπεριλαμβανομένης της αδελφής του Σεμπάστιαν, της Τζούλια.
Κατά τη διάρκεια των διακοπών ο Κάρολος επιστρέφει στο σπίτι του, όπου ζει με τον πατέρα του. Κατά τη διάρκεια των διακοπών ο Σεμπάστιαν τραυματίζεται και ο Κάρολος επιστρέφει σε αυτόν. Ο Σεμπάστιαν και ο Κάρολος περνούν το υπόλοιπο του καλοκαιριού μαζί.
Η οικογένεια του Σεμπάστιαν είναι καθολική. Ο πατέρας του, λόρδος Marchmain, ήταν Αγγλικανός, αλλά ασπάστηκε τον Ρωμαιοκαθολικισμό, τη θρησκεία της γυναίκας του. Η οικογένεια μιλάει πολύ για τη θρησκεία, γεγονός που εκπλήσσει τον Κάρολο, ο οποίος πάντα πίστευε ότι ο χριστιανισμός δεν ήταν σημαντικό θέμα. Η Lady Marchmain, η μητέρα του Sebastian, είναι πολύ αυστηρή καθολική. Προσπαθεί να ελέγχει τους άλλους κάνοντάς τους να αισθάνονται ένοχοι. Ο Σεμπάστιαν βρίσκει παρηγοριά πίνοντας αλκοόλ. Συχνά μεθάει και σε μια περίοδο δύο ετών έχει όλο και λιγότερη σχέση με την οικογένεια Φλάιτ.
Ωστόσο, το πεπρωμένο του Τσαρλς είναι να ξανασυναντήσει την οικογένεια Φλάιτ και να ερωτευτεί την Τζούλια, η οποία εκείνη την εποχή είναι παντρεμένη με έναν πλούσιο Καναδό, τον Ρεξ Μότραμ.
Η ίδια η σύζυγος του Καρόλου ήταν άπιστη, οπότε σχεδιάζει να τη χωρίσει για να μπορέσει να παντρευτεί με την Τζούλια. Ωστόσο, η Τζούλια αποφασίζει για θρησκευτικούς λόγους ότι δεν θα ήταν σωστό να παντρευτεί τον Κάρολο. Καθώς ο λόρδος Marchmain πέθαινε, είχε λάβει το μυστήριο του άκρατου αγιασμού. Η πράξη αυτή είχε επηρεάσει και τον Κάρολο, ο οποίος "αναζητούσε την αγάπη εκείνες τις μέρες" όταν συνάντησε για πρώτη φορά τον Σεμπάστιαν, "εκείνη τη χαμηλή πόρτα στον τοίχο... που άνοιγε σε έναν κλειστό και μαγεμένο κήπο", μια σημαντική μεταφορά στο βιβλίο.
Ο Κάρολος έγινε αρχιτέκτονας. Κατά τη διάρκεια του Β' Παγκοσμίου Πολέμου γίνεται αξιωματικός του στρατού. Τυχαία κατατάσσεται στο Brideshead. Του φαίνεται ότι οι οικοδόμοι κάνουν μια χρήσιμη δουλειά, ακόμη και αν υπάρχουν προβλήματα μερικές φορές.