Ο FW de Klerk γεννήθηκε στο Γιοχάνεσμπουργκ το 1936. Είναι γιος του Johannes de Klerk (1903-1979) και της Hendrina Cornelia de Klerk (1904-2001), η οποία πέθανε μόλις τέσσερις μήνες πριν από το θάνατο της πρώην κόρης του Marike Willemse και αδελφού του Wimpie de Klerk (1928-2009). Η οικογένειά του, το όνομα της οποίας προέρχεται από το γαλλικό επώνυμο "Le Clerc", "Le Clercq" ή "de Clercq", είναι ουγενότικης καταγωγής. Εγκαταστάθηκε στη χώρα το 1686, λίγους μήνες μετά την ανάκληση του διατάγματος της Νάντης, και συμμετείχε σε διάφορα γεγονότα της ιστορίας των Αφρικανέρ. Οι πρόγονοί τους συμμετείχαν στο μεγάλο οδοιπορικό με το τρένο που οδηγούσε ο Piet Retief για να απαλλαγούν από τη βρετανική κυριαρχία. Το 1838, τρία μέλη της οικογένειας Klerk σκοτώθηκαν επίσης μαζί με τον Retief στο King Kraal των Zulu, Dingane. Αργότερα, κατά τη διάρκεια του Δεύτερου Πολέμου των Μπόερς (1899-1902), ο παππούς FW του Κλερκ αιχμαλωτίστηκε δύο φορές από τους Βρετανούς, προτού αποτελέσει ιδρυτικό μέλος του Εθνικού Κόμματος το 1914, μαζί με τον Τζέιμς Μπάρι Χέρτζογκ. Σύμφωνα με τον γενεαλόγο Keith Meintjies και επιβεβαιωμένο από τον FW by Klerk, ο τελευταίος είναι επίσης σύμφωνος με την Krotoa (Eva), μια γυναίκα Khoi, η οποία υπηρέτησε ως διερμηνέας για τους Ολλανδούς αποίκους κατά την ίδρυση της αποικίας του Head.
Μέλος της Μεταρρυθμισμένης Ολλανδικής Εκκλησίας, FW από Klerk, είναι ο νεότερος γιος, Jan Klerk, ο επικεφαλής του σχολείου και υπουργός με διάφορα χαρτοφυλάκια (1954-1969) και πρόεδρος της Γερουσίας (1969-1976), ο ανιψιός του JG Strijdom, ο επικεφαλής της κυβέρνησης της Νότιας Αφρικής 1954 έως 1958. Ο μεγαλύτερος αδελφός του Wimpie de Klerk είναι πολιτικός αναλυτής και συνιδρυτής του Δημοκρατικού Κόμματος το 1989.
Λύκειο στο Krugersdorp, ένα προάστιο του Γιοχάνεσμπουργκ, ο FW by Klerk πήρε πτυχίο με άριστα από το Πανεπιστήμιο του Potchefstroom το 1958. Το 1959 παντρεύτηκε τη Marike Willemse (1937-2001), με την οποία θα μεγαλώσει τρία υιοθετημένα παιδιά ). Το ζευγάρι, F. W. και Marike de Klerk, πήρε διαζύγιο το 1998.
Κατά τη διάρκεια των πανεπιστημιακών του σπουδών εντάχθηκε στο Εθνικό Κόμμα και έγινε μέλος του Broderbond.
Ένας δικηγόρος στο Vereeniging, νότια του Transvaal, αρνήθηκε το 1972 την έδρα του δημόσιου δικαίου στο Πανεπιστήμιο Potchefstroom για να θέσει υποψηφιότητα στις γενικές εκλογές.