Τον Δεκέμβριο του 2001, ο Perdue παραιτήθηκε από πολιτειακός γερουσιαστής για να μπορέσει να θέσει υποψηφιότητα για το αξίωμα του κυβερνήτη. Το 2002 κέρδισε τις εκλογές για τη θέση του κυβερνήτη της Τζόρτζια, νικώντας τον Δημοκρατικό Roy Barnes με 51% έναντι 46%, ενώ ο υποψήφιος των Ελευθέρων Γκάρετ Μάικλ Χέις έλαβε 2% των ψήφων. Έγινε ο πρώτος Ρεπουμπλικανός κυβερνήτης της Τζόρτζια μετά από 130 χρόνια από τον Μπέντζαμιν Φ. Κόνλεϊ.
Ως κυβερνήτης, ο Perdue ηγήθηκε μεταρρυθμίσεων που αποσκοπούσαν στον περιορισμό της σπατάλης στην κυβέρνηση, κυρίως στην πώληση πλεοναζόντων οχημάτων και ακινήτων. Βοήθησε τη Τζόρτζια να ξεφύγει από την τελευταία θέση στη χώρα στις βαθμολογίες SAT. Αν και επέστρεψε στην τελευταία θέση το 2005, η Τζόρτζια ανέβηκε στην 49η θέση το 2006 στη συνδυασμένη μέση βαθμολογία μαθηματικών και ανάγνωσης, συμπεριλαμβανομένου του τμήματος γραφής που προστέθηκε στο τεστ εκείνη τη χρονιά. Ο Perdue δημιούργησε επίσης πρόσθετες ευκαιρίες για τα σχολεία τσάρτερ και τα ιδιωτικά σχολεία. Το 2006, ο Perdue υπέγραψε νόμο που έδωσε στη Georgia "μερικά από τα αυστηρότερα μέτρα της χώρας κατά της παράνομης μετανάστευσης".
Το 2006, ο Perdue επανεξελέγη για δεύτερη θητεία στις εκλογές του 2006 για τη θέση του κυβερνήτη της Τζόρτζια, κερδίζοντας σχεδόν το 58% των ψήφων. Αντίπαλός του στους Δημοκρατικούς ήταν ο υποδιοικητής Μαρκ Τέιλορ. Στο ψηφοδέλτιο βρισκόταν επίσης ο ελευθεριακός Garrett Michael Hayes.
2007 προσευχή για βροχή
Στις 13 Νοεμβρίου 2007, ενώ η Τζόρτζια υπέφερε από μια από τις χειρότερες ξηρασίες των τελευταίων δεκαετιών, ο Perdue οδήγησε μια ομάδα αρκετών εκατοντάδων ανθρώπων σε μια προσευχή στα σκαλιά του πολιτειακού Καπιτωλίου. Ο Perdue απευθύνθηκε στο πλήθος λέγοντας: "Συγκεντρωθήκαμε εδώ για έναν και μόνο λόγο: Για να προσευχηθούμε με ευλάβεια και σεβασμό" και "Θεέ μου, σε χρειαζόμαστε, χρειαζόμαστε βροχή".