Ο Leahy εξελέγη για πρώτη φορά στη Γερουσία των Ηνωμένων Πολιτειών το 1974, διαδεχόμενος τον George Aiken, ο οποίος είχε αποσυρθεί για 34 χρόνια. Στα 34 του χρόνια, ήταν ο νεότερος γερουσιαστής στην ιστορία του Βερμόντ. Ο Leahy παραλίγο να ηττηθεί το 1980 από τον Ρεπουμπλικανό Stewart Ledbetter, κερδίζοντας με μόλις 2.700 ψήφους εν μέσω της σαρωτικής νίκης του Ronald Reagan. Το 1986, αντιμετώπισε έναν στα χαρτιά ακόμη ισχυρότερο αντίπαλο, τον πρώην κυβερνήτη Ρίτσαρντ Σνέλινγκ, αλλά ο Λέιχι απέκρουσε την πρόκληση αυτή, λαμβάνοντας το 63% των ψήφων. Το 1992, αντιμετώπισε έναν άλλο αντίπαλο, τον υπουργό Εξωτερικών του Βερμόντ Τζιμ Ντάγκλας, κερδίζοντας με 11 μονάδες διαφορά.
Ο Leahy ήταν ο πρώτος μη ρεπουμπλικανός γερουσιαστής από το Βερμόντ από το 1856. Μέχρι σήμερα, είναι ο μόνος Δημοκρατικός που έχει εκλεγεί ποτέ στη Γερουσία από το Βερμόντ. Τεχνικά, είναι ένας από τους τρεις μόνο Δημοκρατικούς που εκπροσώπησαν το Βερμόντ σε οποιαδήποτε Βουλή του Κογκρέσου μετά το τέλος του Εμφυλίου Πολέμου.
Μετέπειτα σταδιοδρομία
Τον Μάρτιο του 2004, ο Leahy και ο Orrin Hatch παρουσίασαν τον νόμο για τους πειρατές που υποστηριζόταν από την RIAA. Τον Ιούλιο του 2004, οι Leahy και Hatch εισήγαγαν τον νόμο INDUCE Act. Και οι δύο αποσκοπούσαν στην καταπολέμηση της παραβίασης των πνευματικών δικαιωμάτων.
Στις 2 Νοεμβρίου 2004, ο Leahy νίκησε εύκολα τον αντίπαλό του, τον επιχειρηματία Jack McMullen, με 70,6% των ψήφων. Στις 5 Ιανουαρίου 2005, ο Leahy ορκίστηκε για την έκτη θητεία του στη Γερουσία από τον Cheney.
Στις 21 Σεπτεμβρίου 2005, ο Leahy ανακοίνωσε την υποστήριξή του προς τον John Roberts για τη θέση του αρχιδικαστή του Ανώτατου Δικαστηρίου των Ηνωμένων Πολιτειών. Στις 19 Ιανουαρίου 2006, ο Leahy ανακοίνωσε ότι θα ψηφίσει κατά του δικαστή Samuel Alito για να γίνει δικαστής στο Ανώτατο Δικαστήριο.
Στις 18 Ιανουαρίου 2007, ο Leahy έλαβε ευρεία κάλυψη για την αντεξέταση του Γενικού Εισαγγελέα Alberto Gonzales σχετικά με την υπόθεση Maher Arar και την έκτακτη παράδοση του Arar στη Συρία.
Προσωρινός πρόεδρος
Μετά το θάνατο του προσωρινού προέδρου της Γερουσίας Daniel Inouye στις 17 Δεκεμβρίου 2012, ο Leahy έγινε ο αρχαιότερος γερουσιαστής του κόμματος της πλειοψηφίας και εξελέγη νέος προσωρινός πρόεδρος με ομόφωνη συναίνεση.
Στις 3 Ιανουαρίου 2015, ο Orrin Hatch διαδέχθηκε τον Leahy ως προσωρινός πρόεδρος της Γερουσίας των Ηνωμένων Πολιτειών. Αμέσως μετά τιμήθηκε με τον τίτλο του επίτιμου πρόεδρου.