Το Haut-Rhin είναι ένα από τα αρχικά 83 διαμερίσματα που δημιουργήθηκαν κατά τη διάρκεια της Γαλλικής Επανάστασης στις 4 Μαρτίου 1790. Χωρίστηκε σε τρεις περιφέρειες: Altkirch, Belfort και Colmar, με πρωτεύουσα το Colmar.
Το 1800, με τη δημιουργία των arrondissements στη Γαλλία, οι τρεις συνοικίες μετατράπηκαν σε πέντε arrondissements: Colmar, Altkirch, Belfort, Delémont και Porrentruy. Τα arrondissements Delémont και Porrentruy καταργήθηκαν το 1814 και μεταφέρθηκαν στην Ελβετία.
Η υπονομαρχία του Altkirch μεταφέρθηκε στο Mulhouse το 1857.
Το διαμέρισμα Haut-Rhin καταργήθηκε το 1871, όταν η περιοχή έγινε μέρος της Γερμανίας, εκτός από ένα τμήμα που αποτελεί το Territoire de Belfort.
Το 1919, το Haut-Rhin είναι και πάλι ένα διαμέρισμα, όταν η περιοχή έγινε μέρος της Γαλλίας με τις περιφέρειες Colmar-Ville, Colmar-Campagne, Altkirch, Guebwiller, Mulhouse, Ribeauvillé και Thann. Η πρωτεύουσά του είναι το Colmar.
Οι περιφέρειες Colmar-Ville και Colmar-Campagne συνενώθηκαν το 1934 για να σχηματίσουν την περιφέρεια Colmar.
Η περιφέρεια Guebwiller καταργήθηκε το 2015 και η επικράτειά της συνενώθηκε με την Tharn για να σχηματιστεί η περιφέρεια Thann-Guebwiller. Την ίδια χρονιά, καταργήθηκε επίσης η περιφέρεια Ribeauvillé και η επικράτειά της συνενώθηκε με την Colmar για να σχηματίσει την περιφέρεια Colmar-Ribeauvillé.
