Το Χίλντεσχαϊμ είναι μια από τις παλαιότερες πόλεις της Βόρειας Γερμανίας. Η πόλη μπορεί να ιδρύθηκε όταν ο επίσκοπος μετακόμισε από το Elze στη διάβαση Innerste, όπου αποτελούσε σημαντική αγορά στον εμπορικό δρόμο Hellweg. Ο οικισμός σύντομα εξελίχθηκε σε πόλη στην οποία παραχωρήθηκαν δικαιώματα αγοράς από τον βασιλιά Όθωνα Γ' το 983. Αρχικά η αγορά γινόταν σε έναν δρόμο που ονομαζόταν Παλιά Αγορά (Alter Markt), ο οποίος υπάρχει ακόμη και σήμερα. Η πρώτη αγορά διαμορφώθηκε γύρω από την εκκλησία του Αγίου Ανδρέα. Καθώς η πόλη μεγάλωνε, μια μεγαλύτερη αγορά γινόταν όλο και πιο σημαντική. Η σημερινή αγορά του Χίλντεσχαϊμ κατασκευάστηκε στις αρχές του 13ου αιώνα, όταν η πόλη είχε πληθυσμό περίπου 5.000 κατοίκων. Όταν το Χίλντεσχαϊμ απέκτησε δικαιώματα πόλης το 1249, ήταν μία από τις μεγαλύτερες πόλεις της Βόρειας Γερμανίας. Για τέσσερις αιώνες ο κλήρος κυβερνούσε το Χίλντεσχαϊμ, πριν χτιστεί ένα δημαρχείο και οι πολίτες αποκτήσουν κάποια επιρροή και ανεξαρτησία. Η κατασκευή του σημερινού δημαρχείου ξεκίνησε το 1268 και το 1367 το Χίλντεσχαϊμ έγινε μέλος της Χανσεατικής Ένωσης. Ένας πόλεμος μεταξύ των πολιτών και του επισκόπου τους κόστισε ακριβά το 1519-1523, όταν ενεπλάκησαν σε διαμάχη. Το Χίλντεσχαϊμ έγινε προτεσταντικό το 1542, και μόνο ο καθεδρικός ναός και μερικά άλλα κτίρια παρέμειναν στα χέρια των αυτοκρατορικών (ρωμαιοκαθολικών). Αρκετά χωριά γύρω από την πόλη παρέμειναν επίσης ρωμαιοκαθολικά. Το 1813, μετά τους Ναπολεόντειους Πολέμους, η πόλη έγινε μέρος του Βασιλείου του Ανόβερου, το οποίο προσαρτήθηκε από το Βασίλειο της Πρωσίας μετά τον Αυστροπρωσικό Πόλεμο το 1866 ως επαρχία.
Η πόλη βομβαρδίστηκε στον Β' Παγκόσμιο Πόλεμο, αλλά οι βομβαρδισμοί είχαν μικρή σημασία για την πορεία του πολέμου. Το 28,5% των σπιτιών καταστράφηκε και το 44,7% υπέστη ζημιές. Το 26,8% των σπιτιών δεν είχε καμία ζημιά. Το κέντρο, το οποίο μέχρι τότε είχε ακόμη τον μεσαιωνικό του χαρακτήρα, σχεδόν ισοπεδώθηκε. Όπως και σε πολλές πόλεις, δόθηκε προτεραιότητα στην ταχεία οικοδόμηση των κατοικιών που είχαν μεγάλη ανάγκη και οι τσιμεντένιες κατασκευές πήραν τη θέση των κατεστραμμένων κτιρίων. Ευτυχώς, οι περισσότερες από τις μεγάλες εκκλησίες, δύο από τις οποίες σήμερα αποτελούν μνημεία παγκόσμιας κληρονομιάς της UNESCO, ανοικοδομήθηκαν στο αρχικό στυλ αμέσως μετά τον πόλεμο. Κατά τη διάρκεια του πολέμου, πολύτιμα υλικά παγκόσμιας κληρονομιάς είχαν κρυφτεί στο υπόγειο του τείχους της πόλης. Το 1978 ιδρύθηκε το Πανεπιστήμιο του Χίλντεσχαϊμ. Τη δεκαετία του 1980 ξεκίνησε η ανοικοδόμηση του ιστορικού κέντρου. Ορισμένα από τα νέα τσιμεντένια κτίρια κοντά στην αγορά κατεδαφίστηκαν. Στη θέση τους χτίστηκαν αντίγραφα των αρχικών κτιρίων.