Ένα φράγμα χτίστηκε το 1260 στον ποταμό Rotte, στο σημείο που βρίσκεται σήμερα η Hoogstraat. Το όνομα Ρότερνταμ προέρχεται από αυτό το φράγμα. Ο οικισμός ήταν αρχικά ένα κανονικό ψαροχώρι, αλλά πολύ σύντομα έγινε ένα ακμάζον εμπορικό λιμάνι. Η πόλη απέκτησε δικαιώματα πόλης το 1340 και τείχη πόλης το 1360. Το Ρότερνταμ έγινε σημαντική πόλη της Ολλανδίας στα μέσα του 15ου αιώνα, όταν κέρδισε μικρούς πολέμους εναντίον του Ντελφτ και της Γκούντα. Από το 1449 έως το 1525 χτίστηκε μια γοτθική εκκλησία (Laurenskerk). Η πόλη τότε είχε περίπου 10.000 κατοίκους. Η πόλη εξεγέρθηκε κατά της ισπανικής κατοχής το 1573, αποτελώντας μια από τις κύριες πόλεις του Ογδοηκονταετούς Πολέμου. Το λιμάνι του Ρότερνταμ αναπτύχθηκε πολύ στα τέλη του 16ου αιώνα και στις αρχές του 17ου αιώνα. Στο τέλος του 17ου αιώνα η πόλη είχε σχεδόν 50.000 κατοίκους. Όμως η πόλη δεν είχε χτίσει έξω από τα τείχη της. Η πόλη έγινε πολύ γεμάτη.
Το λιμάνι του Ρότερνταμ έγινε όλο και μεγαλύτερο τον 19ο αιώνα, όταν σκάφτηκαν πολλά νέα κανάλια. Αυτά ήταν τα εξής: Nieuwe Waterweg (κατά λέξη: Νέα Υδάτινη Οδός) και Voornse Kanaal. Η πόλη μεγάλωσε γρήγορα λόγω του τεράστιου όγκου εργασιών στο λιμάνι. Ο πληθυσμός αυξήθηκε από 160.000 άτομα το 1880 σε 315.000 το 1900. Χτίστηκαν διάφορες νέες συνοικίες, όπως οι Cool, Crooswerk και Nieuwe Westen. Γειτονικά μέρη έγιναν επίσης μέρος του Ρότερνταμ. Το 1920, η πόλη είχε περισσότερους από 500.000 κατοίκους για πρώτη φορά στην ιστορία της.
Δεύτερος Παγκόσμιος Πόλεμος
Η ναζιστική Γερμανία επιτέθηκε στις Κάτω Χώρες τον Μάιο του 1940. Η μάχη των Κάτω Χωρών έφερε σκληρές μάχες στο Ρότερνταμ. Στο πλαίσιο του Blitz of Rotterdam, οι Γερμανοί βομβάρδισαν το Ρότερνταμ στις 14 Μαΐου 1940. Οι ζημιές ήταν τεράστιες: 24.000 κτίρια καταστράφηκαν μέσα σε μόλις 15 λεπτά και από το παλιό κέντρο του Ρότερνταμ δεν έμεινε σχεδόν τίποτα. 800 άνθρωποι έχασαν ακαριαία τη ζωή τους και 80.000 έμειναν άστεγοι. Ο βομβαρδισμός κατέστρεψε επίσης το Willemsbrigde, ένα από τα δύο μπριγκτ που διέσχιζαν τότε τον Μάας. Οι Γερμανοί επισκεύασαν γρήγορα τη γέφυρα, καθώς ήταν ζωτικής σημασίας για την πόλη. Κατά τη διάρκεια της γερμανικής κατοχής, τα γειτονικά μέρη Hillegersberg, Schiebroek, Overschie, Kralingseveer και Ijsselmonde προσαρτήθηκαν (put by) από το Ρότερνταμ. Στις 11 Νοεμβρίου 1944, πραγματοποιήθηκε ένα μεγάλο ρατσιστικό επεισόδιο. Περίπου 50.000 άνδρες ηλικίας 17-40 ετών από το Ρότερνταμ εκτοπίστηκαν σε στρατόπεδα εργασίας. Η πόλη έχασε επίσης πολλούς ανθρώπους στην πείνα του 1944 (hongerwinter (lit: Χειμώνας της πείνας)).
Μετά τον πόλεμο
Το Ρότερνταμ ανοικοδομήθηκε γρήγορα μετά τον πόλεμο, αλλά ο εκσυγχρονισμός οδήγησε στο γεγονός ότι πολλά παλιά κτίρια δεν επισκευάστηκαν, αλλά αντικαταστάθηκαν από εντελώς νέα. Αυτό οδήγησε στο γεγονός ότι το κέντρο του Ρότερνταμ αποτελείται από νέα κτίρια, κάτι που δεν είναι συνηθισμένο στις ευρωπαϊκές πόλεις. Τα λιμάνια του Ρότερνταμ αναπτύχθηκαν ακόμη περισσότερο κατά το δεύτερο μέρος του 20ού αιώνα. Νέες περιοχές που χτίστηκαν ακριβώς στη θάλασσα είναι το Botlek, το Maasvlakte και το Europoort. Το Euromast (ύψους 185 μ.) γίνεται σύμβολο του Ρότερνταμ. Το 1968 εγκαινιάζεται το μετρό του Ρότερνταμ, το οποίο είναι τότε το πρώτο μετρό στις Κάτω Χώρες. Τη δεκαετία του 1990 παρατηρείται αύξηση των ουρανοξυστών. Το Delftse Poort που ήταν έτοιμο το 1991 ήταν ο ψηλότερος ουρανοξύστης στις Κάτω Χώρες, με ύψος 151 μ., μέχρι που το Maastoren έγινε το ψηλότερο κτίριο το 2009 με 165 μ. Η νέα γέφυρα Erasmusbridge που ήταν έτοιμη το 1996 έδωσε στο Ρότερνταμ ένα νέο σύμβολο.
