Η πόλη πήρε το όνομά της από τον ποταμό (παλαιά ρωσικά: гра́д Моско́в, που σημαίνει "η πόλη δίπλα στον ποταμό Μόσκοβα"). Η αρχή του ονόματος δεν είναι γνωστή, αλλά ορισμένοι έχουν κάποιες ιδέες. Μία είναι ότι το όνομα μπορεί να προέρχεται από μια πολύ παλιά φινλανδική γλώσσα, στην οποία σημαίνει "σκοτεινό" και "συννεφιασμένο". Η πρώτη ρωσική αναφορά στη Μόσχα είναι από το 1147, όταν ο Γιούρι Ντολγκορούκι κάλεσε τον πρίγκιπα του Νόβγκοροντ-Σεβέρσκι (Βόρειο Νόβγκοροντ) να "έρθει σε μένα, αδελφέ, στη Μόσχα".
Εννέα χρόνια αργότερα, το 1156, ο πρίγκιπας Γιούρι Ντολγκορούκι διέταξε την κατασκευή ενός ξύλινου τείχους, το οποίο χρειάστηκε να ξαναφτιαχτεί πολλές φορές, για να περιβάλλει την αναπτυσσόμενη πόλη. Μετά την επίθεση του 1237-1238, όταν οι Μογγόλοι έκαψαν την πόλη ολοσχερώς και σκότωσαν τους κατοίκους της που ζούσαν εκεί, η Μόσχα αναπτύχθηκε ξανά και έγινε πρωτεύουσα του πριγκιπάτου Βλαντιμίρ-Σούζνταλ (μια έκταση γης που κυβερνάται από έναν πρίγκιπα) το 1327. Η καλή της θέση στην αρχή του ποταμούΒόλγα βοήθησε την πόλη να μεγαλώνει σιγά σιγά όλο και περισσότερο. Η Μόσχα μετατράπηκε σε ένα ειρηνικό και πλούσιο πριγκιπάτο, γνωστό ως Μεγάλο Δουκάτο της Μόσχας, για πολλά χρόνια και μεγάλος αριθμός ανθρώπων από όλη τη Ρωσία μετακόμισε για να ζήσει εκεί.
Επί Ιβάν Α΄ η πόλη αντικατέστησε το Τβερ ως πολιτικό κέντρο του Βλαντιμίρ-Σούζνταλ και έγινε ο μοναδικός φοροεισπράκτορας των Μογγόλων-Τατάρων ηγεμόνων. Πληρώνοντας υψηλούς φόρους, ο Ιβάν πέτυχε μια σημαντική συμφωνία με τον Χαν. Σε αντίθεση με άλλες ηγεμονίες, η Μόσχα δεν μοιράστηκε μεταξύ των γιων του, αλλά πέρασε ολόκληρη στον πρωτότοκο. Ωστόσο, στη Μόσχα δεν άρεσε η μογγολική κυριαρχία. Το 1380, ο πρίγκιπας Ντμίτρι Ντονσκόι της Μόσχας οδήγησε έναν ρωσικό στρατό σε μια σημαντική νίκη επί των Τατάρων στη μάχη του Κουλίκοβο. Μόλις δύο χρόνια αργότερα η Μόσχα δέχτηκε επιδρομή από τον Χαν Τοχταμίς. Το 1480, ο Ιβάν Γ' απελευθέρωσε τελικά τους Ρώσους από τον έλεγχο των Τατάρων, επιτρέποντας στη Μόσχα να γίνει το κέντρο της εξουσίας στη Ρωσία. Υπό τον Ιβάν Γ' η πόλη έγινε η πρωτεύουσα μιας αυτοκρατορίας που τελικά θα περιελάμβανε όλη τη Ρωσία και άλλες χώρες.
Το 1571, οι Τατάροι της Κριμαίας εισέβαλαν στη Μόσχα, καίγοντας τα πάντα εκτός από το Κρεμλίνο.
Το 1609 ο σουηδικός στρατός, με επικεφαλής τον κόμη Jacob De la Gardie και τον Evert Horn, βάδισε από το Βελίκι Νόβγκοροντ προς τη Μόσχα για να βοηθήσει τον τσάρο Βασίλι Σουίσκι. Μπήκαν στη Μόσχα το 1610 και σταμάτησαν την επανάσταση κατά του τσάρου, αλλά αποχώρησαν νωρίς το 1611. Μετά από αυτό εισέβαλαν οι Πολωνοί. Κατά τη διάρκεια του Πολωνο-Μοσχοβίτικου Πολέμου (1605-1618) ο χετμάν (διοικητής του στρατού) Στάνισλαβ Żółkiewski μπήκε στη Μόσχα αφού νίκησε τους Ρώσους στη μάχη του Κλουσίνο. Ο 17ος αιώνας είχε πολλές επαναστάσεις, όπως η εξέγερση του αλατιού (1648), η εξέγερση του χαλκού (1662) και η εξέγερση της Μόσχας το 1682.
Ο λοιμός του 1654-1656 σκότωσε τον μισό πληθυσμό της Μόσχας. Η πόλη έπαψε να είναι πρωτεύουσα της Ρωσίας το 1712, μετά την οικοδόμηση της Αγίας Πετρούπολης από τον Πέτρο τον Μέγα κοντά στις ακτές της Βαλτικής το 1703. Η πανούκλα του 1771 ήταν η τελευταία μεγάλη πανούκλα στην κεντρική Ρωσία, σκοτώνοντας 100.000 ανθρώπους μόνο στη Μόσχα. Κατά τη διάρκεια της γαλλικής εισβολής στη Ρωσία το 1812, οι Μοσχοβίτες έκαψαν την πόλη και έφυγαν τρέχοντας, καθώς ο στρατός του Ναπολέοντα πλησίαζε στην πόλη στις 14 Σεπτεμβρίου. Ο στρατός του Ναπολέοντα, ο οποίος ήταν πολύ πεινασμένος και κρύος αναγκάστηκε να φύγει και σχεδόν καταστράφηκε από τον παγωμένο ρωσικό χειμώνα και κάποιες επιθέσεις του στρατού.
Τον Ιανουάριο του 1905, ο Αλεξάντερ Αντριανόφ έγινε ο πρώτος δήμαρχος της Μόσχας. Μετά τη Ρωσική Επανάσταση του 1917, στις 12 Μαρτίου 1918 η Μόσχα έγινε πρωτεύουσα της Σοβιετικής Ένωσης. Κατά τη διάρκεια του Β' Παγκοσμίου Πολέμου (γνωστού στη Ρωσία ως Μεγάλος Πατριωτικός Πόλεμος), μετά τη γερμανική εισβολή στην ΕΣΣΔ, η Σοβιετική Κρατική Ομάδα Άμυνας και οι διοικητές του Κόκκινου Στρατού τοποθετήθηκαν στη Μόσχα.
Το 1941 δημιουργήθηκαν μεταξύ των Μοσχοβιτών 16 ομάδες εθνικών εθελοντών (πάνω από 160.000 άτομα), είκοσι πέντε τάγματα (18.500 άτομα) και τέσσερα συντάγματα μηχανικού. Εκείνο το Νοέμβριο, ο γερμανικός στρατός ανακόπηκε στην άκρη της πόλης και στη συνέχεια απωθήθηκε στη μάχη της Μόσχας. Πολλά εργοστάσια απομακρύνθηκαν, όπως και μεγάλο μέρος της κυβέρνησης, και από τις 20 Οκτωβρίου η πόλη κηρύχθηκε σε κατάσταση πολιορκίας. Οι κάτοικοί της που παρέμειναν κατασκεύασαν και χρησιμοποίησαν αντιαρματικές άμυνες, ενώ η πόλη βομβαρδιζόταν από αέρος. Ο Ιωσήφ Στάλιν (ο ηγέτης της Ρωσίας) δεν έφυγε από την πόλη, οπότε και το γενικό επιτελείο παρέμεινε στην πόλη. Ακόμη και με την πολιορκία να συνεχίζεται, η κατασκευή του συστήματος του μετρό της Μόσχας συνεχίστηκε κατά τη διάρκεια του πολέμου, και μέχρι το τέλος του πολέμου είχαν ανοίξει μερικές νέες γραμμές του μετρό.
Την 1η Μαΐου 1944, δόθηκε στη Μόσχα ένα μετάλλιο Για την υπεράσπιση της Μόσχας και το 1947 ένα άλλο μετάλλιο Στη μνήμη του 800ου έτους της Μόσχας. Σε ανάμνηση της 20ής επετείου της νίκης επί της ναζιστικής Γερμανίας, στις 8 Μαΐου 1965, η Μόσχα έγινε μία από τις δώδεκα σοβιετικές πόλεις στις οποίες απονεμήθηκε ο τίτλος της Πόλης Ήρωα.
Το 1980, η Μόσχα φιλοξένησε τους θερινούς Ολυμπιακούς Αγώνες, στους οποίους οι Ηνωμένες Πολιτείες και πολλές άλλες δυτικές χώρες δεν πήγαν λόγω του πολέμου της Σοβιετικής Ένωσης στο Αφγανιστάν στα τέλη του 1979. Το 1991, η Μόσχα αποτέλεσε το σκηνικό της αποτυχημένης απόπειρας ανατροπής από μέλη της κυβέρνησης που αντιτάχθηκαν στους κανόνες του Μιχαήλ Γκορμπατσόφ. Όταν η ΕΣΣΔ έληξε το ίδιο έτος, η Μόσχα συνέχισε να είναι η πρωτεύουσα της Ρωσίας.
Από τότε, η έναρξη της οικονομίας της αγοράς στη Μόσχα προκάλεσε μια έκρηξη των δυτικού τύπου καταστημάτων, υπηρεσιών, αρχιτεκτονικής και τρόπου ζωής. Το 1998, φιλοξένησε τους πρώτους Παγκόσμιους Αγώνες Νέων.