Η Σοβιετική Ένωση έστειλε αθλητές στους Ολυμπιακούς Αγώνες για πρώτη φορά το 1952. Από τότε έστειλε ομάδες στους Αγώνες 18 φορές. Στις επτά από τις εννέα φορές που συμμετείχε στους θερινούς Ολυμπιακούς Αγώνες, η ομάδα κατέλαβε την πρώτη θέση στο συνολικό αριθμό των μεταλλίων που κατέκτησε. Στους άλλους δύο Αγώνες κατέλαβε τη δεύτερη θέση. Η ομάδα κατετάγη πρώτη στον αριθμό των μεταλλίων επτά φορές και δεύτερη δύο φορές στις εννέα φορές που έστειλαν ομάδες στους Χειμερινούς Ολυμπιακούς Αγώνες.
Η Ολυμπιακή Επιτροπή της ΕΣΣΔ δημιουργήθηκε στις 21 Απριλίου 1951. Έγινε δεκτή από τη ΔΟΕ στις 7 Μαΐου 1951.
Οι Θερινοί Ολυμπιακοί Αγώνες του 1952 στο Ελσίνκι ήταν οι πρώτοι Ολυμπιακοί Αγώνες για Σοβιετικούς αθλητές. Στις 20 Ιουλίου 1952, το πρώτο χρυσό ολυμπιακό μετάλλιο για τη χώρα κέρδισε η Νίνα Ρομάσκοβα στη δισκοβολία γυναικών. Η Romashkova έκανε το νέο ολυμπιακό ρεκόρ στο αγώνισμα. Οι Χειμερινοί Ολυμπιακοί Αγώνες του 1956 στην Κορτίνα ντ' Αμπέτσο ήταν οι πρώτοι Χειμερινοί Ολυμπιακοί Αγώνες για τους Σοβιετικούς αθλητές. Το πρώτο χρυσό μετάλλιο των Χειμερινών Ολυμπιακών Αγώνων για τη Σοβιετική Ένωση κέρδισε η Lyubov Kozyreva στο αγώνισμα του σκι ανωμάλου δρόμου 10 χλμ. στις γυναίκες.
Η ΕΣΣΔ ήταν η διοργανώτρια χώρα των θερινών Ολυμπιακών Αγώνων του 1980 στη Μόσχα. Οι Αγώνες αυτοί μποϊκοταρίστηκαν από τις Ηνωμένες Πολιτείες και πολλές άλλες χώρες. Μετά από αυτό, η ΕΣΣΔ ηγήθηκε του μποϊκοτάζ των Αγώνων του 1984 στο Λος Άντζελες.
Η ΕΣΣΔ έληξε στις 26 Δεκεμβρίου 1991. Η Ολυμπιακή Επιτροπή της ΕΣΣΔ έληξε μόλις στις 12 Μαρτίου 1992.
Το 1992, 12 από τις 15 χώρες που αποτελούσαν μέρος της Σοβιετικής Ένωσης έλαβαν μέρος στους Αγώνες ως Ενιαία Ομάδα. Χρησιμοποίησαν την Ολυμπιακή Σημαία στους Αγώνες της Βαρκελώνης. Η Ενωμένη Ομάδα τερμάτισε πρώτη στην κατάταξη των μεταλλίων. Η Ενοποιημένη Ομάδα συμμετείχε επίσης στους Χειμερινούς Αγώνες της Αλμπέρτβιλ νωρίτερα μέσα στο έτος. Μόνο επτά από τις δώδεκα χώρες έλαβαν μέρος. Κατέλαβαν τη δεύτερη θέση στην κατάταξη μεταλλίων σε αυτούς τους Αγώνες.