Ο πρώτος προκάτοχος της GRU στη μετατσαρική Ρωσία δημιουργήθηκε στις 21 Οκτωβρίου 1918 υπό την αιγίδα του Λέοντος Τρότσκι, ο οποίος ήταν τότε ο πολιτικός επόπτης του Κόκκινου Στρατού. Αρχικά ήταν γνωστή ως Διεύθυνση Εγγραφής (Registrupravlenie, ή RU). Στην ιστορία του για τα πρώτα χρόνια της GRU, ο Raymond W. Leonard γράφει:
"Όπως είχε αρχικά συσταθεί, το Τμήμα Καταγραφής δεν υπαγόταν άμεσα στο Γενικό Επιτελείο [του] Κόκκινου Στρατού... Το 1921... αναβαθμίστηκε και έγινε η Δεύτερη Διεύθυνση (Πληροφοριών) του Επιτελείου του Κόκκινου Στρατού.
Της ανατέθηκε ο χειρισμός όλων των στρατιωτικών πληροφοριών, ιδίως της συλλογής πληροφοριών στρατιωτικής ή πολιτικής σημασίας από πηγές εκτός Σοβιετικής Ένωσης. Η GRU διατηρούσε εγκαταστάσεις σε όλο τον κόσμο. Έτρεχαν με την SIGINT (υπηρεσία πληροφοριών σημάτων) στην Κούβα και σε όλες τις χώρες του πρώην σοβιετικού μπλοκ, ιδίως στη Λιθουανία, τη Λετονία και την Εσθονία.
Η GRU ήταν γνωστή στη σοβιετική κυβέρνηση για την έντονη ανεξαρτησία της από τις αντίπαλες "εσωτερικές οργανώσεις πληροφοριών", όπως η NKVD και η KGB. Την εποχή της δημιουργίας της GRU, ο Λένιν εξόργισε την Τσέκα (προκάτοχο της KGB) διατάσσοντάς την να μην παρεμβαίνει στις επιχειρήσεις της GRU. Παρ' όλα αυτά, η Τσέκα διείσδυσε στην GRU το 1919. Αυτό έβαλε τον σπόρο για μια σφοδρή αντιπαλότητα μεταξύ των δύο υπηρεσιών, οι οποίες ασχολούνταν και οι δύο με την κατασκοπεία. Η αντιπαλότητα ήταν ακόμη πιο έντονη από εκείνη μεταξύ του FBI και της CIA.
Η ύπαρξη της GRU δεν δημοσιοποιήθηκε κατά τη διάρκεια της σοβιετικής εποχής. Έγγραφα σχετικά με αυτήν έγιναν διαθέσιμα στη Δύση στα τέλη της δεκαετίας του 1920 και αναφέρθηκε στα απομνημονεύματα του πρώτου αποστάτη της OGPU, του Georges Agabekov, το 1931. Ο Walter Krivitsky, ο πιο υψηλόβαθμος αξιωματικός των μυστικών υπηρεσιών του Κόκκινου Στρατού που αυτομόλησε ποτέ, την περιέγραψε λεπτομερώς στην αυτοβιογραφία του το 1939 (Ήμουν πράκτορας του Στάλιν).
Έγινε ευρέως γνωστό στη Ρωσία και στη Δύση κατά τη διάρκεια της περεστρόικα. Ο "Viktor Suvorov" (Vladimir Rezun), πράκτορας της GRU που αυτομόλησε στη Μεγάλη Βρετανία το 1978, έγραψε για τις εμπειρίες του στις σοβιετικές στρατιωτικές και μυστικές υπηρεσίες. Σύμφωνα με τον Suvorov, ακόμη και ο Γενικός Γραμματέας του ΚΚΣΕ δεν μπορούσε να εισέλθει στα κεντρικά γραφεία της GRU χωρίς να περάσει από έλεγχο ασφαλείας.
Η GRU εξακολουθεί να αποτελεί ένα πολύ σημαντικό τμήμα των υπηρεσιών πληροφοριών της Ρωσικής Ομοσπονδίας, ιδίως από τη στιγμή που δεν διασπάστηκε ποτέ όπως η KGB. Η KGB διαλύθηκε αφού βοήθησε ένα αποτυχημένο πραξικόπημα το 1991 κατά του τότε Σοβιετικού Προέδρου Μιχαήλ Γκορμπατσόφ. Έκτοτε χωρίστηκε στην Υπηρεσία Πληροφοριών Εξωτερικού (SVR) και στην Ομοσπονδιακή Υπηρεσία Ασφαλείας (FSB).
Η GRU διαλύθηκε επίσημα στις 7 Μαΐου 1992. Συνεχίζει να υφίσταται ως η Κύρια Διεύθυνση Πληροφοριών των Ρωσικών Ενόπλων Δυνάμεων.