Το ANC ιδρύθηκε ως άμεση απάντηση στις αδικίες που θεωρήθηκαν κατά των μαύρων Νοτιοαφρικανών από την λευκή, κυρίως αφρικανική κυβέρνηση. Το ANC είχε τις ρίζες του σε μια διακήρυξη του Pixley ka Isaka Seme, ο οποίος είπε το 1911 Ξεχάστε όλες τις διαφορές του παρελθόντος μεταξύ των Αφρικανών και ενωθείτε σε μια εθνική οργάνωση. Το ANC ιδρύθηκε τον επόμενο χρόνο, στις 8 Ιανουαρίου 1912.
Η κυβέρνηση της νεοσύστατης Ένωσης της Νότιας Αφρικής άρχισε μια συστηματική καταπίεση των μαύρων στη Νότια Αφρική. Το 1913 εκδόθηκε ο νόμος για τη γη των ιθαγενών. Το αποτέλεσμα αυτών των νόμων ήταν να αναγκαστούν πολλοί μη λευκοί να μετακινηθούν από τα αγροκτήματά τους στις πόλεις και τις κωμοπόλεις για να εργαστούν και να περιοριστούν οι μετακινήσεις τους στο εσωτερικό της Νότιας Αφρικής. Μέχρι το 1919, το ANC ηγήθηκε μιας εκστρατείας ενάντια στα περάσματα, και το 1929 το ANC υποστήριξε μια μαχητική απεργία των εργατών ορυχείων.
Το ANC αδρανοποιήθηκε στα μέσα της δεκαετίας του 1920. Κατά τη διάρκεια αυτής της περιόδου, οι μαύροι εκπροσωπούνταν επίσης από την Ένωση Βιομηχανικών και Εμπορικών Εργατών και το άλλοτε μόνο για λευκούς Κομμουνιστικό Κόμμα. Μέχρι το 1927, ο J.T. Gumende (πρόεδρος του ANC) πρότεινε συνεργασία με τους κομμουνιστές σε μια προσπάθεια αναζωογόνησης της οργάνωσης, αλλά καταψηφίστηκε από την εξουσία τη δεκαετία του 1930. Αυτό είχε ως αποτέλεσμα το ANC να καταστεί σε μεγάλο βαθμό αναποτελεσματικό και ανενεργό, μέχρι τα μέσα της δεκαετίας του 1940, όταν το ANC αναδιαμορφώθηκε ως μαζικό κίνημα.
Το ANC απάντησε στρατιωτικά στις επιθέσεις κατά των δικαιωμάτων των μαύρων Νοτιοαφρικανών, καθώς και με απεργίες, μποϊκοτάζ και πρόκληση. Αυτό οδήγησε στη μετέπειτα Εκστρατεία Ανυπακοής τη δεκαετία του 1950, ένα μαζικό κίνημα αντίστασης στη Νότια Αφρική υπό καθεστώς απαρτχάιντ. Η κυβέρνηση προσπάθησε να σταματήσει το ANC απαγορεύοντας τους ηγέτες του κόμματος και θεσπίζοντας νέους νόμους για να σταματήσει το ANC, ωστόσο τα μέτρα αυτά απέτυχαν.
Το 1955, το Κογκρέσο του Λαού υιοθέτησε επίσημα τον Χάρτη της Ελευθερίας, ο οποίος διατύπωνε τις βασικές αρχές της Συμμαχίας του Νοτιοαφρικανικού Κογκρέσου, το οποίο αποτελούνταν από το Αφρικανικό Εθνικό Κογκρέσο και τους συμμάχους του, το Νοτιοαφρικανικό Ινδικό Κογκρέσο, το Νοτιοαφρικανικό Κογκρέσο Δημοκρατών και το Κογκρέσο των Έγχρωμων. Η κυβέρνηση ισχυρίστηκε ότι επρόκειτο για κομμουνιστικό έγγραφο και, κατά συνέπεια, οι ηγέτες του ANC και του Κογκρέσου συνελήφθησαν. Το 1960 έλαβε χώρα η σφαγή του Σαρπβίλ, κατά την οποία 69 άνθρωποι σκοτώθηκαν όταν η αστυνομία άνοιξε πυρ εναντίον διαδηλωτών κατά του Απαρτχάιντ.
Οι λευκοί τελικά προσχώρησαν στον αγώνα κατά του απαρτχάιντ, οδηγώντας πολλούς μαύρους υπερασπιστές να αποσχιστούν από το ANC.
Umkhonto we Sizwe
Το Umkhonto we Sizwe (ή MK), που μεταφράζεται ως "Λόγχη του Έθνους", ήταν η στρατιωτική πτέρυγα του ANC. Εν μέρει ως απάντηση στη σφαγή του Sharpeville το 1960, μεμονωμένα μέλη του ANC πίστευαν ότι η βία ήταν απαραίτητη επειδή η ειρηνική παθητική διαμαρτυρία είχε αποτύχει. Υπήρχε λοιπόν ένα σημαντικό τμήμα του ANC που στράφηκε στη βία προκειμένου να επιτύχει τους στόχους του. Ένα σημαντικό τμήμα της ηγεσίας του ANC συμφώνησε ότι αυτή η βία ήταν απαραίτητη για την καταπολέμηση των αυξανόμενων αντιδράσεων από την κυβέρνηση.
Ορισμένα μέλη του ANC αναστατώθηκαν από τις ενέργειες του MK και αρνήθηκαν να αποδεχτούν τη βία ως απαραίτητη για τον τερματισμό του Απαρτχάιντ, αλλά αυτά τα άτομα έγιναν μειοψηφία καθώς οι μαχητικοί ηγέτες, όπως ο Νέλσον Μαντέλα, απέκτησαν σημαντική δημοτικότητα. Πολλοί θεωρούν τις ενέργειές τους εγκληματικές, αλλά ο MK δήλωσε ότι η βία δικαιολογείται από τον στόχο του τερματισμού του απαρτχάιντ. Ορισμένα μέλη της ΜΚ διέπραξαν τρομοκρατικές ενέργειες για να επιτύχουν τους στόχους τους και η ΜΚ ήταν υπεύθυνη για το θάνατο τόσο πολιτών όσο και μελών του στρατού. Σε συνεργασία με το Κομμουνιστικό Κόμμα Νοτίου Αφρικής, το MK ιδρύθηκε το 1961.
