Το 1919, ο Ρεμ προσχώρησε στο Γερμανικό Εργατικό Κόμμα (Deutsche Arbeiter Partei (DAP)). Αυτό ήταν ο πρόδρομος του ναζιστικού κόμματος. Ένα χρόνο αργότερα, έγινε μέλος του Γερμανικού Ναζιστικού Κόμματος. Έλαβε τον αριθμό μέλους 623. Ο Ρεμ βοήθησε τον Χίτλερ να δημιουργήσει σχέσεις με τους Βαυαρούς πολιτικούς και τους βιομηχάνους. Δύο χρόνια αργότερα, ο Röhm και ο Χίτλερ ξεκίνησαν την Sturmabteilung (SA), προσελκύοντας πολλούς άνδρες από τα Freikorps. Ιδρύθηκε ως παραστρατιωτική ομάδα για το Γερμανικό Ναζιστικό Κόμμα. Ο Χίτλερ έκανε τον Ρεμ αρχηγό των SA.
Ο Röhm συμμετείχε στο Beer Hall Putsch το 1923. Το Ναζιστικό Κόμμα προσπάθησε να ανατρέψει την κυβέρνηση, αλλά απέτυχε. Ο Ρεμ συνελήφθη και κατηγορήθηκε για εσχάτη προδοσία. Οι δικαστές αποφάσισαν ότι ήταν ένοχος την 1η Απριλίου 1924. Ο Ρεμ μπήκε στη φυλακή για πέντε μήνες και έχασε τη δουλειά του στο στρατό. Μετά τη δίκη, τόσο το Ναζιστικό Κόμμα όσο και η Sturmabteilung έγιναν παράνομα.
Το 1924, ο Röhm βοήθησε στην ίδρυση του Frontbann, μιας εναλλακτικής λύσης για το Sturmabteilung. Μετά από μια διαφωνία με τον Αδόλφο Χίτλερ, ο Ρεμ αποσύρθηκε από αρχηγός των SA. Είπε ότι ήταν μόνο στρατιώτης και όχι πολιτικός. Μεταξύ 1928 και 1930, εργάστηκε για τον βολιβιανό στρατό ως σύμβουλος.