Πολωνία 1939
Ο Ρόμμελ ήταν διοικητής του Führerbegleithauptquartier (αρχηγείο συνοδείας του Φύρερ) κατά τη διάρκεια της εκστρατείας στην Πολωνία, κινούμενος συχνά κοντά στο μέτωπο με το τρένο Führersonderzug, βλέποντας πολύ τον Χίτλερ. Μετά την πολωνική ήττα, ο Ρόμμελ επέστρεψε στο Βερολίνο για να οργανώσει την παρέλαση νίκης του Φύρερ, συμμετέχοντας ο ίδιος ως μέλος της συνοδείας του Χίτλερ. Κατά τη διάρκεια της πολωνικής εκστρατείας, ο Ρόμμελ κλήθηκε να βοηθήσει έναν συγγενή της συζύγου του, έναν Πολωνό ιερέα που είχε συλληφθεί. Όταν ο Ρόμμελ ζήτησε πληροφορίες από την Γκεστάπο, η Γκεστάπο δεν βρήκε καμία πληροφορία για την ύπαρξη του ανθρώπου.
Γαλλία 1940
Ο Ρόμμελ ζήτησε από τον Χίτλερ τη διοίκηση μιας μεραρχίας πάντσερ. Στις 6 Φεβρουαρίου 1940, τρεις μήνες πριν από την εισβολή στη Γαλλία, ο Ρόμμελ ανέλαβε τη διοίκηση της 7ης Μεραρχίας Πάντσερ, για την "Fall Gelb" ("Κίτρινη υπόθεση"), την εισβολή στη Γαλλία και τις Κάτω Χώρες. Ορισμένοι άλλοι αξιωματικοί δεν συμφωνούσαν με την προαγωγή του. Το αρχικό αίτημα του Ρόμμελ για τη διοίκηση είχε απορριφθεί από τον Αρχηγό Προσωπικού του Στρατού, ο οποίος επικαλέστηκε την έλλειψη προηγούμενης εμπειρίας του με μονάδες τεθωρακισμένων και την εκτεταμένη προηγούμενη εμπειρία του σε μονάδα των Άλπεων, που τον καθιστούσε καταλληλότερο υποψήφιο για να αναλάβει τη διοίκηση μιας ορεινής μεραρχίας που είχε πρόσφατη ανάγκη να καλύψει τη θέση του διοικητή της. Ο Ρόμμελ είχε, ωστόσο, δώσει έμφαση στη χρήση του κινητού πεζικού και αναγνώριζε τη μεγάλη χρησιμότητα των τεθωρακισμένων δυνάμεων στην εκστρατεία της Πολωνίας. Άρχισε να μαθαίνει και να αναπτύσσει τις τεχνικές του τεθωρακισμένου πολέμου με μεγάλο ενθουσιασμό. Η απόφαση να του ανατεθεί η διοίκηση μιας τεθωρακισμένης μεραρχίας αποδείχθηκε εξαιρετική. Τον Μάιο του 1940 η 7η Μεραρχία Τεθωρακισμένων του έγινε γνωστή ως "Μεραρχία Φάντασμα", επειδή η ταχεία προέλαση και οι ταχύτατες επιθέσεις της συχνά την τοποθετούσαν τόσο μπροστά που συχνά δεν είχε επικοινωνία με τον υπόλοιπο γερμανικό στρατό.
Βόρεια Αφρική 1941-1943
Η ανταμοιβή του Ρόμμελ για την επιτυχία του ήταν η προαγωγή του και ο διορισμός του ως διοικητή της 5ης Ελαφράς Μεραρχίας (που αργότερα αναδιοργανώθηκε και μετονομάστηκε σε 21η Μεραρχία Πάντσερ) και της 15ης Μεραρχίας Πάντσερ, οι οποίες, ως Deutsches Afrikakorps,( listen ) στάλθηκαν στη Λιβύη στις αρχές του 1941 στην Επιχείρηση Sonnenblume για να βοηθήσουν τα ιταλικά στρατεύματα που είχαν υποστεί βαριά ήττα από τις βρετανικές δυνάμεις της Κοινοπολιτείας στην Επιχείρηση Compass. Ήταν στην Αφρική όπου ο Ρόμμελ απέκτησε τη μεγαλύτερη φήμη του ως διοικητής.