Στο συνέδριο της Σορβόννης το 1894, προτάθηκε μια μεγάλη λίστα αθλημάτων για το πρόγραμμα της Αθήνας. Οι πρώτες επίσημες ανακοινώσεις σχετικά με τις αθλητικές εκδηλώσεις που θα διεξάγονταν περιείχαν αθλήματα όπως το ποδόσφαιρο και το κρίκετ, αλλά τα σχέδια αυτά δεν οριστικοποιήθηκαν ποτέ και τα αθλήματα αυτά δεν συμπεριλήφθηκαν στον τελικό κατάλογο των Αγώνων. Η κωπηλασία και το ιστιοπλοΐα είχαν προγραμματιστεί, αλλά έπρεπε να ακυρωθούν λόγω κακών καιρικών συνθηκών την προγραμματισμένη ημέρα διεξαγωγής των αγώνων.
Αθλητισμός
Τα αγωνίσματα του στίβου είχαν το πιο διεθνές πεδίο από όλα τα αθλήματα. Το σημαντικότερο γεγονός ήταν ο μαραθώνιος, που διεξήχθη για πρώτη φορά σε διεθνή διοργάνωση. Ο Σπυρίδων Λούης ήταν ο μοναδικός Έλληνας πρωταθλητής του στίβου και εθνικός ήρωας. Αν και η Ελλάδα ήταν φαβορί για να κερδίσει τη δισκοβολία ή τη σφαιροβολία, οι καλύτεροι Έλληνες αθλητές τερμάτισαν ακριβώς πίσω από τον Αμερικανό Ρόμπερτ Γκάρετ και στα δύο αγωνίσματα.
Δεν σημειώθηκαν παγκόσμια ρεκόρ, καθώς λίγοι κορυφαίοι διεθνείς ανταγωνιστές είχαν επιλέξει να αγωνιστούν. Επιπλέον, οι καμπύλες του στίβου ήταν πολύ στενές, καθιστώντας τους γρήγορους χρόνους στα δρομικά αγωνίσματα δύσκολους. Παρ' όλα αυτά, ο Τόμας Μπερκ, από τις Ηνωμένες Πολιτείες, κέρδισε τα 100 μέτρα σε 12,0 δευτερόλεπτα και τα 400 μέτρα σε 54,2 δευτερόλεπτα. ήταν ο μόνος που χρησιμοποίησε την "σκύβοντας εκκίνηση" (βάζοντας το γόνατό του στο έδαφος), προκαλώντας σύγχυση στην κριτική επιτροπή. Τελικά, του επετράπη να εκκινήσει από την "άβολη θέση" του.
Ποδηλασία
Για τους αγώνες ποδηλασίας χρησιμοποιήθηκαν οι κανόνες της Διεθνούς Ένωσης Ποδηλασίας. Οι αγώνες ποδηλασίας πίστας διεξήχθησαν στο νεόκτιστο ποδηλατοδρόμιο του Νέου Φαλήρου. Πραγματοποιήθηκε μόνο ένας αγώνας δρόμου, ένας αγώνας από την Αθήνα στον Μαραθώνα και πίσω (87 χιλιόμετρα).
Στα αγωνίσματα του στίβου, ο καλύτερος ποδηλάτης ήταν ο Γάλλος Paul Masson, ο οποίος κέρδισε τη χρονομέτρηση ενός γύρου, το αγώνισμα του σπριντ και τα 10.000 μέτρα. Στο αγώνισμα των 100 χιλιομέτρων, ο Masson συμμετείχε ως βηματοδότης του συμπατριώτη του Léon Flameng. Ο Flameng κέρδισε το αγώνισμα, μετά από μια πτώση και αφού σταμάτησε για να περιμένει τον Έλληνα αντίπαλό του Γεώργιο Κωλέττη να διορθώσει ένα μηχανικό πρόβλημα. Ο Αυστριακός ξιφομάχος Adolf Schmal κέρδισε τον 12ωρο αγώνα, τον οποίο ολοκλήρωσαν μόνο δύο ποδηλάτες, ενώ το αγώνισμα του δρόμου κέρδισε ο Αριστείδης Κωνσταντινίδης.
Περίφραξη
Οι αγώνες ξιφασκίας διεξήχθησαν στο Ζάππειο, το οποίο, που χτίστηκε με χρήματα που είχε δώσει ο Ευαγγέλης Ζάππας για την αναβίωση των αρχαίων Ολυμπιακών Αγώνων, δεν είχε χρησιμοποιηθεί προηγουμένως. Σε αντίθεση με άλλα αθλήματα (στα οποία μόνο ερασιτέχνες επιτρεπόταν να λάβουν μέρος στους Ολυμπιακούς Αγώνες), στην ξιφασκία επιτρεπόταν να αγωνιστούν και επαγγελματίες, αν και σε ξεχωριστό αγώνισμα. Αυτοί οι επαγγελματίες θεωρούνταν κύριοι αθλητές, όπως και οι ερασιτέχνες.
Τέσσερις αγώνες ήταν προγραμματισμένοι, αλλά ο αγώνας épée ακυρώθηκε για άγνωστους λόγους. Το αγώνισμα του foil κέρδισε ένας Γάλλος, ο Eugène-Henri Gravelotte, ο οποίος νίκησε τον συμπατριώτη του Henri Callot στον τελικό. Τα άλλα δύο αγωνίσματα, το σπαθί και το ξίφος μάστερς, κέρδισαν Έλληνες ξιφομάχοι. Ο Λεωνίδας Πύργος, ο οποίος κέρδισε το τελευταίο αγώνισμα, έγινε ο πρώτος Έλληνας Ολυμπιονίκης της σύγχρονης εποχής.
Γυμναστική
Η γυμναστική έγινε στο εσωτερικό του Παναθηναϊκού Σταδίου. Η Γερμανία έστειλε 11μελή ομάδα, η οποία κέρδισε τα πέντε από τα οκτώ αγωνίσματα, συμπεριλαμβανομένων και των δύο ομαδικών. Στο ομαδικό αγώνισμα στο μονόζυγο, η γερμανική ομάδα ήταν χωρίς αντίπαλο. Τρεις Γερμανοί πρόσθεσαν ατομικούς τίτλους: Ο Hermann Weingärtner κέρδισε το μονόζυγο, ο Alfred Flatow κέρδισε το μονόζυγο και ο Carl Schuhmann, ο οποίος αγωνίστηκε επίσης με επιτυχία στην πάλη, κέρδισε το άλμα. Ο Ελβετός γυμναστής Louis Zutter κέρδισε τον ίππο pommel, ενώ οι Έλληνες Ιωάννης Μητρόπουλος και Νικόλαος Ανδριακόπουλος ήταν νικητές στους κρίκους και στην αναρρίχηση σε σχοινί, αντίστοιχα.
Σκοποβολή
Ο διαγωνισμός σκοποβολής διεξήχθη σε πεδίο βολής στην Καλλιθέα και περιελάμβανε πέντε αγωνίσματα - δύο με τουφέκι και τρία με πιστόλι. Το πρώτο αγώνισμα, το στρατιωτικό τουφέκι, κέρδισε ο Παντελής Καρασεβδάς, ο μόνος διαγωνιζόμενος που πέτυχε το στόχο με όλες τις βολές του. Στο δεύτερο αγώνισμα, για το στρατιωτικό πιστόλι, κυριάρχησαν δύο Αμερικανοί αδελφοί: Ο Τζον και ο Σάμνερ Πέιν έγιναν τα πρώτα αδέλφια που τερμάτισαν πρώτοι και δεύτεροι στο ίδιο αγώνισμα. Για να μην φέρουν σε δύσκολη θέση τους οικοδεσπότες τους, τα αδέρφια αποφάσισαν ότι μόνο ένας από τους δύο θα αγωνιζόταν στο επόμενο αγώνισμα του πιστολιού, το ελεύθερο πιστόλι. Ο Sumner Paine κέρδισε αυτό το αγώνισμα.
Οι αδελφοί Πέιν δεν αγωνίστηκαν στο αγώνισμα των 25 μέτρων με πιστόλι, καθώς οι κριτές έκριναν ότι τα όπλα τους δεν είχαν το απαιτούμενο διαμέτρημα. Λόγω της απουσίας τους, νικητής αναδείχθηκε ο Ιωάννης Φραγκούδης. Το τελευταίο αγώνισμα, το ελεύθερο τουφέκι, ξεκίνησε την ίδια ημέρα. Ωστόσο, το αγώνισμα δεν ολοκληρώθηκε λόγω σκότους και ολοκληρώθηκε το επόμενο πρωί, οπότε και αναδείχθηκε πρωταθλητής ο Γεώργιος Ορφανίδης.
Κολύμβηση
Ο διαγωνισμός κολύμβησης διεξήχθη στην ανοιχτή θάλασσα. Σχεδόν 20.000 θεατές παρατάχθηκαν στον κόλπο της Ζέας στις ακτές του Πειραιά για να παρακολουθήσουν τα αγωνίσματα. Το νερό στον κόλπο ήταν κρύο και οι διαγωνιζόμενοι υπέφεραν κατά τη διάρκεια των αγώνων τους. Υπήρχαν τρία ανοικτά αγωνίσματα (100 μέτρα ελεύθερο ανδρών, 500 μέτρα ελεύθερο ανδρών και 1200 μέτρα ελεύθερο ανδρών), εκτός από ένα ειδικό αγώνισμα ανοικτό μόνο για τους Έλληνες ιστιοπλόους, τα οποία διεξήχθησαν την ίδια ημέρα (11 Απριλίου).
Για τον Alfréd Hajós από την Ουγγαρία, το γεγονός ότι ήταν την ίδια ημέρα σήμαινε ότι μπορούσε να αγωνιστεί μόνο σε δύο από τα αγωνίσματα. Κέρδισε τα δύο αγωνίσματα στα οποία κολύμπησε, τα 100 και 1200 μέτρα ελεύθερο. Ο Hajós έγινε αργότερα ένας από τους δύο μόνο Ολυμπιονίκες που κέρδισαν μετάλλιο τόσο στους αθλητικούς όσο και στους καλλιτεχνικούς αγώνες, όταν κέρδισε αργυρό μετάλλιο για την αρχιτεκτονική το 1924. Τα 500 μέτρα ελεύθερο κέρδισε ο Αυστριακός κολυμβητής Paul Neumann, ο οποίος νίκησε τους αντιπάλους του με διαφορά μεγαλύτερη από ενάμιση λεπτό.
Τένις
Αν και το τένις ήταν ήδη ένα σημαντικό άθλημα από τα τέλη του 19ου αιώνα, κανένας από τους κορυφαίους παίκτες δεν εμφανίστηκε στο τουρνουά της Αθήνας. Η διοργάνωση έγινε στα γήπεδα του Athens Lawn Tennis Club και στον εσωτερικό χώρο του ποδηλατοδρομίου που χρησιμοποιούνταν για τους ποδηλατικούς αγώνες. Ο John Pius Boland, ο οποίος κέρδισε το αγώνισμα, δηλώθηκε στον διαγωνισμό από έναν συμφοιτητή του στην Οξφόρδη. Στον πρώτο γύρο, ο Boland νίκησε τον Friedrich Traun, έναν πολλά υποσχόμενο τενίστα από το Αμβούργο, ο οποίος είχε αποκλειστεί στο αγώνισμα των 100 μέτρων σπριντ. Οι Boland και Traun αποφάσισαν να συνεργαστούν για το αγώνισμα του διπλού, στο οποίο έφτασαν στον τελικό και νίκησαν τους Έλληνες και Αιγύπτιους αντιπάλους τους, αφού έχασαν το πρώτο σετ.
Άρση Βαρών
Το άθλημα της άρσης βαρών ήταν ακόμη νέο το 1896 και οι κανόνες διέφεραν από εκείνους που χρησιμοποιούνται σήμερα. Οι αγώνες διεξάγονταν σε εξωτερικούς χώρους, στον εσωτερικό χώρο του κεντρικού σταδίου, και δεν υπήρχαν όρια βάρους. Το πρώτο αγώνισμα διεξήχθη σε ένα στυλ που σήμερα είναι γνωστό ως "clean and jerk". Δύο διαγωνιζόμενοι ξεχώρισαν: Ο Σκωτσέζος Launceston Elliot και ο Viggo Jensen από τη Δανία. Και οι δύο σήκωσαν το ίδιο βάρος- αλλά η κριτική επιτροπή, με πρόεδρο τον πρίγκιπα Γεώργιο, έκρινε ότι ο Jensen το είχε κάνει με καλύτερο στυλ. Η βρετανική αντιπροσωπεία, που δεν ήταν εξοικειωμένη με αυτόν τον κανόνα ισοβαθμίας, υπέβαλε διαμαρτυρία. Τελικά οι ανυψωτές είχαν τη δυνατότητα να κάνουν νέες προσπάθειες, αλλά κανένας από τους δύο δεν βελτιώθηκε και ο Jensen ανακηρύχθηκε πρωταθλητής.
Ο Elliot κέρδισε στο αγώνισμα ανύψωσης ενός χεριού, το οποίο πραγματοποιήθηκε αμέσως μετά το αγώνισμα ανύψωσης δύο χεριών. Ο Jensen είχε τραυματιστεί ελαφρά κατά την τελευταία του προσπάθεια με τα δύο χέρια, και δεν ήταν αντάξιος του Elliot, ο οποίος κέρδισε τον διαγωνισμό εύκολα. Το ελληνικό κοινό γοητεύτηκε από τον Σκωτσέζο νικητή, τον οποίο θεώρησαν πολύ ελκυστικό. Ένα περίεργο περιστατικό συνέβη κατά τη διάρκεια του αγωνίσματος της άρσης βαρών: ένας υπηρέτης διατάχθηκε να αφαιρέσει τα βάρη, πράγμα που φάνηκε να είναι δύσκολο γι' αυτόν. Ο πρίγκιπας Γεώργιος ήρθε να τον βοηθήσει- σήκωσε το βάρος και το πέταξε με ευκολία σε σημαντική απόσταση, προς τέρψη του πλήθους.
Πάλη
Δεν υπήρχαν κατηγορίες βάρους για τον αγώνα πάλης, που διεξήχθη στο Παναθηναϊκό Στάδιο, πράγμα που σήμαινε ότι θα υπήρχε μόνο ένας νικητής μεταξύ των διαγωνιζομένων όλων των μεγεθών. Οι κανόνες που χρησιμοποιούνταν ήταν παρόμοιοι με τη σύγχρονη ελληνορωμαϊκή πάλη, αν και δεν υπήρχε χρονικό όριο και δεν απαγορεύονταν όλες οι λαβές των ποδιών (σε αντίθεση με τους σημερινούς κανόνες).
Εκτός από τους δύο Έλληνες διαγωνιζόμενους, όλοι οι διαγωνιζόμενοι είχαν προηγουμένως δραστηριοποιηθεί σε άλλα αθλήματα. Ο πρωταθλητής της άρσης βαρών Launceston Elliot αντιμετώπισε τον πρωταθλητή της γυμναστικής Carl Schuhmann. Ο τελευταίος κέρδισε και προκρίθηκε στον τελικό, όπου συνάντησε τον Γεώργιο Τσίτα, ο οποίος προηγουμένως είχε νικήσει τον Στέφανο Χριστόπουλο. Το σκοτάδι ανάγκασε τον τελικό αγώνα να διακοπεί μετά από 40 λεπτά- συνεχίστηκε την επόμενη ημέρα, όταν ο Schuhmann χρειάστηκε μόνο ένα τέταρτο της ώρας για να τελειώσει τον αγώνα.