Σύμφωνα με την παλαιότερη πηγή πληροφοριών, η βιβλιοθήκη οργανώθηκε αρχικά από τον Δημήτριο του Φαλήρου, μαθητή του Αριστοτέλη, επί Πτολεμαίου Α΄ Σωτήρος (περίπου 367 π.Χ.-περίπου 283 π.Χ.).
Η βιβλιοθήκη περιλάμβανε έναν περίπατο, κήπους, μια αίθουσα για κοινή εστίαση, ένα αναγνωστήριο, αίθουσες διαλέξεων και αίθουσες συνεδριάσεων. Ωστόσο, η ακριβής διάταξη δεν είναι γνωστή. Η επιρροή αυτού του μοντέλου μπορεί να παρατηρηθεί ακόμη και σήμερα στη διαρρύθμιση των πανεπιστημιουπόλεων. Η ίδια η βιβλιοθήκη είναι γνωστό ότι διέθετε τμήμα προσκτήσεων (πιθανώς χτισμένο κοντά στις στοίβες ή για λόγους χρησιμότητας πιο κοντά στο λιμάνι) και τμήμα καταλογογράφησης. Η αίθουσα περιείχε ράφια για τις συλλογές των παπύρων (καθώς τα βιβλία ήταν εκείνη την εποχή σε παπύρους), γνωστά ως βιβλιοθῆκαι. Φημολογείται ότι σκαλισμένη στον τοίχο πάνω από τα ράφια, μια διάσημη επιγραφή έγραφε Ὁ τόπος τῆς θεραπείας τῆς ψυχῆς.
Ήταν η πρώτη γνωστή βιβλιοθήκη που συγκέντρωσε μια σοβαρή συλλογή βιβλίων εκτός των συνόρων της χώρας της. Η Βιβλιοθήκη ήταν επιφορτισμένη με τη συλλογή όλης της παγκόσμιας γνώσης. Αυτό έγινε μέσω μιας επιθετικής και καλά χρηματοδοτούμενης βασιλικής εντολής που περιελάμβανε ταξίδια στις εκθέσεις βιβλίου της Ρόδου και της Αθήνας και μια πολιτική απόσυρσης των βιβλίων από κάθε πλοίο που έμπαινε στο λιμάνι. Κρατούσε τα πρωτότυπα κείμενα και έφτιαχνε αντίγραφα για να τα στέλνει πίσω στους ιδιοκτήτες τους. Η Αλεξάνδρεια, λόγω του τεχνητού αμφίδρομου λιμανιού της μεταξύ της ηπειρωτικής χώρας και του νησιού Φάρος, υποδέχθηκε το εμπόριο από την Ανατολή και τη Δύση και σύντομα βρέθηκε να είναι ο διεθνής κόμβος του εμπορίου, καθώς και ο κορυφαίος παραγωγός παπύρου και, αρκετά σύντομα, βιβλίων.
Η βιβλιοθήκη φιλοξένησε επίσης πλήθος διεθνών επιστημόνων. Η βιβλιοθήκη γέμισε τις στοίβες της με νέα έργα στα μαθηματικά, την αστρονομία, τη φυσική, τη φυσική ιστορία και άλλα θέματα. Ήταν στη Βιβλιοθήκη της Αλεξάνδρειας που η επιστημονική μέθοδος σχεδιάστηκε και εφαρμόστηκε για πρώτη φορά στην πράξη και τα εμπειρικά της πρότυπα εφαρμόστηκαν στη σοβαρή κριτική κειμένων. Καθώς το ίδιο κείμενο υπήρχε συχνά σε πολλές διαφορετικές εκδόσεις, η συγκριτική κειμενική κριτική ήταν ζωτικής σημασίας για τη διασφάλιση της ακρίβειάς τους. Αφού εξακριβωνόταν, αντίγραφα κατασκευάζονταν στη συνέχεια για μελετητές, βασιλείς και πλούσιους βιβλιόφιλους σε όλο τον κόσμο, με το εμπόριο αυτό να αποφέρει έσοδα στη βιβλιοθήκη. Οι εκδότες της Βιβλιοθήκης της Αλεξάνδρειας είναι ιδιαίτερα γνωστοί για το έργο τους στα ομηρικά κείμενα. Οι πιο διάσημοι εκδότες κατείχαν γενικά και τον τίτλο του επικεφαλής βιβλιοθηκάριου. Σε αυτούς περιλαμβάνονταν, μεταξύ άλλων,
- Ζηνόδοτος (αρχές του τρίτου αιώνα π.Χ.)
- Καλλίμαχος, (αρχές του τρίτου αιώνα π.Χ.), ο πρώτος βιβλιογράφος και δημιουργός των Πινάκων - του πρώτου καταλόγου βιβλιοθηκών.
- Απολλώνιος της Ρόδου (μέσα του τρίτου αιώνα π.Χ.)
- Ερατοσθένης (τέλη του τρίτου αιώνα π.Χ.)
- Αριστοφάνης του Βυζαντίου (αρχές του δεύτερου αιώνα π.Χ.)
- Αρίσταρχος της Σαμοθράκης (τέλη του δεύτερου αιώνα π.Χ.).
- Ευκλείδης.
Η συλλογή της βιβλιοθήκης, που ήταν ήδη διάσημη στον αρχαίο κόσμο, έγινε ακόμη πιο διάσημη τα επόμενα χρόνια. Οι πάπυροι αποτελούσαν τη συλλογή, και παρόλο που οι κώδικες από περγαμηνή χρησιμοποιήθηκαν κυρίως ως πιο προηγμένο υλικό γραφής μετά το 300 π.Χ.
Ένα και μόνο κομμάτι γραπτού λόγου μπορεί να καταλαμβάνει αρκετές περγαμηνές. Ο βασιλιάς Πτολεμαίος Β' Φιλάδελφος (309-246 π.Χ.) λέγεται ότι έθεσε ως στόχο για τη βιβλιοθήκη 500.000 πάπυρους. Ο Μάρκος Αντώνιος υποτίθεται ότι έδωσε στην Κλεοπάτρα πάνω από 200.000 παπύρους (που είχαν ληφθεί από τη μεγάλη βιβλιοθήκη της Περγάμου) για τη βιβλιοθήκη ως γαμήλιο δώρο. Ο Carl Sagan, στη σειρά του Cosmos, αναφέρει ότι η βιβλιοθήκη περιείχε σχεδόν ένα εκατομμύριο παπύρους, αν και άλλοι ειδικοί έχουν υπολογίσει μικρότερο αριθμό. Δεν σώζεται κανένα ευρετήριο της βιβλιοθήκης και δεν είναι δυνατόν να γνωρίζουμε με βεβαιότητα πόσο μεγάλη και πόσο ποικίλη μπορεί να ήταν η συλλογή.
Μια ίσως υπερβολική ιστορία αφορά το πώς η συλλογή της βιβλιοθήκης μεγάλωσε τόσο πολύ. Με διάταγμα του Πτολεμαίου Γ' της Αιγύπτου, όλοι οι επισκέπτες της πόλης έπρεπε να παραδώσουν όλα τα βιβλία και τους παπύρους. Οι επίσημοι γραφείς αντέγραφαν στη συνέχεια γρήγορα αυτά τα γραπτά, ενώ ορισμένα αντίγραφα αποδείχθηκαν τόσο ακριβή ώστε τα πρωτότυπα τοποθετήθηκαν στη βιβλιοθήκη και τα αντίγραφα παραδόθηκαν στους ανυποψίαστους ιδιοκτήτες. Η διαδικασία αυτή συνέβαλε επίσης στη δημιουργία μιας δεξαμενής βιβλίων στη σχετικά νέα πόλη.
Σύμφωνα με τον Γαληνό, ο Πτολεμαίος Γ' ζήτησε από τους Αθηναίους την άδεια να δανειστεί τα πρωτότυπα σενάρια του Αισχύλου, του Σοφοκλή και του Ευριπίδη, για τα οποία οι Αθηναίοι απαίτησαν το τεράστιο ποσό των δεκαπέντε ταλάντων ως εγγύηση. Ο Πτολεμαίος πλήρωσε ευχαρίστως το ποσό, αλλά κράτησε τα πρωτότυπα σενάρια για τη βιβλιοθήκη του.
Η Bibliotheca Alexandrina εγκαινιάστηκε το 2002 κοντά στη θέση της παλιάς βιβλιοθήκης.