Volgens de vroegste informatiebron werd de bibliotheek aanvankelijk georganiseerd door Demetrius van Phaleron, een leerling van Aristoteles, onder het bewind van Ptolemaeus I Soter (ca.367 v.C.-ca.283 v.C.).
De bibliotheek bestond uit een peripatos (wandelgang), tuinen, een zaal voor gezamenlijk eten, een leeszaal, collegezalen en vergaderzalen. De precieze indeling is echter niet bekend. De invloed van dit model is vandaag de dag nog steeds te zien in de inrichting van universiteitscampussen. Van de bibliotheek zelf is bekend dat zij een aankoopafdeling had (mogelijk gebouwd in de buurt van de magazijnen, of voor het gebruik dichter bij de haven), en een catalogiseerafdeling. In de hal bevonden zich rekken voor de verzamelingen van rollen (de boeken stonden in deze tijd op papyrusrollen), bekend als bibliothekai (βιβλιοθῆκαι). Het gerucht ging dat in de muur boven de planken een beroemde inscriptie was gekerfd, luidende: De plaats van de genezing van de ziel.
Het was de eerste bekende bibliotheek die een serieuze collectie boeken van buiten de landsgrenzen bijeenbracht. De bibliotheek werd belast met het verzamelen van alle kennis van de wereld. Zij deed dit door middel van een agressief en goed gefinancierd koninklijk mandaat met reizen naar de boekenbeurzen van Rhodos en Athene en een beleid om de boeken van elk schip te halen dat de haven aandeed. Ze bewaarden de originele teksten en maakten kopieën om naar hun eigenaars terug te sturen. Alexandrië, vanwege zijn kunstmatige haven met tweerichtingsverkeer tussen het vasteland en het Pharos-eiland, verwelkomde handel uit het Oosten en het Westen, en werd al snel het internationale handelsknooppunt en de belangrijkste producent van papyrus en, spoedig genoeg, boeken.
De bibliotheek was ook de thuisbasis van een groot aantal internationale geleerden. De bibliotheek vulde haar schappen met nieuwe werken op het gebied van wiskunde, astronomie, natuurkunde, natuurlijke historie en andere onderwerpen. Het was in de bibliotheek van Alexandrië dat de wetenschappelijke methode voor het eerst werd bedacht en in praktijk gebracht, en dat de empirische normen ervan werden toegepast in de serieuze tekstkritiek. Aangezien dezelfde tekst vaak in verschillende versies bestond, was vergelijkende tekstkritiek van cruciaal belang om de nauwkeurigheid ervan te waarborgen. Zodra de juistheid was vastgesteld, werden kopieën gemaakt voor geleerden, koningshuizen en rijke bibliofielen over de hele wereld, en deze handel leverde de bibliotheek inkomsten op. De redacteuren van de Bibliotheek van Alexandrië zijn vooral bekend geworden door hun werk aan Homerische teksten. De bekendere uitgevers hadden meestal ook de titel van hoofdbibliothecaris. Hiertoe behoorden onder andere,
- Zenodotus (vroege derde eeuw voor Christus)
- Callimachus, (begin derde eeuw v. Chr.), de eerste bibliograaf en ontwikkelaar van de Pinakes - de eerste bibliotheekcatalogus.
- Apollonius van Rhodos (midden derde eeuw v.Chr.)
- Eratosthenes (eind derde eeuw voor Christus)
- Aristophanes van Byzantium (begin tweede eeuw v.Chr.)
- Aristarchus van Samothrace (eind tweede eeuw voor Christus).
- Euclides.
De collectie van de bibliotheek, die reeds beroemd was in de antieke wereld, werd in latere jaren nog veel beroemder. Papyrusrollen maakten deel uit van de collectie, en hoewel perkamenten codices na 300 v. Chr. overwegend als meer geavanceerd schrijfmateriaal werden gebruikt.
Een enkel geschrift kon meerdere rollen in beslag nemen. Koning Ptolemaeus II Philadelphus (309-246 v. Chr.) zou 500.000 rollen als doelstelling voor de bibliotheek hebben gesteld. Marcus Antonius zou Cleopatra meer dan 200.000 rollen (afkomstig uit de grote bibliotheek van Pergamum) voor de bibliotheek als huwelijksgeschenk hebben gegeven. Carl Sagan, in zijn serie Cosmos, stelt dat de bibliotheek bijna een miljoen rollen bevatte, hoewel andere deskundigen een kleiner aantal hebben geschat. Er is geen index van de bibliotheek bewaard gebleven, en het is niet mogelijk om met zekerheid te weten hoe groot en hoe divers de collectie kan zijn geweest.
Een wellicht overdreven verhaal gaat over hoe de collectie van de bibliotheek zo groot is geworden. Per decreet van Ptolemaeus III van Egypte moesten alle bezoekers aan de stad alle boeken en rollen inleveren. Officiële schriftgeleerden kopieerden deze geschriften dan snel, waarbij sommige kopieën zo nauwkeurig bleken dat de originelen in de bibliotheek werden gelegd en de kopieën aan de nietsvermoedende eigenaars werden bezorgd. Dit proces hielp ook om een reservoir van boeken te creëren in de relatief nieuwe stad.
Volgens Galenus vroeg Ptolemaeus III toestemming aan de Atheners om de originele schriften van Aeschylus, Sophocles en Euripides te lenen, waarvoor de Atheners het enorme bedrag van vijftien talenten als garantie eisten. Ptolemaeus betaalde gelukkig het bedrag maar behield de originele schriften voor de bibliotheek.
De Bibliotheca Alexandrina werd in 2002 ingehuldigd op de plaats van de oude bibliotheek.
