Esta biblioteca se construyó como un tributo a la antigua biblioteca de Alejandría, el legendario centro de aprendizaje de floreció en la Dinastía Ptolemaica en Egipto y se perdió en la antigüedad. Fue construida como homenaje así como un intento de reavivar parte del esplendor de la antigua institución educativa. En la actualidad es sede de seis bibliotecas especializadas, cuatro museos, un planetario, trece centros de investigación, quince exhibiciones permanentes, cuatro galerías de arte, un centro de conferencias, y nueve instituciones, y recibe alrededor de 1,5 millones de visitantes cada año.
La UNESCO jugó un papel principal en la construcción de este proyecto ideado inicialmente por académicos de Alejandría, en la década de 1970. Algunos dicen que la visita del ex presidente Richard Nixon a Alejandría en 1974, durante la cual solicitó ver el sitio de la antigua biblioteca "universal" ahí, el cuál nadie supo localizar en ese momento, fue la chispa de inspiración de la nueva biblioteca.
Es famoso que durante el levantamiento de la Primavera Árabe de 2011, los jóvenes de Alejandría formaron una cadena humana alrededor de la biblioteca para protegerla del vandalismo y la destrucción.