Architektura synagogi Ben Ezra nie różni się od standardowej architektury koptyjskich kościołów. Stało się tak dlatego, że budynek początkowo był kościołem, ale w końcu X w. kalif Hakim zamknął kościół. W późniejszych czasach to budynek wykupiła gmina żydowska, która w tym czasie wynosiła znaczną część egipskiego społeczeństwa. Synagoga została nazwana po imieniu rabina Jerozolimy Abrahama ben Ezry.

Stał się sławny synagoga tym, że w XIX wieku, w trakcie remontu, tutaj odkryto skarb z tysiącami dokumentów XI-XII wieku.
Ostatnio synagogi została gruntownie wyremontowana.