Pierwsze i najstarsze synagogi w Białymstoku były budowane w dzielnicy żydowskiej Szulhof, której serce stanowił plac kahalny – dziś jest to zabudowa wokół pomnika spalonej synagogi czyli okolice gmachu PZU – od ul. Suraskiej do ul. Legionowej.
Najstarsza bożnica została tu wybudowana w 1692 lub 1718 roku. Prawdopodobnie dotrwała do 1941 roku jako dom modlitwy dla mężczyzn i spłonęła wraz z całą dzielnicą żydowską.
Jednak ten mały, biały budyneczek nie był główną synagogą Białegostoku.
Od czasów Izabeli Branickiej (która zresztą osobiście wsparła budowę) tj. od 1771 roku funkcjonowała tutaj tzw. Synagoga Stara. Był to budynek bardzo podobny do bożnicy, która do dziś istnieje w Tykocinie. Murowany, na planie zbliżonym do kwadratu, nakryty czterospadowym dachem zwieńczonym latarnią i otoczony babińcami. W 1905 roku został rozebrany – jako mocno nadszarpnięty i za mały na potrzeby tak dużej społeczności. W jego miejsce miała wkrótce zostać wybudowana nowa synagoga.
Wielka Synagoga okazała się inwestycją na tyle kosztowną, że jej ukończenie przeciągnęło się o kilka lat. Budowie nie sprzyjały też okoliczności polityczne. Wybuchła wojna Rosyjsko-Japońska a przez cesarstwo przetoczyła się rewolucja 1905 roku. W 1906 roku w Białymstoku miał miejsce tragiczny w skutkach pogrom. Budowę kontynuowano od 1909 roku. Ostatecznie huczna inauguracja miała miejsce w 1913 roku. Architektonicznie nowa synagoga wpisuje się w modny wówczas styl mauretański. Salę modlitw przykrywała kopuła z iglicą i lekko wysuniętymi okulusami. Aneksy boczne zwieńczyły dwie dodatkowe, baniaste kopułki. Całość wyraźnie górowała nad tą częścią miasta.
Ostatnim rabinem Wielkiej Synagogi i Białegostoku był Gedali Rozenman. Wielce zasłużony i szanowany, zarówno w społeczności żydowskiej jak i chrześcijańskiej. Wprowadził zwyczaj śpiewania hymnu polskiego w synagodze z okazji świąt narodowych. Uczestniczył we wszystkich uroczystościach państwowych. Zdjęcia rabina Rozenmana błogosławiącego Marszałka Piłsudskiego obiegły całą Polskę. Zginął w getcie w 1943 roku. Synagoga została spalona przez hitlerowców 27 czerwca 1941 roku. W środku zamknięto ok. 800 osób a następnie do budynku wrzucono granaty. Dym z dogorywającej synagogi unosił się nad miastem przez wiele dni a po wojnie miejsce gdzie stała znaczyła metalowa konstrukcja z kopuły. W 1995 roku w nawiązaniu do tego obrazu i dramatu ludności żydowskiej, powstał pomnik upamiętniający Wielką Synagogę.