Первая каменная синагога в Гродно была построена в 1575—1580 гг. по проекту итальянского архитектора Санти Гуччи, приглашённого раввином Мордехаем Яффе, уроженцем Праги, незадолго до этого — в 1572 году — приехавшим в Гродно. В результате пожара в 1617 году эта синагога была полностью уничтожена, но вскоре после пожара польский король Сигизмунд III разрешил евреям построить новую синагогу на месте старой. Вторая синагога просуществовала дольше, но повторила участь предшественницы, сгорев в 1899 году. Нынешнее здание Большой хоральной синагоги было построено Ильёй Фрункиным в 1902—1905 гг. в одной из разновидностей эклектики — мавританском стиле.

В период немецкой оккупации Гродно синагога, находившаяся в центре еврейского гетто, использовалась нацистами как место сбора евреев перед отправкой в концлагеря и на расстрелы.

Богатому внутреннему декору здания во время Великой Отечественной войны был нанесён серьёзный ущерб. В советский период (1944—1991 гг.) здание использовалось под склад, также здесь были творческие мастерские гродненских художников.

С 1991 года здание возвращено еврейской религиозной общине. В настоящее время ведётся восстановление фасадов и внутреннего убранства синагоги.