Александр II разрешил евреям (отставным солдатам, купцам, обладателям учёных степеней и дипломов о высшем образовании) проживать вне черты оседлости, в том числе и в Петербурге. Это право было дано и членам их семей, а также особо оговоренному числу приказчиков и слуг. Евреи также получили право приглашать раввинов из других городов.

В середине XIX века община в Санкт-Петербурге насчитывала около 10 тысяч человек. У неё было несколько небольших молелен по всему городу, но для удовлетворения религиозных нужд этого было недостаточно. Поэтому по инициативе общины было решено обратиться к властям о разрешении на строительство синагоги.

1 сентября 1869 года было утверждено постановление Кабинета министров о разрешении петербургским евреям построить синагогу. Через полторы недели был избран комитет для постройки синагоги. Его возглавил Гораций Гинцбург.

Но строительство никак не могло начаться. Дело в том, что в течение десяти лет продолжался поиск места для строительства. Наконец, в январе 1879 года еврейская община приобрела дом и участок А.А. Ростовского на Большой Мастерской улице. В июле того же 1879 года был объявлен конкурс проектов синагоги.

В мае 1883 года Александр III утвердил эскизный проект будущей синагоги. Проект здания синагоги выполнили архитекторы Лев Исакович Бахман и Иван Иванович Шапошников. В проекте принимали участие Владимир Васильевич Стасов и Николай Леонтьевич Бенуа. Строительный комитет возглавил А.А. Кауфман, непосредственно строительные работы шли под руководством А.В. Малова и его помощников С.О. Клейна и Б.И. Гиршовича.

Главным спонсором выступил первый председатель еврейской общины города барон Гораций Гинцбург. Банкирский дом Гинцбургов был основан в Петербурге в 1859 году и был одним из крупнейших банков страны, который сотрудничал с Ротшильдами и другими еврейскими финансистами Европы. Банкирский дом Гинцбургов финансировал строительство и эксплуатацию многих железных дорог и учредил «Общество распространения просвещения между евреями России».

Спонсировал строительство и известный меценат и банкир Самуил Поляков. Кстати, на его деньги в Петербурге построили первое в России студенческое общежитие, где бедные студенты получали бесплатно жилье и еду.

В октябре 1886 года освятили Малую синагогу, в ней до открытия большого зала разместилась временная синагога.

В 1888 году завершилось строительство Большой синагоги. Тем не менее работы по отделке интерьеров продолжались ещё в течение пяти лет. Наконец, в декабре 1893 года состоялась торжественная церемония освящения Большой синагоги.

Здание храма построено в традициях древнееврейского зодчества. Его центр украшает ризалит и портал в виде арки с парными колоннами. Боковые ризалиты меньше центрального. Здание венчает сферический купол.

Вестибюль синагоги знаменит своей уникальной акустикой: стоя в одном конце вестибюля лицом к стене, можно слышать слова, произнесённые шёпотом, с противоположной стороны на расстоянии более десяти метров. В центре вестибюля звук многократно усиливается.

Люстра в главном зале – оригинальная. После реставрации, она вновь покрыта сусальным серебром. Изначально эта люстра была газовой и уже впоследствии переоборудована в электрическую.

Ко времени завершения строительства, в 1893 году, уже два года действовал закон о черте осёдлости. С 1891 года, когда была установлена так называемая черта оседлости, евреям запрещалось селиться вне пределов указанных земель (территории современных Украины, Белоруссии, Литвы и Молдавии). Для того чтобы выехать за черту оседлости, достаточно было креститься, однако желающих сменить веру было немного.

Ограничения в праве жительства отразились на социальной структуре еврейской общины столицы. В Петербурге жили в основном евреи с высшим образованием или высокой квалификацией: дантисты, провизоры, адвокаты, журналисты, литераторы.

Правда, особые права были дарованы купцам первой гильдии, промышленникам и магнатам.

После постройки синагоги по постановлению Комитета министров были закрыты все молельни в городе. Это привело к трудностям для отправления обрядов, так как здание не могло вместить всех в нём нуждающихся.

В 1909 году был построен каменный забор вдоль участка синагоги вместо старого и ветхого деревянного. В начале XX века перед зданием появилось ограждение из гранитных блоков с металлической оградой.

В 1929 году вышло постановление о закрытии еврейской религиозной общины. А на следующий год решением была закрыта и синагога. После жалобы евреев в высший законодательный орган страны того времени ВЦИК 1 июня 1930 года синагога была открыта вновь.

В наши дни Большая хоральная синагога, рассчитанная на 1200 мест, остаётся одной из крупнейших в Европе и сохраняет роль еврейского культурного и общественного центра в Петербурге.

Большая хоральная синагога является ортодоксальной, это означает, что во время молитвы мужчины и женщины должны находиться раздельно, чтобы не отвлекать друг друга. Для женщин предназначена специальная галерея на втором этаже. На балконе над женской галереей располагается мужской хор.