8 декабря 1893 года Большая хоральная синагога на 1490 мест (908 для мужчин в зале и 582 для женщин на галерее) была торжественно открыта. Синагога в мавританском стиле была построена по проекту архитекторов Льва Бахмана и академика архитектуры Ивана Шапошникова; в доработке проекта приняли участие Владимир Стасов и Николай Бенуа. Как положено, в зал внесли семь свитков Торы. Первый свиток нес Гораций Гинцбург, за ним шли с зажженными свечами Марк Варшавский и Лазарь Поляков. Несмотря на все урезывания и ограничения, синагога получилась величественной и красивой. Остается только гадать, какой бы она была в случае исполнения первоначального замысла. Современники долгое время называли ее «синагогой барона Гинцбурга». Впрочем, называют ее нередко «синагогой Гинцбургов» и в настоящее время.
В завещании барон Гораций Гинцбург писал своим детям:
После смерти Горация петербургскую еврейскую общину возглавил его сын Давид Гинцбург, ученый-востоковед, один из инициаторов издания и редакторов 16-томной «Еврейской энциклопедии» (1908–1912), самого полного на тот момент свода знаний о еврействе. Он был автором многочисленных научных публикаций в русских и французских научных журналах. Собрал уникальную библиотеку по иудаике, начало которой было положено его дедом и отцом.
В 1907 году в Петербурге были учреждены Курсы востоковедения барона Давида Гинцбурга, ставшие первым еврейским высшим учебным заведением в России. Давид Гинцбург был основным спонсором и ректором курсов. В учебную программу входили древнееврейский и арамейский языки, еврейская история, библейская критика и экзегетика, история еврейской литературы, история философии, история еврейского права, литература Талмуда, немецкий и французский языки. Курсы просуществовали до 1916 года.
Гинцбург был покровителем юного Самуила Маршака. Он познакомил четырнадцатилетнего начинающего поэта с известным литературным критиком Владимиром Стасовым; тот, в свою очередь, впоследствии выхлопотал ему перевод из острогожской в петербургскую гимназию, познакомил с видными деятелями русской культуры, включая Максима Горького. Когда Маршак заболел, Гинцбург отвез его в Осиповку (Гайсинского уезда Подольской губернии) и определил на жительство в семью управляющего принадлежавшего ему Осиповского завода. «Скоро сюда приезжает барон, и я, наверное, переселюсь к нему», – писал «дедушке» Стасову Маршак 8 мая 1903 года.
Помимо научной деятельности, Давид Гинцбург являлся председателем правления Волжско-Каспийского нефтепромышленного и торгового общества. Давид и его брат Александр входили в состав Кружка 1905 года о равноправии национальностей, собиравшегося у министра просвещения в правительстве графа Витте графа Ивана Ивановича Толстого. Увы, увидеть полный комплект «Еврейской энциклопедии» Давиду Гинцбургу не довелось. Он скончался в 1910 году и, один из немногих Гинцбургов, был похоронен не в Париже, а на Преображенском еврейском кладбище в Петербурге.
После смерти Давида Гинцбурга петербургскую еврейскую общину впервые за полвека возглавил не представитель клана Гинцбургов. С конца 1910 и до 1918 года председателем правления Хоральной синагоги и еврейской общины Петербурга / Петрограда был купец 1-й гильдии, потомственный почетный гражданин, банкир, глава торгового дома «М. А. Варшавский», председатель или член правления ряда финансовых, строительных, транспортных и прочих компаний и акционерных обществ Марк Варшавский. Он же возглавил Еврейское колонизационное общество в России и Общество гигиенических дешевых квартир для еврейского населения. В августе 1914 года стал председателем Еврейского комитета помощи жертвам войны. В 1918-м эмигрировал во Францию.