В конце XIX века на Северной стороне была проложена узкоколейная железная дорога. Одна ветка шла на батареи № 5 и № 6, а вторая – на батареи № 4, 3, 1 и 7. В 1930-х гг. узкоколейку разобрали, а часть рельсов отправили на новую батарею № 10.
Ну а батарей № 4 на Северной стороне существовало две – «старая» и «новая». «Старая» береговая батарея № 4 находилась в глубине Севастопольской бухты, на берегу бухты Северная недалеко от причала, где сейчас швартуется паром, связывающий Северную и Артиллерийскую бухты. Со времен Крымской войны здесь сохранились добротно построенные казармы, горжевая[39] оборонительная стена, погреба боезапаса. Батарею планировалось вооружить сначала 6-дм мортирами обр. 1867 г., а затем 6-дм пушками в 190 пудов, под которые началось строительство шести отдельных двориков. Но в ходе пожара, произошедшего 30 мая 1889 г. на артскладах в Лабораторной балке, 6-дм пушки в 190 пудов, предназначавшиеся батарее, были испорчены. Поэтому с 1891 по 1905 г. на батарее стояли десять полевых орудий.
Судя по всему, 6-дм пушки в 190 пудов были к 1905 г. установлены на батарее, но на станках от 9-дм лёгких мортир. Такие мортиры не состояли на вооружении береговых батарей Севкрепости, но находились в «особом запасе». Угол горизонтального наведения станков 9-дм лёгких мортир зависел от типа платформы и составлял 30° или 180°.
В 1906 г. батарею перевооружили 75/50-мм пушками Канэ, для чего были перестроены дворики. Дворики имели две ниши первых выстрелов, расположенные по сторонам от позиции орудия. Земляной вал, облицованный камнем толщиной 6 саженей (около 13 м), надежно защищал орудия с фронта. Батарея имела большой казарменный городок, расположенный неподалеку, и горжевую оборонительную позицию.
В июне 1942 г. вокруг казарменного городка и батареи шли ожесточенные бои. Здесь оборону занимал местный стрелковый полк. Территория старой батареи стала как бы опорным пунктом обороны на Северной стороне. До настоящего времени батарея почти сохранилась. За валом, облицованным крымбальским известняком, видны следы четырёх орудийных двориков, ещё два были засыпаны в ходе перестройки батареи, сохранился въезд на батарею, казармы и пороховые погреба, построенные ещё перед Крымской войной. Горжевая оборонительная стена разрушена и почти не видна. В настоящее время «старая» батарея № 4 для осмотра недоступна, там находилась украинская, а с 2014 г. российская воинская часть.
Строительство «новой» батареи № 4 началось в 1904 г. на левом фланге третьей мортирной батареи. Батарея имела на вооружении четыре 152/45-мм пушки Канэ. Высота орудий над уровнем моря 13,4 сажени (28,6 м). Назначение, устройство и размеры сооружения те же, что и на батарее № 2. К 1 января 1906 г. на батарее имелось 3 бетонных и 1 временное деревянное основания с установленными на них 152-мм пушками СА системы Канэ. Все орудия были готовы к действию.
В 1907 г. построили бетонное основание к последней 4-й пушке. При этом из-за недостатка места пришлось орудия её размещать уступом. Два правофланговых 152-мм орудия располагались выше и чуть впереди, в один ряд, два – ниже по склону холма и чуть позади, уступом (одно чуть позади другого).
В 1914 г. орудия с батарей № 2 и № 4 демонтировали и отправили в Одессу. В 1920 г. на батареях Северной стороны орудий не было. Но уже к 1925 г. для защиты Севастополя восстановили батарею № 4, на которой установили 6-дюймовые пушки Канэ с разоружаемых крейсеров, идущих на слом. 152-мм орудия Канэ МА, установленные на батарее, отличались лишь тем, что были скрепленными до дула и имели раздельное заряжание. Внешнее характерное отличие – на казеннике выбито СА (сухопутная артиллерия) или МА (морская артиллерия). В новой нумерации батарея получает новый № 3. Батарея вошла в 1-й дивизион, КП которого находился на бывшей батарее № 7.
В 1927 г. батарея получила новый номер № 12. Орудия на батарее простояли до августа 1941 г., после чего были демонтированы для отправки на Перекоп. В ноябре 1941 г. на месте бывшей батареи № 12 восстановили батарею № 2 (второго формирования), вооруженную 100-мм пушками Б-24БМ на временных деревянных основаниях. Их расположение позволило вести огонь как по морским целям, так и по сухопутным. По состоянию же на январь 1942 г. на батарее числилось два орудия вместо четырёх. К июню 1942 г. на батарее № 2 числилось 4 орудия, но на массиве батареи стояло только одно орудие, второе орудие стояло на левом фланге бывшей батареи № 3. Ещё два орудия находились на других позициях. Перед оставлением батарея № 2 (на которой ещё оставался боезапас) была взорвана.