О Водовзводной башне Петр I отзывался, что ее «сама натура зело укрепила». Когда-то с наружной стороны около нее работали 3 мельницы и был пруд с лебедями, иначе Лебяжий двор, давший название поныне существующему Лебяжьему переулку. В 1682—1687 гг. неизвестный мастер водовзводного дела, по преданию монах, построил здесь первый каменный мост через Москву-реку — он так и сохранил название Каменного — вместо существовавших до того времени «живых мостов» из сцепленных между собою плотов.
Мост этот связан с известным событием русской истории — взятием Азова. После прорыва к морским берегам русские войска были здесь встречены первым в нашей истории победным салютом. «Азовскую викторию» праздновала вся Москва. На улицах были расставлены еще не знакомые москвичам огромные живописные панно с аллегорическими изображениями и сценами похода, играли музыканты — Москва издавна увлекалась валторнами, фаготами, гобоями, трубами, исполняли специально сочиненные кантаты певчие.
По словам современника, «на каменном мосту Всехсвятском, на башне, сделана оказа (изображение) Азовского взятия, и их пашам персуны (портреты) написаны живописным письмом, также на холстине левкашено живописным же письмом как что было под Азовом, пред башнею по обе стороны».
Особенной красотой отличалось убранство Водовзводной башни. По приказу Петра она была украшена по ярусам и во всех окнах знаменами разных цветов, между которыми с наступлением темноты зажигались сотни ярко расписанных слюдяных фонарей. Эта иллюминация становится постоянной и повторяется в дальнейшем в связи с каждой «викторией» — победой и каждым праздником.
В момент своего строительства Свиблова стрельница должна была служить только оборонным целям. Подобно Беклемишевской и Тайницкой башням, она имела внутри колодец с питьевой водой на случай «осадного сидения». Перемена названия башни была связана с тем, что в ней устанавливается машина, качавшая воду. С верха башни вода по свинцовым трубам подавалась в особую водоразборную палатку и через нее распределялась для нужд разраставшегося царского хозяйства. Это и был первый московский водопровод. Система представлялась настолько сложной и технически совершенной, что, по заключению иностранных специалистов, вполне стоила тех нескольких бочонков золота, которые были на нее потрачены. Снабжала она водой и местные сады.
Кремлевские сады — у них своя слава, своя долгая и обстоятельная история. Были они большие и малые, грунтовые и «висячие» на сводах построек и галерей. Один из них, на месте нынешнего Тайницкого сада, располагался на каменных сводах и занимал площадь около 2200 квадратных метров. Устройство его было обычным для «висячих» садов. На своды клались спаянные между собой свинцовые доски, выводившиеся корытцем по краям. В образовавшуюся емкость насыпали слоем до 60 сантиметров хорошо просеянную землю, в которую высаживались кусты и даже деревья. В 1702 г. здесь было 130 яблонь трех сортов (налив, скрут и архат), 25 грушевых деревьев «волоских» и «сарских», 8 кустов винограда, 23 куста сереборинника — шиповника красного и белого и 40 кустов смородины. На зиму все посадки плотно закутывались рогожей и войлоком.
В саду даже был выложенный свинцовыми плитками прудик глубиной около метра. В такое устроенное на крыше Запасного кремлевского дворца озерцо вода подавалась из Водонапорной башни, и здесь будущий Петр I впервые катался на «потешных» лодках — «карбусе» и «ошняке», который имел даже каюту, или «чердак». Они-то и стали предшественниками знаменитого петровского ботика.
Но в том своем первоначальном виде Водовзводная башня не дошла до наших дней. В начале XIX в. из-за ветхости она была до основания разобрана и вновь сложена. В 1812 г. наполеоновские войска взорвали ее вместе с рядом других кремлевских башен. В 1817—1819 гг. Водовзводная башня строится под наблюдением известного московского зодчего О. И. Бове, который использовал в ней ряд деталей, характерных для современной ему архитектуры позднего классицизма: обрамления окон и рустовку — имитацию каменных блоков.
Сооруженная в 1487—1488 гг., соседняя с Водовзводной, Благовещенская башня почти вдвое ниже ее по высоте. Бывшая Свиблова стрельница имеет сейчас, включая звезду, 61,25 метра. Благовещенская — 30,7 метра. Во времена Ивана Грозного она использовалась как государственная тюрьма. Рядом с ней находились хозяйственные — Портомойные ворота, через которые царская прислуга выносила на реку полоскать белье. Ворота эти заложены в 1821 г. при реставрации южной стены, но следы их видны с внутренней стороны и поныне.