По окончании войны Гудович командовал дивизией в Малороссии, где и оставался до 1776 г.; сформировал несколько легкоконных полков, с которыми в течение последующих нескольких лет охранял южные приграничные области. В 1784 г. Екатерина II наградила Ивана Васильевича орденом св. Александра Невского, а в 1785 г. назначила его рязанским и тамбовским генерал-губернатором и инспектором армии по кавалерии и инфантерии. Гражданская служба Гудовича продолжалась четыре года; с началом новой русско-турецкой войны он вновь вернулся в армию. 14 сентября 1789 г. его войсками был взят замок Хаджибей, расположенный на территории современной Одессы, а 18 октября 1790 г. он принудил к капитуляции сильную турецкую крепость Килия, захватив там 84 орудия, за что был произведен в генерал-аншефы и переведен на Кавказскую линию, где ему была поручена Кубанская армия.
22 июня 1791 г. Гудович с 7-тысячным отрядом после многочасового кровопролитного боя овладел мощной крепостью Анапа, которую защищал 15-тысячный турецкий гарнизон. В сражении было захвачено 95 орудий и 130 знамен, погибло более 8 тысяч турок. Гудовичем был послан особый отряд к крепости Суд-жук-Кале в 27 верстах от Апапы, где было захвачено еще 25 орудий. 15 июля 1791 г. генерал-аншеф Гудович был удостоен ордена св. Георгия 2-й степени «во уважении усердной службы, радения и точности его в исполнении предположений главного начальства, искусства и отличного мужества, оказаннаго им в походе со вверенным ему корпусом, отражая неприятеля, и при взятии штурмом города Апапы».
Став кавказским генерал-губернатором, Гудович подчинил России Дербентское ханство и Тарковское шамхальство. Под его руководством построены Усть-Либинская, Кавказская и Шелководская крепости.
Вступивший на престол император Павел I в день своей коронации возвел Ивана Васильевича в графе кое достоинство Российской империи. В 1798 г. Гудович занял пост киевского, а затем каменец-подольского генерал-губернатора. В 1799 г. был назначен главнокомандующим армией для действий на Рейне против французской республики, по этот поход не состоялся.
В июле 1800 г. за критику прусских порядков, насаждаемых в армии Павлом I, Гудович был уволен в отставку и возвращен на службу только в 1806 г., уже в царствование Александра I, который назначил его главнокомандующим войсками в Грузии и Дагестане. Войска Гудовича взяли штурмом Баку, и благодаря их удачным действиям к России были присоединены Шехинское и Лезгинское ханства.
С началом русско-турецкой войны 1806–1812 гг. Гудович одержал победу над турецкими войсками сераскира Юсуф-паши у крепости Гумры и на реке Арпачай. 18 июня 1807 г. в сражении при Арпачае 7 тысяч русских солдат разбили 20-тысячную турецкую армию. За эту победу Гудович 30 августа 1807 г. был награжден чином генерал-фельдмаршала. Однако после неудачного штурма Эриваии в ноябре следующего года ему пришлось отвести свои войска в Грузию. Тяжелая болезнь с потерей глаза вынудила Гудовича оставить Кавказ. 7 августа 1809 г. он был назначен главнокомандующим в Москву, членом Государственного совета и сенатором. 18 ноября Александр I поручил Гудовичу составить Комитет для обмундирования войск. Он писал, что «столица Московская, которая всегда потребности сей удовлетворяла, как своею собственною промышленностию, так и стечением торговли из других мест государства, имеет теперь вас своим начальником, коего знаменитые заслуги и непоколебимое усердие к сохранению польз государственных известны Мне и отечеству». Тем не менее старый фельдмаршал вынужден был просить отставки, которая была принята 13 мая 1812 г. Последней наградой Гудовича стал портрет императора, усыпанный алмазами.
И. В. Гудович окончил жизнь в своем имении Чечельник Ольгопольского уезда Подольской губернии, пожалованном ему Павлом I. Был женат на дочери последнего гетмана Украины Прасковье Кирилловне Разумовской и оставил своим наследникам 13 тысяч душ крепостных. Похоронен в Киеве в Софийском соборе.
Фамилия Прозоровских относится к русскому княжескому роду потомков Рюрика и является одной из ветвей ярославских князей. Предком князей Прозоровских стал четвертый сын князя Федора Михайловича Моложского Иван, получивший фамилию по названию своей вотчины — села Прозорова Моложского уезда. В XVII в. князья Прозоровские возводились в бояре из стольников, минуя чин окольничего, и занимали крупные должности судей в приказах, полковых и городовых воевод.
