Со временем Сумская разрасталась. Появились каменные здания, на плане Харькова 1822 года обозначен Университетский сад, разбитый на месте старого леса, подходившего к Харьковской крепости в XVII веке. На территории нынешнего розария в 1825 году началось сооружение большого здания для кадетского корпуса. Но кадетский корпус в Харькове не открыли, а здание в 1839 году передали Институту благородных девиц.
В то время Сумская представляла собой смесь города с деревней, крайней бедности и богатства. Так, например, рядом с огромным зданием Института благородных девиц стояла убогая лачуга в три окна, обмазанная глиной, с соломенной крышей, на которой во избежание пожара была поставлена деревянная бочка с водой и огромная мочальная швабра. На север от института тянулся Университетский сад, а улица оканчивалась на месте нынешней площади Дзержинского. Правая сторона Сумской напротив института и сада была не застроена и представляла собой огромный пустырь.
В конце 30-х—начале 40-х годов прошлого века началось упорядочение улицы. Университетский сад со стороны Сумской обнесли красивой каменной оградой железной решеткой. В 1839 году улицу напротив института и сада вымостили камнем, а в 1840 году установил 37 масляных фонарей. Кладбище было снесено, и на его месте сосредоточилась торговля хлебом, в связи с чем: Мироносицкую площадь стали называть Хлебной.
Спустя несколько лет на Сумской появился ряд небольших, как тогда говорили — промышленных, заведений. Все они располагались на отрезке между нынешней Театральной площадью и Совнаркомовской улицей.
В середине прошлого века возле Университетско сада появилось высшее учебное заведение — Ветеринарный институт.
Институт был создан на базе практической ветеринарной школы, основанной при Харьковском университете в 1839 году. В 1851 году школу отделили от университета на правах высшего учебного заведения, а в 1873 году переименовали в Ветеринарный институт. Здание института построено в 1851 — 1854 годах по проекту архитектора М. Львова. В стенах института работало много известных ученых, среди которых профессора Н. Д. Галицкий, Л. С. Ценковский, А. А. Раевский, В. Я- Данилевский, А. Н. Краснов. Здесь в 1860—1862 годах в лаборатории профессора Л. О. Павловича работал великий русский ученый И. И. Мечников.
В 1866 году было открыто уездное училище, а в 1869 году на Сумской, 10, украинская художница и педагог М. Д. Раевская-Иванова открыла школу рисования.
На Сумской открылся ряд пансионов, мастерских, магазинов. Улица стала оживленнее. Этому способствовала и начавшаяся в 1852 году прокладка шоссейной дороги между Харьковом и Курском, по которой открылось движение почтово-пассажирских дилижансов на Москву.
Это оживление использовали откупщики, построившие вдоль улицы винные лавки. Не отставало от них и духовенство. Вместе с откупщиками оно организовывало на Мироносицкой площади гуляния, во время которых сбывалось огромное количество спиртных напитков.
Летом, в дни Успенской ярмарки, в институте благородных девиц устраивались балы.
Граница застройки улицы в северном направлении была определена в конце XIX столетия. В 1893—1895 годах при выезде с улицы на Белгородское шоссе силами учеников и студентов учебных заведений Харькова началась посадка городского парка, открытого в 1907 году.
В конце XIX — начале XX столетия Сумская разрослась еще больше. С 1894 года Городская дума стала распродавать земли в конце Сумской, и здесь появилось много каменных зданий.
В конце XIX столетия на Сумской строится здание редакции газеты «Южный Край» (ныне дом № 13, где долгое время находилась типография издательства «Социалистична Харшвщина»). В 1902 и 1906 годах по проекту архитекторов братьев Загоскиных на улице были возведены два четырехэтажных дома, соединенных между собой, в которых разместился Совет съезда горнопромышленников юга России (сейчас здесь Радиотехнический техникум).
В 1910 году на углу Сумской и нынешней площади Советской Украины по проекту архитекторов О. Мунца и А. Шпигеля построили здание Русско-Азиатского, или Северного банка. Две декоративные фигуры под фронтоном сделаны по моделям В. Кузнецова. Кроме банка, здесь размещались кабинеты и лаборатории Женского медицинского института. После революции это помещение принадлежало Медицинскому институту. В том же году был сооружен украшенный скульптурами шестиэтажный жилой дом (Сумская, 82), проект которого разработал архитектор В. Эстрович.
По проекту архитектора И. Горохова в 1913 году на улице построили особняк, принадлежавший издателю газеты «Южный Край» Иозефовичу. Сейчас здесь районный Дворец бракосочетания «Дзержинский».
