Когда Харьков был столицей республики, на Сумской сосредоточилось значительное количество учреждений. В начале улицы, в здании бывшего Северного банка, разместился Народный комиссариат финансов Украины; на Сумской, 11, находилась редакция газеты «Bicтi». В этом доме в 1930 году с журналистами Харькова встречался национальный герой чехословацкого народа Юлиус Фучик. Дальше вверх по улице в здании бывшего Совета съезда горнопромышленников Юга России находилась Промышленная академия, открытая в феврале 1931 года. В здании бывшего Института благородных девиц в начале 20-х годов размещалось студенческое общежитие (Дом пролетарского студенчества № 1) и общегородские студенческие учреждения (Кубуч — комитет улучшения быта учащихся, редакция журнала «Студент революции»). Позже в здании расположилось Управление Югостали. В 1933 году в этом здании начал работать Педагогический институт. На улице долгое время размещался Медицинский институт.
До застройки площади Дзержинского центральным местом проведения первомайских демонстраций был харьковский ипподром, находившийся в конце Сумской улицы. На зеленом поле ипподрома строились трибуны. Шли годы. Сумская превращалась в наиболее благоустроенную магистраль города. Прошло то время, когда по улице двигались конка и трамвай. Их место занял комфортабельный троллейбус. Улицу замостили брусчаткой, тротуары залили асфальтом, обсадили каштанами липами. Новый вид принял бывший Университетский сад, который с открытием здесь в 1935 году памятника великому Кобзарю получил имя Т, Г.Шевченко. Был благоустроен и городской парк, названный именем пролетарского писателя А. М. Горького. Парк соединился с Лесопарком трамвайной линией, построенной в 1930 году. Во время фашистской оккупации улица была сильно разрушена. Оккупанты уничтожили здание Педагогического института (бывший Институт благородных девиц), областного комитета партии, Мединститута и много новых строений, прилегавших к Парку имени А. М. Горького.
После Великой Отечественной войны там, где находился троллейбусный парк, методом народной стройки был заложен сквер «Победа» с бассейном и фонтаном-беседкой «Стеклянная струя». Общий план сквера и фонтана разработан архитекторами А. М. Касьяновым, В. И. Коржом и А. С. Маяк. Сквер был открыт в 1947 году.
В 1958 году, в дни празднования 40-летия Ленинского комсомола, на территории сквера была открыта Аллея комсомольцев-героев. По обе стороны красивой аллеи установлены на постаментах бюсты комсомольцев. Аллея открывается бюстом Н. Островского. Далее идут скульптурные портреты 3. Космодемьянской, А. Матросова, О. Кошевого, Л. Убийвовк, И. Минайленко, А. Зубарева и Г. Никитиной.
Значительные строительные работы проводились в районе Парка имени Горького, где по проектам харьковских архитекторов сооружены большие здания. В их числе жилой дом напротив входа в парк, сооруженный по проекту архитекторов А. Павленко и В. Ермилова. Этот дом, открывающий въезд на центральную магистраль города, виден издалека на шоссе Москва — Симферополь.
В 1954 году, там, где стоял дом ЦК КП(б)У, разрушенный во время войны, по проекту архитектора В. М. Орехова и В. П. Костенко сооружено шестиэтажное здание областного комитета Компартии Украины, в котором находится также горком Компартии Украины и обком комсомола.
К числу новых сооружений принадлежит большой жилой дом Турбинного завода, в нижнем этаже которого разместилось фойе кинотеатра «1-й Комсомольский» (архитектор Я. Блиндер), здание института Гипрококс (архитектор Е. А. Любомилова), жилые дома на углу улиц Каразина и Сумской.
В 1968 году напротив главного входа в Парк культуры и отдыха имени А. М. Горького состоялось открытие мятника советскому педагогу и писателю А. С. Макаренко. Выбор места не случаен. Недалеко от парка, в Померках, находилась детская трудовая коммуна имени Ф. Э. Дзержинского, созданная на добровольные отчисления чекистов Украины как памятник председателю ВЧК.
С 1927 по 1935 год коммуной заведовал А. С. Макаренко. В эти годы он написал книги «Педагогическая поэма», «Марш 30 года», «ФД-1», пьесу «Мажор». Памятник А. С. Макаренко выполнен из серого гранита. На пьедестале надпись: «Сооружен по инициативе трудящихся завода имени Ф. Э. Дзержинского 1968 г. Авторы: скульптор М. Ф. Овсянкин, архитектор Э. Ю. Черкасов, инженер И. С. Фрейдман».
Напротив будущего центрального входа в парк 1972 — 1973 годах сооружен подземный переход под проезжей частью Сумской улицы.
В 1971 году на углу улиц Сумской и Рымарской, глубине Сада Шевченко началось строительство нового здания театра оперы и балета (главный архитектор проекта С. Н. Миргородский). Помещение будет иметь два зала: театральный на 1500 мест и концертный на 400 мест.
На Сумской улице находится много научных и учебных заведений, оказывающих значительную помощь на-родному хозяйству нашей страны. Среди них Всесоюзный институт по проектированию предприятий коксохимической промышленности (Гипрококс), ВНИИОчермет, Укрниигаз, Инженерно-строительный институт и другие.