В те годы Харьков считался ведущим центром развития новой украинской литературы. Первым великим произведением на украинском языке стала «Энеида» И. Котляревского. Его примеру последовали профессор русской истории, а с 1841 года — ректор Харьковского университета П. Гулак-Артемовский, слагавший басни и сатиры, а также Г. Квитка-Основьяненко, которого по праву называли отцом новой украинской прозы. В Харьковском университете вокруг профессора-слависта и литератора-романтика И. Срезневского сформировался кружок студентов, увлеченных собиранием образцов украинского народного песенного творчества. Они воспринимали фольклор как выражение народного духа, сами сочиняли стихи, баллады и лирические песни, обращаясь к народным образцам. Первым в этой сфере проявил себя Л. Боровиковский, собиравший и публиковавший народные песни, переводивший на украинский язык с польского и русского, оставивший сборник собственных романтических песен и баллад в стиле народных дум, где главными персонажами выступают казаки и кобзари — народные певцы-сказатели.
Костомаров в университетские годы очень много читал. Перегрузки не замедлили сказаться на его здоровье — еще студентом он испортил себе зрение. В январе 1837 года Николай Костомаров сдал экзамены по всем предметам, а 8 декабря 1837 года был утвержден в степени кандидата.
После окончания университета он попал на военную службу, был юнкером в Кинбурнском драгунском полку в Острогожске. Но военным он оказался никудышним. Прежде всего нести службу мешало плохое зрение. К тому же очень скоро Костомарову надоели «военные учения и тогдашние военные товарищи». Выход нашелся своеобразный: начав разбирать богатый архив уездного суда, в котором хранилось делопроизводство бывшего казачьего полка со времени основания города, Костомаров стал историком полка. К сожалению, это его сочинение не сохранилось, тем не менее оно сыграло большую роль в формировании его интересов как ученого: после составления описания Острогожского слободского полка Костомаров серьезно задумался о том, чтобы в аспекте истории подобных полков проследить прошлое всей Слободской Украины. Тогда же Николай Иванович пришел к убеждению, что историю нужно изучать не только по мертвым летописям, но и в народе. Для лучшего знакомства с жизнью народа Н. Костомаров, как он сам писал, предпринимал «этнографические экскурсии из Харькова по соседним селам и шинкам». При этом, проникнутый духом учения Гердера и гегелевской философии, а также под влиянием чешского славянофильства он старался определить историческую миссию, высшее предназначение славянских народов, и в первую очередь украинского. Большое влияние в те годы оказала на Н. Костомарова европейская романтическая традиция и особенно творчество Гофмана. Прослушанные весной 1838 года в Московском университете лекции литературоведа и поэта С. Шевырева укрепили в нем романтическое отношение к народности.
Уже в харьковский период жизни Н. Костомаров начал склоняться к мысли о том, что среди славянских народов именно украинскому, создавшему богатейшую фольклорно-песенную традицию и развившему демократические идеалы и институты казачества, принадлежит особая миссия в деле освобождения всех славян от имперского деспотизма и крепостнического рабства. В стихах и поэмах тех лет он воспевает княжеские и казацкие времена в Украине. Свои поэтические произведения Костомаров печатает в различных альманахах и издает в виде сборников «Украинские баллады» (1838) и «Ветка» (1840) под псевдонимом Иеремия Галка. В те же годы он под влиянием творчества В. Шекспира создает историческую драму «Савва Чалый» (1838) и трагедию «Переяславская ночь» (1841), получившие высокую оценку В. Г. Белинского.
В 1840 году Н. Костомаров сдал магистерские экзамены и приступил к подготовке диссертации, посвященной Брестской унии 1596 г. Однако работа эта, называвшаяся «О причинах и характере унии в Западной России» не была защищена из-за запрета министерства народного просвещения. Диссертация увидела свет в 1841 году как отдельная книга. Однако это обстоятельное, объективное исследование вызвало яростные протесты со стороны церковной власти, увидевшей в нем отход от официальной трактовки щекотливой и неизменно актуальной для Украины проблемы. После публичного заявления архиепископа харьковского Иннокентия Борисова о «возмутительном содержании» книги молодого ученого назначенная уже защита не состоялась. Накануне защиты в стенах университета появилось объявление о том, что защита диссертации Костомарова откладывается «по непредвиденным обстоятельствам». Спустя месяц пришел официальный отзыв, подписанный профессором Н. Г. Устряловым, с предписанием министра народного просвещения С. С. Уварова уничтожить весь тираж издания.