В то время ни Янош Больяи, ни Карл Гаусс еще не знали об уже опубликованной работе Н. И. Лобачевского, но позже Гаусс указал отцу и сыну Больяи на приоритет в публикации основ неевклидовой геометрии не только своей, но и русского математика.
Янош Больяи воспринял эту информацию враждебно и агрессивно — он не мог допустить, что Гаусс выполнил аналогичную работу гораздо раньше его, не опубликовав при этом полученные результаты. Потрясенный и сокрушенный Больяи решил, что завистливый «король» попросту пожелал присвоить себе его открытия. Когда же в его руки попали результаты Лобачевского, он поначалу решил, что под псевдонимом Лобачевского скрывался сам хитроумный Гаусс, укравший его, Больяи, результаты. Уже после смерти Яноша Больяи в его бумагах были найдены несправедливо резкие записи по поводу мыслей, изложенных Гауссом в письме к отцу Яноша.
Здесь надо также иметь в виду, что еще до того момента, когда Фаркаш Больяи прислал Гауссу труд своего сына, тот уже знал о работе Фердинанда Швейкарта (позже продолженной его племянником Ф. А. Тауринусом (1794–1874)) и гораздо более основательных работах Н. И. Лобачевского, опубликованных раньше «Аппендикса». Видимо, он понимал и реакцию на эти работы ученого сообщества: «Боюсь крика беотийцев», — признавался он своему другу.
Печальная новость, что его опередили, ошеломила молодого Больяи, только что произведенного в капитаны. Тогда его здоровье резко ухудшилось, характер испортился и он надолго прекратил свои занятия неевклидовой геометрией. Вскоре после этих событий он ушел в отставку и вернулся домой. В это время ему был только 31 год. Пенсии он не выслужил и жил на средства отца. В 1834-м Янош вступил в гражданский брак с Розалией Кибеди Орбан. У них было двое детей.
Открытия Больяи не получили признания при жизни автора. Фиаско ожидало его во всех других начинаниях. Когда в 1837 году в Лейпциге был объявлен конкурс с предложением усовершенствовать геометрическую теорию мнимых чисел, работа Яноша Больяи была лучшей и во многом предвосхитила последующие построения У. Р. Гамильтона, однако жюри дало о ней отрицательный отзыв. Отец Яноша также принял участие в этом конкурсе, но также не занял призового места.
Продолжая ставить перед собой сложнейшие, зачастую невыполнимые задачи, скажем, построения геометрии, свободной от каких бы то ни было наглядных представлений, Янош Больяи выдвигал отдельные интересные мысли, но справиться с задачами в первой половине XIX века оказалось ему не по силам.
Отчаяние Больяи подпитывалось его неудовлетворенным честолюбием. Оно особенно возросло, когда он подробно ознакомился с сочинением Н. И. Лобачевского «Геометрические исследования по теории параллельных линий». Изданная в 1840 году на немецком языке работа попала в руки Больяи лишь в 1848 году. Только тогда он убедился, что Лобачевский действительно существует и что он действительно издал свой труд раньше.
Внимательно проштудировав эту работу, Я. Больяи написал подробные «Замечания», обнаруженные только после смерти ученого в его бумагах (они были впервые опубликованы в 1902 году). При всей критичности «Замечаний» многие выводы Лобачевского Янош Больяи назвал гениальными, восхищаясь мастерством и остроумием доказательств некоторых теорем. Тем не менее сознание Яноша Больяи не выдержало этого окончательного удара — отныне он был сломлен навсегда.
В последние годы жизни Больяи-сын увлекся алгеброй, но отсутствие систематических знаний не позволило ему получить здесь сколь-нибудь значительных результатов. Он не знал, что норвежский математик Нильс Абель еще в 1826 году строго доказал, что для алгебраических уравнений больше четвертой степени не существует общих формул, выражающих корни уравнения через его коэффициенты с помощью алгебраических операций (а именно это пытался сделать Больяи).
Можно сказать, что честолюбие испортило ему жизнь. Я. Больяи почти всю жизнь провел в одиночестве, разочаровавшись в жизни и в людях. Жизненные неудачи сказались на его психике. Последние годы жизни нашего героя были омрачены тяжелым душевным разладом. В 1852 году он разошелся с женой. Попытки завершить несколько новых математических исследований тоже не дали результатов.
После смерти Я. Больяи были обнаружены более 20 тысяч листов его незаконченных математических рукописей, однако «Аппендикс» остался единственной работой, напечатанной при жизни автора.
Янош Больяи умер 27 января 1860 года, так и не добившись вожделенного признания. Оно пришло почти через полстолетия. В 1903 году Венгерская академия наук торжественно праздновала столетний юбилей со дня рождения Я. Больяи. По решению Всемирного Совета Мира 27 января 1960 года человечество отметило столетие со дня его смерти. В его честь назван кратер Bolyai на Луне, астероид 1441 Bolyai, университет в родном городе Клуж-Напоке. Памятная доска Яношу Больяи установлена в Оломоуце (Чехия).