Весьма вероятно, что одной из причин излишнего упрямства и твердости, с которыми Иосиф II добивался модернизации своей страны, была неустроенная личная жизнь императора, одиночество, отсутствие в его жизни семейного тепла я любимых людей. В 1760 г. Иосиф женился на Изабелле Пармской — красивой, неглупой и обаятельной принцессе из младшей ветви династии Бурбонов, внучке Людовика XV. Это была первая и единственная любовь будущего императора. Но осенью 1763 г. юная супруга умерла от оспы, и эта смерть нанесла Иосифу глубочайшую душевную травму. «Это был счастливейший брак на свете, — вспоминал впоследствии безутешный вдовец. — Куда бы я ни поехал, всегда думал о том счастье, каким будет возвращение к ней! Мы разделяли беды и радости и так вместе провели череду счастливейших дней... И всего этого я оказался лишен. Ни одна женщина, ни одна принцесса не могла сравниться с ней. Я обладал этим сокровищем — и потерял его в 22 года».
Ослепленный любовью принц не догадывался, какой мукой оказалась жизнь при венском дворе для его жены, какая тайна скрывалась за «необъяснимыми» приступами тоски, которыми страдала Изабелла. Обнаруженная позднее переписка эрцгерцогини со своей невесткой, упоминавшейся выше Марией Кристиной (Мими), позволяет говорить о том, что двух молодых женщин связывало нечто большее, чем «нежная дружба», причем со стороны Изабеллы можно говорить о настоящей страсти. (Мария Кристина вела себя более сдержанно, да и ее сексуальность, очевидно, была ближе к традиционной, о чем свидетельствовал позднейший весьма счастливый брак с Альбрехтом Саксен-Тешенским.) Изабелла жила в постоянном страхе, что истинный характер ее отношений с невесткой каким-либо образом откроется, страдая от вечной душевной раздвоенности. Чувство долга и приличия заставляло принцессу создавать видимость счастливой семейной жизни, в то время как на самом деле присутствие мужа было для нее зачастую тягостным и даже мучительным. Иосиф никогда не узнал об этой драме и до конца жизни пребывал в плену иллюзий о своем кратком, но столь счастливом браке.
Второй брак Иосифа — с Марией Йозефой Баварской, дочерью покойного врага Габсбургов, императора Карла VII, — был заключен в 1765 г. по настоянию Марии Терезии. Весьма Вероятно, что он так и не стал браком в полном смысле слова: Вскоре после свадьбы Иосиф II приказал заколотить двери, Ведущие из его покоев в комнаты нелюбимой жены. Ранняя смерть этой некрасивой тихони в 1767 г, (опять от оспы) была, наверное, освобождением для обоих супругов. После этого Иосиф утратил интерес к матримониальным планам, которые продолжала вынашивать его мать, и не согласился жениться в третий раз. В 1770 г. его ожидал новый удар: умерла семилетняя дочь императора, слабенькая, но милая и смышленая девочка, названная в честь бабушки Марией Терезией, последнее напоминание о любимой Изабелле. Душа императора окаменела окончательно.