Джерому редко везло в жизни. Когда ему было 14 лет, у него умер отец, и он был вынужден устроиться клерком на местном вокзале. Через два года скончалась его мать и будущий писатель стал актёром, чтобы прокормиться. Но в то время это занятие не приносило много денег, так что через некоторое время наш герой оказался на улице. К счастью один из его знакомых посоветовал ему стать журналистом. После нескольких неудачных попыток, Джером устроился на работу, и начал писать статьи для журнала. Через несколько лет он опубликовал комические мемуары «На Сцене и вне её» («On the Stage — and Off»), в которых рассказывал о своей актёрской карьере, а также издал свои журнальные эссе отдельной книгой. Эти первые литературные опыты пользовались успехом у читателей, но не принесли автору известности.
В 1888 году 29-летний Джером женился. Его избранницей стала бывшая жена его двоюродного брата, у которой уже была маленькая дочь. Молодая семья решила провести медовый месяц, взяв напрокат лодку и отправившись в путешествие по Темзе. Как раз в то время, верховья реки (к западу от Лондона) закрыли для торговых судов. Это дало возможность горожанам использовать ее для отдыха. Семье удалось не только хорошо отдохнуть, но и узнать много нового об истории этих мест, поэтому писателю пришла в голову идея: А что, если составить занимательный путеводитель? Автор не любил сентиментальности, поэтому «заменил» в произведении жену и дочку двумя старыми друзьями — Джордж Виндгрейв упоминается как «Джордж», а немец Карл Хентшель получил имя «Харрис». Он уже тогда понимал, что ему лучше всего удается юмор, и поэтому решил «разбавить» повествование забавными историями. В конечном итоге их набралось так много, что это туристическая информация в книге отвлекает от комедии положений, а не наоборот.
Успех книги, написанной всего за несколько недель, был ошеломляющим. Уже на следующий год после публикации количество зарегистрированных прогулочных лодок на Темзе возросло вдвое; только за первые 20 лет был продан миллион экземпляров повести по всему миру; она была многократно экранизирована и адаптирована для сцены. Неповторимый стиль повести оказал влияние на многие поколения комических писателей в Великобритании и за ее пределами. Коммерческий успех позволил её автору полностью посвятить себя литературной деятельности, но ни одно из его последующих произведений не принесло ему подобной славы.
Популярность «Троих в лодке» тяготила его, так как ни один издатель больше не воспринимал его как серьезного писателя. В 1898 году, через 10 лет после своего знаменитого шедевра, он создал продолжение, с теми же героями. Повесть «Трое на Тандеме» («Three men on the Bummel») описывает путешествие трех друзей по Германии на велосипедах. Она довольно популярна в Германии, и те, кому довелось прочитать её, утверждают, что юмор в ней не уступает первой повести цикла. Однако, если в первой книге связующим звеном между главами служила Темза, то во второй этой связи нет, поэтому главы кажутся более разрозненными и успех «Троих на Тандеме» уже был не так велик.
Самое известное произведение писателя содержит множество комических эпизодов. Один из наиболее запоминающихся — тот, где молодые люди готовят ирландское рагу:
