За границу он выехал из Петербурга по паспорту на имя В.В. Яковлева, купленного за сто рублей у одного из столичных студентов. Деньги на поездку за границу в сумме 500 рублей он получил от члена РСДРП(б) Кадомцевой Илны Самуиловны, у брата которой проживал на квартире в Женеве.
Вернувшись из Швейцарии, Яковлев активно включился в подпольную работу, организуя по уфимскому образцу боевые дружины в разных городах Урала. Принимает участие в конфискациях боевиков в Уфе и Златоусте, проходивших под руководством Э.С. Кадомцева. По заданию заграничного бюро уральской боевой организации он долго и тщательно готовится к операции по захвату денег, необходимых для организации за границей партийной школы для подготовки уральских боевиков. Организацией ее занимался И.С. Кадомцев, оставшийся специально для этого за границей. В августе 1909 года на станции Миасс Самаро-Златоустовской железной дороги эта операция под его руководством осуществилась. Было экспроприировано 85 тысяч рублей почтовых денег.
Это была одна из последних экспроприаций уральских боевиков. Царской охранке удалось схватить одного из молодых ее членов Василия Терентьева, который выдал почти всех. Яковлев жандармерией был установлен на жительстве в Самаре. На вокзале с одним из своих друзей Василием Гузаковым он был окружен полицией, но через двор местной больницы, отстреливаясь, сумел бежать и скрыться. Василия Гузакова полиция схватила, и по суду он был повешен.
Осенью 1909 года, согласно решению боевого бюро уральской боевой организации, Яковлев выехал в Италию, на Капри, где вместе с Кадомцевым вел переговоры с Максимом Горьким, Луначарским, Богдановым и другими русскими эмигрантами об организации партийной школы. Переговоры закончились успешно, и в городе Болонья (Южная Италия) такая школа была создана, в ней обучался около четырех месяцев и сам Яковлев. В школе преподавали Богданов, Луначарский, Покровский, Коллонтай, Маслов, Троцкий, Петров, Менжинский и другие видные русские марксисты.
После выпуска весь состав школы выехал в Париж, где слушатели должны были прослушать курс лекций В.И. Ленина, но Владимир Ильич оказался болен, и они вскоре разъехались на подпольную работу по уральским городам. Яковлеву появляться на Урале было опасно, он стоял на учете в 3‑м отделении Департамента полиции МВД России, Уфимском, Оренбургском и ряде других губернских жандармских управлений как опасный государственный преступник, поэтому его направили на нелегальную работу в Киев.
По дороге на Украину Яковлев заметил в Петербурге за собой слежку полиции, но сумел скрыться и в начале 1911 года благополучно добрался до Киева, где имел явку к брату Луначарского, Николаю. В редакции «Киевской мысли», где у него была явка, он встретился с Николаем Луначарским и другими украинскими большевиками, которые посоветовали ему уехать из Киева, так как в столице Украины ждали приезда царя Николая II, поэтому оставаться в нем ему было очень рискованно.
Под фамилией Крылова он возвратился в Петербург, где случайно встретил слушателя Болонской школы Арсения, оказавшегося агентом царской охранки. Яковлев рассказал ему о конспиративной квартире на станции Мустомяки (Финляндия), где скрывался уже несколько месяцев. И он в который уже раз был почти в руках жандармов, но и на этот раз сумел бежать. Когда жандармы вошли на дачу и стали производить обыск в двух комнатах, он выпрыгнул из окна третьей комнаты и, несмотря на интенсивную яростную стрельбу жандармов, скрылся. Какое-то время Яковлев скрывался в лесу, а затем убежище ему предоставил на своей даче писатель Леонид Андреев, у которого он прожил целый месяц.
В России наступили тяжелые дни для революционеров. Резко усилились репрессии со стороны карательных органов, поэтому пробираться Яковлеву в глубь России было смерти подобно, он тут же попал бы в руки охранки. Ведь руководителю уральских боевиков наверняка грозила «вешалка». Ему, загнанному в капкан, помогли финские коммунисты, которые предложили бежать в Швецию. Он согласился. Его спрятали в трюме парохода и нелегально перевезли в Стокгольм.
Осенью 1911 года судьба занесла его в бельгийский город Льеж, откуда он вскоре переехал в Брюссель, где этот энергичный и предприимчивый, необыкновенно смелый, с несколько авантюристическими наклонностями человек нашел свою спокойную временную пристань. Здесь получил специальность шофера и стал высококлассным электриком, о чем имел соответствующий сертификат от «Всеобщей электрической компании», в которой проработал около пяти лет. Усердно занимаясь самообразованием, освоил французский и немецкий языки. Состоя с некоторыми уральскими товарищами в социал-демократической группе «Вперед», изучал марксизм, политическую экономию, философию.