О том, что Иван IV отправит зимой рать на Ревель, в городе стало известно ещё осенью, поэтому у шведов было время хорошо подготовиться к обороне. Продовольствия было заготовлено на целый год, городские стены и башни дополнительно укреплены, крепостная артиллерия увеличена. Руководили обороной шведский военачальник Гинрик Клаусен Горн и его сын Карл Гинриксен. Общая ситуация складывалась не в пользу русских: «И хотя у московита было много орудий перед Ревелем, однако в городе и в замке Ревеле было орудий в пять раз больше» (107, 258). Огромное значение шведы придавали пожарной безопасности, под угрозой наказания горожанам приказали убрать с чердаков сено и солому. Теперь на каждом чердаке полы были выложены каменными плитами и засыпаны толстым слоем земли, были заготовлены мокрые воловьи шкуры и стояли бочки с навозом, чтобы тушить каленые ядра. Конная стража постоянно объезжала город и следила, куда падают зажигательные ядра. Был набран отряд из четырех сотен крестьян, которые должны были тушить пожары.
Первое столкновение произошло 2 января, шведы совершили вылазку, но были отбиты пушечным огнем. Русские продолжали возводить вокруг Ревеля систему укреплений, в общей сложности было построено 35 блокгаузов и 626 тур, наполненных землею (107, 266). Пушки начали бить по городу через неделю после начала осады, особенно мощный артиллерийский обстрел Ревеля был ранним утром 27 января. Завершился он безрезультатно, один сгоревший дом нельзя занести в актив царским пушкарям. Как оказалось, каленые и каменные ядра не могли причинить большого вреда ни городским строениям, ни укреплениям. На следующий день шведы ходили на вылазку и захватили пленника, от которого получили важные сведения о вражеской армии. 3 февраля шведские кнехты вновь пошли на вылазку и захватили неприятельскую пушку. Русские продолжали совершенствовать укрепления вокруг Ревеля, делая ставку на разрушительную мощь артиллерии, а не лобовые атаки. Постепенно приближаясь к стенам города, государевы люди поставили новое укрепление из тур и стогов сена, «под высоким ронделем пред кузнечными воротами у горы св. Тенниеса» (107, 260). Это встревожило Горна. 7 февраля под прикрытием крепостных пушек отряд из кнехтов и местных крестьян атаковал русские позиции и выбил государевых людей из нового укрепления. Шведы подожгли сено, возник пожар. В этом бою был смертельно ранен пушечным ядром воевода Шереметев: «…на выласке немъцы убили боярина и воеводу Ивана Васильевича Шереметева» (89, 227). Воевода умер на третий день после ранения, тело его было отправлено в Москву. На следующую ночь русские вновь заняли укрепление. Пока в течение многих дней шла артиллерийская дуэль между шведами и русскими пушкарями, отряд служилых татар по льду залива совершил набег на Финляндию и захватил множество пленных. Но это был лишь частичный успех, не влиявший на ход осады. Длительный обстрел каменных укреплений не принес русским успеха, не удалось ни разрушить башни, ни сделать пролом в стенах (107, 261). Вскоре массированный обстрел прекратился, теперь русские лишь изредка стреляли по городу из больших пушек. Попытка подвести под стены подкоп также закончилась провалом. Разочаровавшись в успешном исходе осады, один знатный татарский мурза перебежал к шведам и рассказал о положении дел в русском лагере.