Расстрелы мирных граждан и военнопленных продолжались в течение всего периода вражеской оккупации города. В 1943 году лишь в местах массовых казней, в пригородных сёлах Пашково и Полыковичи, было расстреляно 43 тысячи военнопленных и гражданских лиц, в том числе много детей, стариков и женщин[128]. В городе систематически проводились облавы. Захваченных во время облав людей насильственно угоняли в Германию или оставляли на принудительных работах в Могилеве и его окрестностях. Уклонение от принудительного рабского труда угрожало расстрелом или заключением в концлагерь. Самой мягкой карой за невыход или опоздание на работу была мучительная и издевательская процедура: людей связывали, прикрепляли на груди доску с надписью «Саботажник» и на целый день сажали в витрины разбитых магазинов[129].
Во время карательных акций фашистов против населения в первые же дни оккупации существенный урон понесло и городское подполье. Сказались вынужденная поспешность организации подполья, отсутствие у его участников опыта конспирации. Секретари горкома партии Л. Й. Хавкин и А. И. Морозов, которым поручалось возглавить подполье, были схвачены вступавшими в город гитлеровцами и вместе с военнопленными угнаны в лагерь.
Вследствие этого могилёвское подполье с самого начала вражеской оккупации оказалось без руководства, без связей с партизанами и командованием частей Красной Армии. Многие из оставшихся на подпольной работе попали в лапы гестапо, часть из них скрылась в окрестных деревнях. По сути дела, подполье в Могилеве пришлось создавать заново. Его организаторами стали коммунисты, комсомольцы, беспартийные активисты. Изощренному в подавлении подполья противнику, всей системе фашистского террора они противопоставили свою беззаветную преданность социалистической Родине, делу Коммунистической партии. И если первоначально не хватало опыта, то выручали мужество, смекалка, организованность, активная поддержка населения.
В числе зачинателей подпольной борьбы в городе стали железнодорожники. Они ставили своей целью срывать работы по восстановлению Могилевского железнодорожного узла и всячески саботировать мероприятия фашистов на железной дороге. Организаторами их борьбы были оставшиеся по заданию горкома партии секретарь партбюро Могилевского железнодорожного узла, член горкома партии Н. Т. Горбачев и кузнец–молотобоец коммунист Г. С. Матвеев.
В 1941 году на железнодорожном узле образовали подпольную группу коммунисты П. И. Белько — бывший чекист, а перед войной директор Лунинецкого лесозавода, прибывший в Могилев с документами на Г. И. Анисовича, и студент Московского института инженеров железнодорожного транспорта О. В. Горошко — житель Могилева. В районе станции Могилев-1 организовались группы под руководством коммунистов В. И. Пудина и П. А. Анисимова, бывших железнодорожных инспекторов Г. С. Трактатовой и О. Н. Живописцевой. Одну из групп на узле создал коммунист И. С. Малашкевич. В неё вошли инженер С. М. Шакуро, рабочий станции Могилев С. С. Воронович–Сагалин, рабочий пути Н. И Малашкевич, дежурный по станции Могилев Овсянников. Подпольная группа была создана в Высоцком и Старо–Водвянском сельсоветах Шкловского района (И. Ф. и Ф. Ф. Исаевы, В. Пятков, шофёр В. С. Малашкевич и другие).
В августе — сентябре 1941 года возникли подпольные группы на предприятиях. Одну из них создал бывший секретарь парторганизации механик Могилевского хлебокомбината М. М. Евтихиев. Поступив работать слесарем в хлебопекарню, он привлёк к подпольной деятельности рабочих пекарни и жителей города — Ф. Коженова, С. Зайцева, Ю Диденко, М. Чугреева и других. На авторемонтном заводе подпольную группу в составе пяти человек организовали электромонтёр В. И. Батуро и бухгалтер Н. И. Харкевич.
Сильную подпольную группу организовали бывший работник конторы «Заготскот», партизан гражданской войны А. И. Шубадеров, шофёр конторы «Рыбсбыт» В. П. Станкевич, шофёр «Союзтранса» И. В. Русов. Вскоре в неё вошли бывший заведующий базой «Главмясомолснаб» Д. И. Пицуков, бывший следователь Могилевской районной прокуратуры М. А. Павлов, работник авторемзавода А. Е. Пынтиков, советский офицер комсомолец Г. Коростелин.
В организации подполья приняли участие комсомольцы и несоюзная молодёжь. Секретарь горкома комсомола П. Ф. Воложин установил связь с отдельными комсомольцами. Но долго оставаться в городе не мог, так как полевая жандармерия напала на его след. 19 августа 1941 года он вынужден был уйти из Могилева. Активную комсомольско–молодёжную группу создали комсомольцы С. С. Соболевский и И. Неведомский. Впоследствии она влилась в подпольную группу, организованную коммунистами на фабрике искусственного волокна.
Организаторами подполья были врачи, преподаватели и учителя. Под руководством кандидата медицинских наук коммуниста М. П. Кувшинова образовалась подпольная группа в Могилевской больнице. В неё вошли врачи К. А. Влагина, С. М. Мормулевский и другие медицинские работники.