С приходом к власти Сталина многое сильно изменилось. К 1939 году немецкую общину за пределами Волжской немецкой республики лишили статуса автономии; на Украине были закрыты 451 немецкоязычная школа; выпуск немецких газет был приостановлен; немцы с избытком пополняли население ГУЛАГа7. Ко времени начала германского вторжения в 1941 году для миллиона советских немцев, живших за пределами Волжской республики, уже не оставалось возможности обучения на немецком языке, приобщения к немецкой культуре, развития администрации или исповедования религии. Даже в этих местах задолго до войны власти начали политику подавления, арестовывая и расстреливая выдающихся лидеров немецкой общины, выставляя патрули НКВД и устанавливая комендантский час. В 1934 году Политбюро издало декрет «О борьбе с контрреволюционными фашистскими элементами», в котором режим продолжал настаивать на названии «Германской колонии»8. Из-за Гитлера все немцы, даже энтузиасты коммунизма, каковыми многие и были, стали рассматриваться как элементы, представляющие угрозу режиму. Война довершила разрушение старого сообщества. 7 сентября 1941 года автономная республика была официально упразднена; всех немцев мужского пола включили в строительные бригады, которые работали на принудительных работах, куда бы режим их не направил, в условиях, мало отличавшихся от лагерей ГУЛАГа, где примерно 175 000 этих мужчин погибли. После войны немецкий язык почти исчез из употребления, а число смешанных браков резко возросло. И только после смерти Сталина немцы были освобождены из специальных трудовых поселений, и лишь в 1964 году Советское правительство, наконец, издало указ о снятии выдвинутого во время войны обвинения в измене с теперь уже рассеянной и обнищавшей немецкой общины9.
Все это сильно отличалось от той судьбы, которая была уготована советским немцам в планах гитлеровской Германии по этнической перекройке завоеванных восточных территорий. Во время Первой мировой войны ходили разговоры о переселении Поволжских немцев обратно в рейх в качестве поселенцев, вместо поляков, проживавших в Германском государстве. В конце 1920-х годов Германская общественность жертвовала средства для помощи советским немцам, желающим иммигрировать в Германию, чтобы избежать коллективизации10.
Идея воссоединения всех советских немцев с их далекой отчизной в 1941 году была центральным пунктом в экстравагантных схемах, о которых мечтал Генрих Гиммлер, будучи Рейхскомиссаром по защите Германской расы, и занимая эту должность, созданную для него Гитлером в октябре 1939 года. Планы Гиммлера на востоке состояли в том, чтобы гарантировать, что «ни одна капля немецкой крови не будет пролита и не останется враждебной расе»11. Предполагалось, что немецкие поселения в Крыму, на Украине и вдоль Волги станут форпостами новой Германской империи, невольными проводниками германизации на востоке. Объявленная в Москве в сентябре 1941 года массовая депортация всех советских немцев вызвала бурю негодования властей в Берлине. Министр восточных территорий, партийный идеолог Альфред Розенберг, издал инструкцию для германской радиопропаганды, чтобы она высказала контругрозу: «Если против Поволжских немцев будут совершаться преступления, евреи должны будут заплатить за эти преступления в многократном размере»12.