Однако структура СССР не позволяла разным народам устраивать свои дела по собственной воле. Все окончательные решения, касавшиеся Украины, по-прежнему принимались в Москве, а отнюдь не в Харькове. К тому же никто не спрашивал мнения украинцев по поводу самого создания Союза. Решение о характере взаимоотношений между Россией и Украиной было принято малочисленной, по сути русской по составу партией.
Впрочем, было бы некорректно утверждать, что украинцы и другие нерусские народы ничего не получили от федералистской формы построения страны. В царские времена украинский язык, культура, национальная самобытность были объектами жестоких преследований. Само географическое понятие «Украина» не имело четких границ и заменялось такими неопределенными терминами, как «Юго-Западный край» или «Малороссия». Наоборот, при Советах Украинская Советская Социалистическая Республика стала четко определенным национальным и территориальным целым, с собственным административным центром и аппаратом. Таким образом, украинцы наконец-то обрели территориально-административные рамки, соответствующие их национальному естеству, т. е. то, чего они были лишены со времен казацкой Гетманщины XVIII столетия.
Несмотря на обещания уважать принцип самоопределения наций, раздаваемые большевиками во время гражданской войны, несмотря на создание национальных советских республик и показной федералистский характер Советского Союза, коммунистическая партия в первые годы своего правления все еще заметно ощущала недостаток поддержки со стороны нерусских народов. Она оставалась крошечной, в основном русской, организацией, базирующейся в городах, балансирующей на лезвии ножа среди масс крестьянства, в любой момент готовых отшатнуться от нее, и нерусских народов, лояльность которых по отношению к ней была весьма сомнительной. Так, Украина в особенности была «слабым звеном Советской власти», как это открыто признавал сам Сталин. Поэтому, утихомирив крестьянство нэпом, партия начала искать средства достижения признания и поддержки среди нерусских народов.
В 1923 г. на XII съезде партии ее руководство положило начало политике «коренизации». Она была призвана сосредоточить усилия на том, чтобы привлечь в партию и государственный аппарат представителей нерусских народов, чтобы советские служащие изучали местные языки и пользовались ими, наконец, чтобы государство способствовало культурному и социальному развитию разных народов. Украинский вариант этой политики получил название украинизации.
Впрочем, прежде чем разворачивать украинизацию, следовало внести некоторые изменения в состав партийного руководства в Украине. В это время оно состояло главным образом из присланных Москвой советских чиновников и местных евреев. В большинстве своем они не только не проявили понимания необходимости украинизации, но и в еще меньшей степени показали свое желание проводить ее в жизнь. К тому же многие из них открыто демонстрировали свое превосходство над «местными». Так, один из наиболее высокопоставленных партийных чиновников в Украине, Дмитрий Лебедь, был как раз из тех русских, кто не собирался скрывать свою неприязнь к украинской культуре и обычаям, к украинизации как таковой. Он отстаивал так называемую «теорию борьбы двух культур», в соответствии с которой русская культура в Украине, как передовая культура прогрессивного пролетариата и города, неизбежно должна победить украинскую культуру, связанную с отсталым крестьянством и селом, поэтому коммунисты обязаны способствовать этому «естественному процессу».
Хотя идеи Лебедя вполне разделялись многими его московскими покровителями, они все же пришлись не ко времени, поэтому его и ряд других известных партийных деятелей-не-украинцев пришлось отозвать из Украины. Их места заняли более послушные и дисциплинированные ставленники Москвы, такие как Лазарь Каганович — украинский еврей, возглавивший партийный аппарат в Украине и готовый беспрекословно проводить курс партии на украинизацию, а также украинцы, искренне заинтересованные в успехах этой политики. Среди них был Влас Чубарь, сменивший Раковского на посту главы украинского советского правительства, Олександр Шумский, народный комиссар просвещения, в прошлом боротьбист, и вездесущий старый большевик Микола Скрипник, ставший народным комиссаром юстиции. Только избавившись от убежденных «русских бюрократов и шовинистов» (как их называл Ленин), правительство советской Украины могло приступить к осуществлению новой политики.