Следующая советская конституция уже именовалась Конституцией Союза Советских Социалистических Республик, который образовали РСФСР, Украинская ССР, Белорусская ССР и Закавказская СФСР, включавшая в себя Грузию, Армению и Азербайджан. Каждая из республик-основателей уже имела свою собственную конституцию, но создание Советского Союза требовало принятия нового Основного закона. Утверждённая резолюцией II Съезда Советов Союза ССР 31 января 1924 года, новая Конституция состояла из двух основных частей — Декларации об образовании СССР и Договора об образовании СССР. Как и в Конституции 1918 года, язык новой Конституции ярок, эмоционален и идиоматичен, в особенности в преамбуле. Она установила весьма пространный перечень предметов ведения федерации, в отношении республик был использован термин «суверенитет», ограниченный лишь «в пределах, указанных в настоящей Конституции, и лишь по предметам, отнесенным к компетенции Союза» (ст. 3 гл. 2). За каждой из союзных республик сохранялось право выхода из состава Союза (ст. 4). Верховным органом власти СССР был провозглашен ежегодно созываемый Съезд Советов; в период между съездами верховным органом власти являлся Центральный Исполнительный Комитет Союза ССР. ЦИК СССР представлял собой наделенный как законодательными, так и административными полномочиями бикамераль-ный орган, состоявший из Совета Союза и Совета Национальностей. Совет Союза являлся органом представительства республик, избираемым Съездом Советов СССР, Совет Национальностей представлял более сотни национальных и этнических групп, проживавших на территории страны. В период между сессиями ЦИК СССР верховная власть осуществлялась состоящим из 21 человека Президиумом ЦИК СССР, являвшимся, согласно букве Конституции, «высшим законодательным, исполнительным и распорядительным органом власти Союза ССР» (ст. 29). Дополнительным и распорядительным органом ЦИК СССР являлся Совет Народных Комиссаров, состав и компетенция которого были определены в гл. 6 Конституции. Впервые на конституционном уровне были закреплены статус, порядок формирования и компетенция Верховного Суда СССР, создаваемого «в целях утверждения революционной законности». Ст. 43 содержала предельно откровенную формулировку «при ЦИКе Союза ССР учреждается Верховный Суд». Как de jure, так и de facto ЦИК СССР являлся вышестоящим органом для Верховного Суда СССР; именно перед ЦИКом должно было происходить «рассмотрение и опротестование по представлению прокурора Верховного Суда Союза ССР постановлений, решений и приговоров верховных судов союзных республик, по соображениям противоречия таковых общесоюзному законодательству, или поскольку ими затрагиваются интересы других республик»(пункт «б» ст. 43). Гл. 9 Конституции предусматривала создание нового органа — объединенного государственного политического управления, получившего печальную известность как ОГПУ. Эта аббревиатура долгие годы заставляла трепетать советских граждан.
Ст. 61 гласила: «В целях объединения революционных усилий союзных республик по борьбе с политической и экономической контрреволюцией, шпионажем и бандитизмом, учреждается при СНК Союза ССР объединенное государственное политическое управление (ОГПУ), председатель которого входит в СНК Союза ССР с правом совещательного голоса».
Конституция СССР 1924 года не содержала какого-либо упоминания о правах и свободах советских граждан. Этим она кардинальным образом отличалась от следующего основного закона страны — принятой в 1936 году знаменитой «сталинской» Конституции. Конституция 1936 года провела четкую демаркационную линию между двумя периодами конституционной эволюции Советского Союза. Время диктатуры пролетариата истекло, ее миссия была выполнена. Настало время праздновать победу социализма на всей территории Советского Союза. Основная цель Конституции СССР 1936 года заключалась в легитимации основ социалистической системы и, в то же самое время, в представлении сталинского политического режима как истинной демократии. Политическая элита 1930-х годов прекрасно осознавала необходимость отвлечь внимание как советских граждан, так и иностранных государств от того, что на самом деле происходило в стране. Именно поэтому необходимо было отказаться от жесткой и эмоционально насыщенной риторики первых лет большевизма и принять новый основной закон советского государства, содержащий достаточно широкий спектр прав и свобод граждан и ряд иных, на первый взгляд вполне демократических положений.
