Первоначально предполагалось, что самолет получит четыре мотора М-35 мощностью по 1500 — 1800 л.с. каждый. Многие путают этот двигатель с появившимся гораздо позже АМ-35 (который тоже первоначально именовался М-35). Этот первый М-35 разрабатывался с 1930 г. в Институте авиационного моторостроения (ИАМ) под руководством А.А. Микулина как дальнейшее развитие удачного М-34. Последовательно спроектировали три варианта мотора: W-образный из трех блоков от М-34, спаренный из двух М-34, работающих на общий редуктор, и 12-цилиндровый V-образный — как бы увеличенный М-34 с большим диаметром цилиндров. Но все три не дошли даже до стадии изготовления опытных образцов. В 1933 г. работы по М-35 окончательно прекратили.
Практика проектирования самолета под еще не существующие моторы, безусловно, являлась порочной. Но для грандиозных советских планов она была нормой — поэтому их постоянно приходилось перелицовывать, подгоняя под фактическую ситуацию. Хотелось получить все побыстрее и с самой лучшей, самой новой комплектацией. Поэтому в задания вписывали двигатели, которые лишь прочерчены на бумаге, приборы, которых еще нет, пушки и пулеметы, которые проходят мучительный процесс доводки.
В ЦАГИ сначала выполнили эскизный проект АНТ-16 под четыре мотора М-35 в полном соответствии с заданием. Его завершили в октябре 1930 г. Потом сообразили, что самолет по плану надо уже строить, а требуемых двигателей нет, и в ближайшем будущем явно не ожидается. Начали искать альтернативы. Просчитали варианты с итальянскими моторами Изота-Фраскини ASSO, немецкими BMW IX, английскими Роллс-Ройс HX 11 и отечественными М-34, М-34Р, ФЭД и М-27Р (существовавшими тогда в лучшем случае в опытных образцах). Все они уступали по мощности М-35. Чтобы обеспечить нужную суммарную тягу, количество двигателей вынужденно решили увеличить до шести.
К апрелю 1931г. пришли к выводу, что основным вариантом для проектирования должна стать установка шести двигателей М-34, которые во втором квартале 1932 г. намеревались заменить четырьмя М-35. Но М-34 в наличии тоже не имелось — их производство на заводе № 24 в Москве начали налаживать только с сентября 1931 г. Поэтому для первого опытного АНТ-16 решили купить моторы по 800 л.с. в Англии. Фирме «Роллс-Ройс» даже успели выдать заказ на них.
Но уже 1 июня заказ отменили. Это было связано с решением правительства прекратить закупку импортных моторов для опытных самолетов. Поскольку М-34Р и ФЭД пока не существовали даже в опытных образцах, а от серийного выпуска М-27Р отказались, то оставалось надеяться только на М-34.
Опытный самолет к этому времени уже начали строить. По своей компоновке бомбардировщик во многом повторял ТБ-3, но со значительным увеличением размеров всех узлов. Параллельно проектировались два варианта ТБ-4, предусмотренные планом опытных работ. Один должен был строиться целиком из дюраля (кольчугалюминия) и иметь большее по площади крыло (410 м²). Уточненное задание требовало от этого варианта бомбовую нагрузку 6000 кг и вооружение из десяти пулеметов и двух пушек. Второй тип должен был иметь стальной (для экономии дефицитного дюраля) каркас и меньшее по размерам крыло (площадью 340 м²). Он должен был нести меньше бомб (4500 кг) и более слабое стрелково-артиллерийское вооружение — шесть — восемь пулеметов и одну пушку.
3 февраля 1931 г. Реввоенсовет СССР утвердил данные предварительных расчетов и принял решение строить опытную дюралевую машину с крылом площадью 410 м².
Конструкция ТБ-4 была и похожа, и не похожа на ТБ-3. Принципиально это был такой же свободнонесущий моноплан с неубирающимся шасси, тихоходный гофрированный гиганте крылом толстого профиля. Аэродинамическая компоновка и облик большинства узлов повторяли ТБ-3.
Но имелись и отличия. Отказавшись от членения машины на узлы, укладывающиеся в железнодорожный габарит, крыло разбили всего на три части — центроплан и две консоли. Да и внутри крыло стало несколько иным. Число лонжеронов сократилось до трех. Их раскосы делали не из труб, а клепали из листа.
Фюзеляж принципиально не отличался от ТБ-3, но включал не один, а два бомбоотсека. Интересно, что вопреки плану опытных работ и заданию, самолет проектировали под бомбовую нагрузку 10 000 кг в соответствии с первоначальными прикидками. При этом полностью проигнорировали то, что машина с нагрузкой 10 000 кг, являвшаяся следующим шагом после ТБ-4, к этому времени уже была исключена из всех планов. Но, очевидно, уже сделанные чертежи Туполев не желал выбрасывать в корзину.