Учитывая свой опыт общения с иностранцами, умение вести переговоры, знание иностранных языков, Риббентроп (и, естественно, его супруга) сразу же нацелился на пост главы Внешнеполитического ведомства. Но здесь он встретился с несколькими проблемами: во-первых, имперским министром иностранных дел был барон Константин фон Нейрат и менять его Гитлер на первом этапе не собирался, а кроме того – и это было значительно важнее, – в руководстве партии уже был свой кандидат. В отличие от «выскочки» Риббентропа Альфред Розенберг был «старым бойцом» и одним из идеологов движения. Но фон Риббентропы не отчаивались, тем более что Гитлеру крайне импонировали явно отличавшиеся от поведения его уличных бойцов и завсегдатаев пивных аристократические манеры Иоахима, и фюрер, несмотря на недовольство «старых бойцов», постоянно оказывал ему поддержку в его начинаниях.
В этот период Риббентроп исповедовал неформальную дипломатию, пытаясь делать «большую политику» не через официальных лиц, а через своих знакомых в высших кругах европейских стран. В 1933 году он предпринял попытку провести политический зондаж во Франции (в следующем году эти переговоры окончились полным провалом). 24 апреля 1933 года Риббентроп был назначен имперским уполномоченным по вопросам разоружения – довольно интересное назначение, учитывая, что он был активным противником подобного процесса. Одновременно он возглавил в системе НСДАП т. н. бюро Риббентропа (с 1 июня 1936 года – Управления по специальным внешнеполитическим вопросам), подчиненное лично Гитлеру. Формально бюро являлось Штабом связи НСДАП (Verbindungsstab der NSDAP) в составе Штаба заместителя фюрера по партии и группой экспертов по внешнеполитическим вопросам. Фактически же бюро не имело какого-либо определенного статуса – тем более что в рамках Имперского руководства НСДАП активно работало Внешнеполитическое управление Розенберга. Скорее это был рабочий штаб при Риббентропе, выполнявший личные поручения Гитлера.
В ноябре 1933 года Гитлер внес Риббентропа в список кандидатов в Рейхстаг от НСДАП. Осенью 1934 года он стал уполномоченным по вопросам внешней политики в Штабе заместителя фюрера по партии и, наконец, обрел более или менее официальное положение в партии. Перед ведомством Риббентропа была поставлена задача установления личных дружеских контактов с дипломатами, государственными и общественными деятелями зарубежных стран, создание позитивного образа Германии и противодействие «вражеской пропаганде». Его бюро организовывало продвижение в иностранных СМИ материалов, выставляющих Германию в положительном свете, готовило и публиковало статистические данные и материалы по германской экономике и обществу. Риббентроп вел неофициальные переговоры с представителями английских официальных кругов, и эти его действия неизбежно вызвали протест со стороны Имперского министерства иностранных дел, но Гитлер как обычно его проигнорировал. Тем не менее именно на долю Риббентропа выпал один из первых действительно крупных дипломатических успехов нацистской Германии. Большую роль в этом сыграло то, что он имел влиятельных друзей в кругах, близких к королю и правительству Великобритании.
В июне 1935 года Риббентроп получил ранг чрезвычайного и полномочного посла. Его усилиями было подготовлено заключенное 18 июня 1935 года англо-германское соглашение по флоту. В соответствии с этим документом Германия получала возможность иметь флот в объеме 35 % от английского и 100 % от их подводного флота – фактически подписанием этого договора Великобритания без консультаций со своими союзниками перечеркивала Версальский мир. Гитлер был в восторге от работы Риббентропа и назвал день подписания соглашения «счастливейшим днем своей жизни»: на этом этапе соглашение означало, что все препятствия для развития германского ВМФ сняты, как минимум, на несколько лет. В том же году Риббентроп основал Немецко-английское общество. В июле 1935 года в Штабе заместителя фюрера произошло перераспределение обязанностей и на Риббентропа также возложили ответственность за решение «этнических немецких вопросов в Европе и США», после чего он немедленно начал активно теснить главу Зарубежной организации НСДАП (НСДАП/АО) Эрнста Боле и, естественно, с ним полностью рассорился.
