После окончания гуманитарной гимназии Эбергарда-Людвига в Штутгарте (1892) Нейрат поступил вольноопределяющимся в 125-й (7-й Вюртембергский) пехотный кайзера Фридриха III полк, прослужил год и в 1898 году получил звание 2-го лейтенанта резерва вюртембергской армии. В 1893–1896 годах он изучал юриспруденцию в Тюбингенском и Берлинском университетах и позже – в 1932 году, когда он уже был крупным дипломатом, – получил звание почетного доктора права Камеринского университета. В 1897 году он сдал 1-й юридический экзамен на должность референдария и был зачислен на вюртембергскую госслужбу, а в 1901 году – 2-й юридический экзамен на должность асессора. Аристократическое происхождение и связи семьи гарантировали успешную карьеру, и 1 октября 1901 года фон Нейрат поступил асессором в консульскую службу Министерства иностранных дел. Немногим ранее – 30 мая – он женился на дочери банкира Марии Августе Мозер фон Фильзсек (1875–1960)[88]. Уже в 1903 году он занял пост вице-консула в генеральном консульстве в Лондоне (Великобритания) и получил звание камер-юнкера Вюртембергского двора, а в 1910-м стал камергером. В 1909 году переведен в центральный аппарат Министерства иностранных дел, а в 1909 году получил ранг советника посольства и направлен на службу в правовой и торгово-политический отдел МИД. В 1913 году при покровительстве Альфреда фон Киндерлен-Вэхтера Нейрата перевели сначала в Политический отдел министерства, а затем – непосредственно на дипломатическую службу: в 1914 году он был отправлен в Константинополь (Османская империя) советником посольства.
Начавшаяся в августе 1914 года Первая мировая война лишь на недолгое время прервала карьеру успешного дипломата. В начале 1915 года Нейрат отбыл в 119-й (1-й Вюртембергский) гренадерский королевы Ольги полк в качестве капитана резерва и в ходе следующей кампании командовал ротой на Западном фронте, был ранен. Его успехи на фронте были отмечены Железным крестом 1-го и 2-го класса, а также Рыцарским крестом вюртембергского Ордена за военные заслуги. Правда, уже после выздоровления, весной 1915-го, его направили к прежнему месту службы в Константинополь (при этом он продолжал числиться на военной службе), где он приступил к исполнению обязанностей советника посольства, а затем и 1-го секретаря. В конце 1916 года Константин фон Нейрат оставил службу в Имперском министерстве иностранных дел и отправился в Штутгарт, где стал шефом гражданского кабинета короля Вюртемберга Вильгельма II и обер-гофмейстером двора под крылом у своего дяди барона Юлиуса фон Хонеда, который возглавлял местное Министерство иностранных дел. Поражение Германии в мировой войне привело в т. ч. и к краху института монархии в германских государствах. Не стал исключением и король Вюртемберга, лишившийся своего престола в ноябре 1918 года, но Нейрат до последних дней оставался его ближайшим советником.
В 1919 году Нейрат вернулся в МИД и 13 декабря был поставлен во главе германской дипломатической миссии в Копенгагене (в ранге посланника). На протяжении всей своей жизни он был немецким националистом и консерватором – что для дипломата Веймарской республики было лучшей рекомендацией и гарантировало поддержку в верхах. В середине сентября – середине октября 1920 года Нейрат, не оставляя пост посланника, был также специальным уполномоченным по организационным вопросам и персоналу в центральном аппарате МИД – т. е. принял участие в создании внешнеполитической службы Веймарской республики. В феврале 1921 года он вновь стал специальным уполномоченным, но теперь уже на постоянной основе. В том же году ему было поручено руководство подготовкой атташе. Став, таким образом, одним из руководящих чиновников МИД, барон был вправе рассчитывать на высокий дипломатический пост. Тем более что Нейрат обладал бесспорными талантами дипломата и организатора, и хотя в его карьере происхождение и связи были очень важны, личные заслуги сыграли отнюдь не последнюю роль. Новое назначение не заставило себя ждать: 13 февраля 1922 года он стал чрезвычайным и полномочным послом в Риме (Италия), а 4 ноября 1930 года – в Лондоне (Великобритания). Последний пост был одним из ключевых в германском внешнеполитическом ведомстве – в эти годы Лондон стал центром европейской большой политики. Нейрат принял участие в работе Лондонской конференции в 1932 году, где пытался добиться отмены непосильных репараций. Авторитет Нейрата в правящих кругах Германии был очень высок, его не раз привлекали к обсуждению важнейших государственных вопросов.