Еще будучи учеником Хэммонда, Кулидж, вслед за наставником, стал членом Республиканской партии, влияние которой в этот период преобладало в штатах Новой Англии. Следовал он и примеру отца, являвшегося местным партийным активистом. В 1896 г. Кальвин участвовал в предвыборной агитации за МакКинли, в основном выполняя технические поручения местного республиканского штаба. Но участвовавших в политике партийцев было немного, и в 1896 г. Кулидж, несмотря на его высказываемые вначале сомнения, стал членом городского комитета республиканцев. В 1898 г. он был избран в городской совет Нортгемптона, а затем последовала серия новых назначений. Не будучи сторонником глубоких реформ, политических новаций, Кулидж проявлял себя дисциплинированным работником, аккуратно исполнявшим все порученные задания. Это привело к быстрому политическому успеху. В 1899 г., отклонив предложение вновь выдвинуться в городской совет, он стал солиситором Нортгемптона. Новая должность была важной, так как являлась платной и позволяла Кальвину сократить свою адвокатскую практику. Он постепенно становился профессиональным политиком. Должность солиситора была выборной. Выборы проводились каждый год. В 1902 г. Кулидж проиграл выборы и возвратился к частной юридической практике. Однако приобретенный политический опыт и, главное, все более зревшие амбиции стимулировали Кулиджа оставаться членом городского комитета республиканцев, в котором он все более выделялся, проводя агитационные кампании, готовя соответствующие материалы и решения. В 1906 г. его кандидатура была выдвинута в Палату представителей Массачусетса. Он одержал победу над кандидатом демократов, после чего отправился в столицу и одновременно самый крупный город штата Бостон, в котором до этого бывал длишь изредка.
Хотя Кулидж не получил существенных постов в комитетах палаты, он выступал чуть ли не по всем вопросам и вскоре стал фигурой заметной. Так как он высказывался за предоставление права голоса женщинам и прямые выборы сенаторов в штатах и федерации (они пока еще избирались легислатурами), он стяжал себе репутацию прогрессиста. Одновременно ему удалось установить важные политические связи с федеральными сенаторами Уинтропом Крэнью и Генри Лоджем, которые, как считалось, контролировали республиканские организации Массачусетса и намечали продвижение их представителей в выборные органы.
Пробыв в легислатуре штата два года, установив полезные связи, научившись выступать в законодательном органе, Кулидж вернулся в Нортгемптон, где выдвинул свою кандидатуру в мэры. Он был хорошо известен местным жителям и в 1910 г. легко победил. Новый мэр, как говорили в городе, оправдал ожидания. Правда, он немного повысил городские налоги, но смог устранить возникшее недовольство, увеличив заработную плату учителям общественных школ и погасив городские долги. Когда в 1911 г. ушел в отставку сенатор Массачусетса от графства Хэмпшир, в которое входил Нортгемптон, Кулидж выдвинул свою кандидатуру в верхнюю палату штата. В очередной раз он победил демократического кандидата и вновь перебрался в Бостон, уже чувствуя себя опытным политиком. Действительно, ему почти сразу поручили возглавить комитет по расследованию положения на предприятии по производству шерстяных тканей в городе Лоуренсе, где проходила затяжная забастовка. Кулидж не только занялся расследованием, но стал арбитром между предпринимателями и профсоюзом. После двухмесячных переговоров стороны согласились на предложенные им условия. Забастовка прекратилась.
Республиканцев штата волновали не только местные, но и национальные дела. В партии назревал раскол, который произошел на съезде 1912 г., во время которого сторонники Теодора Рузвельта объявили о создании новой, Прогрессивной партии. Хотя у Кулиджа была репутация прогрессиста, он отказался оставить Республиканскую партию, баллотировался в Сенат штата от ее имени и вновь выиграл выборы. Вскоре он стал одним из уважаемых сенаторов и даже позволял себе выступать порой с парадоксальными речами, которые получали известность далеко за пределами штата. 7 января 1914 г., например, он произнес речь, в которой буквально играл словами: «Если помощь крупной корпорации позволяет лучше служить народу, несмотря на оппозицию, делай это… Ожидай, что тебя назовут демагогом, но не будь демагогом. Не колебайся быть таким же революционером, как революционная наука. Не колеблись быть реакционером за столом с множеством мнений. Не надейся, что ты сможешь укрепить слабого, сбросив вниз сильного». Такого рода риторику явно мог себе позволить человек, чувствовавший свою силу. Вскоре после этой речи Кулидж был избран председателем Сената, причем единогласно.