Происходя из небогатой дворянской семьи, из которой некоторые служили когда-то на военной службе, Тухачевский блестяще вице-фельдфебелем окончил кадетский корпус и был назначен для прохождения курса наук в Александровском военном училище. С 1 сентября 1912 года он числился в списках училища юнкером 2-й роты. Отличаясь незаурядными способностями, призванием к военному делу, рвением к несению службы, он очень скоро стал выделяться из среды прочих юнкеров. К 19 годам стал фельдфебелем и был на хорошем счету у начальства, но, к сожалению, не пользовался любовью своих товарищей, чему виной (по свидетельству сослуживца) являлся он сам, так как сторонился товарищей и ни, с кем не сближаясь, ограничивался лишь служебными, чисто официальными отношениями. На одном из тактических учений юнкер младшего курса Тухачевский проявил себя как отличный служака, понявший смысл службы и требования долга. Назначенный часовым в сторожевое охранение, он, по какому-то недоразумению, не был своевременно сменен и, забытый, остался на своем посту. Он простоял на посту сверх срока более часа и не пожелал смениться по приказанию, переданному ему посланным юнкером. Он был сменен самим ротным командиром, который поставил его на пост сторожевого охранения. На все это потребовалось еще некоторое время. О Тухачевском сразу заговорили, ставили в пример его понимание обязанностей по службе и духу устава. Его произвели в портупей-юнкера без должности, в то время как прочие еще не могли и мечтать о портупей-юнкерских нашивках. Великолепный строевик, стрелок и инструктор, Тухачевский с течением времени стал слепо преданным службе, фанатиком в достижении своей цели, поставленной им себе как руководящий принцип достигнуть максимума в служебной карьере, хотя бы для этого принципа пришлось рискнуть.
При переходе в старший класс он получает приз-награду за первоклассное решение экзаменационной тактической задачи. Позже за глазомерное определение расстояний и успешную стрельбу получает благодарность по училищу. Будучи великолепным гимнастом и бесподобным фехтовальщиком, он получил первый приз на турнире училища весной 1913 года – саблю только что вводимого образца в войсках для ношения по желанию вне строя.
По службе у него не было жалости к другим. Став фельдфебелем на старшем курсе, Тухачевский не знал пощады провинившимся: он наказывал самой высокой мерой наказания за малейший проступок новичков, только что поступивших на службу и еще не свыкшихся с обстановкой и не втянувшихся в училищную жизнь. Беспощадный фельдфебель оставил болезненный след в жизни училища: произошел целый ряд конфликтов и инцидентов, имевших тогда печальные последствия.
По докладу Тухачевского два юнкера 2-й роты были переведены в Алексеевское военное училище: Евгений Немчинов – за то, что позволил себе заметить фельдфебелю его излишнюю придирчивость, выразившуюся в ряде мелких замечаний, которые наконец вывели из терпения упомянутого юнкера, и отчислен из училища Георгий Маслов (впоследствии был убит в бою с немцами) – за то, что, не в силах выдержать режима в роте, создавшегося под действием Тухачевского, выразил желание пожаловаться на излишнюю требовательность фельдфебеля. Эти два конфликта, в результате имевшие лишь перевод из училища в училище, закончились благополучно. Трое же других юнкеров – Красовский, Яновский и Авдеев – по докладу фельдфебеля были переведены начальником Александровского училища генерал-майором Геништой в третий разряд по поведению; несчастные юноши, самолюбивые и решительные, один за другим поочередно в короткий период (в течение двух месяцев) покончили с собой. Во всех трех случаях до этой крайности довел их Тухачевский.
Жестокость Тухачевского проявилась и при подавлении бунта тамбовского крестьянства – «антоновщины». К июню 1921 года бунт был уже полностью подавлен, тем не менее командовавший войсками Тамбовской губернии Тухачевский приказал леса, где прячутся восставшие, очистить ядовитыми газами.