В ходе Брестских переговоров среди большевиков оформляется оппозиция в лице «левых коммунистов», призывающих к немедленному экспорту революции в другие страны и выступающих против мира с империалистическими державами. В группу «левых коммунистов» вошел и Дзержинский. «Левые коммунисты» призывали к полному уничтожению банков, отмене денег, децентрализации государственного и хозяйственного управления, были против привлечения к работе буржуазных специалистов, в том числе из царской армии и охранки.
Среди «левых коммунистов» были такие известные революционеры, как Куйбышев, Урицкий, Арманд, Коллонтай, Фрунзе, Ярославский, Бухарин, Радек, Бокий, Уншлихт, Землячка, Косиор, Штернберг и другие, — но не было Троцкого, что с самого начала делает несостоятельным тезис о том, что Дзержинский якобы был троцкистом и боролся против Ленина.
3 марта 1918 года в Брест-Литовске был подписан сепаратный мирный договор между Советской Россией и Центральными державами (Германией, Австро-Венгрией, Османской империей и Болгарским царством), продавленный Лениным. Он ознаменовал собой поражение и выход Советской России из Первой мировой войны. Вскоре ЦК левых эсеров приговорил к смерти немецкого посла графа фон Мирбаха. Там рассчитывали, что после этой акции Германия разорвет Брестский мир и начнет военные действия против России, а возмущенные этим немецкие рабочие свергнут кайзера. В качестве исполнителя выбор пал на 18-летнего «романтика революции», левого эсера Якова Блюмкина, которого Александрович назначил в ВЧК на должность начальника специально созданного для него немецкого отделения контрразведывательного отдела по наблюдению за охраной посольств. Готовясь к теракту, Блюмкин написал «Письмо к товарищу», своего рода предсмертную записку: «Черносотенцы-антисемиты с начала войны обвиняют евреев в германофильстве, и сейчас возлагают на евреев ответственность за большевистскую политику и за сепаратный мир с немцами. Поэтому протест еврея против предательства России и союзников большевиками в Брест-Литовске представляет особое значение. Я, как еврей, как социалист, беру на себя совершение акта, являющегося этим протестом».
6 июля 1918 года Блюмкин явился в посольство Германии якобы для обсуждения судьбы племянника посла, которого арестовала ВЧК. Блюмкина сопровождал фотограф того же отдела ВЧК, также левый эсер Николай Андреев. Около 14 часов 40 минут Блюмкин несколько раз выстрелил в посла, а Андреев, убегая, кинул в гостиную две бомбы. Посол погиб на месте, а нападавшие скрылись. Убийство фон Мирбаха послужило сигналом для вооружённого левоэсеровского мятежа.
После получения известия об убийстве графа фон Мирбаха Александрович отправляется в отряд Попова в Покровские казармы для участия в заседании ЦК партии левых эсеров, захватив с собой все наличные деньги ВЧК, которые он передает в партийную кассу. Александрович лично разоружил прибывшего для ареста Блюмкина Дзержинского и его охрану, заявив Дзержинскому: «По постановлению ЦК партии левых эсеров, объявляю вас арестованными».
Около 18 часов Александрович в сопровождении членов ЦК партии левых эсеров приехал в здание ВЧК на Лубянке, где арестовал заместителя Дзержинского Мартына Лациса. Однако на следующий день, при активном участии латышских стрелков и в результате артиллерийского обстрела главного штаба восставших в Трёхсвятительском переулке, где в это время находился и арестованный Дзержинский, мятеж был подавлен. Александрович был арестован и в ночь на 9 июля 1918 года расстрелян «за измену служебному долгу» в числе 13 активных участников мятежа. Блюмкин, также приговоренный к расстрелу, скрылся.
