По мнению современников, новый главнокомандующий был вполне подготовленным крупным военачальником, истинно военным человеком, имевшим большой авторитет среди офицерства и войск армии, но легко поддавался влиянию близких к нему лиц. Верховный главнокомандующий был наделен неограниченными полномочиями и подчинялся непосредственно только императору. Никто более не имел права давать ему какие-либо указания. Но и Николай Николаевич не мог, в свою очередь, влиять на военного министра, которому подчинялись войска, находящиеся в тылу, и все боевое снабжение и интендантское обеспечение также было в не компетенции главнокомандующего.
С каждой новой операцией великий князь приобретал все больше опыта. По утверждению его окружения, «популярность его росла с каждым днем», и «его имя стало достоянием не только армии, но и всего русского общества». В целом можно констатировать, что под руководством великого князя кампания 1914 года на Восточном фронте была выиграна русскими. Кроме ордена Св. Георгия 3-й степени, Николай Николаевич был награжден за кампанию 1914 года и иностранными знаками отличия – Большим крестом английского ордена Бани и французской медалью «За военные отличия».
Приближался 1915 год. Становилось очевидным, что война затягивалась, так как ни одной из сторон не удалось добиться в вооруженной борьбе решающих результатов. В планах кампании 1915 года, разработанных штабом главнокомандующего, намечалось два направления нанесения удара. Основной удар был направлен на Берлин через Восточную Пруссию, другой, второстепенный удар – через Карпаты на Венгрию. Разработка планов русского Верховного командования велась с учетом планов союзников, и сроки наступательной операции устанавливались к 23–25 января.
При перегруппировках войск не было соблюдено никаких мер скрытности, что позволило противнику точно узнать о намерениях командования русской армии и нанести упреждающие удары. В планы австро-германского командования входило нанесение основного удара на восточном направлении, а на западе в 1915 году планировалась активная оборона. Командование противника не оставляло надежд на победоносное окончание войны.
В начале 1915 года войска Северо-Западного фронта провели несколько наступательных операций, которые не достигли желаемых результатов. На Юго-Западном фронте год начался тоже с наступательных операций, но преодолеть оборону противника в Карпатах и прорваться на Венгерскую равнину русские войска не смогли. Единственной удачей стала капитуляция австро-венгерской крепости Перемышль. Крепость сдалась 9 марта, и весь ее 120-тысячный гарнизон (в том числе 9 генералов и более 2,5 тысячи офицеров) был полностью взят в плен. Это стало последней победой русских войск в этой кампании.
На помощь австрийцам поспешила германская армия, и вскоре Перемышль снова был оставлен русскими войсками. Немцы продолжали наступать, и уже летом 1915 года русские были вынуждены оставить сначала Львов, а затем и Галицию. Русские войска несли огромные потери. Не помогли даже введенные в бой резервы.
Неудачи в кампании 1915 года усилили интриги двора против Николая Николаевича. Пошли разговоры о том, что в обществе его воспринимают как второго императора, величая Николаем III. Дело дошло даже до обвинений великого князя в государственной измене. Тогда император Николай II принимает решение лично возглавить войска. Великого князя он направляет на Кавказ, поручив военному министру Поливанову сообщить об этом Николаю Николаевичу.
Вечером 9 августа Поливанов прибыл в Могилев, куда перемещалась Ставка из Барановичей. Выслушав военного министра, Николай Николаевич поинтересовался, может ли он взять с собой на Кавказ Янушкевича и, получив утвердительный ответ, внешне совсем успокоился. Затем были обсуждены подробности передачи поста Верховного главнокомандующего.
22 августа в Ставку прибыл император, и на следующий день бывший главнокомандующий, великий князь Николай Николаевич, подписав акт о сдаче командования, покинул Могилев.
Кавказский фронт, куда Николай Николаевич прибыл в сентябре 1915 года, представлял собой отдельный театр военных действий, где велась напряженная вооруженная борьба между Россией и Турцией.
В 1916 году Кавказская армия провела три последовательные наступательные операции. Все они осуществлялись под непосредственным руководством Николая Николаевича и командующего Кавказской армией генерала от инфантерии Н.Н. Юденича. Русской армии противостояла 3-я турецкая армия, на усиление которой двигались части с Балкан.
Великий князь решил разбить 3-ю турецкую армию до подхода подкреплений, которые могли появиться на Кавказском фронте, по расчетам штаба, не ранее марта 1916 года. С этой целью и проводилась с 28 декабря 1915 года Эрзурумская операция. Успешный штурм Эрзурума стал крупной политической победой России, в результате которой правительства Англии и Франции поспешили подписать с Россией выгодное для нее соглашение о разграничении сфер влияния в этом регионе.