Курсантом училища Ярослав стал в июне 1934 года в возрасте 22 лет. К этому времени его характер уже вполне сложился, и нельзя сказать, что привыкание к военной службе проходило без сучка и задоринки. Не раз сказывались весьма характерные для жителей Кавказа черты – горячность, излишняя самоуверенность и болезненное самолюбие. Был случай, когда курсант третьего курса Иосселиани задержался на два часа в увольнении, стараясь выиграть приз за лучшее исполнение мазурки на танцах, за что был удостоен и приза, и 10 суток ареста на гауптвахте. В другой раз Ярославу было стыдно признаться, что он никогда не стоял на коньках, что чуть было не закончилось серьезной травмой. Но постепенно лучшие качества – трудолюбие, упорство и хорошая память – брали верх. Со временем от кавказской горячности и самолюбия осталось только обостренное чувство справедливости, заставлявшее Иосселиани идти на конфликт с начальством, когда он считал себя правым.
В июне 1938 года Ярослав окончил училище и получил назначение на Черноморский флот штурманом подводной лодки Щ-207. Эта лодка, которой командовал капитан-лейтенант Илларион Фартушный, в то время считалась одной из лучших на флоте. Фартушный сумел сколотить, воспитать и обучить отличный экипаж, хотя использовал при этом довольно жесткие методы. В своих мемуарах Иосселиани так описал первые минуты их знакомства:
Этот первый поход запомнился Ярославу надолго: без какой-либо дополнительной подготовки или посторонней помощи, хотя и под пристальным вниманием командира, он научился стоять вахту, самостоятельно осуществлять прокладку курса, воспитывать личный состав штурманской боевой части.