В последних классах Коллегии А. Крымский всецело увлекся языками и культурами восточных, прежде всего мусульманских народов. Но поскольку в Киеве в те годы ориенталистика не развивалась, он, получив аттестат о среднем образовании, отправился в Москву, в Лазаревский институт восточных языков. Получив достаточную филологическую подготовку в области ориенталистики, А. Крымский в 1892 году поступает на историко-филологический факультет Московского университета, продолжая специализироваться в области истории литературы и культуры мусульманских народов. Оказавшись вдали от Украины, он сильно тосковал по родине. Тогда же он начинает писать стихи на украинском языке и небольшие прозаические произведения, вскоре опубликованные в сборнике «Повести и эскизы из украинской жизни» (1895).
После окончания Московского университета в 1896 году Агатангела Крымского направили на стажировку в Сирию и Ливан. Поселившись в Бейруте, он непрерывно разъезжает по городам Ближнего Востока, с энтузиазмом изучает старинные рукописи в местных книгохранилищах и совершенствуется в живом арабском языке, постигая тонкости его многочисленных диалектов. Результаты своих изысканий он излагает на разных языках и публикует в местных научных журналах.
В 1901 году молодой ученый выпускает принципиально новый для украинской поэзии лирический сборник стихов «Пальмовая ветвь», навеянный экзотикой Ближнего Востока. Часть стихотворений из этого сборника в русском переводе известной киевской поэтессы Л. Старицкой-Черняховской была помещена в солидном журнале «Русская мысль». В первые годы XX века А. Крымский написал роман «Андрей Лаговский», изданный во Львове в 1905 году, а годом позже — «Бейрутские рассказы», опубликованные в Киеве.
Крещатик. Думская плошадь.
Возвратившись с Ближнего Востока, А. Е. Крымский в 1898-м году становится приват-доцентом, а в 1900-м и профессором Московского университета. Одновременно он преподает в Лазаревском институте, где с 1901 года возглавляет кафедру арабской лингвистики, являясь профессором арабской литературы и истории мусульманского Востока. Его внимание все более сосредоточивается на востоковедческих исследованиях в области литературы и ее понимания в общем духовном контексте мусульманского мира и доисламского Ирана. В Москве выходят его «История мусульманства» в трех частях (1904–1912), «Аршакиды, Сасаниды и завоевание Ирана арабами» (1905), «Лекции по Корану» (1905), двухтомная «История Турции и ее литературы» (1910–1912), позже переизданная в более полном объеме, «История арабов и арабской литературы, светской и духовной» в грех частях (1911–1913), «История Персии, ее литературы и дервишской теософии» (1903–1915). На украинском языке во Львове печатаются «Мусульманство и его будущность» (1904), а также переводы из «Шахнаме» (1896).
В эти же годы, поддерживая тесные контакты с национальными научными кругами Киева и Львова, А. Е. Крымский публикует серию трудов по древнерусскому и украинскому языкознанию: «Критерии для диалектологической Классификации древнерусских рукописей» (1905), «Филология и погодинская гипотеза. Дает ли филология наименьшие основания поддерживать гипотезу г. Погодина и г. Соболевского о галицийско-волынском происхождении малороссов?» (1904), «Древнекиевский говор» (1907). В этих своих работах ученый с точки зрения филологии обосновывает то, что в историческом ракурсе доказывал М. С. Грушевский — непрерывность и преемственность развития славянского населения Украины в средние века и новое время. На обширном языковом материале Крымский доказал глубокую укорененность основных особенностей украинского языка в диалектной среде южных земель Киевской Руси.
В начале XX века А. Е. Крымский уже имел высокий научный авторитет востоковеда и слависта. Многие его работы переводятся на основные европейские языки. Его приглашают в редакцию Энциклопедического словаря Брокгауза и Ефрона вести рубрики арабистики, иранистики и тюркологии. В значительной степени благодаря исследованиям А. Е. Крымского историю и культуру народов Востока в отечественной и мировой науке начали рассматривать как органическую составляющую всемирного социокультурного процесса.
Февраль 1917 года застал Агатангела Ефимовича в Москве, где он занимал должность профессора и секретаря профессорского совета Лазаревского института восточных языков (ставшего вскоре базой для формирования Института востоковедения АН СССР и нынешней Российской академии наук). А. Крымский горячо приветствовал начавшиеся демократические перемены, однако быстро почувствовал их зыбкость и ненадежность. Его все сильнее тянуло в родной Киев, где многие его друзья и коллеги, ведущие украинские ученые и общественно-культурные деятели, вместе с лидерами украинских социалистических партий вошли в Центральную Раду, возглавляемую М. С. Грушевским.