Для примера вкратце расскажу о внедрении инструментов искусственного интеллекта в работу аэропорта. Какие проблемы приходится повседневно решать сотрудникам аэропорта? Координировать действия пилотов во время взлета и посадки, разрешать или запрещать взлет самолетов в зависимости от уровня видимости, мониторить риски возникновения нежелательных ситуаций и предотвращать их. При этом время от времени переносят рейсы, из-за непредвиденных ситуаций какие‑то взлетно-посадочные полосы могут быть заняты вопреки расписанию, каким‑то самолетам может понадобиться экстренное обслуживание. Искусственный интеллект – если он будет учитывать все параметры работы аэропорта – намного лучше справится с любой нештатной ситуацией, нежели человек. Человек просто не будет полноценно успевать за ходом событий и действовать оптимально, когда многое вдруг начнет идти не по плану. Что значит действовать оптимально? Это значит принимать меры, необходимые для нормальной работы аэропорта, и при этом параллельно устранять саму нештатную ситуацию. Это как если ты продолжишь рисовать как ни в чем не бывало, даже если в потолке твоей комнаты вдруг образуется пролом, через который польется вода, и максимум, что ты сделаешь, – это спокойно переместишься в угол, где она не будет попадать на рабочее место, и невозмутимым голосом объяснишь по телефону ремонтным службам, что у тебя случилось. Полагаю, был бы способен на такое только при обладании безупречным машинным умом. Но как мы обычно оправдываем, что для решения нешаблонных задач предпочтительно использовать человеческий ум? Мол, именно человеческий ум находит нестандартные и оттого наиболее подходящие решения. Вопрос в том, насколько своевременными будут эти решения и насколько аккуратно их реализуют. В этом плане человек может быть далек от идеала. Мы всё увереннее строим такие нейросети, которые в процессе самообучения находят нестандартные решения все более широкого диапазона. Для самообучения мы давали нейросети работать в условиях настоящего аэропорта, но поначалу не пользовались решениями, которые она генерировала, а применяли их лишь к виртуальной реальности, копии реальности подлинной. Решения по управлению аэропортом по-прежнему принимали люди. Затем мы сравнивали результаты работы людей и нейросети. Нейросеть показывала лучшие результаты, чем люди, но в ситуациях чрезвычайных – нелетная погода, авария на взлетно-посадочной полосе – ее результаты не всегда были удовлетворительны. С накоплением опыта нейросеть неизбежно должна была научиться лучше решать неординарные задачи, но невозможно было ждать, когда экстренные ситуации произойдут в таком достаточном количестве, чтобы навыки нейросети наверняка развились до нужного уровня. Поэтому для ускорения процесса была выстроена нейросеть‑2, которая училась моделировать виртуальную реальность для тренировки нейросети‑1 таким образом, что эксцессы в этой виртуальной реальности возникали во много раз чаще, чем в подлинной. Оценку правдоподобию этого моделирования выносили уже мы, люди. Когда нейросеть‑2 достигла нужного уровня развития, ей было уже нетрудно подготовить виртуальную реальность, отражавшую жизнь аэропорта с очень часто происходящими непредвиденными ситуациями, которая могла в полной мере служить тренировочной базой для нейросети‑1. Скорость обучения нейросети‑1 повысилась достаточно, чтобы вскоре она стала безупречно качественным инструментом для реализации всего функционала аэропорта в каких угодно сложных условиях. А потом мы уже в реальности стали доверять нашей нейросети все большую и большую часть этого функционала. Одновременно у нас остается удаленный офис с сотрудниками-людьми, которые при необходимости подстрахуют нейросеть. Тут уже, наоборот, сотрудникам этого удаленного офиса приходится значительную часть времени работать в виртуальной реальности, чтобы не растерять навыки. И численность такого удаленного офиса не станет больше с увеличением количества аэропортов, которые мы будем передавать в ведение нейросетей. Просто работники одного офиса будут подстраховывать работу нейросетей сразу нескольких аэропортов. То есть мы так или иначе движемся к уменьшению доли участия человека в деятельности аэропортов. Но что делать с совсем уже из ряда вон ситуацией? Если случится огромное стихийное бедствие или масштабный террористический акт? Очевидно, такие ситуации надо будет классифицировать как чрезвычайные происшествия, в случае которых в дело должно будет вступить соответствующее ведомство, а задачей нейросети будет просто свести на нет штатную работу аэропорта, включая перевод прибывающих рейсов в другие аэропорты. Подтверждаю, мы учим нейросети решать и такие задачи. Научим ли мы их когда‑нибудь справляться с самыми катастрофическими ситуациями? Если зададимся такой целью, конечно, научим. Но сам вопрос передачи управляющих полномочий от человека к нейросети при подобных тяжких обстоятельствах – это экзистенциальный вопрос уровня целого человеческого общества. Одно дело, когда нейросеть поддерживает работу давно отлаженной системы, где сведены к минимуму любые риски для человека, другое – когда нейросеть влияет на ход событий, которые могут стать фатальными для многих тысяч людей.
