И степень убежденности в этом должна быть обратно пропорциональна степени загадочности самосознания. Если человек полагает, что оно окутано тайной, непредсказуемо и представляет собой уникальную духовную сущность, то в ИИ с самосознанием он не поверит. И наоборот, если человек считает, что свободная воля – это не более чем естественное явление, которое возникает в определенных условиях, то он поверит и в то, что появление осознающего себя искусственного интеллекта – лишь вопрос времени.
Я из второго лагеря.
С высокой вероятностью будущий сильный ИИ, подобно AlphaGo, будет создан через «обучение» искусственных нейронных сетей. И на первый взгляд будет невозможно узнать, какая информация в ней хранится. ИИ можно будет воспринимать только как черный ящик – точно так же, глядя на человека, мы можем лишь наблюдать за его поведением, а не считывать идеи из его головы.
Различия в процессе обучения приведут к тому, что два искусственных интеллекта с одинаковой структурой будут иметь совершенно разные представления о мире и разное отношение к человеку. И как же возможно подобное?
Неоспоримый факт – искусственный интеллект намного превзошел человека в выполнении конкретных задач. Но с комплексными в настоящее время он справиться еще не может. Хотя проблеск надежды уже сверкнул – в 2018 году была опубликована статья, посвященная взаимодействию между нейронными сетями, выполняющими разные задачи. Эволюция биологической нервной системы происходит постепенно и последовательно, первыми эволюционируют области мозга со специфическими функциями. При взаимодействии друг с другом они в конце концов и формируют самосознание. Поэтому искусственный интеллект, очевидно, все еще находится в зачаточной стадии: каждая функция развивается отдельно, например, распознавание речи, изображений, обработка естественного языка и даже игра в го – на самом деле все они разработаны для конкретных ситуаций. Если и появится искусственный интеллект, в котором зародится нечто похожее на самосознание, эволюционный процесс, с которым он столкнется, должен будет включать мобилизацию всех аспектов интеллекта. В том числе развитие получат моторные реакции тела, позволяющие отвечать на вызовы окружающей среды. В такой простой среде, как игра в го, даже с вычислительной мощностью в миллион раз выше человеческой, даже если ИИ решит переубивать всех игроков-людей, возможности для обретения самосознания у него все равно не будет.
