Эврика полностью

Мы живем в исторический период, когда налицо упорная, временами почти отчаянная погоня за ускользающей от общего понимания концепцией мирового порядка. Хаос угрожает нам, а вместе с тем формируется беспрецедентная взаимозависимость: распространение оружия массового уничтожения, дезинтеграция былых государств, последствия хищнического отношения к окружающей среде, сохранение, к великому сожалению, практики геноцида и стремительное внедрение новых технологий угрожают усугубить привычные конфликты, обострить их до степени, превосходящей человеческие возможности и границы разума … Неужели мы вступаем в новый период, когда будущее станут определять силы, не признающие ни ограничений, никакого-либо порядка вообще?» [Киссинджер Г. Мировой порядок. – М.: АСТ, 2021, с. 10].

В текущем столетии ситуация вряд ли сильно изменится. Скорее всего, каждая из супердержав будет стремиться создать свой суперинтеллект: США – свой, КНР – свой, Россия – свой. Возможно, появятся и другие крупные игроки, которые будут противостоять друг другу в борьбе за элементарное выживание. Но они не будут стремиться к созданию всепланетного супермозга.

Рэй Курцвейл предсказывет, что с наступлением сингулярности ИИ не только возрастет мощь суперинтеллекта и он значительно превзойдет человеческий, но и станет совершенно неуправляемым. То, что суперинтеллект превзойдет человеческий интеллект – не беда: человек давно уже привык управляться с большими мощностями. Плохо будет тогда, когда суперинтеллект, обретя самосознание (если это только произойдет), направит свои действия против Homo sapiens. Чтобы это не произошло, следует на всех этапах проектирования и работы ИИ обеспечивать жесточайший человеческий КОНТРОЛЬ за всеми процессами.

Некоторые футурологи с удовлетворением предсказывают, что «начнется новый этап существования человечества, когда физическая и виртуальная реальности сольются воедино …Впервые в истории человечества мы познаем, каково это – подключиться к сознанию другого человека и делиться пережитым совершенно по-новому. Исчезнут различия между нашим и чужим статусом – ментальным, физическим и цифровым» [Хоффман С. Указ. соч., с. 73]. То есть будто бы при помощи ИИ начнется всеобщее взаимопонимание и дружелюбие. На самом деле это прямо приведет к потере индивидуальности и к созданию коллективного «муравьиного сознания» в худшем варианте. Но хорошо ли это?

Поскольку разумом (или зачатками разума) обладают, на мой взгляд, все субстанции объективной реальности, от субатомных частиц, в микромире, до минералов, жидкостей, газов, бактерий, вирусов, растений, животных и людей в биосфере Земли и планет, звезд и галактик в макромире Вселенной, то нет оснований не считать, что искусственный интеллект тоже обладает разумом. А вот на следующий вопрос: может ли искусственный интеллект обладать самосознанием и осознавать свое собственное существование, собственное «Я»? – ответа пока нет.

Те интеллектуальные системы слабого ИИ (ограниченного ИИ – ANI), которые нам известны сегодня (они, как правило, специализируются на решении одной задачи), естественно, не обладают самосознанием.

Однако некоторые специалисты IT склоняется к тому, что в будущем (возможно, уже в ХХI веке) так называемый сильный ИИ (или общий ИИ – AGI) будет обладать самосознанием и будет разумным в том же смысле, что и человек. И вот с таким ИИ у нас могут возникнуть невероятно сложные проблемы.