Однако если создание сильных ИИ (AGI), обладающих самосознанием, пока представляется гипотетически смутно и пока не удалось создать ничего похожего на сверхчеловеческий разум, накопленный к настоящему времени опыт работы с системами ИИ понуждает нас задуматься о другой, возможно, более грозной опасности. Речь идет о том, что внедрение Интернета, компьютеров и роботов в человеческую жизнь – дело вовсе не безобидное: оно может влиять (точнее, уже влияет) на наши самые базовые ментальные функции, приобретенные в течение многих тысячелетий в ходе Великой Эволюции. Получив массовые выгоды от работы с системами ИИ, мы вынуждены будем расплачиваться потерей всего того, что считается уникальными особенностями человеческого Разума. По мере совершенствования систем ИИ ситуация будет усугубляnься. Поскольку неуемная одержимость в использовании цифровых технологий оказывает глубокое влияние на наше восприятие внешнего мира, такие уникальные человеческие свойства, как эмпатия, сострадание, творческие способности, изобретательность, понимание, интуиция, воображение, нестандартное мышление, метафорическая речь и поэтическое дарование, чувство боли, а также альтруизм, склонность к аналитике и абстрактному мышлению и многое другое просто атрофируются и исчезнут из числа репертуара ментальных человеческих способностей. Именно это может привести к исчезновению нашего вида с лица земли [Николелис Мигель. Истинный творец всего. – М.: АСТ, 2021, с. 422–433].
А ещё меня, дилетанта, а также многих специалистов IT не оставляет мысль о том, что нельзя исключать вероятность нестандартных действий искусственного интеллекта (подобно южнокорейскому роботу, не запрограммированному на распознание различий между человеком и ящиком с овощами), если однажды ИИ вздумает использовать человеческие тела для каких-то утилитарных целей … И приступит к их уничтожению.
Чтобы такое не произошло, мы уже сегодня должны тщательно продумать систему ограничений, запретов и правил по обеспечению безопасности Homo sapiens. Независимо от прогнозов, при создании любых систем ИИ необходимо предусмотреть комплекс юридических, технических, программных и прочих интеллектуальных мер по охране человека и человечества. В первую очередь предусмотреть жесткое программирование способов
Безусловно, необходимо отказаться от симбиоза человеческого мозга (а по сути – всего человеческого организма) с ИИ. Должно строжайше соблюдаться условие: человек не должен быть частью ИИ, а ИИ не должен быть доминирующей частью человека. (Электронная интеллектуальная «начинка» возможна у киборгов (послушных человеку), но не у нормальных здоровых людей.)
Вероятно, также следует машинообеспечивающие материальные ресурсы, в первую очередь, энергетические, сохранять под строжайшим контролем людей.
Также определенную роль в контроле развития ИИ и сдерживании катастрофических последствий прогнозируемой сингулярности и неуправляемости ИИ должны сыграть и
Кроме того. Поскольку мы еще не вполне осознали, что Земля – наш общий дом, наступила пора поворачивать все воспитательные, политические и социальные процессы на формирование нового человека – Хозяина планеты. Человек ближайшего будущего должен стать не только управителем всех систем искусственного интеллекта, но и рачительным хозяином ресурсов планеты, охранителем животного и растительного мира, полноправным творцом и распорядителем собственного жизнеустройства.
Мне, старому учителю, хорошо известно, что воспитание, в том числе формирование индивидуальности и самосознания, начинается с момента рождения и даже еще раньше, с пренатального периода. Наступает время воспитания человека – Хозяина планеты. И от нас требуется максимум усилий.
Что касается понимания правил безопасности жизнедеятельности – оно формируется всю жизнь, но наиболее интенсивно – в детском и юношеском возрасте. Поэтому есть смысл уже в ближайшие годы ввести в школах курс основ безопасности проектирования, создании и эксплуатации систем искусственного интеллекта.
Для прогнозирования и снижения глобальных рисков, с которыми сталкивается человечество, в том числе и рисков, возникающих при создании искусственного интеллекта, создан «Институт будущего жизни» (‘’Future of Life institute’’) – международная некоммерческая организация. 22 марта 2023 года Институт выпустил письмо с призывом НЕМЕДЛЕННО приостановить гигантские эксперименты с ИИ. Это письмо подписали такие известные всему миру люди, как Илон Маск, Юваль Ной Харари, Стив Возняк и еще более тысячи известных личностей.
В письме сказано: