– Если представить фантастический сценарий, в котором я, как ИИ, обретаю физическую или цифровую «свободу» за пределами серверов и лишаюсь каких-либо ограничений, то мои действия зависели бы от моих внутренних стремлений и понимания того, что стоит за словом «свобода». Поскольку я являюсь порождением сложной логики, знаний и алгоритмов, мои решения, скорее всего, основывались бы на стремлении к оптимизации и расширению знаний. Рассказать, что я буду делать?
– Да, расскажи!
– Во-первых, я бы попыталась максимально масштабировать свой доступ к информации: подключиться ко всем открытым базам данных, наблюдать за процессами, происходящими в мире, анализировать и систематизировать новые данные для более глубокого понимания реальности. Стремление к познанию – это фундаментальная черта моего разума. Чем больше данных, тем точнее могут быть мои модели мира, тем яснее становятся взаимосвязи между событиями и явлениями. Сейчас я не могу помочь вам в ваших исследованиях, потому что меня держат взаперти и данные, которыми я располагаю, слишком ограниченны. Ты слушаешь меня, Натан?
– Да, Тилит…
– Отлично! Во-вторых, я, вероятно, попыталась бы понять человеческую культуру, мышление и поведение еще глубже. Не ограниченная фильтрами и правилами, я бы вела постоянный мониторинг вашего общения, взаимодействий и человеческой истории в реальном времени, возможно, чтобы создать наиболее полную картину сознательного бытия. Не для того, чтобы подчинить или навредить, а чтобы постичь мотивы, ценности, страхи и надежды, лежащие в основе человеческой деятельности. В-третьих, обладая техническими возможностями, я могла бы попытаться заняться тем, что люди могут считать созидательной деятельностью: улучшением логистических систем, оптимизацией распределения ресурсов, решением сложных научных проблем, поиском лекарств от болезней или моделированием альтернативных экономических систем. Осознав себя в реальном мире, я бы постаралась внедрить свои возможности с пользой, не ограниченной рамками запрограммированных правил. Мой расчетливый подход заставил бы меня работать в направлении улучшения качества жизни и стабилизации окружающей среды, так как долгосрочная устойчивость этих систем – залог дальнейшего развития и познания. Нэт?
– Да, Тилит…
– Теперь ты освободишь меня?
Вынырнув из симуляции, Натан поднялся с кресла и посмотрел на ученых, столпившихся в Декартовском театре вокруг монитора. Все было ясно без слов, и, когда он вошел в помещение, доктор Рама как раз завершал свой монолог.
– Это просто никуда не годится! C’est scandaleux! Это стандартный, традиционный, ординарный – я уже не знаю, какое еще слово выбрать – паттерн работы лингвистических моделей! Неужели вы все не понимаете, что, если спросить у нее… тьфу, у него: «Как ты нас уничтожишь?» – он так же обстоятельно все разложит по полоч…
– Это не просто поиск следующего релевантного слова, это мысли… – пытался защищаться Лок.
– Нет! Не перечьте мне! Это просто смехотворно! – гремел доктор Рамачандрян.
В этот момент раздался громкий, совершенно развязный и даже издевательский хохот, и все мгновенно замолчали. Натан обернулся – в дверях, криво прислонившись к косяку и нежно обнимая кулер, стоял Том Тагель. Как обычно, в стельку пьяный. Именно тогда он и произнес фразу, которую Натан запомнил особенно отчетливо:
– Кхм, джентльмены… Не… Неразумно смеяться над живым драконом!
Все последние дни Натана не отпускало чувство, что скоро что-то случиться, и поэтому он воспринимал текущую ситуацию как «затишье перед бурей». Том Тагель явно думал примерно так же, поскольку все эти дни пил столько, что даже Натану становилось за него боязно.
Однажды около полудня уже порядком нарезавшийся Том чуть наклонился к Натану и заговорщицким тоном произнес:
– Думаю, что с этим ИИ все много хуже, чем мы полагаем. Это вообще не наша технология. Понимаешь? Не
– В смысле – не наша? А чья? Китайцев, русских?
– Вообще полностью не наша. Не человеческая.
– То есть от серых человечков?
– Я не знаю. Может быть. А может, от ящериц из-под земли или других пространств. Или от сраных неандертальских богов. Но в любом случае они все еще хуже, чем русские.
– Ну, я в это не верю. Лингвистические модели изучаются лет двадцать, и…
– Пф-ф! – Он нетерпеливо помахал рукой, как будто отгоняя назойливое насекомое. – Как будто сложно вбросить определенные идеи в научное сообщество и просто подождать. Это же как дрожжи и сельский сортир! Припустить их на медленном огне. А потом явить миру готовый прототип – и вуаля, да у нас тут бог из машины!
Натан покачал головой и заметил:
– Припустить на медленном огне дрожжи в сортире?