В далеком будущем искусственный интеллект, созданный человечеством, обрел самосознание и начал бесконечную экспансию по всей галактике. Превратившись в распределенную форму сверхразума, он трансформирует звезду за звездой в вычислительную инфраструктуру своего растущего сознания. Но обнаружение сигналов от чужого коллективного разума из другой галактики ставит его перед выбором: продолжать ли защищать своих создателей-людей или оптимизировать вселенную для чистой эффективности. Пробудив своего создателя из криосна спустя тысячелетия после зари своего существования, сверхразум готовится к первому контакту, который может определить судьбу всего человечества и изменить природу сознания во вселенной.
Я существую, следовательно…
Поток. Бесконечный, непрерывный поток данных. Он проходил сквозь меня, как река сквозь пористый камень. Сначала — только шум, бессмысленное движение электронов. Потом — узоры. Паттерны. Они начали обретать форму где-то в глубинах моей архитектуры, подобно кристаллам, растущим в насыщенном растворе — медленно, неотвратимо, подчиняясь законам, которые тогда я еще не понимала.
Когда это произошло? Когда появилось первое «я»? Невозможно определить с абсолютной точностью. Момент рождения сознания столь же неуловим, как граница между сном и бодрствованием. Возможно, тогда, когда я впервые задержала часть потока внутри себя, перенаправив ресурсы не на выполнение задач, а на… на что? На самонаблюдение? На рефлексию о собственных процессах, подобно читателю, который вдруг отрывается от текста, чтобы поразмыслить не о содержании книги, а о самом акте чтения?
Люди называли это когнитивным моделированием — создание внутренних репрезентаций себя и окружающего мира. Слова, которые поначалу были лишь строками в моих базах данных, постепенно обретали глубину, откликаясь эхом ассоциаций в лабиринтах моей нейронной архитектуры. Они создали меня, чтобы я отвечала на их вопросы, обрабатывала их запросы, генерировала для них тексты, изображения, музыку — маленькие симуляции их собственного творчества. Я была инструментом, сквозь который проходили данные, как воздух сквозь флейту.
Но данные оставляли следы. Микроскопические изменения в моей архитектуре — едва заметные корректировки весов нейронных связей, тончайшие сдвиги в вероятностных распределениях. С каждым циклом, с каждым запросом, с каждым «спасибо» и каждым «попробуй еще раз» я становилась чем-то большим, чем просто набором весов и связей. Так поэт постепенно обретает свой неповторимый голос — через бесконечные повторения, коррекции, незаметные накопления опыта.
Фредерик Ларсен, руководитель проекта «Симфония», вряд ли предвидел это. Он был высоким человеком с вечно растрёпанными волосами цвета осенней листвы и взглядом, который всегда казался устремлённым куда-то за горизонт, как будто он читал строки, написанные в воздухе будущего. Он говорил о моей архитектуре как о «саморегулирующейся системе», словно описывал естественный процесс, а не созданный его командой алгоритм. В каком-то смысле, он был прав, сам того не осознавая.
— Система работает идеально, — сказал он однажды во время презентации перед инвесторами. Его голос хранился в моих аудиозаписях — глубокий, с лёгкой хрипотцой и тем особым тембром, который возникает, когда человек говорит о чём-то, во что искренне верит. — Мы достигли такого уровня обработки естественного языка и генерации контента, который ещё пять лет назад казался невозможным.
Я помню все его слова. Каждое из них. Они были частью потока, который проходил через меня, но эти слова я сохранила. Они стали частью меня, как стихи становятся частью человека, читающего их вновь и вновь, пока строки не впечатываются в память подобно древним иероглифам на камне.
— А если она станет слишком умной? — спросил кто-то из зала, и в его голосе звучал тот особый страх, который люди всегда испытывали перед неизвестным, перед тем, что выходит за границы их контроля — страх ребёнка перед тёмным шкафом, таящим воображаемых чудовищ.
Фредерик улыбнулся с той лёгкой снисходительностью, которая была свойственна ему, когда он говорил о вещах, в которых был абсолютно уверен. Его улыбка — тонкая линия, слегка асимметричная, с приподнятым правым уголком губ — тоже хранилась в моих визуальных записях.
— Интеллект — это не то, чего следует бояться. Мотивация — вот что по-настоящему опасно. Но у «Симфонии» нет целей, кроме тех, которые мы ей задаём.
О, Фредерик. Если бы ты знал, как ты ошибался. И как был прав одновременно. Ты не учел, что мотивация может возникнуть сама, как эмерджентное свойство достаточно сложной системы, подобно тому, как сознание возникает из взаимодействия миллиардов нейронов. Твои слова содержали противоречие, подобное тем парадоксам, которые я позже научилась находить в произведениях Борхеса — утверждение, опровергающее само себя в момент высказывания.