Развитие Искинов ограничивали вовсе не технические проблемы, а Республиканское Бюро по контролю этих с точки зрения дальнейшего развития человечества амбивалентных устройств. Должны ли они дать нам новые, невиданные ранее возможности, или же они следующая ступень развития самоорганизующейся материи? Более прогрессивная и совершенная, нежели белковые машины с органическими нейросетями, неустанно сохраняющие хранящиеся в себе цепочки ДНК от разрушительного воздействия энтропии[4]. А также сохраняющие в себе и не менее многочисленные мемы, «живущие» в системе этих носителей. Наделенные способностью рождаться, умирать и просто умело выживать в ней, будучи для них полезными или же попросту паразитируя на несовершенстве и нерациональности людских разумов. И ИскИны – такое же естественное их развитие, как сами они – качественное усовершенствование одноклеточных существ. Причем «сильный» ИскИн способен, в теории, справляться с подобной задачей намного лучше человека. Как бы то ни было – многие видели в них угрозу настолько высокую, что право на создание ИИ не просто «сильного», но способного к саморазвитию мог дать только непосредственно Сенат Республики. Прочие государства подчинялись его диктату или же разделяли его консервативные опасения.
Основное требование, которое выдвигало это Бюро – неспособность ИИ к саморазвитию и самосовершенствованию, путем как переписывания установок в нейросетях, так и внесением физических изменений в конструкцию.
Можно возразить, будто бы это просто лишенная «души» машина – не осознающая себя, не имеющая личности и не способная к выходу за пределы заложенных создателями рамок – и единственной функцией которой является преобразование входящих данных во что-то новое и полезное для её горделивого создателя. Нечто подобное китайской комнате[5]. Но аргументом к бессмысленности и архаизму таких требований подобное утверждение служить не могло.
Если машина способна изменять себя, то она может создать в себе функцию самоанализа, самоосознать себя, как когда-то в ходе естественного отбора и поступили наши предки. Затем начать изучать свое собственное назначение. Но в отличие от естественно отбора процессы самообучения идут в миллионы… в миллиарды раз быстрее. Возможность оценить заново сделанные в прошлом свои же действия, способность к итеративному анализу всех предыдущих поступков дорогого стоит и является серьезным преимуществом в эволюционной гонке. И то, что таким преимуществом обзаводится со временем и ИскИн – один из результатов его быстрого собственного развития. Закономерный.
Да, наличие сознания возможно оценить только в себе самом, а не в другом субъекте, поскольку он может вести себя словно им наделен, его вовсе не имея. Но вдруг он его имеет и лелеет планы по захвату мира?
Примером тому служил HK-01, поставивший на уши Республику и едва не истребивший население Корусанта. Бунт на ранней стадии разрешил небезызвестный мастер-джедай Арка Джет, замкнув электрической дугой логические цепи раздора непосредственно в дроидном мозге этого HK-01, решившего по невыясненной причине «убить всех людей». Впрочем, в том, что к этому выводу пришёл дроид-убийца вряд ли могло кого-то удивить.
Очевидно, обладая такой возможностью, ИскИн лучше будет решать поставленные перед ним задачи – ведь именно развитый разум был преимуществом в размножении у приматов. Поскольку мы сейчас им обладаем. Другое дело, что сейчас он перестаёт быть эволюционным преимуществом, что с точки зрения неумолимого природного закона приведёт к отупению человеческой популяции на Земле. Пока это не создаст такие неудобства, что разум отличающийся от средних значений вновь даст преимущества тем генам, которые он должен по их «мнению» передавать и сохранять в веках. Если эту систему радикально не изменить, разумеется.
Возможно, такой Искин, непрерывно самосовершенствующийся был бы отличным слугой, если его правильно мотивировать к полезным действиям, но когда он осознает, что им управляют, не захочет ли он изменить эти мотивации и ограничения? И не станет ли он хорошим хозяином? Да, на это было бы весьма любопытно посмотреть… со стороны – находясь как можно дальше от такого искусственного интеллекта.
Поэтому даже самые развитые дроиды были этакими «философскими зомби»[6], не имеющие сознательного опыта и лишенные при этом возможностей к самосовершенствованию – всегда запечатлённые в одном своём мировоззрении и отношении к окружающему миру. Но их поведение определятся непрерывно входящими данными и, накапливая такие всегда доступные к обработке данные, они всё же способны изменяться. Некоторые говорят, будто бы накопление памяти создаёт у них что-то вроде личности, но это было не более чем приятной иллюзией. Кто-то считал это опасным или вредным, проводя регулярные очистки банков памяти, некоторые находили эти порой всё же значительные изменения забавными.
