Но этот тезис сводятся на нет множеством лазеек и оговорок. Например, есть «запрет на причинение вреда человеку по инициативе систем ИИ и РТ (по общему правилу следует ограничивать разработку, оборот и применение систем ИИ и РТ, способных по своей инициативе целенаправленно причинять вред человеку)». Здесь обратите внимание на уточнение, в каких случаях можно говорить о запрете — когда бездушные системы причиняют вред «по своей инициативе целенаправленно».
Говорится, что нужна подконтрольность систем человеку «в той мере, в которой это возможно с учетом требуемой степени автономности систем ИИ и РТ и иных обстоятельств». Уточнение «в той мере, в которой это возможно» сводит требование на нет.
Говорится, что «применение систем ИИ не должно заведомо для разработчика приводить к нарушению правовых норм» — и здесь стоит обратить внимание на оговорку «заведомо для разработчика».
Некоторые перлы документа выдают полное незнакомство его разработчиков с понятием, что такое искусственный интеллект и как работают системы машинного обучения. Например, есть там положение о том, что нужно «уточнить необходимость и возможные случаи введения в системы ИИ и РТ, которые потенциально могут причинить вред, функциональных особенностей, обеспечивающих, например, возможность потребителя прекратить деятельность системы ИИ в критической ситуации («красная кнопка») и (или) обеспечить фиксацию фактов, позволяющих установить обстоятельства причинения вреда («черный ящик»)».
Говорить о том, что работу весьма сложной и распределенной системы искусственного интеллекта можно прервать при помощи нажатия некоей «красной кнопки», совершенно абсурдно, как невыполнима и попытка «фиксации фактов, позволяющих установить обстоятельства» для «черного ящика». Впрочем, скорей всего, эти тезисы писались совершенно не для того, чтобы кто-то думал над их выполнением: просто кого-то из журналистов, политиков и общественных деятелей можно успокоить наличием «красной кнопки».
В период «пандемии» идет обязательный, требуемый правительством сбор данных в медицине. Речь в концепции идет о том, чтобы открыть к ним доступ самому широкому кругу желающих. Российские технологические компании заведомо слабее западных и китайских, так что иностранные компании и стартапы получат прямой доступ к данным. Массивы информации будут уходить также на платформы с открытым кодом, где крупные западные технологические гиганты из ФАГМы обкатывают свои технологии. Очень активна в этом отношении компания «Майкрософт», которой принадлежит ряд крупнейших платформ с открытым кодом, очень популярных у разработчиков систем с искусственным интеллектом. Можно не сомневаться, что собираемые правительством РФ данные окажутся в распоряжении международных игроков.
Документ основан на иррациональной вере в то, что бизнес сам себя будет регулировать, но содержит для него множество лазеек. Понятно, что бизнес по извлечению «новой нефти», то есть человеческого опыта, будет работать примерно по тем же этическим принципам, что и бизнес по извлечению природных ресурсов. Поэтому если возможны экологические катастрофы наподобие той, что мы увидели с загрязнением тундры в Норильске, или с вырубкой лесов, или со сбором мусора, или с очистительными сооружениями в Челябинске и Красноярске — возможны будут и крупные катастрофы, связанные с загрязнением и гибелью экосистем человеческого поведения, взломом личности, распадом человечности.
Всё это расчистило почву для масштабного строительства инфраструктуры «интернета вещей» и её скорейшего внедрения в единственном городе России, где всё для этого созрело. «Интернет вещей» резко расширит объем собираемых данных, необходимых для управления поведением масс.
«Интернет вещей» будет пронизан сотнями миллиардов сенсоров, микрочипов, записывающих и передающих аудио, видео и другую информацию. Их уже сегодня можно встраивать везде, например, в стены, в предметы бытовой техники, вшивать в качестве специальных нитей в одежду. Но сенсоры ведь могут быть не только «глазами и ушами» — они могут служить и актуаторами, то есть элементами, запускающими машину в действие.
Как сказал анонимный разработчик ИИ, опрошенный гарвардским профессором Шошаной Зубофф в ходе ее ключевого исследования, посвященного «надзорному капитализму», «сначала мы учимся писать музыку, а потом под эту музыку они будут у нас танцевать».
