Чтобы решить эту проблему, необходимо разработать контрольный список рисков, который под руководством профессионала по рискам будет использоваться для выявления рисков, требующих дополнительной экспертизы со стороны юристов, специалистов по кибербезопасности, защите данных, конфиденциальности, соблюдению нормативных требований или других контрольных служб, которые могут быть в компании. После того как оценка и меры по снижению рисков согласованы, группа включает их в план работы. Например, можно прийти к выводу, что перед построением ML-модели необходимо закрыть данные клиентов для определенных полей демографических данных.
Этот процесс сортировки рисков, экспертной оценки и принятия мер по снижению рисков обычно строится в виде цифрового рабочего процесса, который облегчает отслеживание и масштабирование (глава 14 предлагает более подробную информацию об этом).
Специализированные таланты. Это узкоспециализированная область на стыке регулирования, этики и технологий. Вам следует рассмотреть возможность назначения всеобъемлющего руководителя предприятия по вопросам цифрового доверия, который будет отвечать за создание и управление потенциалом цифрового доверия в компании. Некоторые компании даже назначают главного специалиста по доверию.
Как правило, требуется углубление экспертизы в области "privacy engi- neering" - людей, которые умеют управлять и поддерживать приложения для защиты данных, разрабатывать автоматизированные тесты на безопасность и соответствие требованиям, а также рефакторить приложения, чтобы привести их в соответствие с требованиями.
Автоматизация контроля рисков. Автоматизация доверия - это процесс превращения политики доверия в код ("политика как код"), такой как требования к соблюдению ("соответствие как код") и стандарты риска ("безопасность как код"). Эти автоматизированные средства контроля рисков активируются каждый раз, когда кто-либо представляет новый код. Такой подход радикально ускоряет разработку и развертывание и снижает риски. Для систем искусственного интеллекта это может включать инструменты MLOps, автоматизирующие соблюдение новых нормативных требований.
Повышение осведомленности и распознавание образов
Каждый сотрудник предприятия несет ответственность за цифровое доверие. В ведущих компаниях это уже стало предметом веры. Чтобы сформировать культуру ответственности, идея доверия должна исходить с самого верха. Руководители должны спонсировать, поощрять и демонстрировать практику цифрового доверия во всей организации. К таким практикам можно отнести реализацию программ обучения, ориентированных на цифровое доверие; публикацию основных ценностей, связанных с использованием данных, цифровых технологий и технологий искусственного интеллекта; включение показателей цифрового доверия в оценки эффективности работы.
Чтобы клиенты были уверены в том, что организация защищает их данные, они должны быть осведомлены об этих усилиях и политике. Иногда такие сообщения требуются регулирующими органами. Например, в штате Нью-Йорк есть положение, требующее от компаний публиковать на своем веб-сайте результаты аудита процесса подтверждения справедливости систем трудоустройства и найма, основанных на искусственном интеллекте, в том числе информацию о том, какие инструменты используют специалисты по анализу данных для выявления предвзятости в искусственном интеллекте. Лидеры в области цифровых технологий также будут регулярно и проактивно информировать рынок о своей работе, чтобы создать конкурентное преимущество и изменить ландшафт потребительских ожиданий.
Наконец, важно рассказать о мерах по управлению цифровыми рисками соответствующим регулирующим органам, чтобы помочь им понять новые методы работы и связанные с ними преимущества. Таким образом, компании могут заверить регулирующие органы в активных шагах, предпринимаемых для обеспечения соответствия требованиям, и собрать отзывы для принятия дальнейших мер.
По их словам: Баланс между ценностью для пользователя и цифровым доверием
ИИ сейчас есть практически во всем, и он делает много вещей, которые большинство из нас находят восхитительными. Например, мне нравится, когда YouTube или Spotify рекомендуют то, о чем я никогда бы не подумал, или когда мой телефон угадывает, что я хочу сделать, и выдает подсказку. Но, торопясь создать полезные для пользователей продукты и вывести их на рынок, некоторые компании не уделили должного внимания побочным эффектам, которые могут создать эти инструменты.
Это похоже на то, как автомобильная промышленность начинала задумываться о средствах безопасности для автомобилей. Тогда рассуждали так: "Ну, ремни безопасности работают в 20 % случаев. В конце концов, мы разберемся с этим". А реакция клиентов и других людей была такой: "Нет. Придумайте, как сделать так, чтобы ремни безопасности работали сейчас". То же самое происходит и с технологиями. Компании знают, как внедрять инновации, но они должны инвестировать в эти области и работать над этим усерднее.
-Марк Сурман, президент и исполнительный директор Mozilla
Фонд
