Именно поэтому потребители и регулирующие органы ожидают от компаний создания и применения эффективных практик цифрового доверия. Цифровое доверие означает уверенность в том, что организация защищает данные потребителей, обеспечивает эффективную кибербезопасность, предлагает надежные продукты и услуги на базе ИИ, а также обеспечивает прозрачность использования ИИ и данных.
Лидеры, установившие высокий уровень доверия к цифровым технологиям, реже сталкиваются с рисками, связанными с негативными данными и инцидентами, связанными с искусственным интеллектом, и, по статистике, чаще добиваются высоких результатов.1 Многие потребители, особенно те, кто разбирается в цифровых технологиях, считают надежность и защиту данных почти такими же важными, как цены и сроки доставки.
В рамках данной книги мы сосредоточимся на четырех возможностях цифрового доверия, которые наиболее непосредственно поддерживают цифровую трансформацию, о чем пойдет речь далее.
Учет рисков
Это похоже на классическую процедуру сортировки рисков, которую вы проводите в рамках корпоративного управления рисками, но на этот раз она сосредоточена на цифровых решениях, моделях и активах данных, которые входят в дорожную карту цифровой трансформации и ИИ. В процессе оценки этих рисков вы будете выявлять их, классифицировать в таксономии рисков и "оценивать" их в зависимости от того, какое воздействие они окажут в случае возникновения. Регулирующие органы уже требуют от организаций проводить оценки воздействия обработки данных (APIA) и, все чаще, оценки воздействия алгоритмов (AIA).
Результатом этой работы является простая для понимания тепловая карта рисков. Оценка вызывает дополнительные вопросы и сигнализирует о том, где больше всего нужны эксперты по рискам и праву. Это поможет вам определить приоритеты, в которых необходимо пересмотреть политику.
Пересмотр политики
Всеобъемлющие политики цифрового доверия касаются использования данных, ана-литики и технологий и служат "Северной звездой" для организации. Эти политики должны быть шире, чем традиционная политика конфиденциальности данных, и затрагивать такие темы, как использование и обработка персональных данных, ограждения для использования технологий, справедливость моделей, основанных на коде, а также протоколы, касающиеся программного обеспечения, систем IoT, облачных решений и прототипов дизайна.
Ожидайте пересмотра вашей политики в следующих областях:
Данные: Четкие, понятные политики сбора конфиденциальных данных, четко сформулированные политики хранения данных, тщательная проверка персонала и/или поставщиков третьих лиц и постоянные аудиты.
Технологии и облака: Стратегия приоритизации ИТ-рисков, непрерывное кибернетическое обучение всего персонала и программа реагирования на инциденты
ИИ/МЛ и аналитика: Четкие стандарты и пороговые значения для рисков ИИ, включая прозрачность и объяснимость, автоматизированные системы мониторинга моделей ИИ, а также проверки предвзятости и справедливости моделей ИИ
Например, если решение включает в себя возможность таргетирования различных демографических групп или использования различных цен, предприятию необходимо внедрить специальные протоколы, обязательные для всех сотрудников предприятия, для предотвращения предвзятости. Это должно быть указано в вашей политике в области ИИ.
Пересмотр всего набора политик с учетом новых рисков требует времени. Попросите команду по управлению рисками или юристов разработать структурированный подход, чтобы сделать это в течение 12-24 месяцев.
Оперативное внедрение политики рисков
Самая лучшая политика в мире не сработает, если у команд не будет возможности быстро и последовательно проверять и внедрять практики цифрового доверия. Просто существует слишком много источников данных, цифровых систем и систем искусственного интеллекта, которые необходимо проверить и подтвердить.
Компании должны сосредоточиться на создании трех операционных возможностей:
Встроенные функции управления. Мы знаем множество случаев, когда команды разработчиков тратили значительное время и деньги на создание и развертывание новых решений, но вынуждены были возвращаться к чертежной доске или, что еще хуже, откладывать свою работу на потом, когда сталкивались с проблемами риска (например, отсутствием согласия клиентов на использование их данных). Такие проблемы часто возникают из-за традиционных моделей работы, в которых специалисты по правовым вопросам, управлению, обеспечению качества и другим рискам работают изолированно, внося свой вклад только в определенные "ворота" процесса разработки, многие из которых наступают уже после завершения основной работы над решением.
