Увеличивающийся темп развития ИИ вызывает обсуждения, связанные с этикой, прозрачностью, ответственностью и комплаенсом ИИ. Используйте этот шаблон системы показателей в качестве отправной точки для создания дашборда управления ИИ.
ИИ — это быстроразвивающаяся технология, которая, помимо добавления впечатляющей функциональности, порождает новые риски1 2 3. Помимо рисков кибербезопасности, регуляторная среда становится более сложной, требуя, чтобы разработка и внедрение ИИ соответствовали новым нормативам, таким как Акт Европейского Союза об искусственном интеллекте.
Структура управления ИИ разработана для внедрения лучших практик управления, связанных с внедрением и использованием ИИ в организации.
AI Governance Scorecard.. Обзор шаблона
Шаблон включает общие метрики и примеры инициатив для системы показателей управления ИИ. Подобно другим бизнес-доменам, мы не рекомендуем использовать шаблон без изменений. Все компании уникальны, поэтому наша рекомендация — использовать шаблон в качестве отправной точки для вашего анализа, адаптируя его к реальности вашей организации.
- Если ваша компания находится на ранних стадиях внедрения технологий ИИ, ознакомьтесь с этой системой показателей готовности к ИИ.
Темы системы показателей
Пример шаблона системы показателей управления ИИ и управления рисками организует цели и метрики по следующим темам:
- Этическая разработка и использование ИИ
- Прозрачность для заинтересованных сторон
- Политика ответственности
- Комплаенс
- Непрерывный мониторинг и оценка
AI Governance Scorecard.. Не существует одного общепринятого стандарта управления ИИ; как только у вас будет шаблон в вашем аккаунте, не стесняйтесь настраивать темы в соответствии с вашими потребностями.
Определите риски
Шаблон системы показателей включает некоторые цели и инициативы. Чтобы получить сбалансированное представление о ландшафте управления ИИ, нам нужно определить риски.
Например, шаблон включает «Начальный риск предвзятости в обучающих данных», связанный с целью «Уменьшить предвзятость в системах ИИ» в Этической разработке и использовании ИИ.
AI Governance Scorecard.. Визуализация
Шаблон включает пример дашборда управления ИИ, который содержит некоторые ключевые метрики, карту тепловых рисков, отдельные диаграммы рисков и диаграммы со списком целей и инициатив.
AI Governance Scorecard.. Этот дашборд полностью настраиваемый и может быть дополнен данными из индикаторов системы показателей.
Загрузить доказательства
Метрики в шаблоне имеют некоторые базовые настройки, которые могут быть адаптированы для более сложных нужд и рабочих процессов. Например, типичный случай, когда определенный стандарт отчетности требует прикрепления доказательств.
AI Governance Scorecard.. Это можно автоматизировать с использованием формулы доказательств. Например, мы можем активировать её для индикатора «Число проведенных аудитов подотчетности в год», связанного с «Регулярными аудитами подотчетности», чтобы индикатор изменял своё значение при загрузке нового отчета об аудите.
Библиотека контролей
Некоторые индикаторы в шаблоне подразумевают наличие определённых контролей. Например, «Разработка и внедрение планов реагирования на инциденты», связанных с категорией «Ответственность», подразумевает наличие планов реагирования.
Помимо наличия планов в текстовой форме, мы можем организовать их как конкретные контроли в библиотеке контролей. В случае инцидента такие контроли могут быть легко активированы.
Непрерывный мониторинг
Одной из тем управления ИИ является непрерывный мониторинг состояния ИИ. Большинство метрик из шаблона системы показателей подразумевают необходимость непрерывного мониторинга.
Например, индикатор «Уровень соответствия аудиту» в связи с «Регулярными аудитами отчетности» настроен на ежемесячные обновления и имеет данные за отчетные периоды.
AI Governance Scorecard.. Интервалы обновления, а также поведение индикатора в периоды, когда специфичные данные недоступны, могут быть настроены через Редактор величин.
Ответственность
В теме «Прозрачность» мы подчеркиваем необходимость назначения ответственных за определенные механизмы ИИ и обеспечения их прозрачности для заинтересованных сторон.
Используйте поле «Ответственный» для метрик, чтобы назначить ответственных и заинтересованные стороны. Это упростит отчетность системы показателей и гарантирует, что ответственные лица будут получать уведомления о соответствующих обновлениях целей, индикаторов и инициатив.
Отчетность
Регулярная отчетность по расписанию может быть введена для информирования ключевых заинтересованных сторон. Ниже приведены примеры отчетов в формате PDF, которые можно создать, используя систему показателей управления ИИ.
- Управление ИИ — Обзорный отчет [PDF]
- Управление ИИ — Отчет по инициативам [PDF]
- Управление ИИ — Отчет по дашбордам [PDF]
Управление ИИ — это функциональная система показателей
В системе реализации стратегии мы определили стратегические и функциональные/поддерживающие системы показателей.
Хотя ИИ как технология может быть частью стратегических целей, мы рассматриваем систему показателей управления ИИ как функциональную или поддерживающую систему показателей.
Связь с другими системами показателей
Некоторые индикаторы в шаблоне системы показателей могут быть связаны с другими системами показателей. Например, индикатор «Время до разрешения инцидента», связанный с целью «Мониторинг ИИ-систем на наличие уязвимостей и угроз безопасности», может получать данные непосредственно из функциональных систем показателей «Кибербезопасность».
Начните собирать данные, связанные со стратегией, сегодня
В обозримом будущем возможности ИИ обрабатывать огромные объемы данных будут полезны стратегам. Вопрос в том:
Будет ли у вашей организации данные, подходящие для обучения будущих ИИ-ботов?
Один из практических шагов, который вы можете предпринять сегодня, это переход на специализированную программу стратегического планирования. Это гарантирует, что вы сможете использовать цифровой след вашей стратегии в будущем для эффективного обучения вашего индивидуального ИИ. Узнайте больше о подготовке стратегического планирования для ИИ.
Тренинг: 'BSC Designer для автоматизации управления GRC' предлагается в рамках нашей программы непрерывного обучения и включен в подписку BSC Designer.
Тренинги проводятся еженедельно через Zoom, предоставляя практические инсайты и персонализированные рекомендации. По завершении участники получают сертификат о посещении. Изучите все доступные тренинги здесь.
Начните адаптацию шаблона под ваши нужды
Пользователи BSC Designer могут получить доступ к шаблону непосредственно из своего аккаунта:
- Создайте бесплатный аккаунт в BSC Designer
- Перейдите в Новый > Новый проект > Дополнительные шаблоны
- Найдите шаблон «Управление ИИ»
Используйте шаблон AI Governance Scorecard
BSC Designer помогает организациям реализовывать их сложные стратегии:
- Зарегистрируйтесь на бесплатный план на платформе.
- Используйте шаблон
AI Governance Scorecard в качестве отправной точки. Вы найдете его в Новая > Новая система показателей > Больше шаблонов. - Следуйте нашей Системе внедрения стратегии, чтобы связать заинтересованные стороны и стратегические амбиции в комплексную стратегию.
Начните сегодня и посмотрите, как BSC Designer может упростить реализацию вашей стратегии!
- ИИ порождает риски безопасности быстрее, чем компании могут справиться, Белль Лин, WSJ, 2023 ↩
- Многоуровневая структура для хороших практик кибербезопасности для ИИ, Европейское агентство по кибербезопасности, 2023 ↩
- Каковы риски безопасности ИИ?, Команда Ciber 4 All, 2023 ↩
Alexis является старшим консультантом по стратегии и генеральным директором BSC Designer с более чем 20-летним опытом в области стратегического планирования. Alexis разработал «Систему внедрения стратегии из 5 шагов», которая помогает компаниям в практической реализации их стратегий. Он является постоянным докладчиком на отраслевых конференциях и опубликовал более 100 статей по управлению стратегией и производительностью, включая книгу «Система KPI из 10 шагов». Его работы часто цитируются в академических исследованиях.