O ritmo acelerado do desenvolvimento de IA levanta discussões relacionadas à ética, transparência, responsabilidade e conformidade da IA. Use este modelo de scorecard como ponto de partida para construir um painel de governança para IA.
A IA é uma tecnologia em rápido desenvolvimento que, além de adicionar funcionalidades impressionantes, gera novos riscos1 2 3. Além dos riscos de cibersegurança, o cenário regulatório está se tornando mais complexo, exigindo que o desenvolvimento e a implementação de IA adiram a novas regulamentações, como o Ato de Inteligência Artificial da União Europeia.
A estrutura de governança de IA é projetada para introduzir as melhores práticas de gestão relacionadas à implementação e uso de IA na organização.
Scorecard de Governança de IA.. Visão Geral do Modelo
O modelo inclui métricas genéricas e exemplos de iniciativas para o scorecard de governança de IA. Semelhante a outros domínios de negócios, não recomendamos reutilizar o modelo sem modificações. Todas as empresas são únicas, então nossa recomendação é usar o modelo como ponto de partida para sua análise, adaptando-o à realidade de sua organização.
- Se sua empresa está nos estágios iniciais de adoção de tecnologias de IA, confira este scorecard de prontidão para IA.
Temas do Scorecard
O modelo de exemplo do scorecard de Governança e Gerenciamento de Riscos de IA organiza objetivos e métricas de acordo com estes temas:
- Desenvolvimento e Uso Ético de IA
- Transparência para as Partes Interessadas
- Políticas de Responsabilidade
- Conformidade
- Monitoramento e Avaliação Contínuos
Scorecard de Governança de IA.. Não existe um padrão aceito de governança de IA; uma vez que você tenha um modelo em sua conta, sinta-se à vontade para personalizar os temas de acordo com suas necessidades.
Identificar Riscos
Um modelo de scorecard inclui alguns objetivos e iniciativas. Para ter uma visão equilibrada do panorama de governança de IA, precisamos definir os riscos.
Por exemplo, o modelo inclui “Tendência Inerente nos Dados de Treinamento” alinhado com o objetivo “Minimizar a Tendência nos Sistemas de IA” no tema Desenvolvimento e Uso Ético de IA.
Scorecard de Governança de IA.. Visualização
O modelo inclui um exemplo de painel de governança de IA que apresenta algumas métricas-chave, um mapa de calor de riscos, diagramas de risco individual e diagramas com a lista de objetivos e iniciativas.
Scorecard de Governança de IA.. Este painel é totalmente personalizável e pode ser alimentado com dados dos indicadores do scorecard.
Carregar Evidências
As métricas no modelo têm algumas configurações básicas que podem ser adaptadas a necessidades e fluxos de trabalho mais complexos. Por exemplo, um caso típico é quando um determinado padrão de relatório exige anexar evidências.
Scorecard de Governança de IA.. Isso pode ser automatizado usando a fórmula de evidência. Por exemplo, podemos ativá-la para o indicador “Número de auditorias de responsabilidade realizadas por ano” alinhado com “Auditorias Regulares de Responsabilidade”, de modo que o indicador altere seu valor quando um novo relatório de auditoria for carregado.
Biblioteca de Controles
Alguns indicadores no modelo implicam na existência de certos controles. Por exemplo, “Desenvolver e Implementar Planos de Resposta a Incidentes” alinhado com a categoria “Responsabilidade” implica na existência de planos de resposta.
Além de ter planos em forma textual, podemos organizá-los como controles específicos na biblioteca de controles. Em caso de incidente, esses controles podem ser facilmente ativados.
Monitoramento Contínuo
Um dos temas da governança de IA é o monitoramento contínuo do estado da IA. A maioria das métricas do modelo de scorecard implica na necessidade de monitoramento contínuo.
Por exemplo, o indicador “Taxa de Conformidade com Auditorias” alinhado com “Auditorias Regulares de Responsabilidade” está configurado para atualizações mensais e possui dados para os períodos de relatório.
Scorecard de Governança de IA.. Os intervalos de atualização, bem como o comportamento do indicador para os períodos em que dados específicos não estão disponíveis, podem ser configurados através do Editor de Valores.
Propriedade
No tema “Transparência”, sublinhamos a necessidade de atribuir proprietários a certos controles de IA e tornar as mecânicas de IA transparentes para as partes interessadas.
Use o campo “Proprietário” para as métricas para atribuir proprietários e partes interessadas. Isso facilitará o relatório do scorecard e garantirá que os proprietários recebam notificações sobre atualizações relevantes para os objetivos, indicadores e iniciativas.
Relatórios
Relatórios regulares programados podem ser introduzidos para manter as principais partes interessadas informadas. Abaixo estão exemplos de relatórios em formato PDF que podem ser gerados usando o scorecard de governança de IA.
- Governança de IA – Relatório de Visão Geral [PDF]
- Governança de IA – Relatório de Iniciativas [PDF]
- Governança de IA – Relatório de Painéis [PDF]
A Governança de IA é um Scorecard Funcional
No sistema de implantação de estratégia, definimos os scorecards estratégicos e funcionais/de suporte.
Enquanto a IA como tecnologia pode fazer parte dos objetivos estratégicos, consideramos o scorecard de governança de IA um scorecard funcional ou de suporte.
Alinhamento com Outros Scorecards
Alguns indicadores no modelo de scorecard podem ser alinhados com outros scorecards. Por exemplo, o “Tempo para Resolução de Incidentes” alinhado com o objetivo “Monitorar sistemas de IA para vulnerabilidades e ameaças de segurança” pode obter seus dados diretamente dos scorecards funcionais de “Cibersegurança”.
Comece a Acumular Dados Relacionados à Estratégia Hoje
No futuro próximo, a capacidade da IA de processar grandes quantidades de dados beneficiará os estrategistas. A questão é:
Sua organização possuirá dados adequados para treinar futuros bots de IA?
Uma etapa prática que você pode adotar hoje é migrar para um software especializado em planejamento estratégico. Isso garantirá que você possa usar a pegada digital da sua estratégia no futuro para treinar sua IA personalizada de forma eficaz. Saiba mais sobre preparar o planejamento estratégico para IA.
Comece a Adaptar o Modelo às Suas Necessidades
Os usuários do BSC Designer podem acessar o modelo diretamente de sua conta:
- Crie uma conta gratuita no BSC Designer
- Navegue até Novo > Novo scorecard > Mais modelos
- Encontre o modelo “Governança de IA”
Use o modelo Scorecard de Governança de IA
O BSC Designer ajuda as organizações a implementarem suas estratégias complexas:
- Inscreva-se para um plano gratuito na plataforma.
- Use o modelo
Scorecard de Governança de IA como ponto de partida. Você o encontrará em Novo > Novo Scorecard > Mais Modelos. - Siga o nosso Sistema de Implementação de Estratégia para alinhar as partes interessadas e ambições estratégicas em uma estratégia abrangente.
Comece hoje e veja como o BSC Designer pode simplificar a implementação da sua estratégia!
- AI Is Generating Security Risks Faster Than Companies Can Keep Up, Belle Lin, WSJ, 2023 ↩
- Multilayer Framework for Good Cybersecurity Practices for AI, Agência da União Europeia para a Cibersegurança, 2023 ↩
- Quais são os riscos de segurança da IA?, Equipe Ciber 4 All, 2023 ↩
BSC Designer é um software de execução de estratégia que aprimora a formulação e execução da estratégia por meio de KPIs, mapas estratégicos e dashboards. Nosso sistema proprietário de implementação de estratégia orienta as empresas na aplicação prática do planejamento estratégico.