Pour renforcer la confiance dans l’IA, ne cherchez pas un système parfait ; combinez des systèmes qui échouent de différentes manières.
Les idées principales de cet article ont été présentées pour la première fois lors de la conférence « Beyond Quality: Measuring Trust in AI Outcomes » aux Software Quality Days 2026 à Vienne.
Télécharger le canevas d’architecture de la confiance en tant que modèle PDF.
Pouvons-nous faire confiance à l’IA ? — La question fondamentale de toutes les mises en œuvre de l’IA
Toutes les discussions sur l’IA finissent par aboutir à la même question :
Pouvons-nous faire confiance à l’IA ?
Dans certains cas, des personnes disent qu’elles ne peuvent pas l’utiliser officiellement parce qu’elles évoluent dans un secteur réglementé. D’autres disent qu’elles ont essayé des outils d’IA comme Cursor ou GitHub Copilot, et qu’ils ont très bien fonctionné. Mais, d’une manière ou d’une autre, toutes ces discussions se terminent par une question : « Pouvons-nous faire confiance à l’IA ? »
La confiance est partout, mais qu’est-ce que la confiance ?
Pensez à deux chariots de courses :
- L’un a une chaîne à pièce, vous devez donc insérer une pièce avant de l’utiliser.
- L’autre ne nécessite rien.
Dans le premier cas, il semble que le supermarché ne me fasse pas confiance pour rendre le chariot sans dépôt de garantie.
Dans le second cas, le supermarché me fait suffisamment confiance pour que je remette le chariot au bon endroit et ne crée pas de désagrément pour les autres conducteurs.
C’est un petit exemple, mais il montre comment les systèmes traduisent la confiance pour leurs parties prenantes — comme moi, faisant les courses hebdomadaires dans un supermarché ou un autre.
La confiance est graduelle, subjective et contextuelle
Ce sont les propriétés fondamentales de la confiance.
- La confiance n’est pas binaire ; c’est un degré de quelque chose.
- La confiance n’est pas une propriété intrinsèque du système ; quelqu’un fait confiance à quelque chose, pour un objectif précis, dans un contexte spécifique.
Pourquoi nous utilisons la confiance pour compléter la qualité
Nous utilisons la confiance en raison de contraintes naturelles dans le domaine opérationnel ; nous utilisons la confiance pour prendre des décisions plus rapides lorsque des informations limitées sont disponibles.
Les indicateurs de qualité ne fonctionnent plus lorsque le domaine devient trop complexe
Pour des domaines d’activité moins complexes, le coût de la mesure est acceptable ; nous pouvons donc utiliser des indicateurs de qualité classiques. À mesure que la complexité du domaine augmente, la mesure classique devient trop coûteuse.
À ce stade, nous avons un choix. Nous pouvons continuer à essayer de fonder les décisions uniquement sur des indicateurs tangibles, ou bien utiliser ce que nous regroupons sous l’ombrelle de la confiance : perceptions, preuve sociale, probabilités et autres substituts.
La cybersécurité montre comment la qualité se transforme en confiance
Il y a dix ans, la cybersécurité était relativement facile à quantifier et à mesurer : temps de force brute, contrôles internes de base…
À partir de 2024, les vecteurs d’attaque ont changé, et nous avons commencé à parler beaucoup plus de la nécessité d’analyser les tiers dans la chaîne d’approvisionnement.
Mesurons-nous encore la qualité des contrôles de cybersécurité, ou mesurons-nous de plus en plus la confiance ?
Une évaluation typique des vulnérabilités d’un tiers consiste davantage à s’appuyer sur des indicateurs de confiance démontrés par le partenaire que sur des métriques strictes de qualité et de sécurité.
Les humains et l’IA sont tous deux faillibles
Voici l’illusion de Munker–White.
L’illusion montre que deux couleurs peuvent être objectivement identiques, mais que nous les percevons malgré tout comme différentes. Ce n’est qu’un exemple parmi d’autres de la manière dont, en tant qu’êtres humains, nous pouvons être trompés.
Les humains ne constituent pas une référence parfaite. Nous échouons aussi, et nous avons également besoin de contrôles pour encadrer notre jugement.
L’IA peut aussi être trompée
En ce qui concerne l’IA, un exemple classique consiste à demander comment se rendre à la station de lavage automobile.
L’IA peut répondre à la question au pied de la lettre et suggérer de s’y rendre à pied.
La véritable question n’est pas « faire confiance ou ne pas faire confiance », mais où ce système échoue-t-il ?
Comment mesurons-nous la confiance ?
Les chiffres de confiance absolus n’auront probablement pas beaucoup de sens (nous ne disposons tout simplement pas d’une véritable unité de mesure de la confiance). Mais les chiffres relatifs sont bien plus utiles.
Il est utile de comprendre si la confiance est plus élevée ou plus faible dans une configuration que dans une autre. Cela nous aide à comparer des systèmes et à expliquer des décisions.
Les indicateurs de confiance nous aident à dialoguer avec les parties prenantes. Au lieu de dire : « J’ai l’impression que cela fonctionne », nous pouvons expliquer pourquoi une certaine configuration d’IA est acceptable ou pourquoi des contrôles supplémentaires sont nécessaires.
Comment améliorons-nous la confiance ?
Mon cadre pratique comprend trois niveaux :
- Niveau un : confiance personnelle
- Niveau deux : confiance systématique
- Niveau trois : confiance architecturale
Niveau un : confiance personnelle
La confiance personnelle est intuitive. Vous vous faites votre propre idée de la possibilité de faire confiance au système ou non.
Avec l’IA, cela signifie mettre les mains dedans. Vous la testez, lui confiez des tâches, voyez où elle échoue.
Comment la confiance est quantifiée et mesurée
- Un indicateur est le temps que vous passez à rédiger des prompts.
- Un autre est le temps que vous passez à corriger le résultat.
Si vous passez beaucoup de temps à formuler des prompts ou à réparer les résultats, cela vous dit quelque chose sur votre niveau réel de confiance.
Plan d’action
- Testez l’IA dans votre propre travail.
- Observez où elle vous aide, où elle échoue, et combien d’efforts vous devez fournir pour rendre le résultat exploitable.
Niveau deux : confiance systématique
Au niveau systématique, nous passons de l’expérience personnelle à l’échelle. Ce n’est pas seulement « Je sais où l’IA échoue ». C’est : mettons cela à l’échelle et testons-le pour un domaine spécifique ou une classe spécifique de tâches.
En substance, nous faisons la même chose qu’au niveau un, mais désormais avec plus de cas, plus de structure et plus de statistiques.
Comment la confiance est quantifiée et mesurée
- Le proxy de la confiance devient la probabilité d’un résultat correct.
Vous la calculez comme le nombre de résultats corrects divisé par le nombre total de cas. De plus, vous ajoutez un intervalle de confiance en fonction du nombre de cas de test.
Plan d’action
- Utilisez des benchmarks publics lorsque cela est pertinent.
- Utilisez vos propres jeux de données pour des domaines spécifiques.
Ajoutez un échantillonnage aléatoire et une revue humaine afin de comprendre si le résultat statistique correspond aux besoins réels de votre domaine.
Niveau trois : confiance architecturale
Au niveau architectural, la question évolue à nouveau. Nous ne faisons pas confiance à l’IA à 100 %, et il est probable que nous ne le ferons jamais. Mais :
Pouvons-nous construire quelque chose de fiable en utilisant des systèmes auxquels nous ne faisons pas confiance à 100 % ?
La réponse est « oui ». Internet en est un exemple : les réseaux physiques ne sont pas quelque chose auquel nous pouvons faire confiance à 100 %, mais, d’une manière ou d’une autre, nous avons réussi à construire Internet au-dessus d’eux.
Comment la confiance est quantifiée et mesurée
D’abord, vous mesurez la performance de chaque système séparément. Ensuite, vous mesurez leur performance ensemble.
- La métrique importante est le taux de défaillance partagé : les cas où tous les systèmes échouent au même moment.
Plan d’action
- Identifiez les systèmes clés dans la chaîne : IA, humains, politiques, validations, contrôles.
- Mesurez leurs niveaux de confiance individuels.
- Testez l’ensemble de l’architecture afin de vérifier si le système combiné offre un niveau de confiance supérieur à celui de chaque composant pris isolément.
Accroître la confiance en combinant des systèmes qui défaillent de manières différentes
La confiance combinée dépend de la manière dont les systèmes défaillent ensemble.
Si nous avons le système A et le système B, chacun avec son propre niveau de confiance, que se passe-t-il lorsque nous les combinons ?
- Nous ne pouvons pas simplement additionner leurs niveaux de confiance, car nous pourrions alors dépasser 100 %.
- Nous ne pouvons pas non plus simplement prendre le minimum ou le maximum.
La réponse dépend de la manière dont les systèmes sont conçus et de la manière dont ils défaillent ensemble.
L’analyse conjointe montre le niveau de confiance combiné
Pour comprendre la confiance combinée, nous avons besoin d’une analyse conjointe. Nous testons séparément le système A et le système B, puis nous examinons également la manière dont ils se comportent sur les mêmes cas.
Par exemple, le système A a un niveau de confiance de 84 % et le système B de 91 %. Mais lorsque nous les combinons, la confiance globale atteint 95 %, car le taux d’échec partagé n’est que de 5 %. Ils n’échouent pas toujours sur les mêmes cas, et c’est l’élément important.
Une architecture fiable utilise des filets de sécurité superposés
En ingénierie logicielle, la revue par les pairs fonctionne de la même manière. Une autre personne peut repérer quelque chose que vous n’avez pas relevé.
Dans l’aviation, nous constatons également une redondance des contrôles et des procédures.
Le simple fait de dupliquer les contrôles n’augmentera pas beaucoup la confiance. Ce que nous recherchons, c’est une redondance diversifiée : l’orchestration de systèmes qui tombent en panne de différentes manières.
Toutes les redondances ne sont pas réalistes
Certaines redondances sont utiles en théorie, mais ne sont pas réalistes. Par exemple, dans les services de taxi, nous pourrions ajouter un deuxième chauffeur, et le service deviendrait probablement plus sûr. Mais ce n’est pas réaliste.
Nous construisons donc plutôt un réseau de systèmes différents : réglementations, politiques, évaluations des chauffeurs, contrôles de l’application, mécanismes de signalement. Tous ces systèmes se combinent et contribuent au niveau de confiance global.
L’humain dans la boucle est un système de confiance supplémentaire
Nous pouvons considérer l’humain dans la boucle comme un autre système de confiance. Les humains apportent l’intuition et le bon sens, et leurs principes sont différents de ceux des systèmes d’IA. Cela fait des humains un facteur de confiance idéal.
L’architecture compte plus que les scores de confiance individuels
Deux systèmes solides peuvent néanmoins échouer ensemble s’ils échouent de la même manière.
Dans le même temps, deux systèmes imparfaits peuvent créer un système combiné plus robuste s’ils se compensent mutuellement. La question centrale de conception est donc la suivante : ces systèmes se brisent-ils différemment ?
Avons-nous simplement réinventé la fiabilité ?
Pas exactement.
La fiabilité fait partie de la confiance, mais la confiance couvre un ensemble d’idées plus large. Nous ne demandons pas seulement si un composant fonctionne — nous examinons l’ensemble de la chaîne de décision : IA, humains, politiques, contrôles et contexte métier.
La confiance implique également davantage de parties prenantes : utilisateurs, managers, régulateurs, responsables métier, humains dans la boucle et personnes affectées par la décision.
Point essentiel
Une IA digne de confiance ne consiste pas à trouver un modèle d’IA parfait. Tous les systèmes peuvent être mis en défaut, y compris les systèmes d’IA, les systèmes humains, les systèmes d’entreprise, les politiques et les contrôles.
L’idée est de :
- Comprendre comment les systèmes se défaillent, puis
- Combiner des systèmes qui se défaillent de manières différentes.
C’est ainsi que l’on parvient à quelque chose de digne de confiance.
Et ensuite ? La confiance devient plus exploitable lorsqu’elle est intégrée à une supervision de la mise en œuvre de l’IA plus large, avec des contrôles, des revues et des indicateurs de performance.
Alexis Savkin est architecte de stratégie et fondateur de BSC Designer, une plateforme logicielle d’exécution de la stratégie ayant le tableau de bord équilibré en son cœur. Il aide les organisations à traduire leur stratégie en objectifs mesurables, en KPI et en initiatives. Alexis est le créateur du Strategy Execution Canvas, l’auteur de plus de 100 articles sur la stratégie et la mesure de la performance, et un intervenant régulier.