IA explicable en 2026 : l’explication ne suffit pas

En 2026, une revue systématique consacrée à l’IA explicable en comptabilité et en audit a retenu 85 études primaires repérées dans Scopus et Web of Science. Les travaux portent surtout sur la détection de fraude, l’évaluation du crédit, l’audit financier et l’aide à la décision. SHAP et LIME dominent les méthodes recensées.

Le piège commence quand la sortie devient plus lisible que le modèle. Un outil peut afficher une heatmap, un score ou une liste de variables associés à une prédiction sans montrer que ces éléments ont guidé le calcul. L’explication peut aider à contrôler un dossier. Elle peut aussi raconter après coup une histoire cohérente.

La lisibilité ne prouve pas la fidélité.

Une heatmap n’explique pas encore une décision

En apparence, SHAP, LIME et les cartes d’activation répondent à la même question : pourquoi le système a-t-il produit ce résultat? En réalité, ils n’offrent pas la même prise sur le modèle. Une méthode d’attribution associe un poids à une variable, à un pixel ou à une autre entrée. Une carte d’activation localise une zone de l’image liée à la sortie. Une explication par concept décrit une propriété de haut niveau. Dans chaque cas, une association lisible n’est pas une preuve causale.

Cette différence compte dans les usages à risque. Une alerte de fraude peut recevoir une explication locale, limitée à une transaction. Un auditeur peut aussi avoir besoin d’une explication globale, qui décrit les régularités suivies par le système sur un ensemble de dossiers. La première répond à la question « pourquoi cette opération? ». La seconde répond à la question « comment ce modèle fonctionne-t-il en général? ».

Les publications de 2026 n’emploient pas toutes les mêmes définitions de l’explicabilité et de l’interprétabilité. Une distinction pratique aide à les séparer : l’explicabilité concerne les méthodes qui extraient des éléments associés au comportement du modèle, tandis que l’interprétabilité désigne la capacité d’un humain à comprendre ces éléments. Une sortie techniquement détaillée peut donc rester incompréhensible pour un radiologue, un auditeur ou un chimiste.

L’étude observationnelle publiée en 2026 dans La Radiologia Medica compare ces niveaux sur une tâche de stadification TNM du cancer du poumon. Dix radiologues en médecine nucléaire, issus de huit établissements britanniques, ont utilisé des examens PET-CT corps entier avec un système d’aide à la décision simulé.

Les chercheurs ont comparé trois formats : l’attribution des éléments d’entrée, les concepts de haut niveau et la transparence algorithmique globale. Les participants ont évalué l’utilité des explications et leur probabilité d’adopter le système à l’aide d’échelles de Likert, complétées par des entretiens. Cette comparaison ne transforme pas ces formats en norme universelle.

Les 85 études dessinent une carte incomplète

La revue systématique publiée en 2026 dans Frontiers in Artificial Intelligence rassemble 85 études primaires. Elle décrit les domaines d’application de l’IA explicable en finance, mais ne mesure pas à elle seule un gain dans les décisions. La détection de fraude cherche à justifier une alerte, l’évaluation du crédit à identifier les facteurs associés à un risque, et l’audit à repérer des anomalies ou des dossiers qui méritent un examen humain.

La même revue relève plusieurs limites : coût de calcul, qualité des données, stabilité des explications et adaptation aux exigences réglementaires. Une attribution qui change fortement sur des dossiers proches complique la justification d’une alerte et la comparaison entre cas. La présence d’un graphique ne règle donc ni la qualité des données ni la robustesse du modèle.

Le mot « explication » ne règle pas non plus la question de la responsabilité. Si un système bloque un compte ou signale une opération, le professionnel doit encore vérifier les données, le contexte et les limites du modèle. La sortie de SHAP ou de LIME peut soutenir cette vérification. Elle ne remplace ni la piste d’audit ni le jugement documenté.

En imagerie dentaire, la heatmap doit passer l’examen

Une revue systématique publiée en 2026 dans Frontiers in Dental Medicine a retenu 61 articles sur l’IA explicable en imagerie dentaire et maxillo-faciale. Les études utilisent des radiographies dentaires, des photographies intra-orales et des volumes de tomodensitométrie à faisceau conique. Les applications concernent notamment les caries, les lésions périapicales, la perte osseuse parodontale et les lésions des mâchoires.

Les explications locales fondées sur des cartes d’activation dominent. En revanche, l’évaluation formelle de leur fidélité, de la confiance des cliniciens et de leur facilité d’utilisation reste peu fréquente. La plupart des études incluses présentent aussi un risque global de biais élevé. La revue décrit donc mieux l’usage technique des explications que leur utilité clinique.

Un modèle peut se focaliser sur un artefact, un marqueur d’acquisition ou une caractéristique propre à un centre d’imagerie. Une carte qui recouvre la bonne zone ne prouve pas que cette zone a déterminé la prédiction. Elle ne montre pas non plus qu’un praticien diagnostique mieux avec cette carte sous les yeux.

Pour tester cette utilité, il faut comparer les cartes à des annotations de référence, mesurer leur fidélité, vérifier leur robustesse, utiliser des données externes et observer la performance des lecteurs. Une apparence anatomiquement plausible ne remplace aucun de ces contrôles.

Dix radiologues testent la profondeur utile

L’étude publiée en 2026 dans La Radiologia Medica apporte un exemple proche de l’usage professionnel. Dix radiologues en médecine nucléaire, issus de huit établissements britanniques, ont réalisé une stadification TNM de cancers du poumon à partir d’examens PET-CT corps entier et d’un système d’aide à la décision simulé, non d’un outil déployé dans le parcours de soins.

Les chercheurs ont comparé l’attribution des éléments d’entrée, les concepts de haut niveau et la transparence algorithmique globale. Les participants ont noté l’utilité des explications et leur probabilité d’adopter le système sur des échelles de Likert, puis ont participé à des entretiens.

Les trois formats ont augmenté de manière statistiquement significative la volonté d’adopter l’outil par rapport à une version en boîte noire. Ce résultat mesure une disposition à utiliser le système et à superviser ses recommandations. Il ne démontre ni une meilleure stadification, ni des décisions plus sûres, ni une amélioration des résultats cliniques.

La taille de l’échantillon, le système simulé et la tâche très précise limitent la portée de l’observation. Elle distingue toutefois trois besoins différents : voir les éléments associés à un cas, comprendre des concepts utilisés par le système et examiner sa logique générale. La confiance doit rester liée aux performances mesurées et aux limites observées.

Une préférence n’est pas une performance.

En chimie, l’explication ne crée pas la cause

Une perspective publiée en janvier 2026 dans Chemical Science rappelle cette limite dans la conception de médicaments. Les modèles prédisent des propriétés physico-chimiques ou biologiques, établissent des relations structure-propriété et peuvent proposer de nouvelles molécules. Une attribution peut signaler un fragment moléculaire associé à une propriété prédite. Elle ne transforme pas cette association en mécanisme biologique.

La perspective présente l’IA explicable comme un outil de raffinement des modèles, de conception expérimentale et de formulation d’hypothèses. Elle souligne aussi les difficultés d’évaluation des explications produites dans la conception moléculaire. Une sortie peut donc orienter une expérience ou une hypothèse, sans constituer à elle seule une confirmation.

Le bon test commence par la question métier

Les revues et l’étude utilisateur convergent sur un point : évaluer une IA explicable ne consiste pas à vérifier si son interface affiche une carte colorée. Le protocole doit partir de la décision que l’humain doit prendre et des erreurs qu’il doit pouvoir repérer.

1. Définir la décision à contrôler. Précisez si le système détecte une fraude, classe une image, propose une molécule ou aide à une stadification. Le niveau d’explication dépend de la tâche et de son utilisateur.
2. Séparer le local du global. Une justification pour une transaction ou un patient ne remplace pas une description du comportement général du modèle. Les deux niveaux doivent être évalués séparément.
3. Tester la fidélité et la stabilité. Modifiez des entrées de façon contrôlée, mesurez l’effet sur la sortie, comparez les explications de cas proches et vérifiez leur robustesse. En imagerie, confrontez la localisation à des annotations de référence.
4. Mesurer l’usage humain. La confiance déclarée ne suffit pas. Observez la performance, la compréhension, la facilité d’utilisation, la capacité à accepter ou à rejeter une recommandation et le risque de suivre une sortie erronée.
5. Documenter les limites. Données d’entraînement, validation externe, cas d’échec, version du modèle et possibilité de passer outre la recommandation doivent rester accessibles.

En 2026, la question n’est plus de savoir si un modèle peut afficher une heatmap ou un score. Il faut vérifier si cette sortie reste fidèle quand les données changent, si l’utilisateur la comprend et si elle améliore une décision définie. Une explication testée vaut mieux qu’un décor.