L’IA en santé ne manque pas de règles, mais de suivi

En réalité, une revue systématique publiée en 2026 dans Journal of Medical Internet Research a examiné 10 175 références et retenu 19 cadres de gouvernance de l’intelligence artificielle dans les systèmes de santé.

Treize cadres, soit 68 %, ont été publiés entre 2022 et 2024. Dix ont été élaborés par des auteurs basés en Amérique du Nord, soit 53 %, et six, soit 32 %, dérivaient d’études primaires. La recherche initiale a eu lieu en octobre 2024, avec des mises à jour en juillet 2025 et en mars 2026.

Ce bilan décrit une architecture de gouvernance, pas une amélioration mesurée des soins. Il montre aussi une production concentrée dans certains contextes et ne dispense pas d’évaluer les cadres dans les établissements qui les utilisent.

La gouvernance ne consiste donc pas à publier une charte éthique puis à laisser un outil fonctionner seul. Elle doit répartir les rôles, définir les décisions autorisées et organiser la sortie du système lorsque ses résultats ne correspondent plus au besoin.

Le contrôle ne suit pas.

Le risque ne s’arrête pas au modèle

Une revue scientifique publiée le 12 août 2026 dans Global Public Health met en avant les risques à court terme de l’IA pour la santé. Elle cite les biais algorithmiques, les erreurs de diagnostic et de recommandation clinique, la désinformation sanitaire, les atteintes à la santé mentale, le chômage de masse lié à l’IA, les armes autonomes létales, les armes chimiques et biologiques facilitées par l’IA ainsi que les cyberattaques contre les systèmes de santé.

L’article propose trois réponses : rendre obligatoires les évaluations d’impact sanitaire pour les systèmes à haut risque, surveiller les dommages liés à l’IA du point de vue de la santé publique et intégrer cette expertise aux structures de gouvernance.

Dans un système de santé, cette logique élargit le registre de contrôle. La précision du modèle ne suffit pas : il faut aussi suivre les données mobilisées, les populations concernées, l’usage réel de l’outil et les incidents signalés.

Six étapes pour fermer la boucle

La revue systématique identifie six processus récurrents. Les pourcentages indiquent la part des 19 cadres qui mentionnent chacun d’eux.

1. Identifier le besoin. Quatorze cadres sur 19, soit 74 %, commencent par l’identification d’un problème ou d’un besoin. Cette étape évite de transformer une technologie disponible en réponse automatique à une difficulté mal définie.
2. Gouverner les données. Dix-sept cadres, soit 89 %, traitent cette fonction. Le dossier doit préciser les données mobilisées, leurs conditions d’utilisation et leur protection.
3. Évaluer et gérer les risques. Dix-sept cadres sur 19 abordent cette fonction. L’évaluation doit couvrir les biais, les erreurs cliniques, la confidentialité, la cybersécurité et les conséquences d’une recommandation inadaptée.
4. Valider et évaluer le système. Dix-huit cadres, soit 95 %, prévoient une validation ou une évaluation. Cette étape porte sur le système avant sa mise en service et sur l’usage pour lequel il est retenu.
5. Maintenir et surveiller. Seize cadres, soit 84 %, mentionnent la maintenance ou le suivi. La gouvernance continue donc après le déploiement.
6. Intégrer l’outil à l’organisation. Cette dimension apparaît dans neuf cadres, soit 47 %. Elle relie l’outil aux flux de travail, aux responsabilités et aux décisions qui encadrent son usage.

Quatre mécanismes relationnels complètent ces processus : les valeurs éthiques, citées dans 17 cadres, la formation dans 14, la communication dans 12, ainsi que les normes et la réglementation dans 13. Les 19 cadres soulignent aussi le rôle d’instances pluridisciplinaires. La décision ne peut pas rester entre les mains du fournisseur ou du seul service informatique.

Une fiche pour lire les risques sans jargon

Un article publié en 2026 dans Frontiers in Psychiatry propose une fiche de faits standardisée pour les technologies numériques de santé mentale dotées d’IA. Le cadre a été conçu par une équipe multidisciplinaire du comité Mental Health Information Technology de l’American Psychiatric Association, avec une revue d’experts et une consultation externe de cliniciens.

La fiche comporte huit rubriques consultables :

1. les informations d’identification et les éléments clés de l’outil;
2. son usage prévu;
3. les avertissements;
4. les risques et les limites;
5. les informations sur le modèle;
6. les preuves cliniques disponibles;
7. l’accessibilité et la facilité d’utilisation;
8. la confidentialité et la sécurité.

Cette fiche ne remplace pas une évaluation clinique. Elle rassemble dans un même format l’usage prévu, les avertissements, les preuves disponibles et les limites à communiquer. Les auteurs la présentent comme une base de travail pour poursuivre la collaboration entre disciplines autour de la communication des risques.

Quand le comité peut arrêter l’outil

Une étude publiée en 2023 dans Information Systems Frontiers a analysé la gouvernance de l’IA dans trois entreprises du secteur de l’énergie. Elle distingue les pratiques structurelles, procédurales et relationnelles à partir d’une analyse comparative de cas.

Cette étude ne porte pas sur des établissements de santé et ne permet pas d’attribuer un résultat à la gouvernance seule. Elle rappelle toutefois qu’un cadre de gouvernance doit être relié aux pratiques de travail, aux responsabilités et aux décisions quotidiennes, pas uniquement aux performances annoncées d’un système.

Pour un établissement de santé, l’intégration doit donc être traitée comme une étape distincte. Le comité chargé de l’IA doit savoir qui valide l’outil, qui répond aux incidents, qui vérifie son usage et qui peut en suspendre le fonctionnement. Selon le système concerné, cette instance peut réunir direction, soignants, spécialistes des données, juristes et responsables de la sécurité.

Un outil bien documenté mais impossible à suspendre ne forme pas une gouvernance opérationnelle.

Une gouvernance crédible sait aussi arrêter l’outil.