L’intelligence artificielle entre dans les hôpitaux par des portes différentes : aide à la lecture d’imagerie, suggestion de diagnostic, priorisation des lits, détection de décrochage médicamenteux. La question n’est plus « faut-il de l’IA ? » mais « qui décide, sur quelles preuves, et comment le SIH enregistre la responsabilité clinique ? »
Aide à la décision, pas décision automatique
Un dispositif d’aide à la décision clinique propose une recommandation ; le professionnel de santé reste seul responsable de l’acte qu’il pose. La HAS travaille sur l’évaluation et l’encadrement de l’IA en santé, en insistant sur la transparence, la robustesse et la supervision humaine. Un algorithme qui signe seul un compte rendu ou une prescription sans validation explicite déplace un risque juridique et éthique que peu d’établissements sont prêts à assumer.
Le SIH doit donc distinguer clairement : suggestion affichée, action acceptée, action refusée avec motif, et absence de réponse dans le délai attendu. Chaque branchement doit être horodaté dans le dossier patient.
Traçabilité et explicabilité
L’explicabilité totale des modèles deep learning reste limitée, mais la traçabilité opérationnelle ne l’est pas : version du modèle, source des données d’entrée, score ou catégorie proposée, identité du clinicien qui valide ou écarte la suggestion. En cas d’événement indésirable, la commission doit reconstituer si l’IA a été suivie, modifiée ou ignorée.
La CNIL, dans ses fiches sur les systèmes d’IA traitant des données de santé, rappelle l’obligation d’information des personnes, l’analyse d’impact lorsque le traitement est à risque et la minimisation des données utilisées pour l’entraînement ou l’inférence.
Test pratique : retrouvez dans le DPI une suggestion IA refusée par un médecin la semaine dernière. Voyez-vous le motif de refus, l’identité du praticien et la version de l’algorithme ? Si la suggestion a disparu sans trace, votre gouvernance IA est incomplète.
Gouvernance : comité, cahier des charges, recette
Avant tout déploiement, l’établissement définit le cas d’usage clinique, les populations concernées, les critères d’arrêt et les indicateurs de suivi. Un comité pluridisciplinaire (médecins, infirmiers, pharmacie, DSI, DPO, qualité) valide la mise en production et planifie les réévaluations périodiques, notamment après changement de version du modèle.
- Intention clinique — quel problème l’IA résout-elle, pour qui, avec quel bénéfice mesurable ?
- Biais et équité — performance sur sous-populations, données d’entraînement représentatives.
- Mode dégradé — que se passe-t-il si le service IA est indisponible ?
- Formation — les utilisateurs comprennent-ils les limites de la suggestion ?
Intégration dans le parcours Promed HIS
RAUTOR, le module IA clinique de Promed HIS, est conçu comme couche assistive au-dessus du DPI : suggestions contextuelles, validation explicite, journalisation. L’objectif n’est pas de remplacer le jugement clinique, mais de réduire la charge cognitive sur des tâches répétitives (codage, alertes de cohérence, synthèse de dossier) tout en laissant une trace auditable.
Les hôpitaux qui réussissent leur déploiement IA commencent par des cas d’usage étroits, mesurés sur douze semaines, avant toute généralisation. Le SIH doit supporter cette itération sans fragmenter le dossier patient.
Encadrez l’IA clinique avec validation humaine, traçabilité et comité de gouvernance.
