La Haute Autorité de Santé (HAS) a mis en ligne, le 30 octobre, un guide destiné à encadrer l’utilisation de l’intelligence artificielle générative dans le secteur sanitaire, social et médico-social.
Objectif : « favoriser le bon usage de l’IA générative en santé et le déploiement dans le secteur sanitaire, social et médico-social des systèmes utiles et performants ». Les systèmes comme Mistral AI, CoPilot ou ChatGPT « se démocratisent à vitesse grand V » et sont déjà utilisés pour des tâches variées : transcription de consultations, synthèses de littérature scientifique ou documents illustrés pour expliquer des parcours de soins.
Ces technologies « pourraient permettre de libérer du temps à dédier aux soins et accompagnements, améliorer la qualité de vie au travail et favoriser la qualité des pratiques professionnelles », mais, alerte la HAS, les professionnels de santé « ne sont cependant pas toujours pleinement éclairés sur les performances et les limites des outils qu’ils utilisent.
Leurs usages peuvent induire des risques si des précautions ne sont pas mises en place. En particulier, le contenu généré peut comporter des erreurs en se fondant sur des données non vérifiées ou en les dissimulant dans un contenu qui semble convaincant (les fameuses « hallucinations » de l’IA, ndlr) ». Le risque de transmission d’informations confidentielles est également présent. Chaque usage doit donc être « conscient, supervisé et raisonné », insiste l’autorité.
Le guide propose quatre lignes directrices résumées par le moyen mnémotechnique A.V.E.C.
- A pour Apprendre : s’approprier le fonctionnement et les règles de confidentialité.
- V pour Vérifier : contrôler la qualité des requêtes et des contenus générés.
- E pour Estimer : évaluer la pertinence et l’impact organisationnel.
- C pour Communiquer : informer les patients et partager les retours d’expérience.
Ces recommandations sont illustrées par des exemples pratiques, comme la vérification des unités chiffrées ou la transparence vis-à-vis des patients. La publication de ce guide constitue « la première brique du cadre de confiance de la HAS sur les technologies numériques et systèmes d’IA à usage professionnel ».
Une fiche destinée aux usagers et des recommandations pour les établissements viendront compléter ce dispositif, en lien avec la Commission nationales de l’informatique et des libertés (CNIL).
Commentaires