IA générative en santé et usagers : les explications de la HAS

La Haute autorité de santé, associée à France Assos santé et la CNIL, vulgarise l'IA générative en santé pour les usagers au travers d'un petit guide et propose également une foire aux questions sur son site.

Dans une présentation concise et claire, le document définit l'IA générative comme “la production du contenu (texte, image, son, vidéo, etc.) à partir de probabilités” en soulignant que la “fiabilité dépend donc en partie de la qualité des données utilisées lors de cette phase d’entraînement.” Ainsi, la réponse apportée est celle qui semble la plus probable à l'IA qui reformule les contenus.

L'IA n'est pas “un outil de diagnostic ni un prescripteur d’examens médicaux ou de traitements” mais un outil d’information et d’orientation" dont il faut vérifier les sources. Seul un professionnel de santé peut établir un diagnostic. Il peut lui-même utiliser une IA mais doit en informer son patient.

Sur la question de la protection des données, la HAS rappelle que l'existence d'une réglementation nationale et européenne (règlement général sur la protection des données (RGPD) et le règlement européen sur l’IA) n'est pas la garantie que les données personnelles des usagers soient protégées car “tous les éditeurs d’IA générative ne sont pas soumis au droit européen”. L'exercice des droits est complexe à mettre en œuvre.  Au surplus, les questions et leurs réponses peuvent servir d'entraînement à l'IA.