Raphaël Bentegeac

Dans un contexte où l’IA générative s’invite dans les décisions cliniques, une question devient cruciale : que vaut réellement sa "confiance" dans ses propres réponses ?

Le Dr. Le Guellec partagera cette présentation avec le Dr. Bentegeac. Ils présenteront les résultats de leurs travaux sur la surconfiance de l’IA en médecine, ainsi que ses effets sur le raisonnement clinique des professionnels de santé.

Ils ont étudié le comportement de cliniciens confrontés à des cas cliniques avec ou sans intervention de l’IA générative. Résultat frappant : lorsqu’un médecin reçoit une réponse erronée mais affirmée de manière confiante par l’IA, sa propre confiance augmente, même s’il a tort. Autrement dit, l’IA peut renforcer une mauvaise décision plutôt que la corriger. Ce constat pose une question essentielle : comment évaluer réellement le niveau de fiabilité d’une réponse d’IA en médecine ? Et quelles alternatives avons-nous à la simple "confiance déclarée" ?

Ils proposeront lors de leur présentation une approche concrète pour mieux calibrer l’incertitude des modèles, ainsi que des données inédites sur l’impact cognitif de l’IA sur la prise de décision médicale.