Dans le dernier numéro de la Revue Réseaux.

Les auteurs repèrent cinq attitudes des dermatologues face à l’IA:

1. Les opposants qui, bien qu'absents des 21 entretiens, sont décrits comme refusant la « déshumanisation du métier »,

2. Les attentistes, moins radicaux mais sceptiques qui attendent plus de preuves cliniques en situation réelle,

3. les attentifs-intéressés, plus positifs et qui aimeraient même participer à la conception des outils

4. les défricheurs-explorateurs qui y participent activement et répondent aux sollicitations du monde industriel et

5. les expérimentateurs-utilisateurs qui utilisent déjà ces outils.

On comprend aussi que l’IA s’inscrit dans certaines pratiques de réassurance (assistance en fin de journée alors que la fatigue monte), c’est aussi pour certain une assistance : « C’est très réconfortant, je n’ai plus l’impression d’être seule. ».

Les sceptiques quant à eux, interrogent aussi l’appartenance des concepteurs à la sphère médicale. Les auteurs interrogent le degré d’agentivité des artefacts : comment font-ils agir et réagir les praticiens ? Concrètement, ils peuvent réaliser une biopsie dans le doute, si la machine ne confirme pas leur diagnostic (l’IA est censée lever le doute, mais parfois, elle le sème). Certains cherchent à comprendre pourquoi la machine a vu ce qu’elle a vu (explicabilité). D’autres se demandent s’il faut ou non prévenir les patients de son usage.

Dans tous les cas, les auteurs insistent sur le fait que la mise en confiance nécessite du temps, et un certain ajustement dans les pratiques des dermatologues.

Il me semble que l’enquête pourrait être complétée d’autres points, car je connais un peu le sujet figurez-vous.

• Comment, du côté des patients, l’usage de l’outil est-il vécu ? Sachant que certains d’entre eux offrent des conseils parfois anxiogènes (dans le cas d’une lésion à risque).

• Je suis aussi étonné que rien n’ait été dit concernant la congestion du système de santé : certains dermatologues sont sceptiques car ils craignent que trop de faux positifs engorgent les fils d’attente (déjà longues) pour de mauvaises raisons, ce qui interroge aussi très directement les choix nationaux en termes de nombre de dermatologues formés.

• Une comparaison internationale pourrait aussi être utile : l’étude se focalise sur le cas français, où les dermatologues sont plus sceptiques. Ce n’est pas le cas dans d’autres pays, pour des raisons relatives au type du système de santé, de confiance en les outils technologiques, d’ensoleillement.

• Rien sur les peaux noires, or on sait que ces systèmes perdent en efficacité lorsque le contraste baisse. Les lésions sur les peaux noires sont moins représentées dans les corpus de données, et pas situées aux mêmes endroits (paume des mains, ongles).

• Enfin, il aurait été intéressant d’aller plus en profondeur dans le fonctionnement des outils : délivrent-ils réellement un diagnostic ? Les photos scannés par des algorithmes de machine learning sont-elles révisées par des dermatologues (ce peut être le cas) ? Voilà !

https://shs.cairn.info/revue-reseaux-2024-6-page-111

via https://bsky.app/profile/ireneer.bsky.social/post/3lgdq4s2u7f2v