Suivre

« Quand l'IA médicale pose des questions éthiques »

Venez découvrir le dernier billet de Ekron sur une IA de diagnostic dermatologique, et les raisons qui ont mené à son arrêt. Vous pouvez aussi participer au débat !

zestedesavoir.com/billets/3810

· · Web · 2 · 8 · 6

Bonsoir à tous, en complément du billet partagé ce matin, on souhaitait vous proposer un petit sondage 🙂

Pensez-vous que l'IA dont il est question devrait continuer à être utilisée ou au contraire arrêtée ?

Pour rappel :
zestedesavoir.com/billets/3810

Afficher le fil de discussion

N'hésitez pas à exposer vos raisons en commentaires ! À la fin du sondage, on fera un petit récap pour Ekron sur son billet ^^

Afficher le fil de discussion

@ZesteDeSavoir Article très intéressant ! C'est malheureusement un problème très commun avec ce genre d'outil qui nécessite un apprentissage, souvent c'est alimenté par un échantillon de ce qui entoure les gens qui travaillent sur le projet.

On retrouve exactement le même genre de situation dans les programmes informatiques développés par des "occidentaux", dès qu'on veut utiliser un alphabet non latin, c'est la misère.

@solene oui, c'est effectivement une reproduction de biais que l'on retrouve très (trop) souvent. Mais attention, il semblerait bien que ce ne soit pas que ça mais également une réelle difficulté à diagnostiquer une peau foncée sur laquelle les lésions sont moins visibles. Comme on le voit en commentaires, l'avantage avec un dermatologue c'est que celui-ci peut réaliser des examens supplémentaires non visuels !

Et pourtant, l'utf-8 existe depuis un moment maintenant...

@ZesteDeSavoir certes, c'est plus difficile à diagnostiquer, mais peut être qu'en alimentant avec suffisamment d'images ça pourrait aider à simplifier les diagnostiques aussi ?

Pour l'utf-8 j'ai malheureusement appris à mes dépends que ce n'est pas si simple ! :/ Par exemple, comparer 2 chaînes utf-8 ne suffit à vérifier l'équivalence !

=> lists.orbitalfox.eu/archives/g

De même, je ne sais pas si une saisie de droite vers la gauche fonctionne simplement en autorisant l'utf8 sur un composant GUI.

@solene c'est là que le débat est intéressant ! Est-ce qu'on peut améliorer suffisamment l'IA dessus ou non ? Est-ce que cela justifie les coûts pour continuer l'apprentissage ?

Ekron n'étant pas sur le fediverse, l'idéal serait d'en discuter avec lui sur ZdS ^^

Je ne suis malheureusement pas le plus calé pour parler de l'intégration des langues dans les logiciels, mais si jamais, il y un public pour ça sur ZdS 😉

@ZesteDeSavoir @SpaceFox merci, ça a l'air très intéressant mais c'est aussi un gros morceau, je garde ça pour lecture ultérieure :)

@ZesteDeSavoir Merci pour l'article ! C'est vraiment intéressant ! 😀 Et la question du sondage est vraiment complexe… je ne sais pas s'il y a une bonne réponse, en fait. Merci de nous faire réfléchir sur des questions comme cela 😊

@MartinShadok C'est un peu le but, effectivement ! De triturer un peu les méninges 😉

Et de se rendre compte que finalement, c'est une question d'avis, totalement subjectif. Ce qui d'ailleurs mène à comprendre que la science, ce n'est pas tout le temps aussi objectif qu'on pourrait le penser, et qu'il est bien de se poser des questions, parfois.

Et en même temps, on travaille à confronter nos points de vue, et à prendre en compte ceux des autres. Vraiment, Ekron est très fort ! 😀

@ZesteDeSavoir
a) si le procédé permet de faciliter la mise en place d'un diagnostic pour un profil de patient, on peut imaginer que cela donne plus de temps aux situations plus difficile à diagnostiquer.
b) le fait que le caractère discriminant soit la couleur de peau rend le choix plus délicat moralement. Le sondage serait il différent si le caractère discriminant était le genre, la couleur des yeux ou la mesure d'un élément anatomique ?

Inscrivez-vous pour prendre part à la conversation
Framapiaf

Le réseau social de l'avenir : Pas d'annonces, pas de surveillance institutionnelle, conception éthique et décentralisation ! Possédez vos données avec Mastodon !