Petit rappel sur les algorithmes de detection : si on vous dit qu'un algo réussi à reconnaitre un visage avec un taux de réussite de 99%, ça ne veut rien dire.

Il faut connaître :
- le pourcentage de faux négatif : une personne n'est pas reconnue alors qu'elle est présente dans l'image
- le pourcentage de faux positif : une personne est reconnue alors qu'elle n'est pas présente

En général, quand on diminue l'un, on augmente l'autre (grosso-modo).

../..

../..

La difficulté est de trouver un compromis. Une détection de tumeur n'aide pas si l'alarme retentit pour toute autre chose qu'une tumeur, même si dans le lot il y en a une.

Dans le cas d'un criminel, puisque c'est ce que nous vend pour imposer la reconnaissance faciale à tous les coins de rue, on souhaite évidemment réduire à néant les faux négatifs : on ne PEUT PAS rater un criminel.

Au risque, vous l'aurez compris, de mettre dans le lot des personnes innocentes.

../..

../..

Ajoutez les biais cognitifs classiques, comme l'oubli de la fréquence de base, et on a un outil dangereux :

Imaginons 0% de faux négatif. C'est utopique, mais un objectif avoué pour les états et entreprises du domaine.

Imaginons 1% de faux négatif : c'est bien en dessous de ce qui existe actuellement.

60'000'000*1% = 60'000

Pour trouver un criminel, il faut arrêter 60'000 français.es.

../..

@djelouze
Questions/remarques sur ce toot,sans critique de fond sur le thread.

1% de 1 million, c'est 600k, pas 60k.

Et 60k de faux positifs c'est si on scanne toute ma population française, pas ce qui est nécessaire pour trouver une personne, non ?

@djelouze
Oui non, ok, j'ai rien dit pour le deuxième point.

Suivre

@punky

Oui, et en plus je me suis planté ici aussi : "1% de faux POSITIF". Ça veut que si ta recherche est sur l'ensemble de la population, il y a 1 chance sur 100 que l'ajgo dise "criminel" alors que non. Donc bien 600'000 personnes si la surveillance est généralisée, tu as raison.

À mettre en regard du nombre estimé de terroristes. Ça rend le chiffre encore plus absurde.

Je crois qu'@HygieneMentale a fait une très belle vidéo.là-dessus.

Inscrivez-vous pour prendre part à la conversation
Framapiaf

Framapiaf est un service de microblog similaire à Twitter. Il est libre, décentralisé et fédéré. Il permet de courts messages (max. 500 caractères), de définir leur degré de confidentialité et de suivre les membres du réseau sans publicité ni pistage.