@postroutine il n'y a pas qu'une histoire d'algorithmes, il y a surtout la suite ... OĂč les procĂ©dures d'enquĂȘte et d'application des sanctions n'ont pas Ă©tĂ© suivies !

@postroutine Des vies détruites d'innocents devant rembourser des prestations sociales auxquelles ils avaient droit.
Et pendant ce temps, les oligarques continuent de détourner des milliards en toute impunité.
L'IA ne fait bien souvent qu'aggraver les inégalités en renforçant les biais.

@gc @postroutine un modĂšle de machine learning est surtout le reflet des biais de ses concepteurs.

@rholb
Une si longue procédure...
Alors qu'on se dit que si le logiciel fait une telle boulette, il y aura toujours des humains derriĂšre.
Mais non, ça a suivi la machine, encore plus bĂȘte qu'elle.

@gc @postroutine

@gc
@postroutine

Comme l'a dit @shonpolo c'est moins une question d'intelligence artificielle que de bĂȘtise naturelle...

Les bureaucrates ont dĂ©lĂ©guĂ© la dĂ©cision au systĂšme informatique d'aide Ă  la dĂ©cision qui leur a Ă©tĂ© fourni, c'est quand mĂȘme leur responsabilitĂ© (c'est pas pour rien s'il y a le mot "aide" dans "aide Ă  la dĂ©cision").

Lire "La médiocratie" d'Alain Deneault est probablement plus utile à ce sujet que rùler sur les algorithmes.

@lienrag @postroutine @shonpolo
Je ne rĂąle pas sur les algorithmes, d'ailleurs je ne rĂąle pas. J'alerte juste sur l'usage qui peut en ĂȘtre fait.
Nous pouvons Ă©crire des applications avec les meilleures intentions du monde, il ne faut pas oublier qu'elles peuvent ĂȘtre dĂ©tournĂ©es, principalement au dĂ©triment des plus faibles.
Remplacer l'Ă©change direct entre humain, par de simples lignes dans une BDD ne fait qu'aggraver les choses.

@postroutine

Ça me rappelle ça (sans machine learning ni RGPD mais bogue)

Plus de 700 employĂ©s de la poste ont Ă©tĂ© poursuivis, au point d’avoir parfois leur vie brisĂ©e, sur la base des informations du systĂšme installĂ© par Fujitsu. En 2019, un juge de la Haute Cour a statuĂ© que ce systĂšme contenait un certain nombre de « bogues, erreurs et dĂ©fauts » et qu’il existait un « risque important » qu’il soit la cause de dĂ©ficits dans les comptes des succursales postales.

lapresse.ca/international/euro

@postroutine

C'est le lien que j'ai retrouvé rapidement sur l'affaire. Au final c'est bien le bogue qui était la cause de ces "soucis" allant jusqu'à la faillite personnelle.

Inscrivez-vous pour prendre part Ă  la conversation
Framapiaf

Le réseau social de l'avenir : pas de publicité, pas de surveillance institutionnelle, conception éthique et décentralisation ! Gardez le contrÎle de vos données avec Mastodon !