Thread by @soizicpenicaud

[Intelligence artificielle & biais] Depuis quelques jours, on parle beaucoup de l'algorithme d'aperçu des photos sur Twitter. Pourquoi ? ⤵️ 1/14

https://twitter.com/bascule/status/1307440596668182528

Ça commence par un tweet de @colinmadland. Voulant dénoncer un biais raciste du logiciel Zoom, il l’illustre en postant une capture d’écran. Or, une partie de l'image est occultée par l’aperçu par défaut Twitter sur mobile. 2/14

https://twitter.com/colinmadland/status/1307115534383710208

La partie occultée est... son collègue noir. Le même résultat est obtenu quand l'image est pivotée. L’aperçu par défaut est donc déterminé par un algorithme qui, dans cet exemple, préfère les visages blancs aux visages noirs. 3/14

https://twitter.com/colinmadland/status/1307130447671984129

(Soit dit en passant, c’est assez drôle qu’un tweet qui avait pour but de dénoncer un biais de Zoom mette en lumière un biais de Twitter…). 4/14

Certaine personnes essayent de comprendre ce qui mène l’algorithme à de tels résultats en testant des paramètres spécifiques (ici, si l’algorithme détecte le sourire. Une autre piste explorée : le contraste de la photo). 5/14

https://twitter.com/N_Henin/status/1307650044099780608

D'autres lancent des expériences systématiques pour déterminer si ce biais raciste est constant. @vinayprabhu a créé le compte @cropping_bias qui tweete automatiquement des photos de test pour voir la partie de l’image choisie par l’algorithme. 6/14

https://twitter.com/vinayprabhu/status/1307497736191635458

Des personnes de Twitter prennent la parole. Un ingénieur affirme que l’algorithme ne s’appuie pas sur de la reconnaissance faciale, explique que des audits anti-biais ont été effectués et promet de se pencher sur le sujet. 7/14

https://twitter.com/ZehanWang/status/1307461285811032066

L’histoire est loin d’être terminée, et n'est qu'un exemple parmi beaucoup d'autres des biais dans l'IA, mais on peut déjà retenir 3 choses. 8/14

1.La technique ne résoudra pas tout en matière de biais de l'IA.
Ici, nous sommes face à un potentiel biais raciste alors que des audits ont apparemment été effectués pour éviter cette situation (nota : ces audits ont également pu être très mal faits). 9/14

2. La transparence des algorithmes n’est pas la panacée, mais elle est essentielle. Twitter étant complètement opaque sur ses algorithmes, il est difficile d'évaluer la rigueur et l'efficacité des audits effectués.
10/14

À ce sujet, une autre personne de Twitter a annoncé que l’équipe allait “open sourcer” son analyse de l'algo en question pour qu'il puisse être vérifié (le degré d’ouverture n’est pas encore clair). 11/14

https://twitter.com/lizkelley/status/1307742267193532416

3. C'est le point le plus important de ce thread à mon sens : on est face à un exemple parfait de “when not to build” (cc @schignard).
Ici, il serait plus simple de ne pas avoir recours à un algo du tout et de laisser les gens choisir manuellement l’aperçu de leurs photos. 12/14

Si le sujet des biais de l'IA vous intéresse, voir notamment les livres Algorithms of Oppression de @safiyanoble, Race after Technology de @ruha9, Data Feminism de @kanarinka @laurenfklein et (...) 13/14

(...) les travaux de la @AJLUnited @jovialjoy et ceux de @timnitgebru @rajiinio @Abebab @alexhanna @karine_gentelet (et j'en oublie sûrement).

Un certain nombre de ces personnes ont été interviewées par le super podcast @RadicalAIPod radicalai.org 14/14

Bonus : pour les amateurs et amatrices de culture Internet, sachez que ça s'en donne actuellement à coeur joie :

https://twitter.com/therourke/status/1307711835836219394

Et un rappel :

https://twitter.com/ChanceyFleet/status/1307755839021887490

Parmi les personnes à suivre en français, il y aussi @TechnicallyAwa ainsi que @MoutonNumerique @Geensly sur le numérique au sens large (mais vous les connaissez probablement déjà !)