Read on Twitter
[Intelligence artificielle & biais] Depuis quelques jours, on parle beaucoup de l& #39;algorithme d& #39;aperçu des photos sur Twitter. Pourquoi ? 
https://abs.twimg.com/emoji/v2/... draggable="false" alt="⤵️" title="Nach rechts zeigender Pfeil mit Krümmung nach unten" aria-label="Emoji: Nach rechts zeigender Pfeil mit Krümmung nach unten"> 1/14 https://twitter.com/bascule/status/1307440596668182528">https://twitter.com/bascule/s...
Ça commence par un tweet de @colinmadland. Voulant dénoncer un biais raciste du logiciel Zoom, il l’illustre en postant une capture d’écran. Or, une partie de l& #39;image est occultée par l’aperçu par défaut Twitter sur mobile. 2/14 https://twitter.com/colinmadland/status/1307115534383710208">https://twitter.com/colinmadl...
La partie occultée est... son collègue noir. Le même résultat est obtenu quand l& #39;image est pivotée. L’aperçu par défaut est donc déterminé par un algorithme qui, dans cet exemple, préfère les visages blancs aux visages noirs. 3/14 https://twitter.com/colinmadland/status/1307130447671984129">https://twitter.com/colinmadl...
(Soit dit en passant, c’est assez drôle qu’un tweet qui avait pour but de dénoncer un biais de Zoom mette en lumière un biais de Twitter…). 4/14
Certaine personnes essayent de comprendre ce qui mène l’algorithme à de tels résultats en testant des paramètres spécifiques (ici, si l’algorithme détecte le sourire. Une autre piste explorée : le contraste de la photo). 5/14 https://twitter.com/N_Henin/status/1307650044099780608">https://twitter.com/N_Henin/s...
D& #39;autres lancent des expériences systématiques pour déterminer si ce biais raciste est constant. @vinayprabhu a créé le compte @cropping_bias qui tweete automatiquement des photos de test pour voir la partie de l’image choisie par l’algorithme. 6/14 https://twitter.com/vinayprabhu/status/1307497736191635458">https://twitter.com/vinayprab...
Des personnes de Twitter prennent la parole. Un ingénieur affirme que l’algorithme ne s’appuie pas sur de la reconnaissance faciale, explique que des audits anti-biais ont été effectués et promet de se pencher sur le sujet. 7/14 https://twitter.com/ZehanWang/status/1307461285811032066">https://twitter.com/ZehanWang...
L’histoire est loin d’être terminée, et n& #39;est qu& #39;un exemple parmi beaucoup d& #39;autres des biais dans l& #39;IA, mais on peut déjà retenir 3 choses. 8/14
http://1.La"> http://1.La technique ne résoudra pas tout en matière de biais de l& #39;IA.
Ici, nous sommes face à un potentiel biais raciste alors que des audits ont apparemment été effectués pour éviter cette situation (nota : ces audits ont également pu être très mal faits). 9/14
Ici, nous sommes face à un potentiel biais raciste alors que des audits ont apparemment été effectués pour éviter cette situation (nota : ces audits ont également pu être très mal faits). 9/14
2. La transparence des algorithmes n’est pas la panacée, mais elle est essentielle. Twitter étant complètement opaque sur ses algorithmes, il est difficile d& #39;évaluer la rigueur et l& #39;efficacité des audits effectués.
10/14
10/14
À ce sujet, une autre personne de Twitter a annoncé que l’équipe allait “open sourcer” son analyse de l& #39;algo en question pour qu& #39;il puisse être vérifié (le degré d’ouverture n’est pas encore clair). 11/14 https://twitter.com/lizkelley/status/1307742267193532416">https://twitter.com/lizkelley...
3. C& #39;est le point le plus important de ce thread à mon sens : on est face à un exemple parfait de “when not to build” (cc @schignard).
Ici, il serait plus simple de ne pas avoir recours à un algo du tout et de laisser les gens choisir manuellement l’aperçu de leurs photos. 12/14
Ici, il serait plus simple de ne pas avoir recours à un algo du tout et de laisser les gens choisir manuellement l’aperçu de leurs photos. 12/14
Si le sujet des biais de l& #39;IA vous intéresse, voir notamment les livres Algorithms of Oppression de @safiyanoble, Race after Technology de @ruha9, Data Feminism de @kanarinka @laurenfklein et (...) 13/14
(...) les travaux de la @AJLUnited @jovialjoy et ceux de @timnitgebru @rajiinio @Abebab @alexhanna @karine_gentelet (et j& #39;en oublie sûrement).
Un certain nombre de ces personnes ont été interviewées par le super podcast @RadicalAIPod https://www.radicalai.org/ ">https://www.radicalai.org/">... 14/14
Un certain nombre de ces personnes ont été interviewées par le super podcast @RadicalAIPod https://www.radicalai.org/ ">https://www.radicalai.org/">... 14/14
Bonus : pour les amateurs et amatrices de culture Internet, sachez que ça s& #39;en donne actuellement à coeur joie : https://twitter.com/therourke/status/1307711835836219394">https://twitter.com/therourke...
Et un rappel : https://twitter.com/ChanceyFleet/status/1307755839021887490">https://twitter.com/ChanceyFl...
Parmi les personnes à suivre en français, il y aussi @TechnicallyAwa ainsi que @MoutonNumerique @Geensly sur le numérique au sens large (mais vous les connaissez probablement déjà !)
