, 19 tweets, 11 min read
[⛳️Recherche] "Dis, tu m'expliques ... ?": l'explicabilité des algorithmes et de l'#IA en quelques questions, articles de recherche et exemples d'application #openalgo #explainability #thread 👇
📍Comment par le contexte: l'explicabilité est de plus en plus présentée comme un objectif, une qualité (attendue) des systèmes algorithmiques, en particulier l'#IA. Or les techniques les plus performantes sont aussi les moins explicables 🤕
🔥 Les sciences sociales ont beaucoup à raconter sur la notion d'explication. L'étude de Tim Miller (2018) souligne l'importance des contrefactuels: on va chercher à expliquer pourquoi le résultat A plutôt que le résultat B ? (explanations are contrastive) arxiv.org/pdf/1706.07269…
🙃 L'autre enseignement est que les explications sont sociales et forcément contextuelles. "Pourquoi cette voiture est-elle rouge ?" peut appeler de multiples réponses, tout aussi valables... L'explication retenue dépendra du contexte 👇
🤘[Commentaire] Comme tous les parents peuvent le constater, la réponse "parce que je te le demande" n'est pas une réponse appropriée à l'enfant qui demande "mais pourquoi je dois ranger ma chambre". Le contexte, toujours :)
📍Passons maintenant aux questions, avec la première: ⭐️POURQUOI ⭐️expliquer ? Le droit à l'explication est parfois reconnu par la loi, cf. RGPD et plus récemment la loi pour une République numérique (pour les algorithmes publics): etalab.github.io/algorithmes-pu…
🧐L'autre question, intiment lié à la première est ⭐️QUOI ⭐️expliquer ? On peut chercher à expliquer un système (vue macro) ou un résultat particulier (micro). On parlera alors d'explication "globale" vs. explication "locale"
Donnons un premier #exemple d'explication globale: les algorithmes de classement. Les sites comment à fournir des explications, par exemple @Booking qui explique que le classement des résultats dépend par ex. de la rapidité de paiement de la commission 😏
😎Et un autre exemple: @HomelidaysFR qui donne des explications assez détaillées sur les données d'entrée: "les critères pris en compte par l'algorithme". Mais rien sur leur pondération, par exemple
🚅 Et un dernier, @ouisncf qui explique ne classer les offres qu'avec un seul critère: l'horaire de départ. Mais bon ... le site ne propose que des offres associés à un seul opérateur ;)
D'autres commencent à explorer des explications locales. Par exemple @Twitter et @Facebook vous proposent une option, "pourquoi je vois ce message ?". Là on m'explique que le post de @AntonioCasilli est mis en avant (entre autres) à cause d'@hubertguillaud et @btincq 👇
Next question: ⭐️ QUAND⭐️expliquer: l'explicabilité (globale ou locale) peut être utile à toutes les étapes, pas uniquement en phase de production. On peut avoir besoin d'expliquer un système à son financeur, par exemple
🔥Corollaire, la question du ⭐️POUR QUI ⭐️expliquer: les "destinataires" de l'explication ne sont pas seulement les utilisateurs d'un système... La société, par exemple peut avoir envie de demander des comptes ;)
Et enfin ⭐️COMMENT⭐️ fournir des explications ? Ce papier récent de Maël Pegny propose une approche "en boîte noire" hal.archives-ouvertes.fr/hal-01877760/d…
😻Pour finir, une série d'exemples qui tournent autour de l'explicabilité et de ceux qui tentent de la mettre en oeuvre pour les systèmes algorithmiques 👇
Les simulateurs permettent aux individus de "jouer" avec un système 👉 Cf. par exemple le simulateur du calcul de la taxe d'habitation développé par @PaclotM etalab.gouv.fr/temoignage-peu…
Au Royaume-Uni, @projectsbyif et LSE proposent plusieurs prototypes graphiques pour mettre en avant l'explicabilité: automated-decisions.tumblr.com
L'explication peut aussi fournie par l'extérieur, pas uniquement par celui qui opère l'algo 👉 Comment fonctionne l'algorithme de pricing dynamique d'@Uber ? Cf. Le Chen, Mislove & Wilson (2015) ftc.gov/system/files/d… poke @15marches
[😂] On trouve sur l'App Store des applications qui cherchent à prédire le #surgepricing, soit pour l'éviter quand on est client (SurgeProtector: itunes.apple.com/us/app/surgepr…) soit pour le rechercher quand on est chauffeur: itunes.apple.com/fr/app/surge-f…)
Missing some Tweet in this thread? You can try to force a refresh.

Enjoying this thread?

Keep Current with Simon Chignard

Profile picture

Stay in touch and get notified when new unrolls are available from this author!

Read all threads

This Thread may be Removed Anytime!

Twitter may remove this content at anytime, convert it as a PDF, save and print for later use!

Try unrolling a thread yourself!

how to unroll video

1) Follow Thread Reader App on Twitter so you can easily mention us!

2) Go to a Twitter thread (series of Tweets by the same owner) and mention us with a keyword "unroll" @threadreaderapp unroll

You can practice here first or read more on our help page!

Follow Us on Twitter!

Did Thread Reader help you today?

Support us! We are indie developers!


This site is made by just three indie developers on a laptop doing marketing, support and development! Read more about the story.

Become a Premium Member ($3.00/month or $30.00/year) and get exclusive features!

Become Premium

Too expensive? Make a small donation by buying us coffee ($5) or help with server cost ($10)

Donate via Paypal Become our Patreon

Thank you for your support!