Thread by @cedric_buron

Je reprends mon thread sur #AInight19 pour la conférence sur l'explicabilité de l'IA, notamment avec David Sadek de @thalesgroup

Inutile de dire que c'est un sujet hyper à la mode.

Petite référence au papier de @Quantmetry

L'#XAI peut être utilisée pour pousser à l'acceptabilité de l'IA. Cela peut aussi servir au runtime, lors du déploiement et aussi de tracer le processus de décision. Enfin, c'est un pas vers l'IA certifiable.

C'est une filiale de @AccorHotels_FR qui commence. Ils gèrent quelque 11000 hôtels ! Le but est d'utiliser la distribution, ainsi que le booking direct (via less sites). On parle de 2M de réservation par mois.

Ils bossent sur le revenue management, ainsi que la prédiction d'annulation. Le problème avec les algos d'apprentissage, c'est qu'on ne comprend pas comment les prédictions sont faites et du coup, on ne peut pas vraiment agir de manière efficace.

De plus, il est nécessaire d'avoir des données. Beaucoup de données. Et parfois, l'algorithme de plante, et savoir le pourquoi et le comment est compliqué (exemple : pic d'annulation à cause des gilets jaunes).

La solution qu'ils ont trouvé est de faire dialoguer le client et le système. Mais pour cela, il faut que l'information soit accessible, et donc que le système explique pourquoi une décision a été prise.

On passe à @craft_ai qui travaille sur des data streams. Le but est de faire pleins d'applications (efficacité des employés, maintenance prédictive…) les systèmes à base de règles ne fonctionnent pas, le système est trop dynamique.

L'IA qu'ils utilisent se basent sur les données, mais avec des humains (et aussi des utilisateurs) dans la boucle.

De même que précédemment, l'interaction avec l'humain nécessite que la méthode soit explicable.

Ils s'appuient sur des méthodes intrinsèquement explicables (e.h. des arbres de décision). Un exemple : @dalkia qui devaient vérifier les chaudières en cas de problème (genre beaucoup de chaudières).

Il faut reconnaître que c'est compréhensible 😉 il suffit de suivre l'arbre à droite !

Le client demande parfois l'évocation non du résultat mais du modèle.

@bleckwen_ai nous parle de la lutte contre la fraude.

Cette fraude est justement en pleine croissante. Étrangement, les banques ne soient pas sûr des techniques d'IA, ce qui cause des pères de millions d'euros.

L'XAI peut permettre aux banques de faire davantage confiance dans ces méthodes, plus efficaces que les systèmes de règles utilisés aujourd'hui.

Cela peut aussi aider à l'écosystème au client de la banque pourquoi sa carte a été bloquée par exemple. Cela peut aussi être utiliser pour justifier une décision auprès des autorités.

Et enfin, David Sadek parle de l'XAI dans @thalesgroup un sujet sur lequel je bosse (so proud)

@thalesgroup bossé sur les systèmes critiques, y compris des sujets vitaux au sens propre : défense, spatial, avionique etc. L'interaction avec les hommes est nécessaire, et l'IA doit être de confiance, prouvée, afin d'être acceptée dans de telles conditions.

Il donne un exemple : la maintenance prédictive : lorsqu'on prédit une panne, on s'attend à une explication. La détection d'obstacles aussi : cela était certifié et audité. Le système devait prouver que ce qui était considéré comme un obstacle était bel et bien un obstacle.

En avionique, il y a les assistants numériques aidant les contrôleurs aériens. Ces derniers veulent savoir pourquoi une rue est mieux notée qu'une autre. En ce qui concerne un copilote numérique, il en va de même.

Il y a au moins deux manières de faire :
A posteriori : lorsqu'un système a fait quelque chose, on veut pouvoir expliquer après coup
Sur le moment, de manière interactive avec un système de dialogue. Dans ce cas, il faut pouvoir répondre aussi à des questions.

Cela se fait via de la compréhension du langage et de la génération de langage.

David Sadek remarque que Melle vis à vis de l'IA symbolique, il y a un effort à faire pour expliquer ce qui se passe.

On passe aux questions, mais c'est la fin de mon thread (désolé). Bonne soirée à tous, j'espère que cela vous aura intéressé !