[Fil] Donc cet énorme papier qui analyse les préférences de 2,3 millions de personnes sur qui les voitures autonomes devront tuer (jeunes, vieux, animaux, etc...) quand elles n'auront pas le choix est sorti. Voilà les principaux résultats et 2-3 réflexions perso. 
Déjà d'un point de vue méthodo 2,3 millions de personnes c'est exceptionnel, c'est en partie ce qui justifie la sortie dans Nature je pense. Ça a été permis parce que le site web sur lequel ont été faites les expés est devenu viral (ici : moralmachine.mit.edu )
De façon quasi-universelle, les gens donnent beaucoup d'importance à sauver des humains plutôt que des animaux, préfèrent sauver le plus de vies possibles, et préfèrent sauver des jeunes plutôt que des vieux.
Moins important mais universel aussi, sauver en priorité les piétons plutôt que les passagers de la voiture, et sauver ceux qui respectent la loi (ie traversent sur les passages pour piétons)
Mais il y a quand même de grosses variations : par exemple, des pays asiatiques sont beaucoup moins sensibles au fait de sauver les jeunes face aux vieux, et l'Amérique du sud (et la France) sont beaucoup moins sensibles au fait de sauver les humains face aux animaux !
En regroupant les pays qui ont des préférences similaires, les chercheurs ont dégagé trois clusters, qui collent à peu près avec des clusters culturels... à quelques bizarreries près (la France séparée de ses voisins européens et rangée avec l'Amérique du Sud ??? ¡caracoles!)
L'article trouve aussi un paquet de corrélations, comme entre l'individualisme d'une société et la propensité à sauver le plus de vies possibles. Honnêtement je ne sais pas quoi faire de toutes ces corrélations, la plupart ont l'air très faibles.
Alors mon avis : je suis content qu'on parle de morale en IA et de la nécessité de rendre les algos moraux. Le sujet des voitures autonomes est sexy mais sur-représenté à mon sens, ce ne sont pas les voitures autonomes qui seront les plus problématiques je pense.
Déjà il y a la question de savoir à quelle fréquence arrivent ces dilemmes moraux dans la vraie vie. Je ne me souviens pas en avoir déjà vécu, personne ne m'en a jamais raconté. La majorité des situations difficiles se résoudront "facilement" (en cassant sa voiture par exemple)
Ensuite il me semble qu'on fait déjà confiance à des algos qui conduisent à notre place : quand on monte en passager avec quelqu'un! On n'a aucune idée de comment fonctionne l'algo moral dans le cerveau du conducteur, qui il préfère sacrifier, ça n'empêche pas de monter avec lui
Et puis la variation des préférences morales entre pays et individus ne me semble pas un défi pour les constructeurs. Il suffit d'informer clairement des règles suivies par les voitures. L'important étant que les règles soient les mêmes pour toutes.
C'est un peu comme dans le sport : vous pouvez trouver un sport compliqué, avec des règles bizarres, voire injustes, mais à partir du moment où vous acceptez d'entrer dans le jeu vous vous conformez aux règles, qui sont les mêmes pour tous.
C'est tout ! L'article : sci-hub.tw/https://www.na… (merci Sci-Hub) et le compte d'un des co-auteurs (un Français !) :
@JFBonnefon (d'ailleurs, si vous me lisez, je serais curieux d'avoir votre avis sur pourquoi la France est dans ce cluster)
@JFBonnefon (d'ailleurs, si vous me lisez, je serais curieux d'avoir votre avis sur pourquoi la France est dans ce cluster)
