Comme Tay de Microsoft avant lui, le chatbot coréen Luda déconne et donne des réponses racistes. Son problème ? Il a été entrainé sur des données captées à partir de messages d'usagers d'une app—qui n'en savaient rien. #digitallabor #privacy #ethicsofAI vice.com/amp/en/article…
Que ce soit clair, ma position ne consiste pas à dire que l'IA déconne parce que la data est mauvaise. Accuser les données d'être la cause des malheurs de l'IA est une stratégie rhétorique des entreprises qui d'un côté survalorisent le travail des "sublimes du code"…
…de l'autre invisibilisent le travail nécessaire pour générer/annoter les données (AI preparation)+vérifier les résultats (AI verification)+suivi des processus automatisés (AI impersonation). Avec @ptubaro et @Moossye on a écrit un article en OA sur ça: journals.sagepub.com/doi/full/10.11…
Luda n'a pas échoué parce que les humains qui ont généré les données sont méchants, mais parce que son entreprise a menti sur l'origine des données, sur le type de processus mis en place pour les valoriser, et finalement sur la performance même de sa solution.
• • •
Missing some Tweet in this thread? You can try to
force a refresh
