Esse é um exemplo do porquê é importante estudar Ética em IA e como é importante entender o bias dos dados e do algoritmo em si.
Isso aí é resultado de um sistema de recomendação e como ignoraram implementar modos de fazer "downranking" para evitar isso.
#AIThreadBR 👇
Isso aí é resultado de um sistema de recomendação e como ignoraram implementar modos de fazer "downranking" para evitar isso.
#AIThreadBR 👇
https://twitter.com/amyngyn/status/1485845264262840320
O sistema de recomendação é um sistema que utiliza técnicas de inteligência artificial para simplesmente te recomendar coisas que você pode gostar.
A maioria dos site tem um sistema de recomendação: Amazon, Twitter, Google, Youtube, etc.
A maioria dos site tem um sistema de recomendação: Amazon, Twitter, Google, Youtube, etc.
Inclusive, eu fiz uma thread bastante completa sobre um algoritmo de sistema de recomendação, mostrando como um desses algoritmos funcionam (o do Youtube), mas todos são similares.
https://twitter.com/AIThreadBR/status/1307060062716911617
Eles utilizam dados que você dá para alimentar esse modelo e ele sugerir posts e produtos.
Os dados são desde curtidas, compartilhamentos até mesmo seu local geográfico e idade.
Os dados são desde curtidas, compartilhamentos até mesmo seu local geográfico e idade.
Um exemplo do local geográfico sendo útil: no Brasil, no momento, o BBB tá em alta, utilizando seu local no Brasil + considerando que outras pessoas estão consumindo sobre BBB, os algoritmos irão te indicar sobre porque é o que tá em alta na sua região.
Outro exemplo: eu vivo procurando e falando de Taylor Swift, essas são minhas sugestões do Instagram porque o algoritmo sabe que a chance de eu clicar em algo da Taylor é alta (além de um post sobre AHS ali que procuro bastante também). 
Tá, mas e quando você não alimenta nada para esses algoritmos?
Eles vão tentar te sugerir coisas que tão "em alta" e que as pessoas clicam. E bom... Vocês viram ali na imagem o que pode acontecer... Sugerir posts +18.
Eles vão tentar te sugerir coisas que tão "em alta" e que as pessoas clicam. E bom... Vocês viram ali na imagem o que pode acontecer... Sugerir posts +18.
Além de casos que esses algoritmos já aprenderam a reproduzir machismo e racismo, como vimos recentemente acontecendo aqui.
Mas é fácil botar a culpa apenas nos dados e nos usuários (que sim, é um fator) mas o próprio algoritmo poderia ter mudanças.
Mas é fácil botar a culpa apenas nos dados e nos usuários (que sim, é um fator) mas o próprio algoritmo poderia ter mudanças.
A pesquisadora Alexandra Johnson inclusive cita a necessidade de fazer adicionar uma ferramenta de "downranking" que barraria esse tipo de post.
https://twitter.com/alexandraj777/status/1486040751439945733
O downranking consistiria numa forma de diminuir a posição ou barrar a recomendação por completo de posts que contém algo +18, racismo, machismo, etc.
Ou seja, faltou esse tipo de preocupação ao criar esse sistema de recomendação aí, que é dentro da Ética em IA.
Ou seja, faltou esse tipo de preocupação ao criar esse sistema de recomendação aí, que é dentro da Ética em IA.
Enfim, não é exatamente minha área essa mas é um assunto que sempre pesquiso e procuro saber.
A @ninadhora é especialista nesse assunto e sei que ela tem muito mais a acrescentar do que eu com muito mais propriedade. Recomendo seguirem ela.
A @ninadhora é especialista nesse assunto e sei que ela tem muito mais a acrescentar do que eu com muito mais propriedade. Recomendo seguirem ela.
• • •
Missing some Tweet in this thread? You can try to
force a refresh
