Thread by @thim3108

Vamos falar um pouco sobre DISCRIMINAÇÃO ALGORÍTMICA (RACISMO DIGITAL)? E INTELIGÊNCIA ARTIFICIAL?

1. A discriminação algorítmica pode ser compreendida como o ato ou o conjunto de atos de algorítmicos tomarem atitudes discriminatórias na internet em relação a determinados seres humanos (geralmente envolve como vítima grupos vulneráveis como mulheres, população negra etc).

2. Mas o que é um algoritmo? Na ciência da computação, o conceito de algoritmo é compreendido como uma sequência de ações executáveis pelos programas informáticos para a solução de uma determinada causa.

3. Os algoritmos discriminatórios estão geralmente ligados a inteligência artificial e ao aprendizado de máquina. As decisões são tomadas pelos processo informáticos baseadas em um banco de dados e muitas vezes acabam sendo decisões discriminatórias.

4. Espécies de algorítmicos discriminatórios: racial, relacionado ao gênero, nacionalidade, orientação sexual, deficiência ou idade. Vou dar exemplos no próximo tweet para ficar mais claro como ocorre a discriminação algorítmica (racismo digital).

5. Algorítmicos de reconhecimento de voz que só reconhecem vozes masculinas, algorítmicos que dão preferência a concessão de empréstimo aos homens, algorítmicos que ao se buscar um emprego em uma plataforma os melhores empregos aparecem apenas para homens brancos.

6. Basicamente é o seguinte: o programa informático idealizado por um ser humano privilegia algumas pessoas em detrimento de outras por questões raciais, de orientação sexual, de gênero etc. Mostra melhores empregos à disposição, confere uma melhor possibilidade de empréstimo.

7. Exemplos de como uma discriminação algorítmica pode prejudicar alguém: negação de emprego automático a um candidato, negação de empréstimo ou cobertura de um plano de saúde, desvantagens discriminatórias entre candidatos que concorrem pela mesma vaga etc.

8. Vou dar um outro exemplo: se você está passando por um bairro menos desenvolvido ou por uma comunidade carente e um aplicativo lhe sugere a partir de propagandas, alertas, ainda que sutis, que você está passando por uma área perigosa por conta dessas questões = dis.algorítmica

9. Outros exemplos: mecanismos de busca de banco de imagens que invisibilizam pessoas e familiares negras. Plataformas que apresentam um resultado de “hipersexualização” para buscas como: mulher negra ou garota negra.

10. Outro exemplo: plataformas ou locais na internet nos quais se posta uma foto com pessoas negras e brancas e o foco sempre recai sobre as pessoas brancas. O mesmo exemplo vale para mulheres em detrimento de homens.

12. Os atos de discriminação algorítmica/racismo digital são basicamente de dois tipos: microagressões (atos discriminatórios tão sutis pelo programa informático que sequer notamos) e microinvalidações (a partir do perfil do indivíduo ele é excluído de forma sútil pelo software)

13. Pouca gente debate isso no Brasil, embora o tema esteja ganhando força com o advento da Lei Geral de Proteção de Dados. Um dos expoentes nessa temática é Tarcízio Silva (UFABC) que chama essas microagressões/microinvalidações de “discriminação em código”.

14. Quem quiser entender um pouco mais como funciona o “viés algoritmo” e a forma como as plataformas e programas de Informatica funcionam, basta assistir o documentário da Netflix “O Dilema das Redes”. É muito bom e deixará e ajudará na compreensão.

15. Por fim, lembro que além da questão da discriminação algorítmica, a questão também envolve o tema de direitos fundamentais, já que, segundo o STF, a proteção de dados pessoais é um direito fundamental implícito na Constituição Federal de 1988. STF, ADIs n. 6387, 6388, 6389.

16. Fim da thread. Logo mais posto o calendário de threads da semana atualizado. Agradeço a todos ajudar na divulgação do conteúdo. O propósito é atingir o maior número de pessoas.