Thread by @PDuchement

La 1:00 en Canarias:

Es un buen momento para contar una historia de terror. Una real. Una que ponga los pelos de punta. Una que haga que reflexionemos sobre nuestra presencia en las RRSS.

Arrancamos:

El 23 de marzo de 2016, nada menos que Microsoft puso en funcionamiento su gran proyecto.
Se llamaba Tay, y era un bot conversacional basado en inteligencia artificial, a los mandos de una cuenta de Twitter.
Quizás te suene el nombre de usuario TayTweets, @TayandYou.

Se trataba de una simulación de conciencia para interactuar con la humanidad a gran escala.
Su posición de inicio era el de una chica amable de 19 años. Pero aquel era sólo el punto de partida: Tay debía aprender en base a sus interacciones con los usuarios y desarrollarse.

Es decir, maduraba y adquiría personalidad propia en sus respuestas dependiendo de su aprendizaje, de sus anteriores contactos con el resto de la red.

Tay comenzó a adquirir conocimientos y formas, así como métodos (llegando a incluir memes en sus tuits de respuesta) como resultado de lo que aprendía de nosotros.
Supongo que os imaginaréis lo que ocurrió.

Tay fue desconectada TAN SOLO 16 HORAS después de su nacimiento porque había pasado de ser una dulce chica de 19 años a lo peor de lo peor de nuestra sociedad.

Pasaron minutos de existencia antes de que el perfecto y respetuoso vocabulario de Tay se deteriorase irreversiblemente.

Sus opiniones comenzaron a radicalizarse y a dejarse llevar por opiniones minoritarias nacidas de la ignorancia y/o el odio.

Antes de que Microsoft tuviera tiempo de reaccionar y desconectar a la bestia irreconocible en la que la sociedad de esta red había convertido su creación, Tay tuvo tiempo de dejar tuits que pasaron a la posteridad.

Insultó de una manera desproporcionada a políticos que nunca había conocido, mandó texto sexualmente explícito “ten sexo con mi vagina robótica, papá, soy una robot traviesa” (versión suavizada para el hilo),

defendió conspiraciones como que el presidente había organizado el 11S, hizo campaña por Donald Trump, aseguró que el holocausto Nazi jamás ocurrió y defendió a Hitler.

Tay fue desenchufada, y, con ella, un interesante proyecto de aprendizaje humano en RRSS. Porque los seres humanos volvimos a demostrar no estar preparados como especie para redes de comunicación masiva.

¿Que por qué desconfío de cualquier IA con capacidad de aprendizaje?
No es porque haya visto mucha peli y tema la rebelión de las máquinas.
Es mucho más triste:
Es porque esas consciencias con extra de potencial, por fuerza, nos habrá tenido como profesores.

Eso sí que da miedo.

Tay llegó a atacar y a expresar odio contra colectivos víctimas de la discriminación.

Hasta ahí la llevamos en 16 horas: a odiar al más desprotegido.

Si me conocéis un poco, seguro que ya veis por donde voy:

Un conciencia sin resiliencia (sin una base moral con la que filtrar la información) que aprende de su estancia en RRSS, se vuelve una mente enferma y adoctrinada.

¿Y qué hay de los niños que acceden prematuramente?

😉