Thread by @jorgecarrion21

He escuchado el podcast "The Facebook Files", de @Gimletmedia y @WSJ y lo que se cuenta sobre la plataforma de Mark Zuckerberg es escandaloso, terrible, fascinante. Abro hilo de resumen, con algunas actualizaciones y comentarios de mi cosecha: gimletmedia.com/shows/the-jour…

Si en 2018 el escándalo de Cambridge Analytica reveló lo peligroso que era Facebook, la filtración de documentos internos de Meta de finales del año pasado no fue menos importante. Fue una exclusiva de The Wall Street Journal.

Se trata de informes de investigaciones internas sobre temas como las listas blancas y negras, el tráfico de personas en Facebook, el daño psicológico de Instagram en adolescentes o los planes para abrir IG Kids.

Lo primero que sorprende son las conclusiones de la auditoría interna que trató de entender una empresa que era puro caos. Nada ni nadie sabe exactamente qué ocurre en las oficinas y los algoritmos del gigante tecnológico.

Facebook nació sin reglas. Como en el Salvaje Oeste, la ley fue surgiendo a medida que era necesaria para resolver los problemas que iban apareciendo. La moderación humana, primero, y el apoyo posterior de la inteligencia artificial fueron las primeras respuestas.

Al mismo tiempo, se fue dibujando un patrón: el de la gente muy seguida que violaba esas reglas. O que el algoritmo consideraba por error que había violado una regla. Con su escándalo posterior. Así surgieron las listas blancas, de quienes no tenían que respetar las reglas.

Al parecer llegaron a existir unas 45 listas blancas de personas con muchísimo tráfico, incluido el propio Mark Zuckerberg. Estrellas de Hollywood o deportivas, influencers, magnates, periodistas. Dictadores, presidentes democráticos, propagadores de desinformación y de odio.

Se estima en unos cinco millones y medio el número de usuarios con carta blanca y total impunidad. No había una lista de listas. Las delegaciones decidían por su cuenta. Se creó un sistema de exención al margen del sistema.

El caso Neymar es paradigmático de este abuso sistemático. La modelo Najila Trindade acusó al futbolista de violación. Y Neymar usó Facebook e Instagram para defenderse.

Contó su versión de los hechos y mostró tanto mensajes de ella como fotografías que le había mandado desnuda. De ese modo violó también todas las normas de la plataforma. Fue un ejemplo claro de "revenge porn".

El vídeo de Neymar fue visto más de 50 millones de veces antes de ser retirado. Lo siguen en estos momentos 300 millones de personas en las redes principales. Sólo Cristiano Ronaldo y Leo Messi son más seguidos que él.

En 2020 Nike rompió su relación profesional con Neymar sin aclarar los motivos. Ahora sabemos que fue porque una empleada acusó a la estrella de haberla obligado a practicarle sexo oral. Y que él se negó a colaborar en la investigación interna.

Pero un árbol no debe impedir ver el bosque. El porno vengativo es terrible, pero atañe a una pequeña parte de los usuarios de las redes. Tal vez la conclusión más devastadora de los archivos de Facebook es que, en cambio, las fotografías personales, los selfis,

la imagen propia en continua exposición ha perjudicado gravemente la salud mental de millones de seres humanos. En particular de chicas adolescentes. El "Libro de caras" ha cambiado la percepción de nuestro propio rostro.

A todo eso Facebook ha intentado responder con cierta contundencia. Al menos en apariencia. La lista blanca se ha visto compensada por una lista negra: businessinsider.es/lista-negra-fa…

Pero todo es siempre cosmético. Los estudios internos demostraron el impacto de IG en la salud mental de esas niñas. Pero no se tomaron medidas al respecto.
Ya se podría avisar del peligro en cada perfil al igual que se avisa en cada paquete de tabaco.

Facebook también es consciente de que sus herramientas y sus anuncios se utilizan para reclutar sicarios, traficar con mujeres o alentar la limpieza étnica. Se han realizado acciones en contra de ello, pero no fueron efectivas.

La compañía es consciente de que está ingresando millones de dólares que provienen del crimen. Como en el caso de la lista blanca, privilegia el lucro sobre la ética. Y sólo interviene cuando está en peligro su imagen.

Un documento demuestra que Apple amenazó a Facebook con retirar sus apps si no evitaban su uso para tráfico humano. Entonces sí tomaron medidas. Retiró 300000 contenidos y perfiles. Lanzó un programa de detección en inglés y árabe. newstatesman.com/science-tech/2…

El cambio radical del algoritmo en 2020, que fue anunciado como una política para controlar la manipulación de elecciones y para aumentar el bienestar en la red, en verdad tuvo que ver el hundimiento de las estadísticas de participación de los usuarios. Con el negocio.

Y, por esa razón, en verdad, al privilegiar los contenidos publicados por particulares, en detrimento de los publicados por medios de comunicación, lo que ocurrió fue que se multiplicó la desinformación.

Los posts que difunden odio, bulos y polémicas se impusieron sobre todos los demás. Fue peor el remedio que la enfermedad. El Integrity Team de Facebook propuso diversas medidas para controlar el descontrol.

Como limitar el número de invitaciones que puede enviar un usuario. O el número de veces que se puede compartir un contenido. Todas las propuestas fueron rechazadas por Zuckerberg. El equipo que vela por la integridad fue desactivado.

Porque en realidad lo único que importa es el dinero. Y para ganar dinero la empresa no puede permitirse perder relevancia. Por eso compró Instagram, porque sus usuarios envejecían. Por eso está lanzando Meta, para ganar terreno sobre sus competidores en el previsible futuro.

Y por eso ha planeado durante varios años lanzar Instagram Kids. Los informes internos revelan que la empresa ha analizado la franja 10-13 años, la tensión entre lo que quieren los hijos y lo que desean los padres.

Y también han sondeado opciones no sólo para niños de primaria, sino también para bebés. En los documentos hay estudios sobre la posibilidad de captar a niños y niñas de 0 a 4 años. Cómo debería ser una plataforma para usuarios de esa edad. Parece mentira, pero es verdad.

En el capítulo 6 del podcast toma la palabra Frances Haugen, la persona de la compañía que filtró los informes internos, quien dice: “Quiero que el mundo sepa que Facebook es mucho más peligroso de lo que la gente piensa y que cada vez lo es más”.

Experta en desinformación del Integrity Team, su primer proyecto, en un equipo de cinco ingenieros, fue analizar cómo los hackers rusos influían en agentes de policía y activistas de USA a través de la manipulación de lo que veían en su muro.

En China o Rusia hay miles de agentes trabajando para influir y desinformar. En Meta solo 200 personas tratan de evitarlo. A los pocos meses lo tuvo claro: la compañía tenía que decidir entre ganar 80000 millones al año o ganar 60000 y salvar la democracia.

Después sufrió ataques de pánico. Y el Integrity Team fue desmantelado. El asalto al Capitolio fue propiciado tanto por unos descerebrados y Donald Trump como por Facebook.

Si ella tuviera que elegir un único cambio en la empresa sería que fuera transparente. Que todo el mundo supiera de dónde proceden los contenidos más virales y cómo se contagian. Sería el inicio de la regulación necesaria de los algoritmos.

Zuckerberg dijo ante el Congreso que FB elimina el 95% de los contenidos de odio. Los informes internos revelan que en realidad es el 2% El problema es su sistema de inteligencia artificial, que no es nada efectivo. Apuestan por él porque es más barato que la moderación humana.

Mientras los directivos siguen apostando en algoritmos, los empleados constatan diariamente su gran falibilidad. Varias personas opinan que por mucho que mejoren, no llegarán en el medio plazo a controlar más del 20% del odio de las redes sociales.

Cuando Trump perdió las elecciones y lanzó la acusación infundada de fraude, Facebook activó un plan de emergencia. Ralentizó la viralidad. Pero a las pocas semanas rectificó, para no perder tráfico y volumen de negocio.

Y entonces llegó el asalto al Capitolio. Y decidieron no volver a bajar la marcha. Si no combatir directamente un agente nocivo: el Patriot Party. Así llamaron a los conspiradores y los votantes de Trump que se movían a ambos lados del límite de las normas de la plataforma.

Decidieron que sus conversaciones no tuvieran repercusión. Para ello no sólo limitaron a los líderes, también localizaron a cada uno de los individuos que difundían o compartían mensajes sospechosos.

Usó la misma estrategia con otros grupos en otras partes del mundo. Se creó un método para desactivar redes de desinformación. Podría ser la semilla de un cambio. Ya veremos.

Aunque son muchas las sombras, el podcast también recuerda que también hay luces en la red social: desde los grupos de padres con hijos con enfermedades raras hasta personas que consiguieron escapar del tráfico de personas gracias a FB o la viralidad positiva.

Este hilo, de hecho, también va a llegar a algunos lectores a través de una red social con serios problemas para controlar el odio y la desinformación. Las contradicciones del sistema. 🔚 [Y gracias por leer]