Thread by @leogarciamx

Los veo muy contentitos jugando con Faceapp.
Pero usted ¿sabe qué datos, a quién, pero sobre todo, para qué, los esta cediendo?

Olvídese de que le regale su, o sus, fotos y videos. Eso lo hace usando Twitter, Facebook, Instagram o Tiktok. Con Faceapp es algo más complejo.

Ellos dicen que no conservan las fotos más allá de cierto tiempo. Puede ser cierto. En el intercept que hice se cargan una sola vez en su servidor. Pero eso no es lo más interesante.

Lo interesante es que se puede ver que manejan algo más delicado: marcadores faciales.

Los marcadores faciales no solo describen el rostro por su forma, sino que describen las características de la persona por el rostro: genero, edad, clasificación étnica, etc.

El cuerpo humano se explica con matemáticas. Igual el rostro.

Por ejemplo. Tome esta foto de un banco de imágenes de uso libre

Y el resto es picar opciones.

Original | Cabello Corto

Cabello largo | Envejecimiento

Notese que en Envejecimiento calcula perfectamente las arrugas en los ojos, en las mejillas, la frente.

Pero no solo eso.
Desde una imagen puede aplicar rasgos de genero. Así, no importa el genero de la imagen, puede convertirla a genero masculino o femenino. Sí ya es una mujer u hombre, acentuará los rasgos. Oh si.

No es discriminación, no hay ideología, nada. Mera antropología y anatomía. ¿Como lo hacen? Por el procesamiento de datos de parámetros y marcadores faciales, que ya acumulan y siguen analizando.

Esos que se les siguen regalando.

La aplicación sube la foto original y posteriormente solo manda comandos al servidor. Los resultados regresan a la aplicación para mostrar el resultado con los cambios. Es decir, el problema no es la imagen misma, es la información que se les permite procesar con esa imagen.

¿Por qué es un problema?

Porque permite que empresas entrenen sistemas para reconocer más cada vez mejor esos marcadores. No se necesita quedar expuestos mucho tiempo, no se necesita una imagen de mucha resolución.

Estos ejercicios les permiten a las empresas acumular parámetros de referencia que luego aplicaran en sus algoritmos y harán que sus sistemas sean cada vez más precisos.

Uno de los más delicados, creo, es el de envejecimiento

arxiv.org/abs/1702.01983

researchgate.net/publication/42…

¿Por qué? Porque precisamente sirve para desde una muestra como referencia estimar cómo ha cambiado ese rostro.

Notese. Aun a la imagen ya procesada se puede seguir aplicando algoritmos.

Para que me llamen paranoico a gusto.
Esto se tiene que pensar desde la perspectiva que esos datos, no las fotos propiamente, sino los marcadores de referencia de características faciales son modelos que se pueden aplicar de muchas formas, por ejemplo para servicios de vigilancia

Lo de menos es que Faceapp y FindFace fueran rusos. De hecho los datos se almacenan de primera mano en servidores de Amazon, que no es menos alarmante.

theverge.com/2020/6/10/2128…

Lo que vale de todo esto son precisamente los marcadores. Se forman depósitos de modelos de referencia que permiten analizar una foto, extraer sus características actuales, edad, genero, etnia, pero incluso estado de salud, estado emocional, y hoy día, en videos, leer los labios.

Este tipo de herramientas son tan efectivas que se pueden "jugar" con ellas desde otra perspectiva. A partir de un considerable deposito de fotos y de parámetros faciales, la IA puede construir "rostros que no existen".

thispersondoesnotexist.com

En ese caso, mediante el análisis de los marcadores y modelos estadísticos, puede considerar las características de un rostro que, al menos en teoría, no exista.

arxiv.org/abs/1912.04958

Oh si. Y en Faceapp, además, digo por si no era suficiente, le comparten a Facebook parte de los datos que recolectan y de los dispositivos desde donde esta corriendo la aplicación.

Así que, nos estamos haciendo una época distopica, donde por un rato de "diversión", por el golpe de endorfinas que producen estos estímulos, o por estar a la moda, o por valegorrismo, o por lo que sea, colectivamente nos estamos haciendo el grillete digital.