Thread by @AnaBayes

No sé si podré estar esta tarde pero me gustaría hacer una pequeña reflexión entorno a ChatGPT y a todo lo que se nos viene entorno al procesamiento del lenguaje y otros campos en los que el aprendizaje automático incidirá directamente.

¿Me dejas que te cuente?

https://twitter.com/imgende/status/1614529020548337664

El avance imparable de los algoritmos y su análisis de datos para obtener conclusiones es ya una realidad.
Sin embargo, en este contexto cabe hacerse 2 preguntas:

⁉️¿Son sus conclusiones tan ciertas como se pintan?
⁉️¿Son realmente un problema para la educación y/o el empleo?

La respuesta a estas dos preguntas es, sin duda, compleja y con muchas aristas.

Empecemos por la primera.

La respuesta corta a si las conclusiones de estas IAs son fiables sería "Depende" pero, vayamos a la respuesta larga.

Los resultados de un sistema de aprendizaje automático tiene dos grandes patas: Los datos que los alimentan y el algoritmo que se utiliza.

Respecto a lo primero, los datos, no debemos olvidar que estos encierran, habitualmente una gran incertidumbre y, dependiendo del campo, muchos sesgos heredados de años y años de discriminaciones capacitistas, racistas, machistas o de cualquier otro tipo.

En la medida que los datos tengan un mayor sesgo o encierren una mayor variabilidad y, por tanto, mayor incertidumbre, será más difícil que la respuesta sea fiable.

Así, si estamos hablando de identificar un animal o un objeto en una imagen y la base de datos son cientos de miles de imágenes con la etiqueta bien puesta sobre esos elementos, los datos tendrán poca incertidumbre y posiblemente la interpretación de una nueva imagen también.

Aun así, si las imágenes están sesgadas en los datos de entrenamiento, y unos objetos se relacionan más con un tipo de imágenes que con otras, habra poca incertidumbre, pero mucho sesgo.
Para muestra, este botón de @biko2 por @ujue y @patxangas
google.com/search?client=…

En ChatGPT pasa algo parecido. Hay muchos textos y el algoritmo aprende rápido a redactar bien... pero los datos que tiene no los saben todo y, como tiene que contestar, lo que no sabe, se lo inventa.
newtral.es/chatgpt-veraci…
espanol.almayadeen.net/news/technolog…

Un ejemplo con poca incertidumbre y poco sesgo en los datos es la identificación proteínas, un campo donde estos algoritmos realmente están siendo de gran ayuda porque, además, no hay nada más que permita ir tan rápido en la investigación.

agenciasinc.es/Noticias/La-IA…

Donde queda mucho mucho mucho por hacer respecto a los datos es en salud.

Los sistemas de salud a lo largo de Europa (por no decir del mundo entero) tienen una diversidad considerable y eso se refleja en que la forma en la que se guardan los datos es también muy diversa.

Solo en España tenemos, al menos, 17 formas diferentes de guardar los datos. Campos distintos, descriptores diferentes de los diagnósticos. Formas diferentes de medir ciertas variables...

Solo tenemos que pensar en el caos de datos durante la COVID.
metode.es/noticias/entre…

Pretender informar con estos datos a un algoritmo es todavía inviable... por lo que estamos lejos de una herramienta diagnóstica general para salud. Mucho menos si lo queremos hacer con búsquedas de internet como intentó google para la gripe
eldiario.es/tecnologia/dia…

Y llegamos así al segundo gran problema de la credibilidad de las respuestas. Los algoritmos.

Los algoritmos son una mezcla de metodología Estadística y Matemática con Computación, que permiten analizar grandes bases de datos en tiempo record.

El problema es que es muy importante pararse a pensar en el tipo de datos que tenemos y las conclusiones que queremos obtener para elegir el método que mejor funciona para dar la respuesta adecuada.

Sin embargo, una tendencia extendida es pensar que todos los datos son "normales" y cualquier cosa vale porque tenemos muchos datos.

En este sentido, una vez escuché decir a alguien que si se estrujaba un papel siempre se obtenía una bola... y que con los datos era lo mismo.

Un método usado para unos datos para los que no sirve, incluir etiquetas de genero o de etnia en el modelo o olvidar considerar el error que tienen los datos, son solo algunos de los ejemplos que pueden hacer que el resultado de un algoritmo sea nefasto
bbc.com/mundo/noticias…

Pero entonces ¿son útiles o no lo son? ¿Las usamos o no? ¿cómo afectaran a las profesiones? ¿Qué hacemos con ChatGPT en clase?

Estos productos deben tratarse como una herramienta que será más útil cuanto mejores sean los datos y más cuidado se haya puesto en la construcción del algoritmo

No podemos renegar de su existencia y demonizarlas, pero tampoco ensalzarlas a la categoría de verdad absoluta.

No nos van a robar el trabajo, como no nos lo robaron las maquinas en la revolución industrial. El trabajo cambiará y se especializará pero será un cambio secuencial para el cual, eso sí, debemos empezar a prepararnos desde ya.

Y esa preparación enlaza con varias cuestiones que ya he comentado otras veces pero, en particular, con la pregunta de @imgende para el #debatedominguero de las #CharlasEducativas.
vamos a ellas:

Primero de todo. Incluyamos estos conocimientos en el aula de forma transversal.

Se me ocurre, por ejemplo, que los ejemplos de chatGPT pueden ser útiles para aprender a construir textos

¿Qué pasa si le digo a ChatGPT que me escriba un cuento?
¿Qué partes tiene?
¿Qué conectores utiliza?
¿Y si le digo que escriba una carta formal?
¿Y si le pido que incluya las fuentes?

En este último sentido, podemos apoyarnos en él para hablar de la importancia de las fuentes. ¿Qué son las revistas cientificas?¿Qué información es fiable?

¿Veis la cantidad de sentido crítico que se puede fomentar?

Tenemos miedo de que luego hagan los trabajos de clase con ChatGPT. Pero Quizás es momento de
1. apoyarse más en la evaluación oral
2. pedir menos deberes para casa y trabajar más en el aula (cc @bpalop)
3. enseñarles a ser críticos con lo que hacen y leen

Estas nuevas tecnologías también nos pueden servir para fundamentar la importancia del uso correcto de la Estadística, enfocando a los datos.

Hacer análisis de datos a nuestro alrededor. Ver los sesgos que contienen. Aprender a usar las técnicas de contraste de hipótesis...

Eso supondría un enorme adelanto cuando vienen a la universidad y... si no vienen, ya lo llevarían aprendido para el día a día, para leer la prensa de otra forma.

Y para terminar. El aula es el momento idoneo para concienciarles de que los sesgos se quitan incluyendo diversidad en los equipos.

Que la IA es también una herramienta para cuidar en la que tenemos que caber todos y todas.

Otra forma maravillosa de promocionar las profesiones STEM😜entre los niños y, sobre todo, las niñas.

Y me quedo aquí.
Espero que os haya resultado útil y, si es así, que compartáis para llegar a más gente.