Thread by @SocietatOberta

👋¡Buenos días! Arrancamos el 2º día de la Jornada #InteligenciaArtificialDDHH y lo hacemos con esta mesa sobre herramientas predictivas y sociedades segmentadas con Juan José López Ossorio, @gemmagaldon, @Andres_gberrio y @Jorge_Morell.
Modera @CristinaGoniLat (@OpenSociety)

"Es preocupante que muchas herramientas y estados incorporen #AI sin tener en cuenta evidencia empírica que demuestre su eficacia porque la sociedad y las comunidades pueden perder la confianza en los procesos democráticos", comenta @CristinaGoniLat

#InteligenciaArtificialDDHH

➡️Queremos responder: ¿Cuáles son las oportunidades y riesgos que ofrece la #AI y cómo evitar que vulnere los derechos políticos, sociales y civiles?

➡️¿Qué valor añadido puede ofrecer la sociedad civil organizada?

#InteligenciaArtificialDDHH

.@Jorge_Morell sobre Justicia Predictiva, ¿qué ventajas y desventajas tiene?

Y lanza la pregunta: ¿Pueden los algoritmos predecir mejor que las personas? Algoritmos como herramienta de soporte más que de decisión, por ahora.

#InteligenciaArtificialDDHH

Juan José López Ossorio presenta #VioGén, el sistema de la Secretaría de Estado de Seguridad del @interiorgob que usa la tecnología en la lucha contra la violencia de género.

#InteligenciaArtificialDDHH

interior.gob.es/web/servicios-…

¡Vamos ahora con @gemmagaldon!
"Es importante entender la Hª de la policia en la tecnología. También el uso de las estadísticas que han hecho, como se ve en la serie #TheWire, por ejemplo"

Cámaras, delincuencia, eficiencia y tecnología... Sigue👇

#InteligenciaArtificialDDHH

.@gemmagaldon "La población tiene expectativas demasiado altas sobre las capacidades de la tecnología. Hay que dismitificarla un poco. Los algoritmos no pueden adivinar cosas, sólo actúan sobre hechos anteriormente ocurridos"

#InteligenciaArtificialDDHH

.@Andres_gberrio "¿Cómo generar algoritmos que no fomenten la polarización social? Es más difícil construir sociedades plurales cuando los algoritmos muestran sólo algunos pensamientos"

#InteligenciaArtificialDDHH

Sobre reincidencia, @Andres_gberrio: "¿Qué factores deciden la posibilidad de reincidencia de una persona y quién los interpreta? Con herramientas predictivas tenemos sistema discriminatorio en el régimen penitenciario. Queremos más transparencia"

#InteligenciaArtificialDDHH

¡Cuántas reflexiones sobre herramientas predictivas! Aquí podéis ver de forma gráfica el resumen en tiempo real de @visualmateria. Algoritmos, principios, políticas de recurso, ética, falsos positivos/negativos, discriminaciones, justicia...👇👇

#InteligenciaArtificialDDHH

¡Último encuentro de la Jornada #InteligenciaArtificialDDHH! ¿Cómo fortalecer la participación de la #sociedadcivil en el diseño de sistemas de decisiones automatizadas? Damos la bienvenida a @pepamarpey y preparamos papel y lápiz para apuntar propuestas de asistentes!📝

Nos dividimos en 3 grupos para pensar colectivamente:

✅Mirada interseccional de #IA y sus impactos
✅Construcción de ecosistemas y comunidad
✅Gobernanza / participación

¡En un rato compartimos reflexiones principales!
#InteligenciaArtificialDDHH

Grupos facilitados por @jordiserratosa (@m4_social), Laura Señán (@FundacionAVINA) y @pepamarpey (@Lafede_cat). Algunas conclusiones 👇

1) Hace falta + transparencia
2) Avanzar hacia ecosistema de tecnología cívica
3) Fomentar código abierto

#InteligenciaArtificialDDHH

4) Hay que tener acceso a información
5) Crear hubs regionales
6) Romper barreras digitales
7) Construir repositorio para conocer políticas y actores decisivos

#InteligenciaArtificialDDHH

8) Incluir colectivos en debates
9) Hay que conscienciar sobre usos de la tecnología
10) Planificar agenda propia desde movimientos y sociedad civil

¡Y muchas ideas más! Menudo debate enriquecedor 👏👏
#InteligenciaArtificialDDHH

¡Y hasta aquí la Jornada #InteligenciaArtificialDDHH! Un placer haber escuchado tantas voces expertas sobre tecnología, discriminaciones y derechos humanos. ¡GRACIAS por haber participado y habernos seguido también por aquí! Próximamente compartiremos más contenidos 🙌