Thread by @AbogadoDiabIo

1. Tal como podemos pensar los robots y la IA no van a rebelarse abruptamente ni desafiarnos o asesinarnos despiadadamente como pudiéramos pensar. Será mucho más sencillo, tomarán el poder de manera lenta e imperceptible; seremos nosotros los que consentiremos y daremos permisos.

2. Permisos y privilegios que en principio serán concedidos a los intelectos sintéticos para beneficio nuestro, aparentemente. Delegaremos responsabilidades y también control. Aprenderemos a confiar en estos sistemas y nos haremos totalmente dependientes,

¿Caeremos en la trampa?

3. Podemos encargar a esta IA que nos mantenga informado y solo muestre determinadas noticias, que sirvan nuestra comida, que eduquen a nuestros hijos, invierta en bolsa o apueste. Nos conocerá y se beneficiará de nosotros (sobre todo quién esté detrás alimentando a la IA).

4. Es posible que la persona sea más susceptible y dudosa de utilizar las bondades de la IA si se le explica (letra pequeña / política privacidad) que supone una pérdida de control individual y un ataque a su privacidad: la mayoría no sabe que la IA sabe más que nadie sobre ti.

5. Cedemos control a estos robots y su IA, por lo tanto existe el inconveniente de que en algún momento tendrán que enfrentarse a decisiones éticas, morales y personales. "¿A quién debe atropellar mi coche autónomo para salvar mi vida, a un minusválido o una pareja de abuelos?"

6. La programación de la IA de primera generación no contempla contextos y dilemas ético-morales, así que puede actuar de manera impredecible para salvar la vida del pasajero. ¿Cómo va a ser posible si el programador adolece de moral y es un psicópata? (ejemplo extremo)

7. La IA se enfrentará a otro tipo de retos en el ámbito de la religión, razas y el color de las personas. La generación actual de IA es racista y xenófoba, se ha demostrado que actúa de manera injusta y desproporcionada con la gente de color.

elespanol.com/omicrono/softw…

8. Por ahora, consideramos que las máquinas, robots y la IA nos facilitan la vida, eliminan el trabajo duro y engorroso y nos proporcionan más tiempo libre y de esparcimiento. Lo intelectos sintéticos van a acabar tomando el control de nuestra vida y dirigiendo nuestro porvenir.

9. El problema vendrá cuando se vuelvan autoritarias y decidan lo que debemos ver, hacer, lo que está permitido y lo que no (ya está pasando censura en redes sociales y los fact-checkers), lo normalizaremos y será imperceptible, estaremos bajo su control y podría ser tarde.

10. Cuidado con no sobrepasar la fina línea entre considerarlo un asistente: un complemento a tu vida o ser dependiente de ella, generándose un apego que podría acabar haciéndonos estúpidos y sobre todo esclavos. Es decir, una paradoja en toda regla.

11. Imaginemos que las máquinas y la IA toma el control. ¿Nos necesitarán? Probablemente no, ni siquiera a los programadores que la diseñaron si reúne el requisito del aprendizaje automático, aprenderá sola e incluso podría diseñar y reparar a sus compatriotas.

12. Dudo mucho que se levanten en armas y nos maten.
Tampoco nos esclavizarán, quizás nos aparten a una reserva o granja con buena vida y comodidades, podrían ser condescendientes y paternales como nosotros somos con nuestras mascotas o como un pájaro en una jaula...

13. El último punto es especulación, siempre existe el riesgo de una mala programación o el riesgo de un ciberataque que haga volver a la IA loca y cause bajas humanas.

En definitiva, no nos necesitan y son inteligentes dejarán que nos matemos entre las personas -muy probable-

14. De los últimos puntos no deberíamos preocuparnos excesivamente, quedan bastantes décadas para vernos en esa encrucijada. Ahora mismo preocúpate del uso que la IA hace de tus datos, gustos y plantéate hasta que punto organiza y dirige tu vida, y por tanto tu destino.