$TRUMP
🇺🇸🇨🇳 Washington y Pekín ahora están discutiendo un problema que suena muy de ciencia ficción y a la vez muy real: ¿qué sucede cuando la inteligencia artificial militar avanza más rápido de lo que los humanos pueden detenerla?
Expertos en seguridad de ambos países proponen nuevas “líneas rojas” para la IA militar, incluida la de mantener a las máquinas alejadas de las decisiones de lanzamiento nuclear, asegurarse de que los humanos aprueben los ciberataques importantes y establecer una línea directa dedicada a incidentes de IA.
La preocupación es que un sistema autónomo podría funcionar mal, ir más allá de sus órdenes o lanzar una operación cibernética contra infraestructura militar sensible sin que nadie pretenda que eso ocurra.
El otro bando podría entonces tener solo minutos para decidir si fue un accidente o el primer movimiento de un ataque.
Esto se vuelve especialmente desagradable cuando ambos países tienen sistemas automatizados que reaccionan entre sí a la velocidad de las máquinas.
Las propuestas mantendrían firmemente a los humanos bajo control de las armas nucleares y de los ataques a redes de mando nuclear, mientras que permitirían que Washington y Pekín tengan una línea directa para explicar cuándo un sistema de IA se desvía o hace algo que ninguno de los dos lados quería que ocurriera.
Ningún gobierno se ha sumado aún al plan, pero llega antes de las conversaciones planificadas entre EE. UU. y China sobre IA y de la esperada reunión entre Trump y Xi la próxima semana.
La carrera por la IA comenzó con chips y chatbots. Ahora se está acercando de manera incómoda a los sistemas de mando nuclear.
Fuentes: Reuters, Brookings Institution
#Ai_sector #worldnews
🇺🇸🇨🇳 Washington y Pekín ahora están discutiendo un problema que suena muy de ciencia ficción y a la vez muy real: ¿qué sucede cuando la inteligencia artificial militar avanza más rápido de lo que los humanos pueden detenerla?
Expertos en seguridad de ambos países proponen nuevas “líneas rojas” para la IA militar, incluida la de mantener a las máquinas alejadas de las decisiones de lanzamiento nuclear, asegurarse de que los humanos aprueben los ciberataques importantes y establecer una línea directa dedicada a incidentes de IA.
La preocupación es que un sistema autónomo podría funcionar mal, ir más allá de sus órdenes o lanzar una operación cibernética contra infraestructura militar sensible sin que nadie pretenda que eso ocurra.
El otro bando podría entonces tener solo minutos para decidir si fue un accidente o el primer movimiento de un ataque.
Esto se vuelve especialmente desagradable cuando ambos países tienen sistemas automatizados que reaccionan entre sí a la velocidad de las máquinas.
Las propuestas mantendrían firmemente a los humanos bajo control de las armas nucleares y de los ataques a redes de mando nuclear, mientras que permitirían que Washington y Pekín tengan una línea directa para explicar cuándo un sistema de IA se desvía o hace algo que ninguno de los dos lados quería que ocurriera.
Ningún gobierno se ha sumado aún al plan, pero llega antes de las conversaciones planificadas entre EE. UU. y China sobre IA y de la esperada reunión entre Trump y Xi la próxima semana.
La carrera por la IA comenzó con chips y chatbots. Ahora se está acercando de manera incómoda a los sistemas de mando nuclear.
Fuentes: Reuters, Brookings Institution
#Ai_sector #worldnews
