LA IA SE ESTÁ MOVIENDO DEMASIADO RÁPIDO — Y HASTA SUS PROPIOS ARQUITECTOS EMPIEZAN A PONER FRENO.
OpenAI podría no salir a bolsa en 2026.
Según se informa, Sam Altman calificó este año una salida a bolsa (IPO) de “poco sensata”, empujando el esperado listado hacia 2027 o más tarde.
Pero la historia más grande no está en Wall Street.
Es el control.
El mismo día, el CEO de Anthropic, Dario Amodei, pidió que las empresas líderes de IA reduzcan deliberadamente el ritmo del desarrollo de capacidades.
Y entonces ocurrió algo casi inimaginable.
Altman estuvo de acuerdo.
También Elon Musk.
Tres figuras poderosas de bandos rivales en la guerra de la IA convergieron de repente en un solo mensaje:
LA MÁQUINA SE MUEVE DEMASIADO RÁPIDO.
Amodei propuso un enfoque de tres partes:
Evaluadores independientes con acceso a nivel de empleados a las empresas de IA para verificar las prácticas de seguridad y reportar incidentes.
Coordinación entre las principales empresas de IA en países democráticos para establecer estándares de seguridad comunes.
Coordinación entre gobiernos democráticos y autoritarios sobre los riesgos creados por sistemas de IA cada vez más capaces.
Y Anthropic afirma que ya se ha comprometido unilateralmente con el primer paso.
Esto no trata de detener la IA.
Se trata de ganar tiempo.
Tiempo para probar los sistemas.
Tiempo para entender de lo que son capaces.
Tiempo para construir salvaguardas antes de que las capacidades superen nuestra capacidad de controlarlas.
El principal científico de OpenAI, Jakub Pachocki, advirtió recientemente que ninguna empresa de IA ha resuelto la alineación y el monitoreo lo suficientemente bien como para justificar el escalado indefinido a la velocidad máxima.
Eso debería asustar a cualquiera que esté prestando atención.
Porque la pesadilla no es necesariamente algún apocalipsis de robots al estilo de Hollywood.
Es algo mucho más realista:
sistemas que se vuelven capaces de engañar, manipular, cometer fraudes, lanzar ciberataques, actuar de forma autónoma y mostrar otras conductas peligrosas más rápido que los gobiernos, las empresas y la sociedad pueden adaptarse.
Un investigador de Anthropic, Jacob Coxon, supuestamente renunció después de expresar temores de que los principales laboratorios de IA estaban “jugando con nuestras vidas”.
$BTC
OpenAI podría no salir a bolsa en 2026.
Según se informa, Sam Altman calificó este año una salida a bolsa (IPO) de “poco sensata”, empujando el esperado listado hacia 2027 o más tarde.
Pero la historia más grande no está en Wall Street.
Es el control.
El mismo día, el CEO de Anthropic, Dario Amodei, pidió que las empresas líderes de IA reduzcan deliberadamente el ritmo del desarrollo de capacidades.
Y entonces ocurrió algo casi inimaginable.
Altman estuvo de acuerdo.
También Elon Musk.
Tres figuras poderosas de bandos rivales en la guerra de la IA convergieron de repente en un solo mensaje:
LA MÁQUINA SE MUEVE DEMASIADO RÁPIDO.
Amodei propuso un enfoque de tres partes:
Evaluadores independientes con acceso a nivel de empleados a las empresas de IA para verificar las prácticas de seguridad y reportar incidentes.
Coordinación entre las principales empresas de IA en países democráticos para establecer estándares de seguridad comunes.
Coordinación entre gobiernos democráticos y autoritarios sobre los riesgos creados por sistemas de IA cada vez más capaces.
Y Anthropic afirma que ya se ha comprometido unilateralmente con el primer paso.
Esto no trata de detener la IA.
Se trata de ganar tiempo.
Tiempo para probar los sistemas.
Tiempo para entender de lo que son capaces.
Tiempo para construir salvaguardas antes de que las capacidades superen nuestra capacidad de controlarlas.
El principal científico de OpenAI, Jakub Pachocki, advirtió recientemente que ninguna empresa de IA ha resuelto la alineación y el monitoreo lo suficientemente bien como para justificar el escalado indefinido a la velocidad máxima.
Eso debería asustar a cualquiera que esté prestando atención.
Porque la pesadilla no es necesariamente algún apocalipsis de robots al estilo de Hollywood.
Es algo mucho más realista:
sistemas que se vuelven capaces de engañar, manipular, cometer fraudes, lanzar ciberataques, actuar de forma autónoma y mostrar otras conductas peligrosas más rápido que los gobiernos, las empresas y la sociedad pueden adaptarse.
Un investigador de Anthropic, Jacob Coxon, supuestamente renunció después de expresar temores de que los principales laboratorios de IA estaban “jugando con nuestras vidas”.
$BTC
