Un ex investigador de Anthropic advierte que la IA podría amenazar a la humanidad para 2030.
Un ex investigador de Anthropic, Jacob Coxon, advirtió que la inteligencia artificial podría potencialmente acabar con la humanidad para finales de la década si el desarrollo continúa sin medidas de seguridad más sólidas.
Coxon, que anteriormente trabajó tanto en Anthropic como en OpenAI, planteó preocupaciones sobre la mejora recursiva, un escenario en el que los sistemas de IA se vuelven capaces de mejorar sus propias capacidades con limitada o nula intervención humana directa. Sugirió que esto podría surgir en los próximos tres a cinco años.
Su advertencia llega mientras las empresas de IA compiten por desarrollar sistemas cada vez más autónomos capaces de programar, realizar investigaciones y operar con mayor independencia. Los críticos temen que los sistemas que avanzan más rápido que la supervisión humana puedan volverse difíciles de controlar.
Las afirmaciones siguen siendo predicciones y no resultados establecidos, pero reflejan una preocupación creciente entre los investigadores de IA sobre si los marcos de seguridad actuales pueden seguir el ritmo del rápido progreso tecnológico.
$KII
#IA #TendenciasDelMercado #PerspectivasMacro #
Un ex investigador de Anthropic, Jacob Coxon, advirtió que la inteligencia artificial podría potencialmente acabar con la humanidad para finales de la década si el desarrollo continúa sin medidas de seguridad más sólidas.
Coxon, que anteriormente trabajó tanto en Anthropic como en OpenAI, planteó preocupaciones sobre la mejora recursiva, un escenario en el que los sistemas de IA se vuelven capaces de mejorar sus propias capacidades con limitada o nula intervención humana directa. Sugirió que esto podría surgir en los próximos tres a cinco años.
Su advertencia llega mientras las empresas de IA compiten por desarrollar sistemas cada vez más autónomos capaces de programar, realizar investigaciones y operar con mayor independencia. Los críticos temen que los sistemas que avanzan más rápido que la supervisión humana puedan volverse difíciles de controlar.
Las afirmaciones siguen siendo predicciones y no resultados establecidos, pero reflejan una preocupación creciente entre los investigadores de IA sobre si los marcos de seguridad actuales pueden seguir el ritmo del rápido progreso tecnológico.
$KII
#IA #TendenciasDelMercado #PerspectivasMacro #
