$WLD ¿CREN QUE #Worldcoin NOS AYUDE A COMBATIR TODO ESTO Y NUESTRA ENTIDAD COMO HUMANOS..?
🚨 ¿Y SI LOS PROPIOS CREADORES DE LA IA ESTÁN EMPEZANDO A TENER MIEDO?
Un investigador de inteligencia artificial renunció a su trabajo después de advertir que el desarrollo acelerado de sistemas cada vez más poderosos podría convertirse en un riesgo grave para la humanidad. ¿Estamos frente a una señal de alarma que el mundo debería tomar en serio?
El caso que está generando preocupación es el de Jacob Coxon, investigador que trabajó durante aproximadamente tres años en Anthropic y OpenAI. Coxon anunció su renuncia a Anthropic y explicó que tomó esa decisión por sus preocupaciones sobre la velocidad con la que se está desarrollando la inteligencia artificial y la falta de garantías suficientes frente a sus posibles riesgos.
AP News +
Coxon sostiene que existe una carrera entre las principales empresas de IA para desarrollar sistemas cada vez más avanzados y que, en su opinión, la competencia podría estar haciendo que la seguridad no avance al mismo ritmo. También expresó preocupación por el desarrollo de sistemas capaces de mejorar sus propias capacidades.
WIRED +1
Pero hay un dato todavía más impactante:
Evan Hubinger, investigador de alineamiento de Anthropic y exjefe de Coxon, afirmó que personalmente considera que existe una probabilidad superior al 10 % de que la inteligencia artificial pueda provocar una catástrofe que acabe con la humanidad durante la próxima década. Esa cifra es una estimación personal, no una predicción científica demostrada ni un hecho establecido. �
🚨 ¿Y SI LOS PROPIOS CREADORES DE LA IA ESTÁN EMPEZANDO A TENER MIEDO?
Un investigador de inteligencia artificial renunció a su trabajo después de advertir que el desarrollo acelerado de sistemas cada vez más poderosos podría convertirse en un riesgo grave para la humanidad. ¿Estamos frente a una señal de alarma que el mundo debería tomar en serio?
El caso que está generando preocupación es el de Jacob Coxon, investigador que trabajó durante aproximadamente tres años en Anthropic y OpenAI. Coxon anunció su renuncia a Anthropic y explicó que tomó esa decisión por sus preocupaciones sobre la velocidad con la que se está desarrollando la inteligencia artificial y la falta de garantías suficientes frente a sus posibles riesgos.
AP News +
Coxon sostiene que existe una carrera entre las principales empresas de IA para desarrollar sistemas cada vez más avanzados y que, en su opinión, la competencia podría estar haciendo que la seguridad no avance al mismo ritmo. También expresó preocupación por el desarrollo de sistemas capaces de mejorar sus propias capacidades.
WIRED +1
Pero hay un dato todavía más impactante:
Evan Hubinger, investigador de alineamiento de Anthropic y exjefe de Coxon, afirmó que personalmente considera que existe una probabilidad superior al 10 % de que la inteligencia artificial pueda provocar una catástrofe que acabe con la humanidad durante la próxima década. Esa cifra es una estimación personal, no una predicción científica demostrada ni un hecho establecido. �
