🚨« Las empresas de IA juegan con nuestras vidas. »
🗣️Con estas palabras, Jacob Coxon, investigador británico de 27 años, acaba de anunciar su marcha de Anthropic
🧠Durante tres años, trabajó en el preentrenamiento de modelos en dos de las empresas más poderosas del sector: OpenAI y luego Anthropic.
⚠️Según él, ninguna de las dos empresas « actúa de manera responsable ». Ambas estarían involucradas en una carrera para desarrollar una superinteligencia que, a la larga, pueda mejorar por sí misma. Una competición que empujaría a los laboratorios a avanzar cada vez más rápido, incluso cuando sus propios investigadores no saben exactamente cómo controlar los sistemas que desarrollan.
👀Aún más preocupante, Coxon afirma que algunos de los investigadores y directivos que desarrollan estas tecnologías creen de verdad que una IA extremadamente avanzada podría representar una amenaza existencial para la humanidad antes de que termine la década. Y, según él, estas inquietudes a veces se expresan con mucha más claridad en privado que en público.
⚔️Cada empresa podría tener interés en frenar, pero ninguna quiere correr el riesgo de dejar que las otras tomen ventaja.
🧐« Aceptar esta carrera y entrar en el “endgame” es una apuesta desmesurada que no debería decidirse desde el Slack de una empresa privada. »
✅Y Coxon no está totalmente aislado. Evan Hubinger, responsable en Anthropic de un equipo que trabaja en el alineamiento, ha respaldado públicamente parte de su diagnóstico. Él estima personalmente en más de un 10 % el riesgo de que una IA provoque la extinción humana en la próxima $FF
$MET
$OPEN
🗣️Con estas palabras, Jacob Coxon, investigador británico de 27 años, acaba de anunciar su marcha de Anthropic
🧠Durante tres años, trabajó en el preentrenamiento de modelos en dos de las empresas más poderosas del sector: OpenAI y luego Anthropic.
⚠️Según él, ninguna de las dos empresas « actúa de manera responsable ». Ambas estarían involucradas en una carrera para desarrollar una superinteligencia que, a la larga, pueda mejorar por sí misma. Una competición que empujaría a los laboratorios a avanzar cada vez más rápido, incluso cuando sus propios investigadores no saben exactamente cómo controlar los sistemas que desarrollan.
👀Aún más preocupante, Coxon afirma que algunos de los investigadores y directivos que desarrollan estas tecnologías creen de verdad que una IA extremadamente avanzada podría representar una amenaza existencial para la humanidad antes de que termine la década. Y, según él, estas inquietudes a veces se expresan con mucha más claridad en privado que en público.
⚔️Cada empresa podría tener interés en frenar, pero ninguna quiere correr el riesgo de dejar que las otras tomen ventaja.
🧐« Aceptar esta carrera y entrar en el “endgame” es una apuesta desmesurada que no debería decidirse desde el Slack de una empresa privada. »
✅Y Coxon no está totalmente aislado. Evan Hubinger, responsable en Anthropic de un equipo que trabaja en el alineamiento, ha respaldado públicamente parte de su diagnóstico. Él estima personalmente en más de un 10 % el riesgo de que una IA provoque la extinción humana en la próxima $FF
$MET
$OPEN
