Algunos dicen que esta máquina tiene una posibilidad entre diez de acabar con la vida de una persona.
Quien lo dice es Jacob Coxon, que renunció a Anthropic el 10 de septiembre; antes había trabajado en OpenAI. Sus palabras exactas fueron que quienes desarrollan la IA creen que, en la próxima década, la probabilidad de que una IA avanzada conduzca a la extinción de la humanidad será superior al diez por ciento. El mismo número también fue destacado por Evan Hubinger, responsable de la alineación dentro de la misma empresa. Estas dos personas: una ya se fue y la otra sigue en su puesto.
El 19 de septiembre, la BBC informó que en los laboratorios más gente escucha este tipo de advertencias; su reacción no es el pánico, sino la risa. En realidad, saben más sobre esa máquina que la gente de afuera.
Ese número —uno entre diez— es ingenioso precisamente porque no aterriza en ninguna parte. Es suficientemente grande como para imponer respeto, y lo bastante pequeño como para que no haya que marcharse hoy. Así, quien lo dice lo sigue diciendo; quien se ríe, sigue riéndose; y las valoraciones siguen subiendo. En cuanto la narrativa del riesgo se convierte en una frase hecha, ya no hay forma de movilizar a nadie.
Si hablamos de riesgos, lo que se ve no es la máquina, sino la mano que la presiona y, después, quién se hará cargo. Las empresas de la lista —OpenAI, Anthropic, Meta, DeepMind— están ahí, firmes; nadie apaga la máquina primero. La responsabilidad, si se vuelve abstracta para dentro de diez años, equivale a que no existe.
Quien grita “viene el lobo” quizá no crea en el lobo, y quien se ríe cuando llega también puede tener miedo. Una habitación llena de gente que no se va la primera… eso, quizá, sea la forma más común de esta quietud silenciosa.
Diez personas dicen que es peligroso; nueve se ríen. Y al final, quien sufre el incidente es el undécimo.
#AI安全 #inteligencia artificial
Quien lo dice es Jacob Coxon, que renunció a Anthropic el 10 de septiembre; antes había trabajado en OpenAI. Sus palabras exactas fueron que quienes desarrollan la IA creen que, en la próxima década, la probabilidad de que una IA avanzada conduzca a la extinción de la humanidad será superior al diez por ciento. El mismo número también fue destacado por Evan Hubinger, responsable de la alineación dentro de la misma empresa. Estas dos personas: una ya se fue y la otra sigue en su puesto.
El 19 de septiembre, la BBC informó que en los laboratorios más gente escucha este tipo de advertencias; su reacción no es el pánico, sino la risa. En realidad, saben más sobre esa máquina que la gente de afuera.
Ese número —uno entre diez— es ingenioso precisamente porque no aterriza en ninguna parte. Es suficientemente grande como para imponer respeto, y lo bastante pequeño como para que no haya que marcharse hoy. Así, quien lo dice lo sigue diciendo; quien se ríe, sigue riéndose; y las valoraciones siguen subiendo. En cuanto la narrativa del riesgo se convierte en una frase hecha, ya no hay forma de movilizar a nadie.
Si hablamos de riesgos, lo que se ve no es la máquina, sino la mano que la presiona y, después, quién se hará cargo. Las empresas de la lista —OpenAI, Anthropic, Meta, DeepMind— están ahí, firmes; nadie apaga la máquina primero. La responsabilidad, si se vuelve abstracta para dentro de diez años, equivale a que no existe.
Quien grita “viene el lobo” quizá no crea en el lobo, y quien se ríe cuando llega también puede tener miedo. Una habitación llena de gente que no se va la primera… eso, quizá, sea la forma más común de esta quietud silenciosa.
Diez personas dicen que es peligroso; nueve se ríen. Y al final, quien sufre el incidente es el undécimo.
#AI安全 #inteligencia artificial
