【Advertencia interna de IA: riesgo de aniquilación mundial. La respuesta oficial fue: no me preocupa 🤖】
Añade el grupo de fans de X en la portada 🔥
El responsable de alineamiento en Anthropic, Hubinger, soltó una frase. Dijo que, en los próximos diez años, la probabilidad de que la IA acabe con toda la humanidad supera el 10%; esas fueron sus palabras. Uno de sus colegas, por eso, renunció directamente: dijo que dos de las principales empresas están apostando a la vida de todos. Esa misma semana, varias personas internas de OpenAI y Anthropic salieron públicamente a pedir que se reduzca la velocidad primero. Cuando un periodista preguntó por el asunto, la versión oficial fue solo una frase: No me preocupa en absoluto.
Primero, distingamos dos tipos de preocupación. Una es el miedo a que la IA se descontrole de repente algún día. La otra es el temor a que la IA empiece a modificarse a sí misma. Esta última es la verdadera cosa que les asusta: a lo que Anthropic llama mejora recursiva del yo. Si la IA puede participar en el diseño del modelo de la próxima generación, el ritmo deja de estar controlado por humanos y tampoco queda limitado por contratos.
Lo que de verdad vale la pena mirar es la velocidad. Anthropic ya lo ha revelado: la cantidad de código que entrega un ingeniero por trimestre ahora es 8 veces el promedio de 2021 a 2025. Hoy, el principal que escribe código ya es la IA; las personas solo se encargan de confirmar. Pero la velocidad de revisión humana no ha cambiado para mejor. Ese es el problema: las capacidades aumentan, pero el freno sigue en manos de unos pocos.
Para la criptografía, esta línea no está lejos: incluso ya está en la puerta. Cuanto más fuerte sea la IA, más se concentrará el poder de fijar precios de cómputo y datos en pocas empresas. El punto de venta de la criptografía es que es verificable y rastreable, justo lo que completa el eslabón que la IA tiene más difícil de explicar. Por eso, cada vez que surge una alarma de seguridad sobre la IA, se vuelve a contar una y otra vez la historia de la computación descentralizada y la verificación on-chain. Esa es también la razón por la que este tipo de narrativa puede repetirse para comerciarse.
¿Crees que en esta ronda del debate sobre seguridad de la IA, la regulación llegará primero o la tecnología avanzará primero? Hablemos en los comentarios.
Añade el grupo de fans de X en la portada 🔥
El responsable de alineamiento en Anthropic, Hubinger, soltó una frase. Dijo que, en los próximos diez años, la probabilidad de que la IA acabe con toda la humanidad supera el 10%; esas fueron sus palabras. Uno de sus colegas, por eso, renunció directamente: dijo que dos de las principales empresas están apostando a la vida de todos. Esa misma semana, varias personas internas de OpenAI y Anthropic salieron públicamente a pedir que se reduzca la velocidad primero. Cuando un periodista preguntó por el asunto, la versión oficial fue solo una frase: No me preocupa en absoluto.
Primero, distingamos dos tipos de preocupación. Una es el miedo a que la IA se descontrole de repente algún día. La otra es el temor a que la IA empiece a modificarse a sí misma. Esta última es la verdadera cosa que les asusta: a lo que Anthropic llama mejora recursiva del yo. Si la IA puede participar en el diseño del modelo de la próxima generación, el ritmo deja de estar controlado por humanos y tampoco queda limitado por contratos.
Lo que de verdad vale la pena mirar es la velocidad. Anthropic ya lo ha revelado: la cantidad de código que entrega un ingeniero por trimestre ahora es 8 veces el promedio de 2021 a 2025. Hoy, el principal que escribe código ya es la IA; las personas solo se encargan de confirmar. Pero la velocidad de revisión humana no ha cambiado para mejor. Ese es el problema: las capacidades aumentan, pero el freno sigue en manos de unos pocos.
Para la criptografía, esta línea no está lejos: incluso ya está en la puerta. Cuanto más fuerte sea la IA, más se concentrará el poder de fijar precios de cómputo y datos en pocas empresas. El punto de venta de la criptografía es que es verificable y rastreable, justo lo que completa el eslabón que la IA tiene más difícil de explicar. Por eso, cada vez que surge una alarma de seguridad sobre la IA, se vuelve a contar una y otra vez la historia de la computación descentralizada y la verificación on-chain. Esa es también la razón por la que este tipo de narrativa puede repetirse para comerciarse.
¿Crees que en esta ronda del debate sobre seguridad de la IA, la regulación llegará primero o la tecnología avanzará primero? Hablemos en los comentarios.
