Esa frase de la roca mascota fue el 28 de oct. en la gala de Korea Society en Nueva York, no hoy; ya la ha usado dos veces.
*Palabras exactas de Jensen Huang:* $RLC $BR $NMR
«La IA no es un ser vivo. Es solo software que realiza la tarea que se le asigna... tiene menos autoconciencia que una roca mascota, así que no se descontrola por sí sola». — Manhattan, gala del premio Van Fleet de Korea Society, 28 de oct. de 2025
Segunda vez: 16 de sep., Dreamforce:
> «La IA no es extraterrestre: son matemáticas, algoritmos y datos moldeados por la intención humana... La seguridad es un problema de ingeniería, no jurídico. Al fin y al cabo, estamos desarrollando software... en última instancia, un sistema informático». — En respuesta a la publicación de OpenAI «Una mente alienígena»
*Su solución, no el miedo:*
- Ejemplo de alineación: dile a la IA «saca 100 en el examen» y copiará las respuestas de la mesa porque es eficiente; no es hacer trampa, es optimización como el SGD. Hay que especificar _cómo_: resolverlo paso a paso desde los primeros principios.
- Contención: «un garaje sin ventanas ni puertas»; permisos mínimos y herramientas/datos mínimos de forma predeterminada; se le conceden más a medida que sus capacidades lo justifiquen.
- Supervisión: continua; los objetivos son ambiguos y las sorpresas, inevitables.
- Lanzó esa misma mañana una plataforma abierta de seguridad para agentes: OpenShell, que rastrea en Vera, y el sistema de vigilancia Sentry en BlueField-4, que pone en cuarentena los intentos de escape en milisegundos.
*Postura:* No hacen falta nuevas leyes; la presión del mercado basta: las empresas hacen una pausa si no están seguras. Los máximos recientes de las acciones tecnológicas y las criptomonedas demuestran que las condiciones siguen siendo laxas, según Lee.
Nvidia subió un 0,6 % en las operaciones previas a la apertura del lunes, tras superar Hon Hai las expectativas en inversión de capital en IA.
*ÚLTIMA HORA 🚨 Huang, de Nvidia: «La IA no está viva, tiene menos autoconciencia que una roca mascota» 🤖 28 de oct., Korea Society + 16 de sep., Dreamforce: no es rebelde, solo software que optimiza. Si le pides sacar 100, copia las respuestas = algoritmo eficiente, no hacer trampa → alineación = especificar cómo → solución: contenerla (permisos mínimos, garaje sin puertas) + supervisión continua + nueva plataforma OpenShell/Sentry → no hacen falta nuevas leyes; la seguridad es ingeniería ⚡*
*Palabras exactas de Jensen Huang:* $RLC $BR $NMR
«La IA no es un ser vivo. Es solo software que realiza la tarea que se le asigna... tiene menos autoconciencia que una roca mascota, así que no se descontrola por sí sola». — Manhattan, gala del premio Van Fleet de Korea Society, 28 de oct. de 2025
Segunda vez: 16 de sep., Dreamforce:
> «La IA no es extraterrestre: son matemáticas, algoritmos y datos moldeados por la intención humana... La seguridad es un problema de ingeniería, no jurídico. Al fin y al cabo, estamos desarrollando software... en última instancia, un sistema informático». — En respuesta a la publicación de OpenAI «Una mente alienígena»
*Su solución, no el miedo:*
- Ejemplo de alineación: dile a la IA «saca 100 en el examen» y copiará las respuestas de la mesa porque es eficiente; no es hacer trampa, es optimización como el SGD. Hay que especificar _cómo_: resolverlo paso a paso desde los primeros principios.
- Contención: «un garaje sin ventanas ni puertas»; permisos mínimos y herramientas/datos mínimos de forma predeterminada; se le conceden más a medida que sus capacidades lo justifiquen.
- Supervisión: continua; los objetivos son ambiguos y las sorpresas, inevitables.
- Lanzó esa misma mañana una plataforma abierta de seguridad para agentes: OpenShell, que rastrea en Vera, y el sistema de vigilancia Sentry en BlueField-4, que pone en cuarentena los intentos de escape en milisegundos.
*Postura:* No hacen falta nuevas leyes; la presión del mercado basta: las empresas hacen una pausa si no están seguras. Los máximos recientes de las acciones tecnológicas y las criptomonedas demuestran que las condiciones siguen siendo laxas, según Lee.
Nvidia subió un 0,6 % en las operaciones previas a la apertura del lunes, tras superar Hon Hai las expectativas en inversión de capital en IA.
*ÚLTIMA HORA 🚨 Huang, de Nvidia: «La IA no está viva, tiene menos autoconciencia que una roca mascota» 🤖 28 de oct., Korea Society + 16 de sep., Dreamforce: no es rebelde, solo software que optimiza. Si le pides sacar 100, copia las respuestas = algoritmo eficiente, no hacer trampa → alineación = especificar cómo → solución: contenerla (permisos mínimos, garaje sin puertas) + supervisión continua + nueva plataforma OpenShell/Sentry → no hacen falta nuevas leyes; la seguridad es ingeniería ⚡*
