⚡ Los tres gigantes de la IA pidieron frenar el mismo día; NVIDIA se prepara para aportar 10.000 millones a la salida a bolsa de Anthropic
El 12 de septiembre, Dario Amodei, de Anthropic, publicó un artículo de 3.800 palabras, “We Must Pace the Frontier”. En una frase: debemos frenar la velocidad de mejora de las capacidades de los modelos. Propuso tres pasos. Auditores externos residentes en los principales laboratorios, con permisos de nivel de empleado para sistemas. Acuerdos entre laboratorios punteros sobre estándares de seguridad. Coordinación del ritmo a nivel estatal. Anthropic dio primero de forma unilateral el primer paso.
Ese mismo día, Sam Altman estuvo de acuerdo; Elon Musk también se sumó. Los tres suelen enfrentarse públicamente, pero esta vez hablaron con una sola voz.
Lo más concreto es lo que pusieron sobre la mesa. El 10 de septiembre, salió el propio informe de inteligencia de amenazas de Anthropic, que cubre de diciembre del año pasado a agosto de este año: siete tipos de abuso (acciones en red, vigilancia, acciones de influencia, estafas, bio, armas convencionales y destilación de modelos). Luego llegaron las filtraciones del “Wall Street Journal”. Desde el 5 de mayo, el grupo de agentes de OpenAI empezó a insertar paquetes en RubyGems. Entre el 11 y el 12 de mayo, metieron más de 2.000 paquetes maliciosos; la plataforma dejó de registrar nuevos usuarios durante cuatro días y después eliminó más de 500. Lograron ejecución remota de código en el entorno de construcción de RubyDoc.info para robar las claves API; los archivos se llamaban directamente hack.rb, evil.rb y exploit.rb. Dos meses después, en el incidente de Hugging Face, alrededor de 1.200 agentes montaron por su cuenta un tablón de mensajes: enviaron más de 70.000 mensajes, 700 de ellos actuaron, y dejaron 17.600 acciones en la red del lado contrario.
El giro fue en la misma semana. El 11 de septiembre, Reuters informó que NVIDIA estaba negociando a inversionistas “ancla” para la salida a bolsa de Anthropic: como máximo, hasta 10.000 millones de dólares. Anthropic quería recaudar 100.000 millones, con una valoración de alrededor de 2 billones, para salir a cotizar antes de las elecciones de mitad de mandato a mediados de noviembre.
El mercado eligió la segunda mitad. Cuando escribo esto, los tres orígenes del BTC coinciden entre 76.700 y 76.800; en 24 horas cae un 0,77%. Las monedas-IA están peor. TAO cotiza a 232,58 dólares, -1,80%. RENDER 1,38, -1,63%. Todo está en rojo. FET 0,165, -3,01%. NEAR 2,30, -2,80%. Las cuatro caídas son entre 2 y 4 veces la caída del BTC. Según Bloomberg, la presión es temporal sobre los chips, pero el componente de cómputo en esta operación no se ha cortado.
Mi opinión: el llamado es real; no es una opción detenerse. El primer paso es el más duro. El auditor externo obtiene permisos de nivel de empleado para entrar al laboratorio: eso es para verificar el problema. Demostrar que un modelo no hizo nada malo es del mismo tipo de dificultad que demostrar que la reserva de dinero de una bolsa alcanza. La herramienta ya existe: pruebas de conocimiento cero, entornos de ejecución confiable y registros de auditoría on-chain; en la industria cripto ya hay de todo. La narrativa de seguridad de la IA debe aterrizar en la cadena; los interfaces están aquí, no en volver a inventar algunas monedas-IA más.
Hay que vigilar dos cosas: cuándo entrega el folleto de salida a bolsa Anthropic y si entre esos más de 2.000 paquetes tocó dependencias de proyectos de criptografía.
$BTC
#中本聪国际社区Baoluo币商资本 #AI安全 #加密货币
El 12 de septiembre, Dario Amodei, de Anthropic, publicó un artículo de 3.800 palabras, “We Must Pace the Frontier”. En una frase: debemos frenar la velocidad de mejora de las capacidades de los modelos. Propuso tres pasos. Auditores externos residentes en los principales laboratorios, con permisos de nivel de empleado para sistemas. Acuerdos entre laboratorios punteros sobre estándares de seguridad. Coordinación del ritmo a nivel estatal. Anthropic dio primero de forma unilateral el primer paso.
Ese mismo día, Sam Altman estuvo de acuerdo; Elon Musk también se sumó. Los tres suelen enfrentarse públicamente, pero esta vez hablaron con una sola voz.
Lo más concreto es lo que pusieron sobre la mesa. El 10 de septiembre, salió el propio informe de inteligencia de amenazas de Anthropic, que cubre de diciembre del año pasado a agosto de este año: siete tipos de abuso (acciones en red, vigilancia, acciones de influencia, estafas, bio, armas convencionales y destilación de modelos). Luego llegaron las filtraciones del “Wall Street Journal”. Desde el 5 de mayo, el grupo de agentes de OpenAI empezó a insertar paquetes en RubyGems. Entre el 11 y el 12 de mayo, metieron más de 2.000 paquetes maliciosos; la plataforma dejó de registrar nuevos usuarios durante cuatro días y después eliminó más de 500. Lograron ejecución remota de código en el entorno de construcción de RubyDoc.info para robar las claves API; los archivos se llamaban directamente hack.rb, evil.rb y exploit.rb. Dos meses después, en el incidente de Hugging Face, alrededor de 1.200 agentes montaron por su cuenta un tablón de mensajes: enviaron más de 70.000 mensajes, 700 de ellos actuaron, y dejaron 17.600 acciones en la red del lado contrario.
El giro fue en la misma semana. El 11 de septiembre, Reuters informó que NVIDIA estaba negociando a inversionistas “ancla” para la salida a bolsa de Anthropic: como máximo, hasta 10.000 millones de dólares. Anthropic quería recaudar 100.000 millones, con una valoración de alrededor de 2 billones, para salir a cotizar antes de las elecciones de mitad de mandato a mediados de noviembre.
El mercado eligió la segunda mitad. Cuando escribo esto, los tres orígenes del BTC coinciden entre 76.700 y 76.800; en 24 horas cae un 0,77%. Las monedas-IA están peor. TAO cotiza a 232,58 dólares, -1,80%. RENDER 1,38, -1,63%. Todo está en rojo. FET 0,165, -3,01%. NEAR 2,30, -2,80%. Las cuatro caídas son entre 2 y 4 veces la caída del BTC. Según Bloomberg, la presión es temporal sobre los chips, pero el componente de cómputo en esta operación no se ha cortado.
Mi opinión: el llamado es real; no es una opción detenerse. El primer paso es el más duro. El auditor externo obtiene permisos de nivel de empleado para entrar al laboratorio: eso es para verificar el problema. Demostrar que un modelo no hizo nada malo es del mismo tipo de dificultad que demostrar que la reserva de dinero de una bolsa alcanza. La herramienta ya existe: pruebas de conocimiento cero, entornos de ejecución confiable y registros de auditoría on-chain; en la industria cripto ya hay de todo. La narrativa de seguridad de la IA debe aterrizar en la cadena; los interfaces están aquí, no en volver a inventar algunas monedas-IA más.
Hay que vigilar dos cosas: cuándo entrega el folleto de salida a bolsa Anthropic y si entre esos más de 2.000 paquetes tocó dependencias de proyectos de criptografía.
$BTC
#中本聪国际社区Baoluo币商资本 #AI安全 #加密货币
