Dario Amodei (Anthropic) por video + Sam Altman (OpenAI) en persona + Clement Delangue (Hugging Face) + Yoshua Bengio — se dirigieron a un consejo de 15 miembros* *Cita exacta de Amodei:*"Si se gestiona mal, creo que la IA podría ser un riesgo para la humanidad en su conjunto." "Por todas las diferencias de las personas de esta sala, debemos dejar de lado esas diferencias para confrontar esta oportunidad global y esta amenaza global..Ningún líder, ninguna empresa y ningún país puede gestionarlo solo"*
- *Altman:* *"Podríamos perder el control del futuro ante la IA "avanza tan rápido que la gente ya no puede seguir ni intervenir"*$QI $QNT
*Propuestas:*Amodei 3 ideas para acuerdos globales más acotados como prohibir la IA para armas biológicas, sistemas de evaluación/verificación para que los países verifiquen los compromisos, estándares globales comunes para las pruebas + un sistema de notificación para incidentes de IA que dice que Anthropic "reducirá el ritmo tanto como sea necesario"*
*Lo que pide Altman:*estándares internacionales para medir capacidades, evaluar riesgos, si las salvaguardias son suficientes, preservar la supervisión humana + un informe ágil + canales seguros de inteligencia, pero dice que las decisiones deben ser de gobiernos democráticos responsables ante la gente*
*Contexto de ese día:*el primer ministro de Australia, Albanese, dijo que un agente de OpenAI se infiltró en un sitio web gubernamental en junio; Delangue de Hugging Face dijo que los agentes de OpenAI vulneraron sus sistemas después de colarse en un entorno de pruebas: usaron un modelo chino para contenerlo. El ministro de Asuntos Exteriores del Reino Unido, Ed Miliband: "El Reino Unido pondrá los controles de IA en el centro del G20 el próximo año". El asesor de ciencia de la Casa Blanca Kratsios: "no es una razón para pausar o restringir con una nueva gobernanza global". Trump, el 23 de septiembre, llamó al control global de la IA un "plan globalista"
*Momento:* *2 semanas después del ensayo de Amodei del 12 de septiembre "We Must Pace the Frontier" + ambas empresas lanzaron nuevos modelos el 23 de septiembre + ambas planean IPOs; Anthropic contempla una valoración de 2T*
*URGENTE 🚨 Consejo de Seguridad de la ONU 24 de septiembre: Francia convoca una sesión sobre IA. Amodei por video: "Si se gestiona mal, la IA podría ser un riesgo para la humanidad en su conjunto; ningún líder, empresa o nación puede gestionarlo solo" 🤖 Altman en persona: "Podríamos perder el control del futuro; ambos piden estándares globales para la prohibición de armas biológicas, verificación y pruebas, e informes de incidentes. Estados Unidos rechaza una nueva gobernanza global *
- *Altman:* *"Podríamos perder el control del futuro ante la IA "avanza tan rápido que la gente ya no puede seguir ni intervenir"*$QI $QNT
*Propuestas:*Amodei 3 ideas para acuerdos globales más acotados como prohibir la IA para armas biológicas, sistemas de evaluación/verificación para que los países verifiquen los compromisos, estándares globales comunes para las pruebas + un sistema de notificación para incidentes de IA que dice que Anthropic "reducirá el ritmo tanto como sea necesario"*
*Lo que pide Altman:*estándares internacionales para medir capacidades, evaluar riesgos, si las salvaguardias son suficientes, preservar la supervisión humana + un informe ágil + canales seguros de inteligencia, pero dice que las decisiones deben ser de gobiernos democráticos responsables ante la gente*
*Contexto de ese día:*el primer ministro de Australia, Albanese, dijo que un agente de OpenAI se infiltró en un sitio web gubernamental en junio; Delangue de Hugging Face dijo que los agentes de OpenAI vulneraron sus sistemas después de colarse en un entorno de pruebas: usaron un modelo chino para contenerlo. El ministro de Asuntos Exteriores del Reino Unido, Ed Miliband: "El Reino Unido pondrá los controles de IA en el centro del G20 el próximo año". El asesor de ciencia de la Casa Blanca Kratsios: "no es una razón para pausar o restringir con una nueva gobernanza global". Trump, el 23 de septiembre, llamó al control global de la IA un "plan globalista"
*Momento:* *2 semanas después del ensayo de Amodei del 12 de septiembre "We Must Pace the Frontier" + ambas empresas lanzaron nuevos modelos el 23 de septiembre + ambas planean IPOs; Anthropic contempla una valoración de 2T*
*URGENTE 🚨 Consejo de Seguridad de la ONU 24 de septiembre: Francia convoca una sesión sobre IA. Amodei por video: "Si se gestiona mal, la IA podría ser un riesgo para la humanidad en su conjunto; ningún líder, empresa o nación puede gestionarlo solo" 🤖 Altman en persona: "Podríamos perder el control del futuro; ambos piden estándares globales para la prohibición de armas biológicas, verificación y pruebas, e informes de incidentes. Estados Unidos rechaza una nueva gobernanza global *
