Los mejores hackers de Anthropic se rinden ante su propio modelo: de frenar lanzamientos a convertirse en cabilderos en la Casa Blanca
Nicholas Carlini fue uno de los escépticos más famosos en el ámbito de la seguridad de IA. Mientras trabajaba en Google, se burló abiertamente de OpenAI por retrasar el lanzamiento de GPT-2 por miedo a riesgos de seguridad, considerándolo "demasiado conservador". Ahora, este hacker de 35 años es el principal experto en seguridad de Anthropic —después de quedar impresionado por las capacidades de su propio modelo, ha pasado de frenar lanzamientos a promover políticas de seguridad de IA en la Casa Blanca.
¿Por qué es importante? Esto marca un cambio en la actitud de los mejores expertos en seguridad de IA—cuando las capacidades del modelo superan las expectativas, la seguridad técnica y la promoción de políticas necesitan un nuevo equilibrio.
#Anthropic #AI #安全 #CasaBlanca
Nicholas Carlini fue uno de los escépticos más famosos en el ámbito de la seguridad de IA. Mientras trabajaba en Google, se burló abiertamente de OpenAI por retrasar el lanzamiento de GPT-2 por miedo a riesgos de seguridad, considerándolo "demasiado conservador". Ahora, este hacker de 35 años es el principal experto en seguridad de Anthropic —después de quedar impresionado por las capacidades de su propio modelo, ha pasado de frenar lanzamientos a promover políticas de seguridad de IA en la Casa Blanca.
¿Por qué es importante? Esto marca un cambio en la actitud de los mejores expertos en seguridad de IA—cuando las capacidades del modelo superan las expectativas, la seguridad técnica y la promoción de políticas necesitan un nuevo equilibrio.
#Anthropic #AI #安全 #CasaBlanca