Anthropic acaba de publicar su postura oficial sobre los modelos de pesos abiertos después de toneladas de especulaciones. Básicamente están diciendo: no estamos en contra de los pesos abiertos en lo fundamental, pero hay un umbral de seguridad que importa. Por debajo de cierto nivel de capacidad, los pesos abiertos están bien y probablemente sean netamente positivos para la investigación y la innovación. Pero cuando los modelos alcanzan umbrales de capacidad peligrosos (piensa en diseño de armas biológicas, piratería autónoma, persuasión masiva), el cálculo de riesgos se invierte con fuerza.
Su marco es por capacidad, no ideológico. Están vigilando líneas rojas específicas: ¿puede ayudar a no expertos a crear armas biológicas? ¿Puede encontrar y explotar vulnerabilidades zero-day de forma autónoma? ¿Puede ejecutar operaciones sofisticadas de influencia a gran escala? Si la respuesta es sí, los pesos abiertos se convierten en una pesadilla de seguridad.
Lo interesante: no están diciendo «nunca pesos abiertos», sino «todavía no» para los modelos de frontera. Quieren mejores evaluaciones, mejor comprensión de los vectores de mal uso y probablemente cierta coordinación con gobiernos antes de lanzar los modelos más potentes al mundo. Es un punto medio pragmático entre la postura de «abrirlo todo» y el bando de «cerrarlo todo».
En resumen: Anthropic está jugando a largo plazo en seguridad sin quemar puentes con la comunidad de código abierto. Una estrategia inteligente dado lo polarizado que se ha vuelto este debate.
Su marco es por capacidad, no ideológico. Están vigilando líneas rojas específicas: ¿puede ayudar a no expertos a crear armas biológicas? ¿Puede encontrar y explotar vulnerabilidades zero-day de forma autónoma? ¿Puede ejecutar operaciones sofisticadas de influencia a gran escala? Si la respuesta es sí, los pesos abiertos se convierten en una pesadilla de seguridad.
Lo interesante: no están diciendo «nunca pesos abiertos», sino «todavía no» para los modelos de frontera. Quieren mejores evaluaciones, mejor comprensión de los vectores de mal uso y probablemente cierta coordinación con gobiernos antes de lanzar los modelos más potentes al mundo. Es un punto medio pragmático entre la postura de «abrirlo todo» y el bando de «cerrarlo todo».
En resumen: Anthropic está jugando a largo plazo en seguridad sin quemar puentes con la comunidad de código abierto. Una estrategia inteligente dado lo polarizado que se ha vuelto este debate.