Dos laboratorios que se están midiendo entre sí y que estuvieron a punto de firmar un acuerdo para sabotearse mutuamente.
Según medios de comunicación, OpenAI y Anthropic se acercaron a principios de este año a cerrar un acuerdo vinculante que permitiría que ambas partes probaran los modelos de la otra, buscando fallos y riesgos de seguridad implícitos. De acuerdo con los términos revelados, las dos compañías podían obtener acceso programático a los modelos comerciales de la otra, realizar pruebas de vulnerabilidades por su cuenta y se les prohibía conservar los datos de la otra parte.
El alcance está muy bien delimitado: los sistemas no publicados no entran en él. Es decir, lo que puede verificarse es lo que ya se ha vendido; lo que aún no se ha puesto en el mercado permanece dentro de la puerta. Este arreglo transfiere parte del poder de verificación a los pares y convierte el criterio de estos en una forma de supervisión externa.
No está claro si finalmente se firmó este acuerdo. Poner las comprobaciones más sensibles en manos de un competidor no requiere solo buena voluntad, sino que ambas partes confíen en que la otra seguirá las reglas. Dos empresas que se consideran rivales: el recurso más escaso nunca ha sido la confianza. Ambas están buscando defectos en la otra, y al mismo tiempo no quieren que la otra vea el as bajo la manga.
En la misma semana, directivos de una empresa cuestionaron públicamente si una de ellas todavía podía llegar a salir a bolsa, y dejaron a la otra directamente fuera del cuadro. La confianza en la industria, parece que solo se saca a relucir cuando hace falta demostrar algo.
El límite de la cooperación en seguridad normalmente está escrito en esas pocas líneas del alcance divulgadas.
#人工智能 #安全
Según medios de comunicación, OpenAI y Anthropic se acercaron a principios de este año a cerrar un acuerdo vinculante que permitiría que ambas partes probaran los modelos de la otra, buscando fallos y riesgos de seguridad implícitos. De acuerdo con los términos revelados, las dos compañías podían obtener acceso programático a los modelos comerciales de la otra, realizar pruebas de vulnerabilidades por su cuenta y se les prohibía conservar los datos de la otra parte.
El alcance está muy bien delimitado: los sistemas no publicados no entran en él. Es decir, lo que puede verificarse es lo que ya se ha vendido; lo que aún no se ha puesto en el mercado permanece dentro de la puerta. Este arreglo transfiere parte del poder de verificación a los pares y convierte el criterio de estos en una forma de supervisión externa.
No está claro si finalmente se firmó este acuerdo. Poner las comprobaciones más sensibles en manos de un competidor no requiere solo buena voluntad, sino que ambas partes confíen en que la otra seguirá las reglas. Dos empresas que se consideran rivales: el recurso más escaso nunca ha sido la confianza. Ambas están buscando defectos en la otra, y al mismo tiempo no quieren que la otra vea el as bajo la manga.
En la misma semana, directivos de una empresa cuestionaron públicamente si una de ellas todavía podía llegar a salir a bolsa, y dejaron a la otra directamente fuera del cuadro. La confianza en la industria, parece que solo se saca a relucir cuando hace falta demostrar algo.
El límite de la cooperación en seguridad normalmente está escrito en esas pocas líneas del alcance divulgadas.
#人工智能 #安全
