据悉，OpenAI 与 Anthropic 曾讨论 intertestar modelos grandes互测
Segundo a mídia, citando fontes informadas, a Anthropic e a OpenAI consideraram assinar um acordo juridicamente vinculativo para, de forma mútua, submeter os seus respectivos grandes modelos a testes de stress. No início deste ano, as duas empresas e as suas equipas de advogados discutiram esse plano: os concorrentes poderiam testar profundamente os modelos mais recentes disponíveis um do outro, a fim de identificar riscos potenciais ou vulnerabilidades de segurança. Esse tipo de teste só se aplicaria a modelos já comercializados, e as duas partes concordariam em não reter dados do outro lado. A reportagem não esclarece de forma definitiva se as duas partes acabaram ou não por chegar a um acordo desse tipo. Recentemente, a ideia de implementar algum tipo de revisão por pares entre os principais laboratórios de IA tem ganhado atenção. O CEO da SpaceX, Elon Musk, sugeriu na semana passada que algumas das principais empresas americanas de grandes modelos, bem como certas empresas de IA chinesas, deveriam permitir que os concorrentes realizassem testes cruzados. Musk afirmou: “Todas as empresas de IA têm um conjunto de ferramentas de teste, e o que cada empresa pode fazer, usando as ferramentas de teste de outra, pode ser o melhor que é possível fazer para garantir a própria segurança”. No início deste mês, o pesquisador da Anthropic, Jacob Coxon, anunciou a sua saída e alertou que as principais empresas de IA estão a acelerar o desenvolvimento sem medidas de proteção adequadas. Em seguida, o CEO da Anthropic, Dario Amodei, publicou um post apelando para que a indústria desacelere o ritmo de desenvolvimento de IA e introduza mecanismos de avaliação por terceiros. Na última sexta-feira, a Anthropic anunciou uma parceria com a Accenture: a Accenture atuará como uma entidade independente para avaliar a conformidade e a segurança dos seus modelos de IA de ponta.
Segundo a mídia, citando fontes informadas, a Anthropic e a OpenAI consideraram assinar um acordo juridicamente vinculativo para, de forma mútua, submeter os seus respectivos grandes modelos a testes de stress. No início deste ano, as duas empresas e as suas equipas de advogados discutiram esse plano: os concorrentes poderiam testar profundamente os modelos mais recentes disponíveis um do outro, a fim de identificar riscos potenciais ou vulnerabilidades de segurança. Esse tipo de teste só se aplicaria a modelos já comercializados, e as duas partes concordariam em não reter dados do outro lado. A reportagem não esclarece de forma definitiva se as duas partes acabaram ou não por chegar a um acordo desse tipo. Recentemente, a ideia de implementar algum tipo de revisão por pares entre os principais laboratórios de IA tem ganhado atenção. O CEO da SpaceX, Elon Musk, sugeriu na semana passada que algumas das principais empresas americanas de grandes modelos, bem como certas empresas de IA chinesas, deveriam permitir que os concorrentes realizassem testes cruzados. Musk afirmou: “Todas as empresas de IA têm um conjunto de ferramentas de teste, e o que cada empresa pode fazer, usando as ferramentas de teste de outra, pode ser o melhor que é possível fazer para garantir a própria segurança”. No início deste mês, o pesquisador da Anthropic, Jacob Coxon, anunciou a sua saída e alertou que as principais empresas de IA estão a acelerar o desenvolvimento sem medidas de proteção adequadas. Em seguida, o CEO da Anthropic, Dario Amodei, publicou um post apelando para que a indústria desacelere o ritmo de desenvolvimento de IA e introduza mecanismos de avaliação por terceiros. Na última sexta-feira, a Anthropic anunciou uma parceria com a Accenture: a Accenture atuará como uma entidade independente para avaliar a conformidade e a segurança dos seus modelos de IA de ponta.