O mundo merece a confiança de que empresas americanas que desenvolvem uma IA cada vez mais capaz agirão de forma responsável, especialmente à medida que a trajetória do progresso se acelerou. Cada laboratório de fronteira precisa cumprir isso, e não há razão para que qualquer um de nós venha trabalhar se não puder fazê-lo.
Acolhemos uma estrutura federal que estabeleça exigências de segurança consistentes para a IA de fronteira. Mas não acreditamos que seja necessário esperar por uma isenção antitruste ou por legislação para começar o trabalho de fornecer essa confiança. Regras consistentes para gerir o risco de fronteira, de modo que possamos maximizar os benefícios, é uma boa ideia (e estamos animados com iniciativas como auditorias independentes).
Há anos, empresas como a nossa desenvolveram coisas como Políticas de Escalonamento Responsável e Estruturas de Preparação. Elas foram boas para aquele momento e se concentravam principalmente na implantação de modelos concluídos, e não no que acontece durante o processo de desenvolvimento.
A mudança de hoje para focar no desenvolvimento e na avaliação seguros exigirá novas ferramentas. Por exemplo, na OpenAI, agora formulamos casos de segurança explícitos antes das execuções de reinforcement learning na fronteira que esperamos aumentar significativamente a capacidade, além do trabalho de segurança que fazemos há muito tempo antes das liberações de modelos.
Esperamos que outras empresas aprendam com nossas abordagens e proponham as suas; acreditamos que padrões compartilhados para desalinhamento (misalignment), monitoramento e segurança levarão a melhores resultados. Ansiamos por colaborar com nossos colegas de toda a indústria para formular a melhor versão dessas práticas.
Quando falamos em “pacing”, não queremos dizer “parar”. O progresso tem sido rápido e continuará sendo. Mas ele deve ser mais lento do que poderia ser; intervenções como casos de segurança e monitoramento têm custos significativos.
O pacing valerá bem esse custo; nenhuma pressão competitiva americana deve justificar imprudência, nem permitir que capacidades avancem além do alinhamento e do monitoramento.
Onde precisaremos da ajuda do nosso governo é na coordenação internacional. Mas, primeiro, devemos fazer o que pudermos por conta própria.
Acolhemos uma estrutura federal que estabeleça exigências de segurança consistentes para a IA de fronteira. Mas não acreditamos que seja necessário esperar por uma isenção antitruste ou por legislação para começar o trabalho de fornecer essa confiança. Regras consistentes para gerir o risco de fronteira, de modo que possamos maximizar os benefícios, é uma boa ideia (e estamos animados com iniciativas como auditorias independentes).
Há anos, empresas como a nossa desenvolveram coisas como Políticas de Escalonamento Responsável e Estruturas de Preparação. Elas foram boas para aquele momento e se concentravam principalmente na implantação de modelos concluídos, e não no que acontece durante o processo de desenvolvimento.
A mudança de hoje para focar no desenvolvimento e na avaliação seguros exigirá novas ferramentas. Por exemplo, na OpenAI, agora formulamos casos de segurança explícitos antes das execuções de reinforcement learning na fronteira que esperamos aumentar significativamente a capacidade, além do trabalho de segurança que fazemos há muito tempo antes das liberações de modelos.
Esperamos que outras empresas aprendam com nossas abordagens e proponham as suas; acreditamos que padrões compartilhados para desalinhamento (misalignment), monitoramento e segurança levarão a melhores resultados. Ansiamos por colaborar com nossos colegas de toda a indústria para formular a melhor versão dessas práticas.
Quando falamos em “pacing”, não queremos dizer “parar”. O progresso tem sido rápido e continuará sendo. Mas ele deve ser mais lento do que poderia ser; intervenções como casos de segurança e monitoramento têm custos significativos.
O pacing valerá bem esse custo; nenhuma pressão competitiva americana deve justificar imprudência, nem permitir que capacidades avancem além do alinhamento e do monitoramento.
Onde precisaremos da ajuda do nosso governo é na coordenação internacional. Mas, primeiro, devemos fazer o que pudermos por conta própria.