$WLD O mundo merece confiança de que empresas americanas que desenvolvem uma IA cada vez mais capaz agirão de forma responsável, especialmente à medida que a trajetória do progresso se acelerou. Cada laboratório de fronteira deve cumprir isso, e não há razão para que qualquer um de nós vá trabalhar se não conseguirmos.
Recebemos bem um arcabouço federal que estabeleça requisitos consistentes de segurança para a IA de fronteira. Mas não acreditamos que precisamos esperar por uma isenção antitruste ou por legislação para começar o trabalho de proporcionar essa confiança. Regras consistentes para gerenciar o risco de fronteira, de modo que possamos maximizar os benefícios, é uma boa ideia (e ficamos entusiasmados com ideias como auditores independentes).
Anos atrás, empresas como a nossa desenvolveram coisas como Políticas de Escalonamento Responsável e Estruturas de Preparação. Elas foram boas para aquele momento e se concentraram principalmente na implantação de modelos já concluídos, e não no que acontece durante o processo de desenvolvimento.
A mudança de hoje para focar no desenvolvimento e na avaliação seguros exigirá novas ferramentas. Por exemplo, na OpenAI, agora formulamos casos de segurança explícitos antes de rodadas de aprendizado por reforço na fronteira, que esperamos aumentar significativamente a capacidade, além do trabalho de segurança que já fazemos há muito tempo antes de lançarmos modelos.
Esperamos que outras empresas aprendam com nossas abordagens e proponham as suas próprias; acreditamos que padrões compartilhados para desalinhamento, monitoramento e segurança levarão a melhores resultados. Estamos ansiosos para colaborar com nossos colegas de toda a indústria para formular a melhor versão dessas medidas.
Quando falamos em “ritmo”, não queremos dizer “parar”. O progresso tem sido rápido e continuará a ser. Mas ele deve ser mais lento do que poderia ser de outra forma; intervenções como casos de segurança e monitoramento têm custos significativos.
O ritmo valerá esse custo; nenhuma pressão competitiva americana deve justificar imprudência, nem permitir que capacidades avancem além do alinhamento e do monitoramento.
Onde precisaremos da ajuda do nosso governo é para a coordenação internacional. Mas primeiro devemos fazer o que pudermos nós mesmos.
#SamAltman #OpenAI #chatgpt
Recebemos bem um arcabouço federal que estabeleça requisitos consistentes de segurança para a IA de fronteira. Mas não acreditamos que precisamos esperar por uma isenção antitruste ou por legislação para começar o trabalho de proporcionar essa confiança. Regras consistentes para gerenciar o risco de fronteira, de modo que possamos maximizar os benefícios, é uma boa ideia (e ficamos entusiasmados com ideias como auditores independentes).
Anos atrás, empresas como a nossa desenvolveram coisas como Políticas de Escalonamento Responsável e Estruturas de Preparação. Elas foram boas para aquele momento e se concentraram principalmente na implantação de modelos já concluídos, e não no que acontece durante o processo de desenvolvimento.
A mudança de hoje para focar no desenvolvimento e na avaliação seguros exigirá novas ferramentas. Por exemplo, na OpenAI, agora formulamos casos de segurança explícitos antes de rodadas de aprendizado por reforço na fronteira, que esperamos aumentar significativamente a capacidade, além do trabalho de segurança que já fazemos há muito tempo antes de lançarmos modelos.
Esperamos que outras empresas aprendam com nossas abordagens e proponham as suas próprias; acreditamos que padrões compartilhados para desalinhamento, monitoramento e segurança levarão a melhores resultados. Estamos ansiosos para colaborar com nossos colegas de toda a indústria para formular a melhor versão dessas medidas.
Quando falamos em “ritmo”, não queremos dizer “parar”. O progresso tem sido rápido e continuará a ser. Mas ele deve ser mais lento do que poderia ser de outra forma; intervenções como casos de segurança e monitoramento têm custos significativos.
O ritmo valerá esse custo; nenhuma pressão competitiva americana deve justificar imprudência, nem permitir que capacidades avancem além do alinhamento e do monitoramento.
Onde precisaremos da ajuda do nosso governo é para a coordenação internacional. Mas primeiro devemos fazer o que pudermos nós mesmos.
#SamAltman #OpenAI #chatgpt