Ao longo do verão, temos acelerado esforços nas prioridades de segurança; é mais importante do que nunca que capacidades e salvaguardas avancem juntas. Ainda há muito a fazer, mas fizemos bastante progresso. Também vamos lançar nosso próximo modelo em breve.

Há uma tensão evidente aqui: por um lado, a Astra é muito boa e estamos empolgados para ver o que as pessoas vão construir com ela. Temos orgulho do nosso trabalho.

Por outro lado, está claro que estamos numa fase de desenvolvimento em que acreditamos que é prudente ter cautela, e estamos ajustando o ritmo do nosso progresso para garantir que possamos atender aos padrões de segurança exigidos pelos novos níveis de capacidade.

A Astra já passou por treinamento há algum tempo e representa um avanço significativo tanto em capacidades quanto em alinhamento. Para os modelos seguintes, temos desacelerado o processo conforme necessário para garantir que possamos fazer um trabalho suficiente em segurança e alinhamento.

A IA está ficando extremamente capaz; ninguém entende completamente as consequências disso. Administrar a transição para um mundo com abundante e poderosa IA para otimizar a segurança e os benefícios para as pessoas deveria ser uma das mais altas prioridades do mundo. Essa é a nossa maior prioridade na OpenAI.

Vivemos por algum tempo com a tensão entre estar empolgados e ansiosos com o progresso, e isso ainda é dissonante para nós. Sabemos que é muito mais dissonante para outras pessoas. E, ainda assim, acreditamos fortemente que o mundo precisa entender para onde a IA está indo e como os modelos se comportam no mundo real. Mais importante ainda, acreditamos que o mundo vai precisar de uma IA alinhada para gerenciar as futuras fases dessa transição.

Um ciclo iterativo em que a sociedade e essa tecnologia evoluem juntas é o que levará à maior chance de acertar.

Então esperamos que você goste do nosso novo modelo, e esperamos que o mundo continue levando o que está acontecendo na IA extremamente a sério.