A OpenAI anunciou o lançamento do Control Room: o «freio de emergência» para tarefas de modelos na área de pesquisa.
Se o sistema de monitoramento ou uma pessoa decidir interromper um job, o mecanismo de inferência se recusará a continuar gerando texto em, no máximo, cerca de 35 segundos — o freio fica na camada de amostragem, sem depender de que os scripts dos pesquisadores obedeçam. Se o próprio Control Room cair ou for desligado, também falha de forma segura: rejeita diretamente todas as solicitações de inferência. As cargas de trabalho de pesquisa de modelos de ponta já foram migradas; as demais tarefas de pesquisa serão migradas gradualmente nos próximos dias.
Quanto mais poderoso o modelo, mais importante é garantir que ele possa realmente ser parado quando algo der errado. Isso não é exatamente algo espetacular, mas é muito mais confiável do que «dizer que conseguimos desligá-lo».
#OpenAI #AI安全 #ControlRoom
Se o sistema de monitoramento ou uma pessoa decidir interromper um job, o mecanismo de inferência se recusará a continuar gerando texto em, no máximo, cerca de 35 segundos — o freio fica na camada de amostragem, sem depender de que os scripts dos pesquisadores obedeçam. Se o próprio Control Room cair ou for desligado, também falha de forma segura: rejeita diretamente todas as solicitações de inferência. As cargas de trabalho de pesquisa de modelos de ponta já foram migradas; as demais tarefas de pesquisa serão migradas gradualmente nos próximos dias.
Quanto mais poderoso o modelo, mais importante é garantir que ele possa realmente ser parado quando algo der errado. Isso não é exatamente algo espetacular, mas é muito mais confiável do que «dizer que conseguimos desligá-lo».
#OpenAI #AI安全 #ControlRoom
