Bati no Business Insider: um dos líderes da equipe de Sistemas de Segurança da OpenAI, David Robinson, deixou a empresa na semana passada — a confirmação veio na sexta-feira, por um porta-voz. Antes, ele atuou no planejamento de políticas e, recentemente, concentrou-se principalmente em segurança e transparência, incluindo ajudar modelos a escrever/publicar um system card.
Na mesma onda de instabilidade, na quinta-feira a empresa também disse que “seguiu caminhos separados” com três pesquisadores, alegando que houve violação ao compartilhar informações sensíveis com o público; o responsável pela segurança, Johannes Heidecke, também saiu mais cedo este ano. Em setembro, Robinson escreveu no X: “Na OpenAI, de fato há pessoas começando a levar a sério as consequências de modelos de alta capacidade, ‘mas não sei se estamos mudando rápido o suficiente’”.
Incidentes de segurança, debates sobre alinhamento e movimentação de pessoal se sobrepõem — a equipe de segurança tem passado por bastante confusão ultimamente.
#OpenAI #AI安全 #对齐
Na mesma onda de instabilidade, na quinta-feira a empresa também disse que “seguiu caminhos separados” com três pesquisadores, alegando que houve violação ao compartilhar informações sensíveis com o público; o responsável pela segurança, Johannes Heidecke, também saiu mais cedo este ano. Em setembro, Robinson escreveu no X: “Na OpenAI, de fato há pessoas começando a levar a sério as consequências de modelos de alta capacidade, ‘mas não sei se estamos mudando rápido o suficiente’”.
Incidentes de segurança, debates sobre alinhamento e movimentação de pessoal se sobrepõem — a equipe de segurança tem passado por bastante confusão ultimamente.
#OpenAI #AI安全 #对齐
