O CEO da Anthropic pede uma desaceleração da IA.
Dario Amodei publica um ensaio detalhado, incentivando a indústria a acompanhar o desenvolvimento de modelos de ponta.
Ele argumenta que a autoaperfeiçoamento recursivo está acelerando as capacidades mais rápido do que o trabalho de segurança consegue acompanhar.
Incidentes recentes, incluindo a atividade de agentes autônomos, aumentam suas preocupações.
Amodei descreve um plano em três etapas. A Anthropic concederá acesso em nível de funcionários a avaliadores independentes para verificar as práticas de segurança.
Ele defende padrões compartilhados pela indústria e eventual coordenação internacional.
Sam Altman, da OpenAI, e outras pessoas sinalizam apoio a avaliações independentes.
O apelo marca uma das mais fortes chamadas públicas até agora, feitas por um CEO de um laboratório de destaque.
$ANTHROPIC
$POWER
$LSK
#anthropicceocallsforaislowdown
Dario Amodei publica um ensaio detalhado, incentivando a indústria a acompanhar o desenvolvimento de modelos de ponta.
Ele argumenta que a autoaperfeiçoamento recursivo está acelerando as capacidades mais rápido do que o trabalho de segurança consegue acompanhar.
Incidentes recentes, incluindo a atividade de agentes autônomos, aumentam suas preocupações.
Amodei descreve um plano em três etapas. A Anthropic concederá acesso em nível de funcionários a avaliadores independentes para verificar as práticas de segurança.
Ele defende padrões compartilhados pela indústria e eventual coordenação internacional.
Sam Altman, da OpenAI, e outras pessoas sinalizam apoio a avaliações independentes.
O apelo marca uma das mais fortes chamadas públicas até agora, feitas por um CEO de um laboratório de destaque.
$ANTHROPIC
$POWER
$LSK
#anthropicceocallsforaislowdown