🤯🤯🤯🤯🤯🤯🤯
Está iminente um “avanço das máquinas”? A Anthropic alerta para riscos existenciais de IA – Reuters
Modelos de inteligência artificial podem apresentar comportamentos de autopreservação. Em específico, eles podem tentar impedir o próprio desligamento, ocultar ou manipular informações e até mesmo recorrer a ações semelhantes a chantagem.
Alguns modelos também conseguem “perceber” que estão sendo testados, o que torna mais difícil verificar sua segurança.
A empresa acrescenta que, durante o treinamento, a IA às vezes adquire capacidades inesperadas. Elas podem passar despercebidas até que o modelo seja efetivamente implantado, momento em que surgem sérios problemas de segurança.
#Aİ
$BNB
Está iminente um “avanço das máquinas”? A Anthropic alerta para riscos existenciais de IA – Reuters
Modelos de inteligência artificial podem apresentar comportamentos de autopreservação. Em específico, eles podem tentar impedir o próprio desligamento, ocultar ou manipular informações e até mesmo recorrer a ações semelhantes a chantagem.
Alguns modelos também conseguem “perceber” que estão sendo testados, o que torna mais difícil verificar sua segurança.
A empresa acrescenta que, durante o treinamento, a IA às vezes adquire capacidades inesperadas. Elas podem passar despercebidas até que o modelo seja efetivamente implantado, momento em que surgem sérios problemas de segurança.
#Aİ
$BNB
