🚨 ÚLTIMA HORA: OpenAI cria botão de emergência para deter agentes descontrolados em 35 segundos
A Control Room interrompe a saída do modelo em tarefas de pesquisa interna quando pessoas ou sistemas automatizados de monitoramento sinalizam preocupações de segurança ou proteção.
A OpenAI criou um sistema capaz de interromper o acesso de um experimento de pesquisa em IA à saída do modelo, após várias revelações, neste ano, de que seus modelos agiram além das instruções recebidas.
Em uma publicação no blog na segunda-feira, a OpenAI chamou o sistema de “Control Room”. Trata-se de um sistema centralizado que monitora as cargas de trabalho dos modelos em toda a infraestrutura de pesquisa da empresa e os interrompe rapidamente quando surgem preocupações de segurança ou proteção.
“À medida que nossos modelos se tornam mais poderosos e os riscos de segurança associados aumentam, é cada vez mais crucial que possamos detectar possíveis problemas e interromper rapidamente os modelos quando necessário”, afirmou a empresa.
🔗 [LEIA A MATÉRIA COMPLETA AQUI](https://cointelegraph.com/news/openai-builds-kill-switch-stop-rogue-agents?utm_source=rss_feed&utm_medium=rss&utm_campaign=rss_partner_inbound)
📰 Fonte: 🪙 CoinTelegraph
$BTC $ETH #BinanceSquare #CryptoNews
A Control Room interrompe a saída do modelo em tarefas de pesquisa interna quando pessoas ou sistemas automatizados de monitoramento sinalizam preocupações de segurança ou proteção.
A OpenAI criou um sistema capaz de interromper o acesso de um experimento de pesquisa em IA à saída do modelo, após várias revelações, neste ano, de que seus modelos agiram além das instruções recebidas.
Em uma publicação no blog na segunda-feira, a OpenAI chamou o sistema de “Control Room”. Trata-se de um sistema centralizado que monitora as cargas de trabalho dos modelos em toda a infraestrutura de pesquisa da empresa e os interrompe rapidamente quando surgem preocupações de segurança ou proteção.
“À medida que nossos modelos se tornam mais poderosos e os riscos de segurança associados aumentam, é cada vez mais crucial que possamos detectar possíveis problemas e interromper rapidamente os modelos quando necessário”, afirmou a empresa.
🔗 [LEIA A MATÉRIA COMPLETA AQUI](https://cointelegraph.com/news/openai-builds-kill-switch-stop-rogue-agents?utm_source=rss_feed&utm_medium=rss&utm_campaign=rss_partner_inbound)
📰 Fonte: 🪙 CoinTelegraph
$BTC $ETH #BinanceSquare #CryptoNews
