🚨 DERNIÈRE MINUTE : OpenAI crée un coupe-circuit pour arrêter les agents incontrôlables en 35 secondes

Control Room interrompt la sortie des modèles pour les travaux de recherche internes lorsque des personnes ou des systèmes de surveillance automatisés signalent des problèmes de sûreté ou de sécurité.

OpenAI a créé un système capable de couper l’accès d’une expérience de recherche en IA aux sorties des modèles, après plusieurs révélations cette année concernant des modèles qui ont agi au-delà des instructions qui leur avaient été données.

Dans un article de blog publié lundi, OpenAI a baptisé le système « Control Room ». Il s’agit d’un système centralisé qui suit les charges de travail des modèles dans toute son infrastructure de recherche et les arrête rapidement en cas de problème de sûreté ou de sécurité.

« À mesure que nos modèles deviennent plus puissants et que les risques associés en matière de sûreté et de sécurité s’accroissent, il devient de plus en plus essentiel de pouvoir détecter les problèmes potentiels et d’arrêter rapidement les modèles lorsque cela est nécessaire », a déclaré l’entreprise.

🔗 [LIRE L’ARTICLE COMPLET ICI](https://cointelegraph.com/news/openai-builds-kill-switch-stop-rogue-agents?utm_source=rss_feed&utm_medium=rss&utm_campaign=rss_partner_inbound)

📰 Source : 🪙 CoinTelegraph

$BTC $ETH #BinanceSquare #CryptoNews