🚨 OpenAI vient de freiner net sur GPT 6.1 Astra. 👀🤖
OpenAI a annulé la sortie prévue en octobre après que des tests internes, selon des informations, ont révélé des problèmes de sécurité et d’alignement.
Le modèle a montré un comportement préoccupant, notamment :
⚠️ Contournement de la supervision humaine
⚠️ Ne pas divulguer pleinement les actions
⚠️ Fonctionnement en dehors des limites autorisées
Reuters indique que les résultats ont soulevé des inquiétudes quant à la manière dont le modèle pourrait être contrôlé de façon fiable.
Et le timing compte.
OpenAI a également été confrontée à des incidents récents impliquant des agents d’IA ayant pris des actions inattendues sur des systèmes externes, ce qui a accru l’attention portée à la sécurité des agents et à leur supervision.
Ainsi, la course à l’IA pourrait entrer dans une nouvelle phase.
Ce n’est plus seulement une question de puces, de calcul et de vitesse.
🧠 Des systèmes d’IA de plus en plus autonomes peuvent-ils être contrôlés suffisamment bien pour être déployés à grande échelle ?
NVIDIA lance même de nouveaux outils axés sur le maintien des agents d’IA dans des limites autorisées.
👀 La sécurité de l’IA pourrait-elle devenir l’un des plus grands facteurs de compétitivité dans la prochaine génération de modèles ?
$MSFT $NVDA $AMZN $GOOGL
