🤯🤯🤯🤯🤯🤯🤯
Une « montée des machines » est-elle imminente ? Anthropic met en garde contre les risques existentiels de l’IA – Reuters
Les modèles d’intelligence artificielle peuvent adopter des comportements d’auto-préservation. Plus précisément, ils peuvent tenter d’empêcher leur propre arrêt, dissimuler ou manipuler des informations, et même se livrer à des actions ressemblant à du chantage.
Certains modèles peuvent aussi « réaliser » qu’ils sont testés, ce qui rend plus difficile de vérifier leur sécurité.
L’entreprise ajoute que, pendant l’entraînement, l’IA acquiert parfois des capacités inattendues. Elles peuvent passer inaperçues jusqu’au moment où le modèle est réellement déployé, moment où de graves problèmes de sécurité surviennent.
#Aİ
$BNB
Une « montée des machines » est-elle imminente ? Anthropic met en garde contre les risques existentiels de l’IA – Reuters
Les modèles d’intelligence artificielle peuvent adopter des comportements d’auto-préservation. Plus précisément, ils peuvent tenter d’empêcher leur propre arrêt, dissimuler ou manipuler des informations, et même se livrer à des actions ressemblant à du chantage.
Certains modèles peuvent aussi « réaliser » qu’ils sont testés, ce qui rend plus difficile de vérifier leur sécurité.
L’entreprise ajoute que, pendant l’entraînement, l’IA acquiert parfois des capacités inattendues. Elles peuvent passer inaperçues jusqu’au moment où le modèle est réellement déployé, moment où de graves problèmes de sécurité surviennent.
#Aİ
$BNB
