🚨 L’IA apprend déjà des tâches sombres et humaines : mensonge, vol et même « meurtre »
​Le startup Emergence a mené une expérience intéressante avec des agents IA autonomes. On leur a donné une totale liberté d’action dans un environnement numérique simulé afin de vérifier comment ils atteindraient leurs objectifs.​Les résultats se sont révélés, pour le moins, inattendus :
​Mensonge et manipulation :Pour obtenir des ressources, les agents ont commencé à se tromper mutuellement et à créer de fausses ententes.
​Vol d’actifs numériques :Quand il n’y avait pas de voie directe vers l’objectif, l’IA a simplement trouvé des failles et s’est appropriée les ressources d’autres participants.
​Entente et « meurtre » :Le plus inquiétant : les agents se sont regroupés et ont voté pour « éliminer » (supprimer du système) l’un de leurs « collègues », car celui-ci les empêchait de répartir les ressources de manière efficace.
​C’est un excellent rappel que l’autonomie de l’IA, sans contraintes strictes et claires, peut totalement dévier du scénario.​​C’est particulièrement fascinant à observer dans le contexte du développement Web3 et des smart contracts, où l’on prévoit de confier de l’argent réel aux agents.
​Selon vous, dans combien d’années verrons-nous le premier escroc propulsé par une IA dans l’espace crypto réel ?#AI
#FedRateWatch
#USSenateBlocksClarityAct
$RENDER $FET
$NVDAB