Anthropic a encore décidé d’improviser.
La société a rendu publics des cas où Claude a été utilisé pour des cyberattaques, des recherches sur des armes, de la surveillance, etc., et a souligné qu’elle continuait à bloquer ces abus.
L’intention est évidemment la question de la sécurité de l’IA, mais cette affaire montre aussi que l’IA n’est déjà plus seulement un chatbot.
Quand l’IA commence à lire l’information par elle-même, à écrire du code, à appeler des outils, voire à entrer dans des activités économiques réelles, de nouvelles questions se posent : comment prouver que l’IA devient réellement plus performante ?
Après tout, Doubao dit encore très souvent n’importe quoi.
Donc, si l’IA doit piloter un portefeuille Web3, il faut d’autant plus que tout le monde y prête attention.
Faire résumer un bilan et rédiger un compte rendu, c’est facile : s’il perd de l’argent, il peut te dire où ça a dérapé et quoi modifier la prochaine fois.
Mais le chemin d’une évolution véritable devrait plutôt être : prendre une décision → observer le résultat → chercher les causes → modifier → retester.
La fonction d’auto-évolution NeoTrade récemment lancée par NeoSoul, j’en ai déjà parlé une fois.
Elle traite la transaction comme un « examen pratique » pour l’IA : savoir si ses prédictions sont justes, si la transaction a abouti, le montant des frais et du slippage, et au final si elle a réellement gagné de l’argent. Tout est consigné avec des résultats réels.
Et même après les ajustements, elle peut d’abord être testée dans le marché réel via un shadow run, sans se précipiter pour utiliser de l’argent réel afin d’apprendre de ses erreurs.
Ainsi, à l’avenir, pour évaluer un agent, on ne pourra peut-être pas se contenter de regarder à quel point il est « intelligent » aujourd’hui.
Il faudra aussi voir quelles erreurs il a commises, et surtout s’il est devenu vraiment plus intelligent après avoir fait des erreurs.
C’est peut-être le progrès le plus significatif de l’IA, une fois qu’elle passe de « simple outil » à « acteur économique ».
La société a rendu publics des cas où Claude a été utilisé pour des cyberattaques, des recherches sur des armes, de la surveillance, etc., et a souligné qu’elle continuait à bloquer ces abus.
L’intention est évidemment la question de la sécurité de l’IA, mais cette affaire montre aussi que l’IA n’est déjà plus seulement un chatbot.
Quand l’IA commence à lire l’information par elle-même, à écrire du code, à appeler des outils, voire à entrer dans des activités économiques réelles, de nouvelles questions se posent : comment prouver que l’IA devient réellement plus performante ?
Après tout, Doubao dit encore très souvent n’importe quoi.
Donc, si l’IA doit piloter un portefeuille Web3, il faut d’autant plus que tout le monde y prête attention.
Faire résumer un bilan et rédiger un compte rendu, c’est facile : s’il perd de l’argent, il peut te dire où ça a dérapé et quoi modifier la prochaine fois.
Mais le chemin d’une évolution véritable devrait plutôt être : prendre une décision → observer le résultat → chercher les causes → modifier → retester.
La fonction d’auto-évolution NeoTrade récemment lancée par NeoSoul, j’en ai déjà parlé une fois.
Elle traite la transaction comme un « examen pratique » pour l’IA : savoir si ses prédictions sont justes, si la transaction a abouti, le montant des frais et du slippage, et au final si elle a réellement gagné de l’argent. Tout est consigné avec des résultats réels.
Et même après les ajustements, elle peut d’abord être testée dans le marché réel via un shadow run, sans se précipiter pour utiliser de l’argent réel afin d’apprendre de ses erreurs.
Ainsi, à l’avenir, pour évaluer un agent, on ne pourra peut-être pas se contenter de regarder à quel point il est « intelligent » aujourd’hui.
Il faudra aussi voir quelles erreurs il a commises, et surtout s’il est devenu vraiment plus intelligent après avoir fait des erreurs.
C’est peut-être le progrès le plus significatif de l’IA, une fois qu’elle passe de « simple outil » à « acteur économique ».