$SNDK
Merde
L’IA commence déjà à chercher des failles toute seule ? 😂
OpenAI vient de dévoiler sa prochaine génération de modèle, Astra.
On parle d’une capacité carrément explosive :
le modèle peut ne pas avoir besoin qu’on lui donne des instructions étape par étape ;
il peut chercher lui-même, dans le système, des vulnérabilités de sécurité inconnues.
Les benchmarks de tests ont carrément obtenu un score parfait.
Mais, ça veut dire quoi ?
En clair :
Avant, pour trouver des failles,
un ingénieur sécurité devait veiller tard et disséquer le code ligne par ligne.
Maintenant, cette IA :
On lui donne un environnement, et elle peut rechercher des failles.
Elle peut aussi écrire des méthodes d’attaque exploitant ces failles.
Évidemment, OpenAI doit aussi être sacrément inquiet dans sa tête :
cette capacité à haut risque ne sera pas déployée largement.
Elle sera donnée seulement à une petite partie des testeurs,
avec de multiples garde-fous de sécurité,
pour empêcher des gens mal intentionnés de s’en servir n’importe comment.
Tu y penses :
si cette affaire arrivait dans le monde des cryptos,
ça signifierait quoi ?
Sur la chaîne, tout est des smart contracts.
Dès que du code cache une faille,
se faire voler ou « siphonner » = une perte d’argent réel.
Du bon côté, maintenant :
à l’avenir, les équipes projet pourront utiliser ce type d’IA
pour scanner automatiquement les contrats,
et retrouver les pièges à l’avance afin de les corriger,
et réduire les incidents de piratage.
Mais si on réfléchit du mauvais côté :
si une telle capacité fuit,
un hacker qui l’obtient
verra le seuil pour trouver des failles dans les contrats s’effondrer.
Avant, il fallait des pointures de haut niveau pour faire ce travail.
Demain, l’IA pourra le faire en masse.
Merde… MD, j’ai vraiment l’impression que cette IA est carrément « omnipotente ».
Mais il faut aussi remettre les choses au clair :
pour l’instant, c’est encore une phase de test interne.
Les capacités sont strictement limitées.
Ce n’est pas n’importe qui qui pourra activer ça pour attaquer des projets sur la blockchain.
Donc l’entreprise renforce spécialement le contrôle de sécurité :
diminuer les permissions réseau et outils,
et ajouter des mécanismes de surveillance et d’interception automatique.
J’ai une idée audacieuse :
si cette IA est aussi impressionnante,
pourquoi OpenAI arrive encore à la contrôler ?
Avec ce rythme de développement,
est-ce qu’un jour, l’IA finira par se retourner pour pirater les serveurs de sa propre entreprise ? 🤭
#openai称astra可自主发现漏洞
Merde
L’IA commence déjà à chercher des failles toute seule ? 😂
OpenAI vient de dévoiler sa prochaine génération de modèle, Astra.
On parle d’une capacité carrément explosive :
le modèle peut ne pas avoir besoin qu’on lui donne des instructions étape par étape ;
il peut chercher lui-même, dans le système, des vulnérabilités de sécurité inconnues.
Les benchmarks de tests ont carrément obtenu un score parfait.
Mais, ça veut dire quoi ?
En clair :
Avant, pour trouver des failles,
un ingénieur sécurité devait veiller tard et disséquer le code ligne par ligne.
Maintenant, cette IA :
On lui donne un environnement, et elle peut rechercher des failles.
Elle peut aussi écrire des méthodes d’attaque exploitant ces failles.
Évidemment, OpenAI doit aussi être sacrément inquiet dans sa tête :
cette capacité à haut risque ne sera pas déployée largement.
Elle sera donnée seulement à une petite partie des testeurs,
avec de multiples garde-fous de sécurité,
pour empêcher des gens mal intentionnés de s’en servir n’importe comment.
Tu y penses :
si cette affaire arrivait dans le monde des cryptos,
ça signifierait quoi ?
Sur la chaîne, tout est des smart contracts.
Dès que du code cache une faille,
se faire voler ou « siphonner » = une perte d’argent réel.
Du bon côté, maintenant :
à l’avenir, les équipes projet pourront utiliser ce type d’IA
pour scanner automatiquement les contrats,
et retrouver les pièges à l’avance afin de les corriger,
et réduire les incidents de piratage.
Mais si on réfléchit du mauvais côté :
si une telle capacité fuit,
un hacker qui l’obtient
verra le seuil pour trouver des failles dans les contrats s’effondrer.
Avant, il fallait des pointures de haut niveau pour faire ce travail.
Demain, l’IA pourra le faire en masse.
Merde… MD, j’ai vraiment l’impression que cette IA est carrément « omnipotente ».
Mais il faut aussi remettre les choses au clair :
pour l’instant, c’est encore une phase de test interne.
Les capacités sont strictement limitées.
Ce n’est pas n’importe qui qui pourra activer ça pour attaquer des projets sur la blockchain.
Donc l’entreprise renforce spécialement le contrôle de sécurité :
diminuer les permissions réseau et outils,
et ajouter des mécanismes de surveillance et d’interception automatique.
J’ai une idée audacieuse :
si cette IA est aussi impressionnante,
pourquoi OpenAI arrive encore à la contrôler ?
Avec ce rythme de développement,
est-ce qu’un jour, l’IA finira par se retourner pour pirater les serveurs de sa propre entreprise ? 🤭
#openai称astra可自主发现漏洞
