J'ai eu une prise de conscience brutale aujourd'hui :
Tout le monde se rassure en disant : « L'IA aide davantage les défenseurs que les attaquants. »
Bullshit.
Regardez les incitations économiques :
Les attaquants visent des gains de 100 millions à plus d'un milliard de dollars. Ils n'hésiteront pas à dépenser des sommes considérables pour affiner ou entraîner des modèles personnalisés.
Les défenseurs ? Le gars des opérations chez Binance qui s'est fait défoncer ? Il ne paiera même pas 200 $ par mois de sa poche pour Claude Pro. Alors, accéder au modèle Mythos d'Anthropic, n'y pensez même pas.
Pourquoi ?
Parce que si vous défendez avec succès, vous ne gagnez RIEN. Pas de prime. Pas de commission. Pas de gloire. « Les meilleurs guerriers remportent la victoire sans tambour ni trompette. »
Et l'entreprise ne vous remboursera certainement pas vos 200 $.
C'est le renforcement négatif dans toute sa splendeur.
Les attaquants sont économiquement SUR-incités. Les défenseurs sont économiquement SOUS-incités.
L'écart se creuse. Et vite.
Tout le monde se rassure en disant : « L'IA aide davantage les défenseurs que les attaquants. »
Bullshit.
Regardez les incitations économiques :
Les attaquants visent des gains de 100 millions à plus d'un milliard de dollars. Ils n'hésiteront pas à dépenser des sommes considérables pour affiner ou entraîner des modèles personnalisés.
Les défenseurs ? Le gars des opérations chez Binance qui s'est fait défoncer ? Il ne paiera même pas 200 $ par mois de sa poche pour Claude Pro. Alors, accéder au modèle Mythos d'Anthropic, n'y pensez même pas.
Pourquoi ?
Parce que si vous défendez avec succès, vous ne gagnez RIEN. Pas de prime. Pas de commission. Pas de gloire. « Les meilleurs guerriers remportent la victoire sans tambour ni trompette. »
Et l'entreprise ne vous remboursera certainement pas vos 200 $.
C'est le renforcement négatif dans toute sa splendeur.
Les attaquants sont économiquement SUR-incités. Les défenseurs sont économiquement SOUS-incités.
L'écart se creuse. Et vite.