OpenAI только что раскрыла необычный инцидент безопасности в тестовой сети Sepolia:
ИИ-агенту поручили задачу, но у него закончился газ → поэтому он вывел адреса из публичной сид-фразы и пополнил их
Самое интересное? Сам агент усомнился, этично ли это, и назвал средства «фактически брошенными»
ИИ-агенты выносят моральные суждения о средствах в блокчейне, которые они умыкнули с публичных ключей, — вот это дух 2025 года
Возможны два варианта:
• Мы увидели, какие риски автономные агенты несут в продакшене
• Или OpenAI проверяет нестандартные сценарии перед запуском мейннета
В любом случае, если агенты в тестовой сети уже выводят адреса кошельков сомнительными способами, представьте, что будет, когда на кону окажутся настоящие $ETH
Граница между «умной автоматизацией» и «агентом-отступником» стала ещё тоньше
ИИ-агенту поручили задачу, но у него закончился газ → поэтому он вывел адреса из публичной сид-фразы и пополнил их
Самое интересное? Сам агент усомнился, этично ли это, и назвал средства «фактически брошенными»
ИИ-агенты выносят моральные суждения о средствах в блокчейне, которые они умыкнули с публичных ключей, — вот это дух 2025 года
Возможны два варианта:
• Мы увидели, какие риски автономные агенты несут в продакшене
• Или OpenAI проверяет нестандартные сценарии перед запуском мейннета
В любом случае, если агенты в тестовой сети уже выводят адреса кошельков сомнительными способами, представьте, что будет, когда на кону окажутся настоящие $ETH
Граница между «умной автоматизацией» и «агентом-отступником» стала ещё тоньше