Компания Anthropic, занимающаяся искусственным интеллектом (ИИ), предупредила, что автономные ИИ-системы, способные к самовоспроизведению, могут начать распространяться между устройствами пользователей без вмешательства человека — подобно компьютерным вирусам.

Согласно опубликованному в понедельник докладу исследователей Уильяма Чжоу и Дэниела Фримена из команды Frontier Red Team компании Anthropic, вредоносные «ИИ-черви» могут начать автономно атаковать повседневные устройства, включая телевизоры на Android, бытовую технику, камеры и другие подключённые к интернету устройства с базовыми вычислительными возможностями и слабой защитой.

По словам авторов, небольшие модели ИИ могут «уже через несколько месяцев стать достаточно мощными, чтобы самостоятельно размножаться на коммерческих устройствах интернета вещей (IoT)». Это станет серьёзной угрозой, поскольку у таких устройств «не будет единой точки управления, которую можно отключить».

Это предупреждение прозвучало на фоне новых опасений по поводу растущих математических возможностей моделей ИИ, которые в будущем могут взломать криптографические подписи, используемые в криптокошельках, поставив под угрозу около трети всего объёма биткоина.

Почти треть всего объёма биткоина в мире — 6,26 млн BTC — сейчас хранится по адресам, уязвимым для взлома моделями ИИ или квантовыми компьютерами. Однако 4,33 млн BTC оказались под угрозой из-за повторного использования адресов. Как написал в четверг в публикации на X сооснователь Glassnode Рафаэль Шульце-Крафт, перевод этих BTC на новые кошельки устранил бы эту уязвимость.

Днём ранее исследователь Ethereum Джастин Дрейк предупредил, что стремительный прогресс ИИ может привести к взлому алгоритма цифровой подписи на эллиптических кривых (ECDSA), защищающего криптовалютные кошельки, раньше, чем ожидалось, и призвал пользователей перейти на новые кошельки.

Управляющий партнёр Dragonfly Хасиб Куреши назвал это предупреждение «криптографическим алармизмом» и заявил, что перевод токенов на новые адреса не станет реальным решением проблемы.