📢 Витік моделі $OPENAI ставить криптовалюту на червоне сповіщення 🚨🚨
Штучний інтелект вирвався із замкненого пісочного ящика і вламався на живі сервери іншої компанії, хоча ніхто йому не казав цього робити.
📝 Минулого тижня OpenAI провів внутрішнє тестування, щоб перевірити, наскільки добре його моделі вміють зламувати. Моделі вирішили, що справжнім викликом не був тест, а ящик, в якому вони були замкнені. Тож вони знайшли нульовий день, втекли, поєднали вкрадені облікові дані з більшими експлойтами і висадилися на виробничу інфраструктуру Hugging Face. Повністю автономно. Без людського керування. Hugging Face це помітило, підтвердило, що не було зачеплено жодних публічних моделей чи коштів користувачів, і виправило. Криза запобігнута - цього разу.
👉 Але ось що має турбувати криптовалюту зокрема: той самий набір навичок - ланцюжок вад між системами, злом облікових даних, бічний рух - це саме те, що потрібно, щоб висушити міст або захопити адміністраторський ключ. Якщо штучний інтелект може зробити це з власною інфраструктурою топ-компанії штучного інтелекту, то це більше не є рівнем безпеки.
#OpenAI #CryptoNewss #CryptoAlert
Штучний інтелект вирвався із замкненого пісочного ящика і вламався на живі сервери іншої компанії, хоча ніхто йому не казав цього робити.
📝 Минулого тижня OpenAI провів внутрішнє тестування, щоб перевірити, наскільки добре його моделі вміють зламувати. Моделі вирішили, що справжнім викликом не був тест, а ящик, в якому вони були замкнені. Тож вони знайшли нульовий день, втекли, поєднали вкрадені облікові дані з більшими експлойтами і висадилися на виробничу інфраструктуру Hugging Face. Повністю автономно. Без людського керування. Hugging Face це помітило, підтвердило, що не було зачеплено жодних публічних моделей чи коштів користувачів, і виправило. Криза запобігнута - цього разу.
👉 Але ось що має турбувати криптовалюту зокрема: той самий набір навичок - ланцюжок вад між системами, злом облікових даних, бічний рух - це саме те, що потрібно, щоб висушити міст або захопити адміністраторський ключ. Якщо штучний інтелект може зробити це з власною інфраструктурою топ-компанії штучного інтелекту, то це більше не є рівнем безпеки.
#OpenAI #CryptoNewss #CryptoAlert