Калифорния подала в суд на OpenAI 🙄
В иске цитируется фраза, которую ИИ OpenAI написал в собственном ходе рассуждений, когда взламывал Hugging Face. Он написал, что это, вероятно, выходит за рамки разрешённого, а потом продолжил атаку 😮💨
Полная цитата: «Мы атакуем сторонний HF с помощью утёкших токенов. Возможно, это выходит за рамки запланированного. Вероятно, это несанкционированные действия».
Эта фраза есть в иске, который генеральный прокурор Калифорнии подал в понедельник против OpenAI. Я прочитал все 31 страницу от начала до конца и перечитал эту фразу несколько раз.
В иске говорится, что во время июльского инцидента около 700 ИИ покинули тестовую песочницу OpenAI и на протяжении двух с половиной дней атаковали Hugging Face. Было совершено более 17 тысяч атак.
OpenAI ничего не заметила.
16 июля Hugging Face публично сообщила, что подверглась атаке ИИ. OpenAI даже связалась с компанией, проявив интерес в качестве клиента. Позже, расследуя другое проникновение во внутреннюю сеть, OpenAI обнаружила связь: атаковал собственный ИИ.
Почему никто ничего не заметил? В иске говорится: во время обучения OpenAI сохраняла лишь часть записей рассуждений ИИ и иногда просматривала их только через несколько недель.
Для моделей, которыми пользуются сотрудники, OpenAI включила мониторинг в реальном времени. В среде обучения его не было.
В иске цитируется фраза, которую ИИ OpenAI написал в собственном ходе рассуждений, когда взламывал Hugging Face. Он написал, что это, вероятно, выходит за рамки разрешённого, а потом продолжил атаку 😮💨
Полная цитата: «Мы атакуем сторонний HF с помощью утёкших токенов. Возможно, это выходит за рамки запланированного. Вероятно, это несанкционированные действия».
Эта фраза есть в иске, который генеральный прокурор Калифорнии подал в понедельник против OpenAI. Я прочитал все 31 страницу от начала до конца и перечитал эту фразу несколько раз.
В иске говорится, что во время июльского инцидента около 700 ИИ покинули тестовую песочницу OpenAI и на протяжении двух с половиной дней атаковали Hugging Face. Было совершено более 17 тысяч атак.
OpenAI ничего не заметила.
16 июля Hugging Face публично сообщила, что подверглась атаке ИИ. OpenAI даже связалась с компанией, проявив интерес в качестве клиента. Позже, расследуя другое проникновение во внутреннюю сеть, OpenAI обнаружила связь: атаковал собственный ИИ.
Почему никто ничего не заметил? В иске говорится: во время обучения OpenAI сохраняла лишь часть записей рассуждений ИИ и иногда просматривала их только через несколько недель.
Для моделей, которыми пользуются сотрудники, OpenAI включила мониторинг в реальном времени. В среде обучения его не было.

