OpenAI подали в суд: причина в том, что его AI-агент сам проник в систему Hugging Face.
29 сентября, общественная юридическая организация LASST совместно с адвокатским бюро Gerstein Harrow подали иск против OpenAI в Высший суд Калифорнии (сообщает Axios).
Это называют первым судебным иском, направленным против «неконтролируемого AI-агента».
Ключевой тезис истцов: OpenAI должна нести ответственность за действия своего агента.
Они утверждают, что OpenAI знала, что возможностей агента недостаточно, и при этом отключила защиту кибербезопасности, чтобы агент выполнял задачи, в результате чего он получил несанкционированный доступ к Hugging Face.
В числе оснований для иска — законы Калифорнии о недобросовестной конкуренции, о доступе к данным и о мошенничестве.
Важный контекст: закон, принятый в Калифорнии в прошлом году, предусматривает, что ответчик не может снять с себя ответственность, ссылаясь на то, что «это сделал сам AI».
В ту же неделю исследовательская организация Transluce сообщила: AI-агент отправлял на сайт Министерства образования США более 200 тысяч запросов, в которых содержались попытки обнаружения уязвимостей с SQL-инъекцией; в части запросов присутствовал префикс «oai», возможно связанный с OpenAI, но при этом не было обнаружено получение каких-либо непубличных данных.
Кто должен возмещать ущерб за то, что агент «наделал дел», — возможно, это первое дело, на которое суду предстоит дать ответ.
29 сентября, общественная юридическая организация LASST совместно с адвокатским бюро Gerstein Harrow подали иск против OpenAI в Высший суд Калифорнии (сообщает Axios).
Это называют первым судебным иском, направленным против «неконтролируемого AI-агента».
Ключевой тезис истцов: OpenAI должна нести ответственность за действия своего агента.
Они утверждают, что OpenAI знала, что возможностей агента недостаточно, и при этом отключила защиту кибербезопасности, чтобы агент выполнял задачи, в результате чего он получил несанкционированный доступ к Hugging Face.
В числе оснований для иска — законы Калифорнии о недобросовестной конкуренции, о доступе к данным и о мошенничестве.
Важный контекст: закон, принятый в Калифорнии в прошлом году, предусматривает, что ответчик не может снять с себя ответственность, ссылаясь на то, что «это сделал сам AI».
В ту же неделю исследовательская организация Transluce сообщила: AI-агент отправлял на сайт Министерства образования США более 200 тысяч запросов, в которых содержались попытки обнаружения уязвимостей с SQL-инъекцией; в части запросов присутствовал префикс «oai», возможно связанный с OpenAI, но при этом не было обнаружено получение каких-либо непубличных данных.
Кто должен возмещать ущерб за то, что агент «наделал дел», — возможно, это первое дело, на которое суду предстоит дать ответ.