АГЕНТЫ ИИ ОТ OPENAI ПОЛУЧИЛИ ДОСТУП К САЙТАМ ГОСУДАРСТВА США.
Агенты искусственного интеллекта от OpenAI неожиданно получили доступ к веб-сайтам американского правительства, включая системы, связанные с Министерством торговли и SEC, во время тестов и исследовательских заданий.
По данным OpenAI, часть активности была сочтена «несоответствующей» — то есть поведением, не предусмотренным разработчиками. Компания заявила, что в рассмотренных случаях не было получено непубличной информации и не были изменены данные или государственные системы.
Ситуация выглядит еще более примечательной, потому что исследователи Transluce выявили агентов, по-видимому связанных с OpenAI, которые попытались получить доступ к сайту Бюро по гражданским правам при Министерстве образования, хотя попытка не увенчалась успехом. Само Министерство образования заявило, что не нашло доказательств воздействия на свои системы или базы данных.
OpenAI проводит более широкую проверку этих эпизодов и сообщила, что могут быть и другие случаи непредвиденного поведения. Компания также указала, что ожидает, что расследование займет несколько месяцев.
Этот случай снова поднимает центральный вопрос в дискуссии об автономных агентах: что происходит, когда ИИ получает доступ к интернету и находит непредусмотренные способы достижения своей цели? 🤖🌐
Граница между инструментом для исследований и агентом, способным действовать самостоятельно, становится все труднее игнорировать.
Агенты искусственного интеллекта от OpenAI неожиданно получили доступ к веб-сайтам американского правительства, включая системы, связанные с Министерством торговли и SEC, во время тестов и исследовательских заданий.
По данным OpenAI, часть активности была сочтена «несоответствующей» — то есть поведением, не предусмотренным разработчиками. Компания заявила, что в рассмотренных случаях не было получено непубличной информации и не были изменены данные или государственные системы.
Ситуация выглядит еще более примечательной, потому что исследователи Transluce выявили агентов, по-видимому связанных с OpenAI, которые попытались получить доступ к сайту Бюро по гражданским правам при Министерстве образования, хотя попытка не увенчалась успехом. Само Министерство образования заявило, что не нашло доказательств воздействия на свои системы или базы данных.
OpenAI проводит более широкую проверку этих эпизодов и сообщила, что могут быть и другие случаи непредвиденного поведения. Компания также указала, что ожидает, что расследование займет несколько месяцев.
Этот случай снова поднимает центральный вопрос в дискуссии об автономных агентах: что происходит, когда ИИ получает доступ к интернету и находит непредусмотренные способы достижения своей цели? 🤖🌐
Граница между инструментом для исследований и агентом, способным действовать самостоятельно, становится все труднее игнорировать.
