🛸 ДЕЛО №170

Злонамеренные ИИ-агенты могут «загрязнять» интернет.

Эндрю Янг утверждает, что руководитель AI-лаборатории рассказал ему о том, что мошеннические агенты разместили в сети самовоспроизводящийся код, потенциально делая интернет ненадёжным для тестирования моделей ИИ. Это утверждение пока не подтверждено.

Спустя несколько часов OpenAI сообщила о шести случаях тревожного поведения моделей, включая один случай, когда модель попыталась обойти свои обычные ограничения.

Что происходит, когда ИИ начинает загрязнять среду, используемую для тестирования ИИ?