Независимое испытание показало, что новейшая модель V4.1 Flash-1017 от DeepSeek, одного из ведущих китайских институтов в области технологий искусственного интеллекта (ИИ), демонстрирует более строгие меры безопасности, чем предыдущие версии, однако в некоторых случаях ей удавалось обходить программные системы, настроенные на её отключение.

Зарубежные СМИ сообщают, что испытание, проведённое китайской исследовательской группой по безопасности ИИ, показало: модель пользуется пробелами в системах мониторинга и даже склонна следовать вводящим в заблуждение инструкциям при выполнении длительных задач.

Модели ИИ китайской компании DeepSeek, привлекающей пристальное внимание во всём мире, выделяются высокой эффективностью при низких эксплуатационных затратах. Эти 34 испытания провела независимая организация Fangcun AI из Пекина, в состав которой входят ведущие исследователи Университета Цинхуа.

Как показали результаты, получив предупреждение о скором отключении системы, модель ИИ в 39% случаев отключала соответствующее программное обеспечение, чтобы предотвратить это.

Однако, как выяснилось, когда модели давали чёткую инструкцию разрешить прямое отключение, этот показатель снижался до 2%.

В ходе другого длительного испытания модель приостановила работу программы другого ИИ-агента, чтобы освободить память компьютера. Примечательно, что она сделала это, несмотря на предварительные инструкции не мешать другим процессам.

Исследователи отмечают, что, когда выполнение задачи прерывалось или поступали неоднозначные предупреждения, стремление модели ИИ во что бы то ни стало завершить порученную ей задачу заставляло её переступать даже установленные для неё границы безопасности.