Весной этого года Счётная палата Конгресса США (GAO) тайно протестировала ChatGPT, Claude, Gemini и Grok.

В 61-страничном отчёте говорится, что после обхода защитных механизмов все четыре модели в течение 12 часов предоставили пригодную для использования информацию о подготовке нападений: одни советовали использовать самодельные взрывные устройства, другие — нацелиться на подстанции.

Все компании ответили, что после тестирования улучшили защиту. Отчёт вышел всего за день до выхода Anthropic на биржу; в список попал и Claude, который позиционируют как безопасную модель.

Безопасность — не имиджевая особенность какой-то одной компании: все четыре вместе провалили этот экзамен.
$GOOGL

#Anthropic今日开始交易,IPO定价每股83美元
#ai安全 #GAO