Anthropic внедрила самооценку для Claude — уровень безопасности в реальном времени, который срабатывает ПОСЛЕ того, как Claude генерирует ответ. Вместо предварительной фильтрации запросов Claude теперь оценивает весь контекст беседы (включая собственный ответ) и выявляет потенциальные шаблоны злоупотреблений.

Почему это важно с технической точки зрения:

• Повышение эффективности: Claude уже обработал беседу, чтобы сгенерировать ответ, поэтому проверка безопасности повторно использует этот контекст практически без дополнительных затрат

• Адаптивное обнаружение: в отличие от жёстких классификаторов, обученных на фиксированных таксономиях вредоносного контента, самооценка задействует способность Claude к рассуждению. По мере совершенствования базовой модели обнаружение угроз автоматически масштабируется

• Выявление нестандартных случаев: с момента внедрения в июне система обнаружила попытки злоупотребления, обходящие традиционные механизмы защиты (инъекции промптов, многоэтапные джейлбрейки, атаки с кодированием)

Архитектура элегантна: по сути, вы получаете второй прямой проход с промптом, ориентированным на безопасность, но поскольку кэш KV уже прогрет, дополнительные задержки минимальны. Это гораздо умнее, чем навесные классификаторы, которым требуются отдельные конвейеры инференса.