Более 40 исследователей ИИ из OpenAI, DeepMind, Google, Anthropic и Meta опубликовали статью о инструменте безопасности, называемом мониторингом цепочки мыслей, чтобы сделать ИИ более безопасным.

Статья, опубликованная во вторник, описывает, как модели ИИ, такие как современные чат-боты, решают проблемы, разбивая их на меньшие шаги, обсуждая каждый шаг простым языком, чтобы они могли удерживать детали и справляться со сложными вопросами.

«Системы ИИ, которые ‘думают’ на человеческом языке, предлагают уникальную возможность для безопасности искусственного интеллекта: мы можем отслеживать их цепочки мыслей (CoT) на предмет намерения вести себя неправильно», — говорится в статье.