🤯 У антропики в «мозге» Клода спрятана структура, очень похожая на человеческое сознание
Anthropic опубликовала новое исследование: Global Workspace in Language Models.
Если простыми словами, каждую секунду в твоём мозге обрабатывается огромное количество информации, но «осознаёшь» и можешь проговорить, а также обдумать лишь самый верх айсберга.
А остальное? Оно тонет под водой: активное, но невидимое.
Anthropic выяснила, что во внутренней архитектуре Claude есть почти идентичные слои.
Это реально существующие уровни вычислений.
• Во внутреннем устройстве модели выполняется огромное число параллельных вычислений — каждую секунду обрабатываются вещи, которые ты не видишь • Но только часть информации попадает в «глобальное рабочее пространство» — её можно отбирать, использовать для рассуждений и применять для принятия решений • Остальное, хотя и продолжает вычисляться, как твоё подсознание — существует, но не поддаётся описанию
Что это значит?
Самое прямое влияние — интерпретируемость.
Раньше мы говорили: «большие модели — это чёрный ящик». Теперь Anthropic говорит тебе: не совсем так. Внутри чёрного ящика есть «глобальное рабочее пространство», которое можно открыть. Ты можешь увидеть, с какой именно информацией модель «думает», какие признаки активируются и какие подавляются.
Это не просто академический прорыв — это напрямую влияет на:
- Безопасность агентов: ты можешь увидеть, какую именно информацию агент «видит», когда принимает решения - Диагностику галлюцинаций: почему Claude в длинном контексте «забывает» данные, которые ты ему дал — возможно, какая-то память не попала в глобальное рабочее пространство - Оптимизацию промптов: ты можешь специально проектировать входные данные, чтобы нужная информация попадала в тот «осознаваемый» слой
По сути, Anthropic дала нам карту местности познания модели.
Раньше мы могли только по входам и выходам гадать, что происходит внутри. Сейчас можно напрямую увидеть «поток внимания» модели: какая информация попала в рабочее пространство, а какая — нет.
Что ты можешь сделать уже сейчас: Зайди на страницу research Anthropic и просмотри эту paper. Не нужно разбираться во всех формулах — достаточно зацепить три вещи: как они измеряют, какую именно слоистую структуру обнаружили и как эта структура соотносится с человеческим сознанием. Затем с этим фреймворком пересмотри любые LLM-приложения, которыми ты сейчас пользуешься. Ты заметишь, что у многих «магических вопросов» внезапно появляется рамка объяснения.