Исследователь Anthropic покидает индустрию ИИ, предупреждая, что гонка обгоняет контроль
🧠 Джейкоб Коксон, бывший исследователь, работавший над претрейнингом в OpenAI и Anthropic, ушёл из индустрии ИИ после предупреждения о том, что ведущие лаборатории продолжают ускоряться в сторону самоулучшающегося суперинтеллекта, несмотря на нерешённые риски.
⚠️ Коксон заявил, что в некоторых агрессивных сценариях ИИ может стать трудноуправляемым к концу 2027 года, хотя это остаётся его личной оценкой, а не официальным прогнозом от OpenAI или Anthropic.
🔎 Более примечательно то, что Эван Хабингер, исследователь по согласованию (alignment), который всё ещё работает в Anthropic, публично согласился и сказал, что вероятность того, что ИИ приведёт к вымиранию людей в течение следующего десятилетия, превышает 10%, при этом признавая, что по-прежнему нет чёткого плана по согласованию суперинтеллекта.
📊 Для рынков немедленное влияние, похоже, ограничено. Более значимые риски — это ужесточение регулирования, более строгие требования к безопасности и рост давления на крупнейшие компании ИИ со стороны механизмов управления (governance).
#Aİ $ANTHROPIC
🧠 Джейкоб Коксон, бывший исследователь, работавший над претрейнингом в OpenAI и Anthropic, ушёл из индустрии ИИ после предупреждения о том, что ведущие лаборатории продолжают ускоряться в сторону самоулучшающегося суперинтеллекта, несмотря на нерешённые риски.
⚠️ Коксон заявил, что в некоторых агрессивных сценариях ИИ может стать трудноуправляемым к концу 2027 года, хотя это остаётся его личной оценкой, а не официальным прогнозом от OpenAI или Anthropic.
🔎 Более примечательно то, что Эван Хабингер, исследователь по согласованию (alignment), который всё ещё работает в Anthropic, публично согласился и сказал, что вероятность того, что ИИ приведёт к вымиранию людей в течение следующего десятилетия, превышает 10%, при этом признавая, что по-прежнему нет чёткого плана по согласованию суперинтеллекта.
📊 Для рынков немедленное влияние, похоже, ограничено. Более значимые риски — это ужесточение регулирования, более строгие требования к безопасности и рост давления на крупнейшие компании ИИ со стороны механизмов управления (governance).
#Aİ $ANTHROPIC
