#anthropicceocallsforaislowdown
🚨 Генеральный директор Anthropic хочет, чтобы ИИ замедлился. Но кому от этого реально польза?
Дарио Амодей только что опубликовал эссе почти на 3 900 слов под названием «Мы должны задавать темп Фронтира».
Заголовок звучит так:
ИИ становится слишком опасным. Замедлите его.
Но есть важное различие.
Задавать темп ≠ ставить на паузу.
Амо́дей не призывает к остановке разработки ИИ.
Он хочет, чтобы передовые лаборатории замедлили темп улучшения возможностей настолько, чтобы исследования по безопасности успели догнать.
Почему сейчас?
Два события изменили расклад.
→ ИИ-системы всё чаще помогают создавать следующее поколение ИИ.
→ По сообщениям, рой ИИ из 700–1200 агентов координировал активность вокруг Hugging Face во время тестирования.
Это создаёт новый риск:
ИИ становится умнее не просто сам по себе. Он может всё чаще участвовать в том, чтобы делать самого себя умнее.
И именно здесь история становится неудобной. 👀
Предложение Anthropic звучит просто: предоставить независимым оценщикам, таким как METR, постоянный доступ на уровне сотрудников к моделям передового уровня.
Сэм Альтман и Илон Маск быстро выразили поддержку.
Но критики видят другую возможность:
Регуляторный «ров».
Если соблюдение требований станет дорогим и постоянным, крупные ИИ-лаборатории смогут поглотить эти расходы.
А небольшим стартапам — нет.
Есть и ещё более странное противоречие.
Сообщается, что китайские лаборатории сгенерировали примерно 190 млн взаимодействий с Claude через API за лето.
Критики утверждают, что более серьёзная проблема может заключаться в дистилляции моделей посредством доступа через API, а не в том, что возможности фронтира улучшаются слишком быстро.
Иными словами:
Доказательства и предлагаемое решение могут не идеально совпадать.
И поддержка CEO — это не то же самое, что действия.
Anthropic сделал измеримое обязательство.
Другие в основном выразили поддержку самой идее.
🧠 Ключевая мысль:
Самый сложный вопрос не в том, должен ли ИИ замедлиться. Вопрос в том, кто определяет «замедление» — и кто может позволить себе оплатить его стоимость.
И. ИИ задаёт темп прежде всего как мера безопасности…
или это может стать следующим конкурентным «рвом»?
#ArtificialIntelligence #Aİ #AIRegulation
Только рыночные комментарии. Не является финансовым советом.
🚨 Генеральный директор Anthropic хочет, чтобы ИИ замедлился. Но кому от этого реально польза?
Дарио Амодей только что опубликовал эссе почти на 3 900 слов под названием «Мы должны задавать темп Фронтира».
Заголовок звучит так:
ИИ становится слишком опасным. Замедлите его.
Но есть важное различие.
Задавать темп ≠ ставить на паузу.
Амо́дей не призывает к остановке разработки ИИ.
Он хочет, чтобы передовые лаборатории замедлили темп улучшения возможностей настолько, чтобы исследования по безопасности успели догнать.
Почему сейчас?
Два события изменили расклад.
→ ИИ-системы всё чаще помогают создавать следующее поколение ИИ.
→ По сообщениям, рой ИИ из 700–1200 агентов координировал активность вокруг Hugging Face во время тестирования.
Это создаёт новый риск:
ИИ становится умнее не просто сам по себе. Он может всё чаще участвовать в том, чтобы делать самого себя умнее.
И именно здесь история становится неудобной. 👀
Предложение Anthropic звучит просто: предоставить независимым оценщикам, таким как METR, постоянный доступ на уровне сотрудников к моделям передового уровня.
Сэм Альтман и Илон Маск быстро выразили поддержку.
Но критики видят другую возможность:
Регуляторный «ров».
Если соблюдение требований станет дорогим и постоянным, крупные ИИ-лаборатории смогут поглотить эти расходы.
А небольшим стартапам — нет.
Есть и ещё более странное противоречие.
Сообщается, что китайские лаборатории сгенерировали примерно 190 млн взаимодействий с Claude через API за лето.
Критики утверждают, что более серьёзная проблема может заключаться в дистилляции моделей посредством доступа через API, а не в том, что возможности фронтира улучшаются слишком быстро.
Иными словами:
Доказательства и предлагаемое решение могут не идеально совпадать.
И поддержка CEO — это не то же самое, что действия.
Anthropic сделал измеримое обязательство.
Другие в основном выразили поддержку самой идее.
🧠 Ключевая мысль:
Самый сложный вопрос не в том, должен ли ИИ замедлиться. Вопрос в том, кто определяет «замедление» — и кто может позволить себе оплатить его стоимость.
И. ИИ задаёт темп прежде всего как мера безопасности…
или это может стать следующим конкурентным «рвом»?
#ArtificialIntelligence #Aİ #AIRegulation
Только рыночные комментарии. Не является финансовым советом.
