#anthropicceocallsforaislowdown
Глава Anthropic призывает к замедлению развития ИИ — и спор становится всё труднее игнорировать
Разговоры об ИИ-безопасности на этой неделе приняли заметный оборот после того, как генеральный директор Anthropic Дарио Амодей публично призвал отрасль замедлить темпы разработки «передового» ИИ. Вместо требования полностью остановить развитие Амодей предложил рамочную модель, сосредоточенную на усиленном надзоре за безопасностью, независимых оценках и более тесной координации между ведущими ИИ-лабораториями. Генеральный директор OpenAI Сэм Альтман и основатель xAI Илон Маск позже выразили поддержку более осторожному подходу. Источник:
По словам Амодея, ключевая проблема в том, что возможности ИИ могут развиваться быстрее, чем отрасль способна надежно оценивать и контролировать их. Его предложение включает предоставление сторонним оценщикам безопасности более глубокого доступа к системам уровня frontier, а также создание механизмов, снижающих риск неконтролируемых гонок возможностей между крупными компаниями ИИ.
Почему это важно
Значимо, что это предупреждение исходит от компаний, создающих технологию, а не от внешних критиков. Это ставит сложный вопрос: если фирмы, наиболее близкие к передовому ИИ, просят проявить большую осторожность, как должны реагировать правительства, бизнес и инвесторы?
В то же время сохраняются сомнения. Критики утверждают, что призывы к более медленному развитию могут также приносить выгоду крупным действующим игрокам, повышая барьеры для небольших конкурентов. Другие считают, что геополитическая конкуренция сделает любое сколько-нибудь значимое замедление трудноосуществимым. Настоящая сложность может заключаться не в том, чтобы решить, должен ли ИИ продвигаться вперёд, а в том, чтобы определить, какой уровень надзора нужен, прежде чем всё более автономные системы глубоко укоренятся в экономике.
Сможет ли отрасль реалистично согласовать стандарты ИИ-безопасности, оставаясь при этом втянутой в глобальную гонку за лидерство в технологическом развитии?
$BR $CAP
Глава Anthropic призывает к замедлению развития ИИ — и спор становится всё труднее игнорировать
Разговоры об ИИ-безопасности на этой неделе приняли заметный оборот после того, как генеральный директор Anthropic Дарио Амодей публично призвал отрасль замедлить темпы разработки «передового» ИИ. Вместо требования полностью остановить развитие Амодей предложил рамочную модель, сосредоточенную на усиленном надзоре за безопасностью, независимых оценках и более тесной координации между ведущими ИИ-лабораториями. Генеральный директор OpenAI Сэм Альтман и основатель xAI Илон Маск позже выразили поддержку более осторожному подходу. Источник:
По словам Амодея, ключевая проблема в том, что возможности ИИ могут развиваться быстрее, чем отрасль способна надежно оценивать и контролировать их. Его предложение включает предоставление сторонним оценщикам безопасности более глубокого доступа к системам уровня frontier, а также создание механизмов, снижающих риск неконтролируемых гонок возможностей между крупными компаниями ИИ.
Почему это важно
Значимо, что это предупреждение исходит от компаний, создающих технологию, а не от внешних критиков. Это ставит сложный вопрос: если фирмы, наиболее близкие к передовому ИИ, просят проявить большую осторожность, как должны реагировать правительства, бизнес и инвесторы?
В то же время сохраняются сомнения. Критики утверждают, что призывы к более медленному развитию могут также приносить выгоду крупным действующим игрокам, повышая барьеры для небольших конкурентов. Другие считают, что геополитическая конкуренция сделает любое сколько-нибудь значимое замедление трудноосуществимым. Настоящая сложность может заключаться не в том, чтобы решить, должен ли ИИ продвигаться вперёд, а в том, чтобы определить, какой уровень надзора нужен, прежде чем всё более автономные системы глубоко укоренятся в экономике.
Сможет ли отрасль реалистично согласовать стандарты ИИ-безопасности, оставаясь при этом втянутой в глобальную гонку за лидерство в технологическом развитии?
$BR $CAP
