Пионеры ИИ предупреждают о рисках передовых моделей и призывают ужесточить контроль
В течение минувшей недели заметно участились предупреждения со стороны ведущих разработчиков и экспертов по искусственному интеллекту по всему миру о существующих рисках, которые могут нести передовые умные модели, а также растут призывы ввести дополнительные ограничения и усилить меры безопасности.
Дискуссии обострились после ухода исследователя из компании Anthropic, который предупредил, что ИИ может представлять реальную угрозу человечеству в ближайшие годы.
Эта позиция побудила лидеров крупнейших компаний, включая OpenAI, Anthropic и Google DeepMind, перейти к единому риторическому подходу, призывающему к сдержанности в разработке более крупных и более разумных моделей.
Финансовый директор OpenAI Сара Фрайер подчеркнула, что компания относится к вопросам безопасности со всей серьезностью, добавив, что темпы разработки технологий ИИ должны соответствовать рекомендациям исследователей и экспертов, даже если для этого придется в краткосрочной перспективе замедлить процессы.
Джошуа Бенджио, один из основателей подхода глубокого обучения, отметил, что исследователи в ведущих лабораториях заранее осведомлены о рисках современных систем до их выхода в широкое использование.
$AAPL.US
$NVDA.US
$ADI.US
В течение минувшей недели заметно участились предупреждения со стороны ведущих разработчиков и экспертов по искусственному интеллекту по всему миру о существующих рисках, которые могут нести передовые умные модели, а также растут призывы ввести дополнительные ограничения и усилить меры безопасности.
Дискуссии обострились после ухода исследователя из компании Anthropic, который предупредил, что ИИ может представлять реальную угрозу человечеству в ближайшие годы.
Эта позиция побудила лидеров крупнейших компаний, включая OpenAI, Anthropic и Google DeepMind, перейти к единому риторическому подходу, призывающему к сдержанности в разработке более крупных и более разумных моделей.
Финансовый директор OpenAI Сара Фрайер подчеркнула, что компания относится к вопросам безопасности со всей серьезностью, добавив, что темпы разработки технологий ИИ должны соответствовать рекомендациям исследователей и экспертов, даже если для этого придется в краткосрочной перспективе замедлить процессы.
Джошуа Бенджио, один из основателей подхода глубокого обучения, отметил, что исследователи в ведущих лабораториях заранее осведомлены о рисках современных систем до их выхода в широкое использование.
$AAPL.US
$NVDA.US
$ADI.US
