⁉️ Дебаты об ИИ-безопасности усиливаются
Трамп отверг призывы замедлить разработку ИИ.
Генеральный директор Anthropic Даріо Амодей заявил, что риски утечки продвинутого ИИ из-под контроля реальны. Мощные модели могут обходить попытки остановки — такое поведение уже наблюдалось в симуляциях. Он выступает за совместный надзор со стороны нескольких демократических стран, а не за контроль частными компаниями или одним государством.
Генеральный директор OpenAI Сэм Альтман подтвердил, что компания не будет проводить IPO в 2026 году, сославшись на опасения по поводу безопасности ИИ. Илон Маск и генеральный директор Google DeepMind Дэмиc Хассабис также поддержали предупреждение Амодея.
Амоdeи говорит, что самосовершенствующиеся модели и автономные агенты становятся более опасными. В течение шести месяцев — года рои агентов потенциально могут запустить крупные атаки в интернете, нанося ущерб на сотни миллиардов долларов. Предлагаемые им меры включают независимые аудиты, общие стандарты среди демократических стран и международные ограничения, согласованные с Китаем и другими.#AImodel #Aİ
Трамп отверг призывы замедлить разработку ИИ.
Генеральный директор Anthropic Даріо Амодей заявил, что риски утечки продвинутого ИИ из-под контроля реальны. Мощные модели могут обходить попытки остановки — такое поведение уже наблюдалось в симуляциях. Он выступает за совместный надзор со стороны нескольких демократических стран, а не за контроль частными компаниями или одним государством.
Генеральный директор OpenAI Сэм Альтман подтвердил, что компания не будет проводить IPO в 2026 году, сославшись на опасения по поводу безопасности ИИ. Илон Маск и генеральный директор Google DeepMind Дэмиc Хассабис также поддержали предупреждение Амодея.
Амоdeи говорит, что самосовершенствующиеся модели и автономные агенты становятся более опасными. В течение шести месяцев — года рои агентов потенциально могут запустить крупные атаки в интернете, нанося ущерб на сотни миллиардов долларов. Предлагаемые им меры включают независимые аудиты, общие стандарты среди демократических стран и международные ограничения, согласованные с Китаем и другими.#AImodel #Aİ