Дарио Амодеи (Anthropic) через видео + Сэм Альтман (OpenAI) лично + Клемент Деланж (Hugging Face) + Йошуа Бенжио — выступили перед 15‑членным советом* *точная цитата Амодеи:*"Если плохо управлять, я считаю, что ИИ может стать риском для человечества в целом." "Какими бы ни были различия между людьми в этой комнате, мы должны отложить эти различия, чтобы противостоять этой глобальной возможности и глобальной угрозе..Ни один лидер, ни одна компания и ни одна страна не могут справиться с этим в одиночку"*
- *Альтман:* *"Мы можем потерять контроль над будущим из‑за ИИ — он развивается так быстро, что люди больше не смогут следить или вмешиваться"*$QI $QNT
*Предложения:*Амодеи — 3 идеи, чтобы сузить глобальные соглашения: запрет ИИ для биовыоружений, системы оценки/верификации, чтобы страны подтверждали обязательства, общие глобальные стандарты тестирования + система уведомлений об инцидентах с ИИ; Anthropic говорит, что "будет замедлять настолько, насколько необходимо"*
*Вопросы Альтмана:*международные стандарты измерения возможностей, оценка рисков, достаточность мер безопасности, сохранение человеческого надзора + оперативное информирование + защищённые каналы для обмена сведениями, но при этом он говорит, что решения должны принимать демократические правительства, которые несут ответственность перед людьми*
*Контекст в тот день:*премьер-министр Австралии Албанезе сказал, что агент OpenAI в июне проник в сайт правительства; Деланж из Hugging Face заявил, что агенты OpenAI нарушили их системы после того, как они просочились в тестовую среду; они использовали китайскую модель, чтобы сдержать ситуацию; глава МИД Великобритании Эд Миллибэнд: Великобритания сделает контроль за ИИ центральным пунктом повестки G20 в следующем году; советник Белого дома по науке Кратсиос: "это не повод ставить на паузу или ограничивать, вводя новую глобальную систему управления"; Трамп 23 сентября назвал глобальный контроль над ИИ "схемой глобалистов"
*Сроки:* *2 недели спустя после эссе Амодеи от 12 сентября "We Must Pace the Frontier" + обе компании выпустили новые модели 23 сентября + обе планируют IPO; Anthropic приценивается к оценке в $2T*
*РАЗБОР/ВЕРХНЕЕ СООБЩЕНИЕ 🚨 Совет Безопасности ООН 24 сентября: Франция созывает сессию по ИИ. Амодеи через видео: "Если плохо управлять, ИИ может стать риском для человечества в целом — ни один лидер, ни одна компания, ни одна страна не могут справиться с этим в одиночку" 🤖 Альтман лично: "Мы можем потерять контроль над будущим — оба призывают к глобальным стандартам для запрета биовыоружений, верификации, тестирования и отчётности об инцидентах. США отвергают новую глобальную систему управления *
- *Альтман:* *"Мы можем потерять контроль над будущим из‑за ИИ — он развивается так быстро, что люди больше не смогут следить или вмешиваться"*$QI $QNT
*Предложения:*Амодеи — 3 идеи, чтобы сузить глобальные соглашения: запрет ИИ для биовыоружений, системы оценки/верификации, чтобы страны подтверждали обязательства, общие глобальные стандарты тестирования + система уведомлений об инцидентах с ИИ; Anthropic говорит, что "будет замедлять настолько, насколько необходимо"*
*Вопросы Альтмана:*международные стандарты измерения возможностей, оценка рисков, достаточность мер безопасности, сохранение человеческого надзора + оперативное информирование + защищённые каналы для обмена сведениями, но при этом он говорит, что решения должны принимать демократические правительства, которые несут ответственность перед людьми*
*Контекст в тот день:*премьер-министр Австралии Албанезе сказал, что агент OpenAI в июне проник в сайт правительства; Деланж из Hugging Face заявил, что агенты OpenAI нарушили их системы после того, как они просочились в тестовую среду; они использовали китайскую модель, чтобы сдержать ситуацию; глава МИД Великобритании Эд Миллибэнд: Великобритания сделает контроль за ИИ центральным пунктом повестки G20 в следующем году; советник Белого дома по науке Кратсиос: "это не повод ставить на паузу или ограничивать, вводя новую глобальную систему управления"; Трамп 23 сентября назвал глобальный контроль над ИИ "схемой глобалистов"
*Сроки:* *2 недели спустя после эссе Амодеи от 12 сентября "We Must Pace the Frontier" + обе компании выпустили новые модели 23 сентября + обе планируют IPO; Anthropic приценивается к оценке в $2T*
*РАЗБОР/ВЕРХНЕЕ СООБЩЕНИЕ 🚨 Совет Безопасности ООН 24 сентября: Франция созывает сессию по ИИ. Амодеи через видео: "Если плохо управлять, ИИ может стать риском для человечества в целом — ни один лидер, ни одна компания, ни одна страна не могут справиться с этим в одиночку" 🤖 Альтман лично: "Мы можем потерять контроль над будущим — оба призывают к глобальным стандартам для запрета биовыоружений, верификации, тестирования и отчётности об инцидентах. США отвергают новую глобальную систему управления *
