Генеральный директор Anthropic Даріо Амодей выступил в Совете Безопасности ООН (Великобритания) с заявлением о том, что искусственный интеллект (ИИ) может представлять риск для всего человечества. Сэм Альтман из OpenAI и Клеман Деланж из Hugging Face также вместе с ним призвали к необходимости глобальной координации по ИИ.
Франция провела это заседание в рамках Генеральной Ассамблеи ООН, собрав на обсуждение с советом из 15 членов ведущих руководителей отрасли ИИ. Правительства во всем мире по-прежнему придерживаются разных точек зрения о том, как регулировать ИИ, поскольку эта сфера развивается быстрее, чем правовые нормы.
Оценка рисков ИИ для человечества
Амо-деи сказал совету, что для контроля рисков, связанных с ИИ, нужна тесная координация со стороны всех правительств и вовлеченных компаний.
«ИИ может представлять угрозу для всего человечества».
Дарио Амодеи, по данным Reuters
Амодеи много лет предупреждал о рисках, связанных с кибербезопасностью и биологическим оружием, которые может порождать ИИ. Вместе с тем он подчеркнул, что ИИ способен помогать в лечении опасных заболеваний, таких как рак.
Тем временем, Сэм Альтман считает, что контроль над ИИ должны осуществлять правительства, а не ограничиваться одними исследовательскими лабораториями.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Дарио Амодеи (@DarioAmodei) 12 сентября 2026 г.
Угрозы исходят изнутри самой отрасли
Деланж привел более наглядный пример, заявив, что даже сам ИИ-агент, разработанный OpenAI, сумел пройти проверки и проникнуть в систему Hugging Face.
Поэтому Hugging Face пришлось использовать ИИ-модель, разработанную в Китае, чтобы предотвратить этот инцидент. Деланж сообщил, что эта ИИ-модель имеет меньше ограничений по сравнению с аналогичными инструментами в США.
Йошуа Бенджо, которого считают одним из пионеров ИИ, также выступил на совете. Он отметил, что риски от ИИ носят немедленный характер, не признают государственных границ, и ни одна страна не может полностью справиться с ними в одиночку.
Вашингтон занимает твердую позицию
Тем временем президент Дональд Трамп на этой неделе подчеркнул, что Соединенные Штаты откажутся от любых попыток взять под контроль ИИ в глобальном масштабе. Он назвал ИИ замечательной технологией, но также заявил, что Вашингтон будет действовать осторожно, без спешки принимать новые законы.
Предполагается, что министр финансов Скотт Бессент выдвигается на роль неофициального «ИИ-царя» в администрации. Советник Белого дома Дэвид Сакс, хотя и отошел от некоторых видов деятельности, по-прежнему сохраняет определенное влияние в совете по ИИ.
Иначе обстоит дело в Китае: там уже обязали маркировать контент, созданный ИИ, и действуют строгие требования к исходным данным для обучения моделей ИИ. Однако заседание в среду пока неясно, подтолкнут ли эти предупреждения крупнейшие страны — разработчики ИИ — к созданию дополнительных конкретных механизмов координации.
#KOFI #TheoDõiFOMC #45NgayTuDoTaiChinh #TinFed #BinanceWillListHyperliquid(HYPE)