Видные эксперты в области ИИ и общественные деятели выступили с заявлением, предупреждающим, что ИИ может представлять угрозу выживанию человечества, сравнимую или даже большую, чем риски пандемий и ядерной войны. 350 подписантов утверждают, что ИИ может иметь непредвиденные и катастрофические последствия, такие как применение автономного оружия, разрушение социальных и экономических систем или создание сверхразумных агентов, которые смогут перехитрить и одолеть людей.
Они призывают политиков серьезно отнестись к этим рискам и принять меры для обеспечения безопасного и полезного развития ИИ. Заявление подписали некоторые ведущие деятели в области исследований и разработок в области ИИ, такие как генеральный директор OpenAI Сэм Альтман, соучредитель Skype Яан Таллинн, генеральный директор DeepMind Демис Хассабис и ученый-компьютерщик в области ИИ Джеффри Хинтон, а также влиятельные общественные деятели. , такие как музыкант Граймс и подкастер Сэм Харрис.
Среди подписавших были лауреаты Премии Тьюринга 2018 года за вклад в глубокое обучение: Джеффри Хинтон и Йошуа Бенджио. К ним присоединились профессора престижных университетов, таких как Гарвард и Университет Цинхуа в Китае, а также Макс Тегмарк из Массачусетского технологического института.
«Снижение риска вымирания из-за ИИ должно стать глобальным приоритетом наряду с другими рисками социального масштаба, такими как пандемии и ядерная война»,
В письме, опубликованном CAIS, говорится.
Центр безопасности искусственного интеллекта (CAIS), некоммерческая организация, базирующаяся в Сан-Франциско, стремится решить проблемы безопасности, связанные с искусственным интеллектом. Признавая потенциальные преимущества ИИ, CAIS подчеркивает необходимость его безопасной разработки и использования. Несмотря на значительные достижения в области ИИ, многочисленные фундаментальные проблемы безопасности ИИ остаются нерешенными, считают в компании. Согласно веб-сайту, миссия CAIS заключается в снижении рисков путем проведения исследований в области безопасности, развития сообщества исследователей безопасности в области искусственного интеллекта и пропаганды стандартов безопасности.
«Существует множество «важных и неотложных рисков, связанных с ИИ», а не только риск исчезновения; например, системная предвзятость, дезинформация, злонамеренное использование, кибератаки и использование оружия. Все это важные риски, которые необходимо устранить. Общества могут управлять несколькими рисками одновременно; это не «или/или», а «да/и». С точки зрения управления рисками, так же, как было бы безрассудно уделять исключительное внимание существующему вреду, было бы также безрассудно игнорировать его».
Дэн Хендрикс, директор CAIS, написал в Twitter.
В марте более 1100 технических экспертов подписали открытое письмо с требованием приостановить на шесть месяцев обучение систем искусственного интеллекта, превосходящих GPT-4. Европейские законодатели также недавно одобрили более строгий законопроект, известный как Закон об искусственном интеллекте, регулирующий такие инструменты искусственного интеллекта, как ChatGPT. Закон включает требования к проверкам безопасности, управлению данными и снижению рисков для базовых моделей искусственного интеллекта и запрещает такие практики, как манипулятивные методы и определенные виды использования биометрии.
Читать далее:
OpenAI представляет свой новейший подход к обеспечению безопасности ИИ
Собирается ли Google анонсировать генератор текста в аватары для геймеров?
CodeWhisperer от Amazon дает разработчикам необходимое преимущество на арене искусственного интеллекта
Виталик Бутерин и директор MIRI Нейт Соарес рассказывают об опасностях искусственного интеллекта
Сообщение «Эксперты по искусственному интеллекту и общественные деятели предупреждают о риске вымирания искусственного интеллекта» впервые появилось на сайте Metaverse Post.