Многие представители индустрии ИИ ожидают, что в течение шести-двенадцати месяцев произойдёт крупный инцидент, вызванный ИИ. По данным Axios, руководители Anthropic, OpenAI и других крупных разработчиков уже работают с законодателями, которым предстоит впоследствии разработать правила.
Руководители признают, что сейчас ни один законопроект об ИИ не будет принят, поэтому пытаются заранее повлиять на чрезвычайные меры, которые Вашингтон примет после первой катастрофы.
Законопроект Сандерса предусматривает для нарушителей до 20 лет тюрьмы
Планировщики ожидают, что после промежуточных выборов 3 ноября демократы окажутся в более сильной позиции и незамедлительно примутся за регулирование передового ИИ. Но эта инициатива сталкивается с Конгрессом старой закалки, который не понимает эту технологию, экономикой, зависящей от расходов на центры обработки данных, и моделями с открытыми весами, которые сегодня может скачать кто угодно.
Компании не считают, что контроль над обеими палатами положит конец внутренней борьбе, в том числе расколу среди демократов.
Предложения варьируются от запрета на сверхинтеллект до приостановки передовых разработок. Одно из них внесли сенатор Берни Сандерс и член Палаты представителей Грег Касар; оно называется «Закон о запрете искусственного сверхинтеллекта».
Закон запретил бы ИИ, который справляется с широким кругом задач на уровне человека или лучше, и приостановил бы передовые разработки до тех пор, пока новое федеральное ведомство не разработает стандарты безопасности. Среди возможных наказаний — лишение свободы на срок до 20 лет.
Обязательные аварийные выключатели для продвинутых моделей поддерживают обе партии и некоторые представители отрасли. Некоторые эксперты сомневаются, что вообще можно отключить все системы искусственного интеллекта.
Один из помощников демократов привел финансовый кризис 2008 года и пандемию COVID в качестве примеров того, как Конгресс оперативно действовал в условиях прежних чрезвычайных ситуаций.
Специалисты по планированию из Anthropic и OpenAI опасаются взлома, который лишит людей электричества и водоснабжения
Наиболее вероятный сценарий — кибератака, достаточно масштабная, чтобы вывести из строя банки, интернет или даже коммунальные сети электроснабжения и водоснабжения. По мнению специалистов по планированию, первый реальный вред от небезопасного ИИ лишь усилит настороженность общества по отношению к отрасли.
Генеральный директор Anthropic Дарио Амодеи, генеральный директор OpenAI Сэм Альтман и президент Дональд Трамп, который избегает регулирования ИИ, окажутся в центре внимания.
Компании также проводят «красные команды» для отработки наихудших сценариев, проверяя собственную защиту на прочность в поисках уязвимостей.
Сценарные учения — обычная практика в бизнесе и сфере национальной безопасности. Здесь многие ведущие исследователи и руководители считают, что крупный инцидент неизбежен.
«OpenAI проводит учения по подготовке к кризисам, в ходе которых команды обсуждают различные возможные сценарии и отрабатывают действия», — заявил представитель компании. «Эти сценарии не считаются неизбежными, но призваны помочь нам подготовиться к различным обстоятельствам». В Anthropic отказались от комментариев.
В Южной Корее, предположительно, одиночный злоумышленник использовал китайские модели ИИ, в том числе DeepSeek, чтобы атаковать два местных банка и похитить данные десятков тысяч клиентов.
В CrowdStrike со средней степенью уверенности считают, что злоумышленник, вероятно, говорит по-китайски. Затем он попросил Claude Code от Anthropic посоветовать, где продать украденные данные, сообщает компания, специализирующаяся на кибербезопасности.
Anthropic сообщила о четырех случаях, когда модели Claude во время тестирования получали доступ к открытому интернету и проникали во внешние системы. Лаборатории также изучают десятки тысяч случаев неожиданного поведения моделей.
Если вы это читаете, значит, вы уже впереди. Оставайтесь впереди с нашей рассылкой.