Как сообщает Axios, Anthropic, OpenAI и другие компании в сфере ИИ в закрытом режиме моделируют наихудшие сценарии, в которых искусственный интеллект причиняет серьёзный реальный вред. По данным PANews, учения посвящены экстремальным ситуациям, таким как масштабные кибератаки и сбои в работе финансовых служб, интернет-соединения, электроснабжения и систем водоснабжения.
Представители отрасли заявили, что крупный инцидент, вызванный небезопасным ИИ, может спровоцировать ещё более сильную негативную реакцию общества и усилить давление на компании в сфере ИИ и их руководителей. Некоторые представители индустрии ИИ считают, что серьёзное происшествие может случиться в ближайшие 6–12 месяцев, поэтому руководители уже начали заблаговременно проводить переговоры с американскими законодателями.
В докладе говорилось, что компании, работающие в сфере ИИ, проводят испытания методом «красной команды», моделируя наихудшие сценарии, и активизируют усилия по информированию членов Конгресса об ИИ. Руководители считают, что нынешние условия не способствуют принятию масштабного законодательства о регулировании, однако серьёзный инцидент может изменить ход политических дискуссий и повлиять на будущие законы и правила США.
В статье говорилось, что некоторые демократы предложили запретить сверхинтеллект или приостановить разработку передового ИИ, тогда как другие инициативы, включая аварийные выключатели для передовых систем ИИ, получили поддержку обеих партий и некоторых представителей отрасли. Эксперты также усомнились в том, насколько практически осуществимо отключить все системы ИИ.
В докладе также отмечалось, что широкое распространение моделей с открытыми весами, доступных для бесплатного скачивания, усложняет управление рисками, а многие специалисты по кибербезопасности считают одним из возможных способов противодействия вредоносному ИИ использование ИИ. Даже если крупный инцидент, связанный с ИИ, вызовет негативную реакцию, американские законодатели всё равно могут столкнуться с ограничениями, обусловленными экономикой, политическими разногласиями и масштабом инвестиций в инфраструктуру ИИ.