«Риски для капитала, связанные с ИИ, являются реальными и все более значительными», — заявил 30 сентября управляющий Банка Англии Эндрю Бейли, предупредив, что капитал, направляемый в ИИ, может вызвать потрясения на финансовых рынках.
Ключевые выводы
Эндрю Бейли заявил, что риски для капитала в связи с ИИ являются реальными и все более значительными, предупреждая, что инвестиции в ИИ могут вызвать потрясения на финансовых рынках
Банк Англии отслеживает около 450 миллиардов долларов инвестиций, связанных с ИИ и отмеченных в его недавних оценках
Бейли заявил, что сосредоточенные ставки на небольшую группу технологических компаний могут подвергнуть рынки риску, если ожидания изменятся
Бейли призвал предоставить право вмешиваться в автономные системы ИИ и проводить тщательное тестирование до развертывания
Эндрю Бейли заявил репортерам, что центральный банк отслеживает примерно $450 млрд инвестиций, связанных с ИИ, которые были отмечены в его недавних оценках, «очень внимательно».
Он предупредил, что сосредоточенные ставки на несколько технологических компаний делают рынки уязвимыми, если ожидания изменятся, и сказал, что ИИ может стать «очень мощным оружием», если его использовать неправильно, указывая на усиление киберугроз по мере роста возможностей автономных систем.
Также читайте: Билл Гейтс предупреждает о риске ИИ, способного привести к смерти миллиардов людей, и призывает к надзору со стороны государства
Эти комментарии, о которых сообщают BBC и The Guardian, стали одним из самых прямых предупреждений от действующего руководителя центрального банка об ИИ как о системном финансовом риске, а не просто о сюжете про производительность.
Регулятор устанавливает условия для инвестиций в ИИ
Бейли призвал общество сохранить «право на вмешательство» в отношении все более автономных систем ИИ, утверждая, что самоулучшающимся моделям нужно тщательное тестирование до развертывания, а не после того, как проблемы уже проявились.
Он не стал называть конкретные компании, но отметил, что Банк рассматривает инвестиции в ИИ по всем центрам обработки данных, чипам и обучению моделей как потенциальный источник нестабильности, если оценки, построенные на ожиданиях от ИИ, окажутся слишком оптимистичными.
Для независимых разработчиков эти замечания не дают ориентиров по условиям лицензий, весам моделей, требованиям к вычислениям или поддержке протоколов. Проблема подается как вопрос концентрации рынка, а не как план того, что могут запускать более небольшие команды.
Не каждый всегда выигрывает
Отвечая на вопросы о сотнях миллиардов долларов, уже направленных на инфраструктуру ИИ, Бейли предостерег, что «не каждый всегда выигрывает». Это ставит под сомнение рыночное повествование о том, что капитальные затраты на ИИ со стороны компаний вроде Microsoft, Nvidia и Alphabet — это устойчивый двигатель роста, а не риск “пузыря”.
Бейли не призывал к немедленной остановке расходов на ИИ и не предлагал новые правила по капиталу в этих заявлениях. Вместо этого он позиционировал Банк как наблюдателя, который следит за ситуацией, давая понять, что в будущем надзорные меры могут последовать, если риск концентрации в активах, связанных с ИИ, продолжит расти.
Читать далее: Искусственный интеллект, порождающий фейковые новости: страхи реальны, Папа Лев выносит предупреждение и призывает к правилам