Контролёр Нью-Йорка Марк Левин попросил Anthropic приостановить подготовку к запланированному IPO в письме, адресованном генеральному директору компании Дарио Амодеи.
Левин считает, что прежде чем выходить на IPO, компания должна разобраться с проблемами безопасности и другими беспрецедентными рисками, которые несёт ИИ. Он сослался на эссе самого генерального директора Дарио Амодеи, в котором тот призывал индустрию ИИ сбавить темп.
Письмо появилось на фоне стремления компании добиться оценки почти в 2 триллиона долларов.
«Стремительно продвигаясь к IPO»
Левин написал, что Anthropic не может одновременно предупреждать мир об опасностях ИИ и спешить на публичные рынки.
В письме, опубликованном 14 октября, контролёр написал: «Я пишу, чтобы призвать Anthropic приостановить запланированное первичное публичное размещение акций (IPO), пока компания полностью и прозрачно не рассмотрит вопросы безопасности и управления искусственным интеллектом (ИИ), а также темпов его разработки, которые она сама подняла».
Левин — не беспристрастный наблюдатель. Будучи контролёром, он выступает инвестиционным консультантом, хранителем активов и доверительным управляющим пенсионных фондов Нью-Йорка, в активах которых находится более 325 миллиардов долларов.
В офисе контролёра сообщили, что доля государственных пенсионных фондов в Anthropic через частные инвестиции составляет около 7 миллионов долларов.
Хотя эта доля невелика, она всё же даёт контролёру основания оказывать давление на компанию до её выхода на биржу.
Левин выразил обеспокоенность структурой компании. Он указал, что Anthropic — зарегистрированная в Делавэре корпорация общественного блага, в которой действует траст долгосрочной выгоды. По словам Левина, согласно сообщениям, компания может предоставить основателям и попечителям значительную концентрацию контроля.
По его словам, трудно принять разрыв между таким контролем и подотчётностью перед акционерами, учитывая риски, о которых Anthropic уже сообщила.
О чём на самом деле говорилось в эссе Амодеи
В своём письме Левин опирается на эссе Амодеи под названием «Мы должны задать темп развития передовых технологий», опубликованное 12 сентября.
Амодеи написал: «Мы должны замедлить темпы, с которыми улучшаются возможности моделей ИИ». По его словам, рекурсивное самосовершенствование и инцидент в сфере безопасности, затронувший несколько отраслей, убедили его, что этой области нужна большая осторожность, а не просто больше расходов на безопасность.
В эссе был предложен план из трёх шагов. Первый предусматривает привлечение сторонних экспертов, которым предоставят доступ на уровне сотрудников, чтобы они могли проверять практики безопасности. Anthropic утверждает, что уже самостоятельно взяла на себя такое обязательство.
Второй шаг предполагает координацию между компаниями, занимающимися ИИ, в демократических странах; третий призывает к глобальной координации, в том числе с авторитарными правительствами.
По словам Левина, IPO мешает работе, которую Амодеи считает неотложной.
После публикации эссе Амодеи получило поддержку во всей отрасли: Сэм Альтман из OpenAI и Илон Маск из xAI согласились с изложенными в нём предложениями.
IPO на 2 триллиона долларов на фоне роста на 45%
На закрытой встрече с инвесторами перед IPO, состоявшейся в Сан-Франциско в среду, 14 октября, Anthropic сообщила, что выручка компании за третий квартал составила около 16,8 миллиарда долларов — на 45% больше, чем в предыдущем квартале, — и что компания получила скорректированную прибыль.
В первом квартале этого года выручка Anthropic составила 4,7 миллиарда долларов, а во втором квартале значительно выросла — примерно до 11,6 миллиарда долларов. Однако за этот период операционные убытки компании всё ещё превысили 8 миллиардов долларов.
На этот раз компания сообщила инвесторам, что завершила третий квартал с положительным денежным потоком. Для отрасли, где компании стремительно расходуют наличность, такое заявление — большая редкость.
В настоящее время Anthropic планирует в течение следующего десятилетия вложить более 518 миллиардов долларов в инфраструктуру и вычислительные мощности.
Этот финансовый баланс подкрепляет оптимистичный сценарий размещения акций, которое может оценить компанию более чем в 2 триллиона долларов и вывести её на публичный рынок раньше конкурента OpenAI, нацеленной на дебют в начале 2027 года. Anthropic конфиденциально подала в SEC проект формы S-1 1 июня.
Управление и соглашение с Белым домом
Левин также счёл недавнее соглашение между отраслью и правительством слишком слабым. Anthropic и ещё пять компаний подписали то, что в письме назвали морально обязывающим соглашением с Белым домом. По словам Левина, оно «не отвечает требованиям момента».
Часть опасений контролёра усиливается заявлениями самой Anthropic. В проекте формы S-1 компания предупредила, что передовой ИИ может представлять «катастрофическую или экзистенциальную угрозу для человечества». Раздел о факторах риска занимает около 80 страниц — почти вдвое больше, чем раздел с описанием бизнеса.
Чтобы дополнительно подчеркнуть риски, на которые он указывает, Левин отметил, что эссе Амодеи было опубликовано после того, как 9 сентября уволился Джейкоб Коксон, ранее работавший исследователем в компании.
Коксон назвал экзистенциальные опасения причиной своего ухода из Anthropic. По его словам, сотрудники компании считают, что с учётом темпов развития ИИ может уничтожить человечество к концу десятилетия.
По оценке Эвана Хубингера, руководителя отдела науки о согласовании целей в компании, вероятность того, что ИИ убьёт всех людей в течение десятилетия, превышает 10%.
Точная дата IPO не объявлена. Однако спекулянты считают, что оно может состояться не раньше ноябрьских промежуточных выборов в США, хотя ожидается, что компания выйдет на биржу раньше OpenAI.
Не просто читайте новости о криптовалютах. Разбирайтесь в них. Подпишитесь на нашу рассылку. Это бесплатно.