OpenAI, возможно, одна из самых смелых компаний на рынке ИТ за последние годы. Пока крупные корпорации выпускают неопределенные пресс-релизы и закрывают продукты через несколько дней после запуска, ChatGPT бьет рекорды роста, а генеральный директор Сэм Альтман пишет статьи о том, как он планирует привести человечество к светлому будущему. Но уверены ли вы, что хотите стать частью будущего Альтмана?

foxbusiness.com

Изначально компания позиционировала себя как некоммерческая организация. Как гласит манифест OpenAI 2015 года: «Когда это произойдет, будет важно иметь ведущее научно-исследовательское учреждение, которое сможет поставить хороший результат для всех выше собственных интересов. Мы надеемся вырастить OpenAI в такое учреждение». Компания пообещала гарантировать, что ИИ будет использоваться только во благо, заявив, что не будет гнаться за прибылью наших акционеров.

В марте 2019 года некоммерческая организация OpenAI создала дочернюю компанию: коммерческую компанию OpenAI LP. Для того чтобы выплачивать опционы сотрудникам и оплачивать оборудование, а также в целом продолжать свои исследования, она создала отдельную структуру, которая будет продавать разработки. Но чтобы не быть наглым, она заявила, что прибыль будет ограничена: инвесторы смогут зарабатывать фиксированную сумму, а все излишки пойдут в материнскую OpenAI, которая сможет использовать их для дальнейшего развития ИИ и достижения своего легендарного светлого будущего.

Через четыре месяца Microsoft инвестировала в OpenAI LP. Хотя она предоставила вычислительную мощность OpenAI, взамен она получила эксклюзивный доступ к алгоритмам OpenAI. Постепенно компания нашла больше инвесторов и собрала все больше денег. Поисковая система Microsoft Bing была одной из новых интеграций, однако еще более ранние модели, подобные GPT, были представлены в Github Copilot и Notion.

Илон Маск прокомментировал, что AI Open больше не является некоммерческой компанией, поскольку Альтман продает созданную ею технологию. Однако у Альтмана есть собственный план, который он частично раскрыл в недавней статье, опубликованной в блоге OpenAI.

Многие уже проанализировали это. Мы также хотим взглянуть на этот пост и сосредоточиться на нескольких моментах, которые обсуждает Альтман:

Альтман искренне верит, что ИИ должен быть доступен как можно большему количеству людей и как можно скорее. Все равно невозможно продумать все заранее; он считает, что проблемы нужно устранять как можно раньше, что объясняет рост числа интеграций и переход от некоммерческой структуры к полукоммерческой;

В то же время Альтман хочет, чтобы такие системы, как ChatGPT, прошли независимый аудит перед выпуском. Он обещает раскрыть идею аудита позднее в этом году, но на данный момент он отмечает, что считает важным, чтобы основные мировые правительства имели представление о тренировочных запусках выше определенного масштаба.

Альтман также не исключает, что для движения в светлое будущее придется ограничить темпы создания новых моделей или создать комитет, который будет решать, безопасна ли следующая модель ИИ и можно ли ее выпускать на рынок или нет.

Судя по всему, на наших глазах рождается новый регулятор. Организация типа Комиссии по ценным бумагам или профсоюзной организации. Ее очертания пока туманны, но одно можно сказать наверняка: глава OpenAI планирует занять в этой структуре важное место. А если вспомнить еще и его инвестиции в такие компании, как UBI Charitable и Wordcoin, то все становится еще интереснее.

  • Итальянский орган по защите данных немедленно запретил ChatGPT, обвинив его в нарушении конфиденциальности. Другие европейские страны рассматривают возможность введения аналогичных ограничений, вызывая дебаты о роли чат-ботов на основе искусственного интеллекта в обществе и их влиянии на конфиденциальность, безопасность данных и безопасность пользователей. Европейский союз разрабатывает Закон об искусственном интеллекте, который направлен на достижение баланса между защитой людей от негативных последствий и продвижением инноваций и конкурентоспособности в цифровой экономике ЕС. Германия также может рассмотреть возможность блокировки ChatGPT из-за проблем с безопасностью данных. Муниципалитеты во Франции инициировали независимые расследования для оценки последствий и последствий использования ChatGPT. Независимый регулятор данных Великобритании готов принять меры против нарушений законов о защите данных.

  • OpenAI предлагает решения для решения проблем, которые привели к запрету чат-бота в Италии. Garante сослался на неспособность OpenAI проверить возраст пользователей ChatGPT и отсутствие правового обоснования для сбора и хранения персональных данных в качестве причин запрета. OpenAI обязалась представить документ с изложением предлагаемых мер итальянской SA до 6 апреля. Другие органы по защите конфиденциальности в Европе расследуют, необходимы ли более строгие меры для чат-ботов.

  • По словам Сэма Альтмана, количество интеллекта во Вселенной будет удваиваться каждые 18 месяцев. Книга Эрика Хоэла «Как управлять апокалипсисом ИИ, будучи здравомыслящим человеком» предлагает подробный обзор текущей ситуации и ближайшего будущего апокалипсиса. Основная защита «рациональных технооптимистов» заключается в том, что эти системы ИИ нельзя считать разумными, поскольку у них отсутствует мотивация агента и мировоззрение. Если это так, то ни угрозы, ни появление сверхразума вряд ли произойдут в ближайшее время.

Узнайте больше об ИИ:

  • OpenAI и Microsoft объявляют о расширении партнерства

  • OpenAI работает над созданием модели ИИ для видео

  • Генеральный директор OpenAI заявил, что система образования должна адаптироваться к ChatGPT, а не запрещать его

Публикация Сэм Альтман заявил, что регулирование ИИ будет необходимо для обеспечения нашей безопасности впервые появилась на Metaverse Post.