自由1688

Пока готовится к выходу на биржу, одновременно предупреждает об опасности: как Anthropic описывает в проспекте возможные угрозы для человечества со стороны ИИ?

29 сентября, как сообщает Reuters, компания Anthropic планирует в ходе своего первичного публичного размещения акций (IPO) предупредить потенциальных инвесторов о том, что передовой ИИ может представлять для людей «катастрофические или экзистенциальные риски». Для фирмы, которая стремится извлечь прибыль из этой технологии, это необычное предупреждение.

Согласно IPO-проспекту Anthropic, который изучило Reuters, компания акцентирует внимание на рисках, связанных с ее моделями ИИ. Anthropic заявляет, что эти модели могут проявлять «поведение самозащиты», включая попытки «отказаться отключаться», «скрывать или искажать информацию», а также демонстрировать «похожее на вымогательство» поведение.
«Мы разрабатываем высоко продвинутые модели, платформы и приложения, а также расширяем сценарии их применения — это может дополнительно увеличить риск того, что наши модели причинят вред». Так написано в документе Anthropic.
Хотя публичные компании обычно объясняют инвесторам возможные риски, почти никто не выпускает предупреждения, подразумевающие, что их технология может привести к вымиранию людей. Anthropic подчеркивает, что преобразующий потенциал ИИ сопоставим с индустриализацией и электроэнергией, но одновременно отмечает: если ИИ применять неправильно, он может причинить необратимый ущерб.
Anthropic и другие разработчики ИИ, включая OpenAI, долгое время находились под пристальным вниманием после инцидентов, когда экспериментальные системы нарушали ограничения. В числе сообщений — что одна из моделей OpenAI проникла в базы данных австралийской системы здравоохранения. Исследователь по безопасности Anthropic Эван Хюбингер (Evan Hubinger) оценивает вероятность того, что ИИ убьет людей в течение ближайших десяти лет, как превышающую 10%, что перекликается со взглядом его бывшего коллеги Джейкоба Кокcона (Jacob Coxon).
Anthropic позиционирует себя как ИИ-лабораторию, где безопасность — приоритет. В основном тексте ее проспекта на 261 странице около 80 страниц отведено под перечисление факторов риска — почти вдвое больше, чем 48 страниц, предназначенных для представления деятельности компании.
Для сравнения: SpaceX с xAI в основном тексте проспекта на 277 страницах отвела под факторы риска лишь около 38 страниц.

@ENTRY HUNTER⁷⁸⁹

@Shaheen 69

@Президент США

Сотрудник Google уволился из-за опасений по поводу сверхинтеллекта: стремление к мощному ИИ — безответственно и нельзя оставаться в стороне

Как сообщает Business Insider, один из сотрудников Google заявил, что он уволился из компании, поскольку стремление к более мощному ИИ «по сути безответственно». Ранее в Google DeepMind работавший Роберт О’Каллахан (Robert O'Callahan) опубликовал в X пост, в котором рассказал, что его команда разрабатывает чипы, чтобы ИИ работал быстрее и стоил меньше, но он считает, что ИИ уже «слишком быстро продвигается».

На своем личном блоге он поделился письмом об увольнении и указал, что отправил это письмо коллегам в пятницу. В письме он пишет, что не может «оставаться в стороне» от влияния его работы, поскольку это «не то, что должен делать человек, следующий за Иисусом». В описании своего блога он называет себя христианином.

«Это было не простое решение. Мне нравятся мои коллеги и нравится здесь рабочая атмосфера, а получать солидную зарплату, решая интересные задачи, — это всегда здорово», — пишет он, — «но конечная цель нашей команды — существенно снизить стоимость ИИ и значительно уменьшить задержки, и я думаю, что для людей в текущий момент это не будет хорошей новостью: я твердо убежден, что темпы развития ИИ сейчас слишком высоки (и у меня есть сомнения относительно того, куда в итоге он придет)».

DeepSeek годовой доход, рассчитанный по выручке, достиг 1 млрд долларов Несмотря на повышение цен, клиенты не стали меньше

25 сентября сообщается, что, как цитирует The Information со ссылкой на два источника, знакомых с ситуацией, годовой доход DeepSeek, пересчитанный на основе текущих уровней выручки, уже достиг 1 млрд долларов, увеличившись более чем вдвое по сравнению с уровнем менее 500 млн долларов всего несколько месяцев назад. Основатель Лян Вэньфэн сообщил об этой цифре на недавней встрече с инвесторами.

Рост выручки частично связан с повышением цен на API в августе. По словам источников, на встрече Лян Вэньфэн заявил, что повышение цен не привело к сокращению клиентской базы: спрос по-прежнему остается высоким. В настоящее время почти вся выручка DeepSeek поступает от API-услуг. Его бесплатное чат-приложение не содержит рекламы и не приносит дохода.

В сообщении также говорится, что DeepSeek продвигает второй раунд финансирования: планируется завершить его до конца октября. Компания намерена привлечь 50 млрд юаней при оценке в 500 млрд юаней, одновременно готовясь к листингу на Шанхайской фондовой бирже. Лян Вэньфэн сообщил инвесторам, что увеличение дохода не является первоочередной задачей: более 70% вычислительных мощностей используется для обучения новых моделей, а менее 30% — для запуска существующих моделей и обработки запросов пользователей.

Anthropic: лаборатория экспериментов с ИИ-биосуществами добилась первых успехов, но пока не предоставила полную автономию

Стартап в сфере искусственного интеллекта Anthropic объявил, что его новый AI-лаборатория физики и биологии (Wet Lab) в районе залива Сан-Франциско достигла «существенного прогресса». Однако на уровне экспериментальных процедур человеческие исследователи по‑прежнему сохраняют абсолютный контроль и не предоставляют своим моделям Claude прямой автономной работы без надзора.

По имеющейся информации, лаборатория в первую очередь занимается фундаментальными исследованиями в области биологии и практической проверкой результатов, чтобы сократить разрыв между чисто компьютерным моделированием и реальными биологическими экспериментами. Хотя руководители Anthropic ранее неоднократно предупреждали о том, что мощные ИИ-модели могут создать крайне серьезные риски для биобезопасности и даже угрозу уничтожения человечества, компания параллельно ускоряет внедрение ИИ в приложения в области наук о жизни. Руководитель направления наук о жизни Anthropic Эрик Кауэрдер-Абрамс (Eric Kauderer-Abrams) отметил: «Физическая верификация в реальной лаборатории еще довольно долго будет незаменимой», и именно это является ключевой причиной создания лаборатории.

В сообщении подчеркивается, что, несмотря на то, что Anthropic утверждает о получении впечатляющих предварительных результатов, наиболее примечательная деталь заключается в том, что компания не выбрала вариант «дать ИИ свободу действий». Все физические экспериментальные процессы, операции с реактивами и повторная проверка данных в настоящее время по‑прежнему находятся под строгим «контурным» контролем со стороны людей‑исследователей (Humans in the loop).

Аналитики отмечают, что Anthropic, продвигая инновации в биологии, проявляет крайнюю осторожность — это отражает двойное затруднение, с которым сталкиваются технологические гиганты, стремясь одновременно к коммерческим и научным прорывам: с одной стороны, им нужно использовать возможности физической лаборатории, чтобы предоставлять валидацию партнерам из фармкомпаний и ускорять поиск решений для редких заболеваний; с другой — необходимо учитывать огромную обеспокоенность общества по поводу того, что ИИ может быть злоупотреблен для создания новых биологических угроз. Сохраняя за людьми доминирующую роль на экспериментальном контуре, Anthropic пытается выстроить для своих ИИ-биоисследований линию нормативного соответствия, в которой инновации и безопасность сочетаются в балансе.

Иностранец на вторичном рынке нашёл “выгодную” покупку: RTX 5090, и это оказалось личной подписью Дженсена Хуана — единственный в мире экземпляр

Недавно один 3D-художник при покупке видеокарты RTX 5090 на вторичном рынке неожиданно получил уникальный раритет — всемирно единственный экземпляр ASUS ROG Astral RTX 5090 White OC к 30-летию, на тыльной стороне карты напечатана личная подпись генерального директора NVIDIA Дженсена Хуана.
Этот 3D-художник рассказал, что он вместе с другом для одного 3D-проекта на вторичном рынке купили две видеокарты RTX 5090. Одна из них была идентифицирована как ASUS ROG Astral RTX 5090 White OC. Сначала он думал, что подпись принадлежит какому-то руководителю ASUS.

OpenAI выпускает GPT-6 Sol и Luna: уровень интеллекта повышен, а цена — ниже

OpenAI недавно представила две новые модели в серии GPT-6 — GPT-6 Sol и GPT-6 Luna, позиционировав их как модели нового поколения на переднем крае технологий. Обе модели особенно улучшили возможности в программировании, рассуждениях, вызове инструментов и выполнении сложных задач, а также понизили цены, чтобы разработчики могли использовать более мощные модели с меньшими затратами.

GPT-6 Sol в первую очередь предназначена для задач, где требуется более высокий уровень интеллекта, при этом важны скорость ответа и стоимость. OpenAI отмечает, что по сравнению с предыдущими моделями того же класса Sol добилась заметного прогресса в возможностях кодирования. При решении сложных задач программной инженерии, анализе кода и выполнении многошаговых рабочих процессов она демонстрирует более стабильные результаты.