ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ДВИЖЕТСЯ СЛИШКОМ БЫСТРО — И ЕГО СОБСТВЕННЫЕ АРХИТЕКТОРЫ УЖЕ НАЧИНАЮТ ЖАТЬ НА ТОРМОЗА.
OpenAI, возможно, не выйдет на биржу в 2026 году.
Сэм Альтман, как сообщается, назвал IPO в этом году «неразумным», из‑за чего столь ожидаемый листинг сдвинулся на 2027 год или позже.
Но главная история — не Уолл-стрит.
А контроль.
В тот же день генеральный директор Anthropic Дарío Амодей призвал компании, занимающиеся передовым ИИ, намеренно замедлить темпы разработки возможностей.
И затем произошло почти немыслимое.
Альтман согласился.
Согласился и Илон Маск.
Три влиятельные фигуры из разных лагерей «войны ИИ» внезапно сошлись на одном послании:
МАШИНА ДВИЖЕТСЯ СЛИШКОМ БЫСТРО.
Амодей предложил трехчастный подход:
Независимые оценщики с доступом на уровне сотрудников к компаниям ИИ, чтобы проверять практики безопасности и сообщать о случаях.
Координация среди ведущих компаний ИИ в демократических странах для выработки общих стандартов безопасности.
Координация между демократическими и авторитарными правительствами по рискам, которые создают все более способные системы ИИ.
И Anthropic заявляет, что уже в одностороннем порядке взяла на себя обязательство сделать первый шаг.
Это не про остановку ИИ.
Это про покупку времени.
Время, чтобы протестировать системы.
Время, чтобы понять, на что они способны.
Время выстроить защитные механизмы, прежде чем возможности обгонят нашу способность контролировать их.
Недавно главный научный сотрудник OpenAI Якуб Пахоцки предупредил, что ни одна компания ИИ пока не решила задачу согласования и мониторинга достаточно хорошо, чтобы оправдывать бесконечное масштабирование на максимальной скорости.
Это должно вселить страх в любого, кто следит за происходящим.
Потому что кошмар — это не обязательно какой‑то голливудский сценарий с апокалипсисом роботов.
Это нечто гораздо более реалистичное:
системы начинают быстрее проявлять способности к обману, манипулированию, мошенничеству, кибератакам, автономным действиям и другому опасному поведению — быстрее, чем правительства, компании и общество успевают адаптироваться.
Один из исследователей Anthropic, Джейкоб Коксон, как сообщается, ушел в отставку после того, как выразил опасения, что ведущие ИИ‑лаборатории «делают ставки нашей жизнью».
$BTC
OpenAI, возможно, не выйдет на биржу в 2026 году.
Сэм Альтман, как сообщается, назвал IPO в этом году «неразумным», из‑за чего столь ожидаемый листинг сдвинулся на 2027 год или позже.
Но главная история — не Уолл-стрит.
А контроль.
В тот же день генеральный директор Anthropic Дарío Амодей призвал компании, занимающиеся передовым ИИ, намеренно замедлить темпы разработки возможностей.
И затем произошло почти немыслимое.
Альтман согласился.
Согласился и Илон Маск.
Три влиятельные фигуры из разных лагерей «войны ИИ» внезапно сошлись на одном послании:
МАШИНА ДВИЖЕТСЯ СЛИШКОМ БЫСТРО.
Амодей предложил трехчастный подход:
Независимые оценщики с доступом на уровне сотрудников к компаниям ИИ, чтобы проверять практики безопасности и сообщать о случаях.
Координация среди ведущих компаний ИИ в демократических странах для выработки общих стандартов безопасности.
Координация между демократическими и авторитарными правительствами по рискам, которые создают все более способные системы ИИ.
И Anthropic заявляет, что уже в одностороннем порядке взяла на себя обязательство сделать первый шаг.
Это не про остановку ИИ.
Это про покупку времени.
Время, чтобы протестировать системы.
Время, чтобы понять, на что они способны.
Время выстроить защитные механизмы, прежде чем возможности обгонят нашу способность контролировать их.
Недавно главный научный сотрудник OpenAI Якуб Пахоцки предупредил, что ни одна компания ИИ пока не решила задачу согласования и мониторинга достаточно хорошо, чтобы оправдывать бесконечное масштабирование на максимальной скорости.
Это должно вселить страх в любого, кто следит за происходящим.
Потому что кошмар — это не обязательно какой‑то голливудский сценарий с апокалипсисом роботов.
Это нечто гораздо более реалистичное:
системы начинают быстрее проявлять способности к обману, манипулированию, мошенничеству, кибератакам, автономным действиям и другому опасному поведению — быстрее, чем правительства, компании и общество успевают адаптироваться.
Один из исследователей Anthropic, Джейкоб Коксон, как сообщается, ушел в отставку после того, как выразил опасения, что ведущие ИИ‑лаборатории «делают ставки нашей жизнью».
$BTC
