ТРИ САМЫЕ БОЛЬШИЕ AI-СОПЕРНИКИ ТОЛЬКО ЧТО ДОГОВОРИЛИСЬ: ПОСЛОЖНЕЕ С ТЕМПОМ
В одном достаточно необычном событии в гонке ИИ: Дарио Амодей (Anthropic), Сэм Альтман (OpenAI) и Илон Маск (xAI) — три конкурента, которые напрямую соперничают, — вместе поддержали идею «pace the frontier», то есть замедлить темпы развития передовых моделей, чтобы у safety было время догнать.
Амо́дей предупреждает, что ИИ развивается настолько быстро, что системы-агенты могут создавать риски, выходящие за пределы контролируемости. Он предлагает внешнюю независимую оценку, общие стандарты безопасности между компаниями и международную координацию. В Anthropic заявили, что сразу запустят механизмы, чтобы независимые оценщики получили достаточно глубокий доступ для проверки safety.
Сэм Альтман согласился, что OpenAI нужно pace the frontier, и сообщил, что наблюдение независимых evaluator — это направление, которое OpenAI тоже намерена реализовать. А Илон Маск ответил предельно коротко:
«Dario is right.»
Важно отметить, что это уже не история «насколько сильный ИИ». Люди, которые создают самые мощные модели, сами же предупреждают: темп развития может обогнать темп контроля.
И это напрямую связано с WeWorm, AI-кибератаками и макрорисками: чем сильнее ИИ → тем выше способность к автоматизации → тем ниже стоимость атаки → тем больше правительствам нужно наращивать инвестиции в AI safety, кибербезопасность и национальную безопасность.
Когда люди, создающие ИИ, начинают просить тормоза, возможно, гонка становится по-настоящему реальной.
Как думаете: это ответственная разработка ИИ, или же просто крупные игроки хотят задать новые правила игры для гонки ИИ?
#BrainrotCrypto #AI #CyberSecurity #Geopolitics