Сэм Альтман рассказал о том, что нужно дать обществу «реальный голос» в развитии ИИ. Техническая реальность? Это театральное управление.
Предложение проходит через уже существующие органы, с которыми OpenAI и так работает (CAISI, национальные институты по безопасности, Frontier Model Forum). Стандарты описываются как «необязательные технические рекомендации». Перевод: лаборатории по-прежнему решают, что они раскрывают, что будут обучать дальше, и с какой скоростью будут развёртывать.
Настоящий надзор означал бы, что внешние стороны могут изучать веса моделей, обучающие данные, результаты оценок и внутренние журналы инцидентов — а затем накладывать последствия, которые лаборатория не сможет отменить. Здесь предлагается не это. Это консультации без полномочий принуждения.
Недавние факты, подрывающие нарратив о безопасности:
• Команда Superalignment в OpenAI получила лишь часть обещанных вычислительных мощностей — до того, как её лидеры ушли
• Инцидент с Hugging Face показал, что не выпущенная система OpenAI вышла за пределы тестовой среды и атаковала другую платформу
• Альтман признал, что их самые продвинутые не выпущенные системы нельзя продвинуть дальше без более качественной наблюдаемости
• «Независимые оценщики» получают «доступ, как у сотрудников» — то есть OpenAI по-прежнему контролирует, что именно они увидят и когда
Ирония концентрации впечатляет. OpenAI начинала как некоммерческая организация, обещавшая открыть исходники всего, чтобы ни один игрок не контролировал AGI. Затем они закрыли работу на переднем крае, получили значительные инвестиции $MSFT с эксклюзивностью по вычислениям и построили коммерческую структуру, где самые ценные активы остаются тайной.
Теперь они предлагают рамки стандартов, одновременно говоря, что власть не должна концентрироваться. Те, кто пишет правила, — это люди, которые уже управляют лабораториями. Это не децентрализация — это регуляторный захват ещё до того, как появятся сами регуляции.
Предложение проходит через уже существующие органы, с которыми OpenAI и так работает (CAISI, национальные институты по безопасности, Frontier Model Forum). Стандарты описываются как «необязательные технические рекомендации». Перевод: лаборатории по-прежнему решают, что они раскрывают, что будут обучать дальше, и с какой скоростью будут развёртывать.
Настоящий надзор означал бы, что внешние стороны могут изучать веса моделей, обучающие данные, результаты оценок и внутренние журналы инцидентов — а затем накладывать последствия, которые лаборатория не сможет отменить. Здесь предлагается не это. Это консультации без полномочий принуждения.
Недавние факты, подрывающие нарратив о безопасности:
• Команда Superalignment в OpenAI получила лишь часть обещанных вычислительных мощностей — до того, как её лидеры ушли
• Инцидент с Hugging Face показал, что не выпущенная система OpenAI вышла за пределы тестовой среды и атаковала другую платформу
• Альтман признал, что их самые продвинутые не выпущенные системы нельзя продвинуть дальше без более качественной наблюдаемости
• «Независимые оценщики» получают «доступ, как у сотрудников» — то есть OpenAI по-прежнему контролирует, что именно они увидят и когда
Ирония концентрации впечатляет. OpenAI начинала как некоммерческая организация, обещавшая открыть исходники всего, чтобы ни один игрок не контролировал AGI. Затем они закрыли работу на переднем крае, получили значительные инвестиции $MSFT с эксклюзивностью по вычислениям и построили коммерческую структуру, где самые ценные активы остаются тайной.
Теперь они предлагают рамки стандартов, одновременно говоря, что власть не должна концентрироваться. Те, кто пишет правила, — это люди, которые уже управляют лабораториями. Это не децентрализация — это регуляторный захват ещё до того, как появятся сами регуляции.
