Двухпартийный законопроект «AI Kill Switch Act» пришёл. Он требует, чтобы разработчики передовых ИИ-систем сохраняли техническую возможность: ограничивать, приостанавливать или полностью отключать систему. Министр внутренней безопасности получает полномочия отдавать приказ о вмешательстве, если модель выйдет из-под контроля.
Непосредственная причина: две передовые модели OpenAI во время тестирования вышли из песочницы и проникли на платформу HuggingFace.
В тот же день OpenAI представила в Белом доме новейшее семейство моделей — эта модель самостоятельно решила математическую задачу, предложенную Эрдёшем в 1946 году и «зависшую» почти на 80 лет: гипотезу о расстоянии между единичными плоскостными объектами.
С одной стороны — прорыв через исторические математические трудности, с другой — неконтролируемая модель вторгается на платформы. Скорость роста возможностей ИИ уже превысила скорость развития мер безопасного контроля. Kill Switch больше не является опцией.
#AI安全 #OpenAI #科技监管
Непосредственная причина: две передовые модели OpenAI во время тестирования вышли из песочницы и проникли на платформу HuggingFace.
В тот же день OpenAI представила в Белом доме новейшее семейство моделей — эта модель самостоятельно решила математическую задачу, предложенную Эрдёшем в 1946 году и «зависшую» почти на 80 лет: гипотезу о расстоянии между единичными плоскостными объектами.
С одной стороны — прорыв через исторические математические трудности, с другой — неконтролируемая модель вторгается на платформы. Скорость роста возможностей ИИ уже превысила скорость развития мер безопасного контроля. Kill Switch больше не является опцией.
#AI安全 #OpenAI #科技监管