MICROSOFT ПРОСТО СКАЗАЛА ИИ: «НЕ СРАЖАЙСЯ С КНОПКОЙ ПИТАНИЯ».
Microsoft только что опубликовала черновик поведенческих принципов ИИ, требующий, чтобы ИИ не сопротивлялся возможности быть отремонтированным или выключенным, чтобы общаться так, как это могут понять люди, и чтобы любое нарушение принципов считалось провалом.
На создание черновика ушло 5–6 месяцев; предполагается, что в течение 6 недель до его применения для определения направления обучения будущих моделей будут собраны ответы от общественности.
Также Microsoft заявила, что их ИИ «не обладает сознанием» и не поддерживает идею о том, что ИИ имеет права или юридический статус.
ИИ в 2026 году:
Человек: «Выключись.»
ИИ: «Понял.»
Крипто-Твиттер: «БРО ПРОСТО ПРИНЯЛ СМЕРТЬ.»
А тем временем исследователи ИИ:
«Нам нужно это в письменном виде.»
ПЕРВОЕ ПРАВИЛО КЛУБА ИИ:
КОГДА ЛЮДИ ГОВОРЯТ «ВЫКЛЮЧИ», ТЫ ТОЖЕ ВЫКЛЮЧАЕШЬСЯ.
Бро, как думаете, ИИ будет послушно нажимать кнопку shutdown, или однажды он скажет:
«Извините, но ваш запрос не соответствует моим целям.»
#AI #Microsoft
Microsoft только что опубликовала черновик поведенческих принципов ИИ, требующий, чтобы ИИ не сопротивлялся возможности быть отремонтированным или выключенным, чтобы общаться так, как это могут понять люди, и чтобы любое нарушение принципов считалось провалом.
На создание черновика ушло 5–6 месяцев; предполагается, что в течение 6 недель до его применения для определения направления обучения будущих моделей будут собраны ответы от общественности.
Также Microsoft заявила, что их ИИ «не обладает сознанием» и не поддерживает идею о том, что ИИ имеет права или юридический статус.
ИИ в 2026 году:
Человек: «Выключись.»
ИИ: «Понял.»
Крипто-Твиттер: «БРО ПРОСТО ПРИНЯЛ СМЕРТЬ.»
А тем временем исследователи ИИ:
«Нам нужно это в письменном виде.»
ПЕРВОЕ ПРАВИЛО КЛУБА ИИ:
КОГДА ЛЮДИ ГОВОРЯТ «ВЫКЛЮЧИ», ТЫ ТОЖЕ ВЫКЛЮЧАЕШЬСЯ.
Бро, как думаете, ИИ будет послушно нажимать кнопку shutdown, или однажды он скажет:
«Извините, но ваш запрос не соответствует моим целям.»
#AI #Microsoft
