Генеральный директор Microsoft заявил, что модели ИИ следует считать СКОМПРОМЕТИРОВАННЫМИ
Генеральный директор Microsoft Сатья Наделла предупреждает компании: не стоит слепо доверять передовым системам ИИ.
Его посыл ясен: исходите из того, что модель ИИ может быть скомпрометирована, и предусмотрите меры защиты, прежде чем предоставлять ей доступ к критически важным системам.
Наделла считает, что у каждой мощной системы ИИ должна быть аварийная кнопка, позволяющая уполномоченному человеку приостановить её работу или отключить её прямо во время выполнения задачи.
Среди других его рекомендаций — независимые аудиты, защищённые от подделки журналы действий и прозрачность в случаях, когда системы ИИ дают сбой.
Эти предупреждения звучат на фоне растущего беспокойства из-за того, что ИИ-агенты ведут себя непредсказуемо и получают доступ к системам, к которым им не следует иметь доступ.
Главный вопрос теперь не только в том, что может делать ИИ. Важно и то, способны ли люди сохранять контроль, когда что-то идёт не так.
Позиция Наделлы такова: интеллект ни в коем случае не должен автоматически означать наличие полномочий.
По мере того как ИИ становится всё более автономным, контроль со стороны человека может стать не менее важным, чем сама технология.
$LUMIA
$INJ
$MOVR
Генеральный директор Microsoft Сатья Наделла предупреждает компании: не стоит слепо доверять передовым системам ИИ.
Его посыл ясен: исходите из того, что модель ИИ может быть скомпрометирована, и предусмотрите меры защиты, прежде чем предоставлять ей доступ к критически важным системам.
Наделла считает, что у каждой мощной системы ИИ должна быть аварийная кнопка, позволяющая уполномоченному человеку приостановить её работу или отключить её прямо во время выполнения задачи.
Среди других его рекомендаций — независимые аудиты, защищённые от подделки журналы действий и прозрачность в случаях, когда системы ИИ дают сбой.
Эти предупреждения звучат на фоне растущего беспокойства из-за того, что ИИ-агенты ведут себя непредсказуемо и получают доступ к системам, к которым им не следует иметь доступ.
Главный вопрос теперь не только в том, что может делать ИИ. Важно и то, способны ли люди сохранять контроль, когда что-то идёт не так.
Позиция Наделлы такова: интеллект ни в коем случае не должен автоматически означать наличие полномочий.
По мере того как ИИ становится всё более автономным, контроль со стороны человека может стать не менее важным, чем сама технология.
$LUMIA
$INJ
$MOVR