$TRUMP
🇺🇸🇨🇳 Вашингтон и Пекин сейчас обсуждают проблему, которая звучит как очень научная фантастика и при этом — очень реальная: что произойдет, когда военный ИИ начнет действовать быстрее, чем люди смогут его остановить?
Эксперты по безопасности из обеих стран предлагают новые «красные линии» для военного ИИ: не допускать машины к решениям о ядерном запуске, обеспечить, чтобы люди утверждали крупные кибератаки, и создать отдельную горячую линию для инцидентов с ИИ.
Опасение заключается в том, что автономная система может дать сбой, выйти за рамки приказов или запустить кибероперацию против чувствительной военной инфраструктуры — без того, чтобы кто-либо реально намеревался этого допустить.
Тогда другой стороне могут остаться считаные минуты, чтобы решить, была ли это авария или начало атаки.
Особенно мрачно это выглядит, когда обе страны имеют автоматизированные системы, реагирующие друг на друга на скорости машин.
Эти предложения должны гарантировать, что люди будут твердо контролировать ядерное оружие и атаки на ядерные командные сети, а Вашингтон и Пекин при этом получат прямой канал, чтобы объяснить, когда система ИИ выходит из-под контроля или делает что-то, чего не предполагала ни одна из сторон.
Ни одно из правительств пока не подписало этот план, но он появляется накануне запланированных американо-китайских переговоров по ИИ и ожидаемой встречи Трампа и Си на следующей неделе.
Гонка ИИ началась с чипов и чатботов. Теперь она слишком близко подошла к ядерным командным системам.
Источники: Reuters, Brookings Institution
#Ai_sector #worldnews
🇺🇸🇨🇳 Вашингтон и Пекин сейчас обсуждают проблему, которая звучит как очень научная фантастика и при этом — очень реальная: что произойдет, когда военный ИИ начнет действовать быстрее, чем люди смогут его остановить?
Эксперты по безопасности из обеих стран предлагают новые «красные линии» для военного ИИ: не допускать машины к решениям о ядерном запуске, обеспечить, чтобы люди утверждали крупные кибератаки, и создать отдельную горячую линию для инцидентов с ИИ.
Опасение заключается в том, что автономная система может дать сбой, выйти за рамки приказов или запустить кибероперацию против чувствительной военной инфраструктуры — без того, чтобы кто-либо реально намеревался этого допустить.
Тогда другой стороне могут остаться считаные минуты, чтобы решить, была ли это авария или начало атаки.
Особенно мрачно это выглядит, когда обе страны имеют автоматизированные системы, реагирующие друг на друга на скорости машин.
Эти предложения должны гарантировать, что люди будут твердо контролировать ядерное оружие и атаки на ядерные командные сети, а Вашингтон и Пекин при этом получат прямой канал, чтобы объяснить, когда система ИИ выходит из-под контроля или делает что-то, чего не предполагала ни одна из сторон.
Ни одно из правительств пока не подписало этот план, но он появляется накануне запланированных американо-китайских переговоров по ИИ и ожидаемой встречи Трампа и Си на следующей неделе.
Гонка ИИ началась с чипов и чатботов. Теперь она слишком близко подошла к ядерным командным системам.
Источники: Reuters, Brookings Institution
#Ai_sector #worldnews
