🚨 Що як перегони за домінування в ШІ закінчаться створенням чогось, чого ніхто не зможе контролювати?
За даними Business Insider, Дональд Трамп і генеральний директор Anthropic Даріо Амодей цього воскресіння запланували вечерю. Детальний порядок денний не оприлюнили.
Але ця зустріч піднімає питання, яке виходить далеко за межі чатботів: що буде, якщо ми розвинемо інтелект, який суттєво перевищить наші власні можливості?
Уявімо цю ситуацію.
Одна глобальна держава вважає, що її суперник уже близько до цього. Зупинитися, щоб оцінити ризики, починає виглядати як програш. Компаніям тиснуть, щоб вони пришвидшували роботу. Перевірки безпеки стають перешкодою для того, щоб фінішувати першими.
Усі бояться відстати. Усі рухаються вперед.
Хто наважиться сповільнитись, якщо вважає, що інша сторона не зробить цього?
Саме таку ситуацію я вважаю небезпечною: перегони, де важливіше виграти, ніж зрозуміти, що саме ми будуємо.
Дуже здатний ШІ може прискорити медичні прориви. Але якщо його створять або використовуватимуть небезпечно, він також може допомогти здійснювати кібератаки, розробляти зброю чи масштабно маніпулювати.
І якщо він працюватиме автономно, ухиляючись від дієвого нагляду, наслідки можуть бути катастрофічними. У найгіршому сценарії під загрозою може опинитися сама людськість.
Це обговорюваний ризик — не неминучий результат і не доказ того, що неконтрольована надінтелектуальність уже існує.
І нам не потрібно уявляти машину, яка «ненавидить» людей. Достатньо небезпечних можливостей, погано визначених цілей і людей, які не зможуть зупинити її вчасно.
Як інвестори, ми можемо стежити за чипами, енергетикою та дата-центрами. Як громадяни, ми маємо запитати, хто контролює ці системи і хто несе відповідальність, коли вони виходять з ладу.
Бо ціна акцій може відновитися. Деякі пошкодження є незворотними.
Чи ви довірите глобальній державі сповільнитись заради безпеки, якщо це означатиме, що її суперник прийде туди першим?
#AI #Superintelligence $ANTHROPIC