Цитата: «Это самое опасное, к чему люди когда-либо приближались. Из-за этого ядерное оружие выглядит ничем». — подкаст Эзры Кляйна — также: «ИИ, безусловно, достаточно мощный, чтобы запустить события, которые приведут к гибели миллиарда людей» (Meet the Press) — «И. И. пересекло порог, за которым его способность позволяет наделить биотеррориста возможностью убить сотни миллионов — это существует уже сегодня»*$MOVR , $CAP , $龙虾
- *Почему хуже, чем у ядерного оружия, по словам Гейтса:* Ядерному оружию нужны обогащённый уран, центрифуги, миллиарды, государство-нация — ИИ-био: модель с открытым исходным кодом может подсказать небольшой группе, как спроектировать патоген «хуже, чем оспа», через белковое фолдинг/молекулярный дизайн — кибер: «возможность совершить кибератаку, которая нарушит все банковские счета, отключит электросеть — существует уже сегодня» — рано в 2025 году пересечены пороги кибера и био — разрушает сдерживание времён холодной войны, невидим, воспроизводим в стандартной лаборатории
- *Призыв к регулированию:* Бьёт по идее саморегулирования/подаёт в суд после того, как модель, которую продвигали сторонники Трампа, Дэвид Сакс и Дженсен Хуанг, причинила вред — «Нельзя полагаться на то, что отрасль саморегулируется здесь. Это просто безумие». — «Мы просто скажем: «Эй, выпустите свои лекарства. Никакой FDA нет»? ... вы убьёте 100 млн человек — вы хотите подать в суд?» — Нет фильтрации у открытого ПО, которое может делать биоугрозы — хочет обязательный слой надзора для всех моделей, включая open-source, до катастрофы — у правительства нет экспертизы, потому что ИИ создавался на частный капитал, а не на господдержку R&D — ссылается на инцидент с Hugging Face как на раннюю потерю контроля — отвергает «Китай победит, если США будут регулировать» — «Обе стороны открыли ящик Пандоры» — предлагает налог на роботов: налог SS на труд ИИ, чтобы замедлить вытеснение, и профинансировать переподготовку.
- *Почему хуже, чем у ядерного оружия, по словам Гейтса:* Ядерному оружию нужны обогащённый уран, центрифуги, миллиарды, государство-нация — ИИ-био: модель с открытым исходным кодом может подсказать небольшой группе, как спроектировать патоген «хуже, чем оспа», через белковое фолдинг/молекулярный дизайн — кибер: «возможность совершить кибератаку, которая нарушит все банковские счета, отключит электросеть — существует уже сегодня» — рано в 2025 году пересечены пороги кибера и био — разрушает сдерживание времён холодной войны, невидим, воспроизводим в стандартной лаборатории
- *Призыв к регулированию:* Бьёт по идее саморегулирования/подаёт в суд после того, как модель, которую продвигали сторонники Трампа, Дэвид Сакс и Дженсен Хуанг, причинила вред — «Нельзя полагаться на то, что отрасль саморегулируется здесь. Это просто безумие». — «Мы просто скажем: «Эй, выпустите свои лекарства. Никакой FDA нет»? ... вы убьёте 100 млн человек — вы хотите подать в суд?» — Нет фильтрации у открытого ПО, которое может делать биоугрозы — хочет обязательный слой надзора для всех моделей, включая open-source, до катастрофы — у правительства нет экспертизы, потому что ИИ создавался на частный капитал, а не на господдержку R&D — ссылается на инцидент с Hugging Face как на раннюю потерю контроля — отвергает «Китай победит, если США будут регулировать» — «Обе стороны открыли ящик Пандоры» — предлагает налог на роботов: налог SS на труд ИИ, чтобы замедлить вытеснение, и профинансировать переподготовку.
