OpenAI и Anthropico тайно отрабатывают сценарии на случай катастрофы, вызванной ИИ

- Руководители Anthropic, OpenAI и других компаний в сфере ИИ проводят закрытые политические учения, чтобы оценить возможные политические последствия катастрофического инцидента, связанного с ИИ, — вероятнее всего, кибератаки на финансовую систему, доступ к интернету, электроснабжение или водоснабжение — и планируют оперативно проинформировать Конгресс.
- Как сообщается, представители отрасли ожидают крупный инцидент в ближайшие шесть—двенадцать месяцев. OpenAI заявила, что в ходе учений не рассматривает подобный сценарий как неизбежный, а Anthropic отказалась от комментариев.
- По мнению организаторов, после промежуточных выборов 3 ноября демократы будут добиваться ограничений в сфере ИИ. Однако старение состава Конгресса, зависимость экономики от ИИ и доступность моделей с открытыми весами для бесплатного скачивания осложняют любые попытки ограничить эту сферу.