Развитие ИИ, возможно, действительно пора немного притормозить. CEO Anthropic Дарьо Амодей в посте пишет, что ИИ уже начал участвовать в создании следующего поколения моделей, и он опасается: в ближайшие 6–12 месяцев более мощные системы могут принести серьезные риски для кибербезопасности. Поэтому он выступает за введение постоянных оценок безопасности третьими сторонами, продвижение единых стандартов среди передовых ИИ-компаний, а также за ограничение экспорта в Китай продвинутых чипов и оборудования. Он считает, что полностью останавливать разработки в ближайшее время нереалистично, но нужно дать больше времени для выравнивания по требованиям безопасности.

Лично я думаю, что немного замедлить проведение проверок безопасности — это не плохая идея: чем выше возможности, тем выше может быть и цена ошибки. Но как именно балансировать конкуренцию в технологиях и безопасность — действительно сложно.

Как вы считаете, передовым ИИ сейчас нужно активно сбавлять темп или продолжать гнаться за скоростью — более реалистичный подход?