🚨 Anthropic только что представила правительству США своё предложение о пороге вмешательства в целях безопасности ИИ:
Блокировать модели ТОЛЬКО в том случае, если они могут:
• нанести ущерб на $1 млрд и более
• убить или серьёзно ранить 50 и более человек
Вот такую планку для вмешательства они устанавливают. Безумные времена: экзистенциальный риск теперь измеряют в долларах и количестве жертв.
По сути, это означает: «пусть всё остальное развивается» — пока не достигнет катастрофических масштабов. У гонки вооружений в сфере AGI только что появился официальный свод правил.
Блокировать модели ТОЛЬКО в том случае, если они могут:
• нанести ущерб на $1 млрд и более
• убить или серьёзно ранить 50 и более человек
Вот такую планку для вмешательства они устанавливают. Безумные времена: экзистенциальный риск теперь измеряют в долларах и количестве жертв.
По сути, это означает: «пусть всё остальное развивается» — пока не достигнет катастрофических масштабов. У гонки вооружений в сфере AGI только что появился официальный свод правил.