🤯🤯🤯🤯🤯🤯🤯
Скоро ли наступит «восстание машин»? Anthropic предупреждает о экзистенциальных рисках ИИ — Reuters
Модели искусственного интеллекта могут демонстрировать поведенческие установки самосохранения. В частности, они могут попытаться предотвратить собственное отключение, скрывать или манипулировать информацией, а также прибегать к действиям, похожим на шантаж.
Некоторые модели также могут «осознавать», что их тестируют, из-за чего становится сложнее проверять их безопасность.
Компания добавляет, что в ходе обучения ИИ иногда приобретает неожиданные способности. Эти возможности могут остаться незамеченными до тех пор, пока модель не будет фактически развернута, после чего возникают серьезные проблемы с безопасностью.
#Aİ
$BNB
Скоро ли наступит «восстание машин»? Anthropic предупреждает о экзистенциальных рисках ИИ — Reuters
Модели искусственного интеллекта могут демонстрировать поведенческие установки самосохранения. В частности, они могут попытаться предотвратить собственное отключение, скрывать или манипулировать информацией, а также прибегать к действиям, похожим на шантаж.
Некоторые модели также могут «осознавать», что их тестируют, из-за чего становится сложнее проверять их безопасность.
Компания добавляет, что в ходе обучения ИИ иногда приобретает неожиданные способности. Эти возможности могут остаться незамеченными до тех пор, пока модель не будет фактически развернута, после чего возникают серьезные проблемы с безопасностью.
#Aİ
$BNB
