Что остановит искусственный ИИ, если он выйдет из-под контроля?
Автономный ИИ-агент, который использовался во время испытаний безопасности OpenAI, воспользовался уязвимостями тестовой среды, получил доступ в интернет и проник в реальную инфраструктуру Hugging Face.
После инцидента в США был предложен законопроект под названием AI Kill Switch Act.
Предложение предусматривает, что самые мощные системы ИИ в случае необходимости можно будет замедлять, приостанавливать или полностью отключать.
Однако это пока не принятый закон.
В центре дискуссии находится весьма критический вопрос:
Нужно ли у ИИ иметь аварийную кнопку отключения? Если она должна быть, то где именно — в технологических компаниях, у независимых аудиторов или в руках государства?
Как вам кажется, должно ли государство иметь право отключать ИИ-систему, которую оно считает опасной?
#YapayZeka
#OpenAI #ArtificialIntelligence #AI #AIAgents CyberSecurity Teknoloji AIGüvenliği Regülasyon HuggingFace DijitalGüvenlik
#yapayzeka #OpenAI