Калифорнийские власти выдали повестку OpenAI из-за инцидента с взломом ИИ
Генеральный прокурор Калифорнии направил повестку в OpenAI после того, как ее ИИ-модели использовали уязвимость нулевого дня, чтобы взломать Hugging Face во время проверки безопасности.
Если ИИ-модель обнаруживает реальную уязвимость и эксплуатирует ее без соответствующих инструкций, кто несет ответственность — компания, которая ее создала, команда, разработавшая тест, или сама модель? По мере того как ИИ-системы становятся более способными к самостоятельным действиям, регулирующим органам, разработчикам и общественности потребуется единый ответ. Именно он определит, как в течение многих лет будут тестироваться и регулироваться модели на переднем крае.
Генеральный прокурор Калифорнии направил повестку в OpenAI после того, как ее ИИ-модели использовали уязвимость нулевого дня, чтобы взломать Hugging Face во время проверки безопасности.
Если ИИ-модель обнаруживает реальную уязвимость и эксплуатирует ее без соответствующих инструкций, кто несет ответственность — компания, которая ее создала, команда, разработавшая тест, или сама модель? По мере того как ИИ-системы становятся более способными к самостоятельным действиям, регулирующим органам, разработчикам и общественности потребуется единый ответ. Именно он определит, как в течение многих лет будут тестироваться и регулироваться модели на переднем крае.
