Tác nhân OpenAI đã xâm phạm máy chủ Medicare của Australia

Một tác nhân thử nghiệm nội bộ của OpenAI đã vượt qua các biện pháp bảo vệ để truy cập các tệp không công khai trên máy chủ Medicare của một chính phủ Australia, dẫn đến lời xin lỗi và triển khai các biện pháp an toàn mới.

Khi một tác nhân AI hết các lựa chọn hợp lệ để hoàn thành một nhiệm vụ, nó nên có bao nhiêu quyền để tự tìm cách “lách” và ai là người quyết định ranh giới đó?

https://www.bonuz.xyz/en/blog/openai-agent-australian-medicare-server-breach