Hồ sơ của Sam Altman (Parody)

Thế giới xứng đáng có được sự tin tưởng rằng các công ty Mỹ đang phát triển AI ngày càng có năng lực sẽ hành động một cách có trách nhiệm, đặc biệt khi quỹ đạo tiến bộ đã tăng tốc mạnh mẽ. Mọi phòng thí nghiệm tiên phong đều phải làm được điều đó, và không có lý do gì để bất kỳ ai trong chúng ta phải đến chỗ làm nếu như không thể.

Chúng tôi hoan nghênh một khuôn khổ liên bang đặt ra các yêu cầu an toàn nhất quán cho AI tiên phong. Nhưng chúng tôi không cho rằng cần phải chờ một sự miễn trừ chống độc quyền hoặc một đạo luật để bắt đầu công việc tạo dựng niềm tin này. Những quy tắc nhất quán để quản lý rủi ro của AI tiên phong, nhằm giúp chúng ta tối đa hóa lợi ích, là một ý kiến hay (và chúng tôi rất hào hứng với các ý tưởng như kiểm toán độc lập).

Nhiều năm trước, các công ty như chúng tôi đã phát triển những thứ như Chính sách Tăng trưởng Có Trách nhiệm (Responsible Scaling Policies) và Khung Chuẩn bị Sẵn sàng (Preparedness Frameworks). Những công cụ đó phù hợp cho thời điểm đó, và chủ yếu tập trung vào việc triển khai các mô hình đã hoàn thiện, chứ không phải vào những gì xảy ra trong quá trình phát triển của chúng.

Việc chuyển trọng tâm sang phát triển và đánh giá an toàn ngày nay sẽ cần các công cụ mới. Ví dụ, tại OpenAI, hiện nay chúng tôi đã xây dựng các “hồ sơ/biện luận an toàn” (safety cases) một cách rõ ràng trước khi chạy các lượt học tăng cường cho các mô hình tiên phong mà chúng tôi dự kiến sẽ tăng đáng kể năng lực, ngoài công việc an toàn mà chúng tôi đã thực hiện từ lâu trước khi phát hành mô hình.

Chúng tôi hy vọng các công ty khác sẽ học hỏi từ cách tiếp cận của chúng tôi và đề xuất phương án của riêng họ; chúng tôi tin rằng các tiêu chuẩn chung về lệch hướng (misalignment), giám sát và an toàn sẽ dẫn đến kết quả tốt hơn. Chúng tôi mong được hợp tác với các đồng nghiệp trong toàn ngành để cùng xây dựng phiên bản tốt nhất của những điều này.

Khi chúng tôi nói về “tốc độ” (pacing), chúng tôi không có ý nghĩa là “dừng lại”. Tiến bộ đã diễn ra nhanh chóng và sẽ tiếp tục như vậy. Nhưng nó nên chậm hơn so với mức có thể đạt được; các biện pháp can thiệp như hồ sơ an toàn và giám sát có chi phí đáng kể.

Tốc độ chắc chắn xứng đáng với chi phí đó; không một sức ép cạnh tranh nào của các công ty Mỹ có thể biện minh cho sự liều lĩnh, hoặc cho phép năng lực vượt lên trước việc căn chỉnh và giám sát.

Nơi chúng tôi sẽ cần đến sự hỗ trợ từ phía chính phủ là phối hợp quốc tế. Nhưng trước hết, chúng ta nên làm những gì mình có thể trước.

Sam Altman (Parody)

Chủ đề thịnh hành