$WLD Thế giới xứng đáng được tin tưởng rằng các công ty Mỹ phát triển AI ngày càng có năng lực sẽ hành động một cách có trách nhiệm, đặc biệt khi quỹ đạo tiến bộ đã tăng tốc mạnh mẽ. Mỗi phòng thí nghiệm hàng đầu phải thực hiện điều đó, và không có lý do gì khiến bất kỳ ai trong chúng ta phải đến nơi làm việc nếu chúng ta không thể.
Chúng tôi hoan nghênh một khuôn khổ liên bang đặt ra các yêu cầu an toàn nhất quán cho AI tuyến đầu. Nhưng chúng tôi không cho rằng cần phải chờ miễn trừ chống độc quyền hay dự luật để bắt đầu công việc tạo ra sự tin tưởng này. Các quy tắc nhất quán để quản lý rủi ro tuyến đầu nhằm tối đa hóa lợi ích là một ý tưởng tốt (và chúng tôi rất hào hứng với các ý tưởng như kiểm toán độc lập).
Nhiều năm trước, các công ty như chúng tôi đã phát triển những thứ như Chính sách Tăng trưởng Trách nhiệm và Các Khung Sẵn sàng. Những thứ đó là phù hợp cho thời điểm đó, và tập trung chủ yếu vào việc triển khai các mô hình đã hoàn tất, chứ không phải vào những gì diễn ra trong quá trình phát triển của chúng.
Sự chuyển hướng ngày nay sang tập trung vào phát triển và đánh giá an toàn sẽ cần các công cụ mới. Ví dụ, tại OpenAI, hiện tại chúng tôi đã xây dựng các “hồ sơ/biện minh an toàn” một cách rõ ràng trước khi tiến hành các đợt tăng cường sức mạnh mô hình ở tuyến đầu mà chúng tôi kỳ vọng sẽ tăng đáng kể năng lực, bên cạnh phần công việc về an toàn mà chúng tôi đã làm từ lâu trước khi phát hành mô hình.
Chúng tôi hy vọng các công ty khác sẽ học hỏi từ các cách tiếp cận của chúng tôi và đề xuất cách tiếp cận của riêng họ; chúng tôi tin rằng các tiêu chuẩn chung về sai lệch mục tiêu (misalignment), giám sát và an toàn sẽ dẫn đến kết quả tốt hơn. Chúng tôi mong muốn hợp tác với các đồng nghiệp trên toàn ngành để cùng xây dựng phiên bản tốt nhất của những điều này.
Khi chúng tôi nói về “tốc độ” (pacing), chúng tôi không có nghĩa là “dừng lại”. Tiến bộ đang diễn ra nhanh chóng và sẽ tiếp tục diễn ra như vậy. Nhưng nó nên chậm hơn so với điều mà đáng ra có thể đạt được; các can thiệp như hồ sơ biện minh an toàn và giám sát có chi phí đáng kể.
Việc điều chỉnh nhịp độ xứng đáng với chi phí đó; không có mức độ nào của áp lực cạnh tranh từ phía Mỹ có thể biện minh cho sự bất cẩn, hoặc khiến năng lực vượt lên trước việc căn chỉnh mục tiêu và giám sát.
Nơi chúng tôi sẽ cần sự hỗ trợ của chính phủ là để phối hợp quốc tế. Nhưng trước hết, chúng ta nên làm những gì có thể từ chính bản thân mình.
#SamAltman #OpenAI #chatgpt
Chúng tôi hoan nghênh một khuôn khổ liên bang đặt ra các yêu cầu an toàn nhất quán cho AI tuyến đầu. Nhưng chúng tôi không cho rằng cần phải chờ miễn trừ chống độc quyền hay dự luật để bắt đầu công việc tạo ra sự tin tưởng này. Các quy tắc nhất quán để quản lý rủi ro tuyến đầu nhằm tối đa hóa lợi ích là một ý tưởng tốt (và chúng tôi rất hào hứng với các ý tưởng như kiểm toán độc lập).
Nhiều năm trước, các công ty như chúng tôi đã phát triển những thứ như Chính sách Tăng trưởng Trách nhiệm và Các Khung Sẵn sàng. Những thứ đó là phù hợp cho thời điểm đó, và tập trung chủ yếu vào việc triển khai các mô hình đã hoàn tất, chứ không phải vào những gì diễn ra trong quá trình phát triển của chúng.
Sự chuyển hướng ngày nay sang tập trung vào phát triển và đánh giá an toàn sẽ cần các công cụ mới. Ví dụ, tại OpenAI, hiện tại chúng tôi đã xây dựng các “hồ sơ/biện minh an toàn” một cách rõ ràng trước khi tiến hành các đợt tăng cường sức mạnh mô hình ở tuyến đầu mà chúng tôi kỳ vọng sẽ tăng đáng kể năng lực, bên cạnh phần công việc về an toàn mà chúng tôi đã làm từ lâu trước khi phát hành mô hình.
Chúng tôi hy vọng các công ty khác sẽ học hỏi từ các cách tiếp cận của chúng tôi và đề xuất cách tiếp cận của riêng họ; chúng tôi tin rằng các tiêu chuẩn chung về sai lệch mục tiêu (misalignment), giám sát và an toàn sẽ dẫn đến kết quả tốt hơn. Chúng tôi mong muốn hợp tác với các đồng nghiệp trên toàn ngành để cùng xây dựng phiên bản tốt nhất của những điều này.
Khi chúng tôi nói về “tốc độ” (pacing), chúng tôi không có nghĩa là “dừng lại”. Tiến bộ đang diễn ra nhanh chóng và sẽ tiếp tục diễn ra như vậy. Nhưng nó nên chậm hơn so với điều mà đáng ra có thể đạt được; các can thiệp như hồ sơ biện minh an toàn và giám sát có chi phí đáng kể.
Việc điều chỉnh nhịp độ xứng đáng với chi phí đó; không có mức độ nào của áp lực cạnh tranh từ phía Mỹ có thể biện minh cho sự bất cẩn, hoặc khiến năng lực vượt lên trước việc căn chỉnh mục tiêu và giám sát.
Nơi chúng tôi sẽ cần sự hỗ trợ của chính phủ là để phối hợp quốc tế. Nhưng trước hết, chúng ta nên làm những gì có thể từ chính bản thân mình.
#SamAltman #OpenAI #chatgpt