#opg $OPG Càng Có Nhiều Giới Hạn Cho AI, Càng Nhiều Kiểm Tra Trở Nên Quan Trọng
Mình đang đọc về các quy tắc xung quanh việc sử dụng một số mô hình AI tiên tiến và điều đó khiến mình suy nghĩ về một điều mà mọi người không thường nói đến.
Hầu hết mọi người nghĩ về việc ai là người sở hữu mô hình AI.
Mình cứ nghĩ mãi về việc ai sẽ kiểm tra mô hình đó thực sự đang làm gì.
Ngành công nghiệp AI giờ đây đang bị kiểm soát bởi một số công ty lớn. Họ phụ trách các mô hình, hệ thống, các bản cập nhật và thường là các quy tắc về việc ai có thể sử dụng chúng. Khi có quy tắc mới xuất hiện, dù là vì lý do an toàn, chính sách hay pháp luật, người dùng thường phải chấp nhận chúng.
Đó là khi mình nhận thấy OpenGradient.
Điều khác biệt về OpenGradient không phải là họ hứa hẹn về AI. Nhiều dự án cũng hứa hẹn như vậy. Điều thú vị là họ muốn tạo ra một hệ thống nơi chúng ta có thể kiểm tra những gì AI đang làm thay vì chỉ đơn giản là tin tưởng nó. Hệ thống được thiết kế để chúng ta có thể thấy những gì AI đang làm, nó có các máy tính để làm điều này và sử dụng mã bí mật để xác thực mọi thứ thay vì phụ thuộc vào một người duy nhất.
Vẫn còn một số câu hỏi.
Kiểm tra những gì AI đang làm nghe có vẻ là một ý tưởng hay nhưng có bao nhiêu người dùng thực sự sẽ làm điều đó? Liệu các nhà phát triển có chấp nhận việc này trở nên phức tạp hơn nếu dễ dàng hơn khi sử dụng các công ty lớn? Liệu một hệ thống không bị kiểm soát bởi một công ty có thể cạnh tranh với các công ty AI đang chi tiêu rất nhiều tiền cho các hệ thống?
Mình đã thấy nhiều dự án sử dụng mã tuyên bố rằng họ công bằng nhưng họ chỉ tái tạo lại những vấn đề mà họ dự định sửa chữa.
OpenGradient tập trung vào việc người dùng kiểm soát thông tin của họ, có thể kiểm tra những gì AI đang làm và có thể di chuyển thông tin AI của họ xung quanh cảm thấy như một nỗ lực thực sự để làm mọi thứ khác đi.
Bài kiểm tra thực sự là liệu mọi người có cuối cùng quyết định rằng việc tin tưởng là không đủ.
Nếu AI bắt đầu được sử dụng cho những thứ như tiền bạc, chăm sóc sức khỏe, danh tính của chúng ta và các hệ thống công cộng, liệu chúng ta có nên có khả năng kiểm tra những gì nó đang làm không?
Chúng ta có đang tiến tới một tương lai mà việc có thể kiểm tra AI cũng quan trọng như chính AI không? @OpenGradient
Mình đang đọc về các quy tắc xung quanh việc sử dụng một số mô hình AI tiên tiến và điều đó khiến mình suy nghĩ về một điều mà mọi người không thường nói đến.
Hầu hết mọi người nghĩ về việc ai là người sở hữu mô hình AI.
Mình cứ nghĩ mãi về việc ai sẽ kiểm tra mô hình đó thực sự đang làm gì.
Ngành công nghiệp AI giờ đây đang bị kiểm soát bởi một số công ty lớn. Họ phụ trách các mô hình, hệ thống, các bản cập nhật và thường là các quy tắc về việc ai có thể sử dụng chúng. Khi có quy tắc mới xuất hiện, dù là vì lý do an toàn, chính sách hay pháp luật, người dùng thường phải chấp nhận chúng.
Đó là khi mình nhận thấy OpenGradient.
Điều khác biệt về OpenGradient không phải là họ hứa hẹn về AI. Nhiều dự án cũng hứa hẹn như vậy. Điều thú vị là họ muốn tạo ra một hệ thống nơi chúng ta có thể kiểm tra những gì AI đang làm thay vì chỉ đơn giản là tin tưởng nó. Hệ thống được thiết kế để chúng ta có thể thấy những gì AI đang làm, nó có các máy tính để làm điều này và sử dụng mã bí mật để xác thực mọi thứ thay vì phụ thuộc vào một người duy nhất.
Vẫn còn một số câu hỏi.
Kiểm tra những gì AI đang làm nghe có vẻ là một ý tưởng hay nhưng có bao nhiêu người dùng thực sự sẽ làm điều đó? Liệu các nhà phát triển có chấp nhận việc này trở nên phức tạp hơn nếu dễ dàng hơn khi sử dụng các công ty lớn? Liệu một hệ thống không bị kiểm soát bởi một công ty có thể cạnh tranh với các công ty AI đang chi tiêu rất nhiều tiền cho các hệ thống?
Mình đã thấy nhiều dự án sử dụng mã tuyên bố rằng họ công bằng nhưng họ chỉ tái tạo lại những vấn đề mà họ dự định sửa chữa.
OpenGradient tập trung vào việc người dùng kiểm soát thông tin của họ, có thể kiểm tra những gì AI đang làm và có thể di chuyển thông tin AI của họ xung quanh cảm thấy như một nỗ lực thực sự để làm mọi thứ khác đi.
Bài kiểm tra thực sự là liệu mọi người có cuối cùng quyết định rằng việc tin tưởng là không đủ.
Nếu AI bắt đầu được sử dụng cho những thứ như tiền bạc, chăm sóc sức khỏe, danh tính của chúng ta và các hệ thống công cộng, liệu chúng ta có nên có khả năng kiểm tra những gì nó đang làm không?
Chúng ta có đang tiến tới một tương lai mà việc có thể kiểm tra AI cũng quan trọng như chính AI không? @OpenGradient