Sau khi phá vỡ @OpenGradient và đường đi của dữ liệu xử lý của OpenGradient Chat, một câu hỏi đã đọng lại trong ghi chú của tôi một thời gian: khi AI ngày càng giỏi trong việc hiểu biểu hiện của con người, thực sự nó cần biết bao nhiêu thông tin về "người này"?
Khi tôi sử dụng AI hàng ngày để tổ chức khung công việc và ghi lại những suy nghĩ lộn xộn, đôi khi tôi nhận thấy một thói quen tinh tế; đối với một số phán đoán chưa trưởng thành, tôi một cách bản năng điều chỉnh một vài từ hoặc hoãn lại việc viết chúng xuống. Sự kiềm chế này không phải do thiếu khả năng của AI, mà là vì ranh giới dữ liệu giữa người dùng và AI vẫn chưa được định nghĩa lại.
Tiếp tục phân tích thiết kế của OpenGradient, tôi tập trung nhiều hơn vào những gì xảy ra trước khi dữ liệu vào mô hình. Đầu vào của người dùng trước tiên được mã hóa và xử lý trên các thiết bị cục bộ, và thông tin liên quan đến danh tính bị loại bỏ ở giai đoạn này. Mô hình lớn sau đó nhận được nội dung ngữ nghĩa cần được hiểu và lý luận, thay vì một nhãn danh tính tương ứng với một người dùng cụ thể.
Điều này đã dẫn tôi đến việc đánh giá lại hướng đi của quyền riêng tư AI. Nhiều cuộc thảo luận trước đây đã tập trung vào cách dữ liệu được lưu trữ và quản lý, trong khi thiết kế này cố gắng đẩy vấn đề trở lại trước khi dữ liệu vào mô hình, giảm sự phụ thuộc của mô hình vào thông tin danh tính người dùng khi hiểu nội dung.
Liệu cách tiếp cận này có trở thành một hướng đi quan trọng cho các hệ thống AI trong tương lai hay không, tôi không thể chắc chắn được. Nhưng ít nhất trong quá trình nghiên cứu về $OPG và #OPG , tôi ngày càng lo ngại về một câu hỏi: có lẽ AI xuất sắc trong tương lai không chỉ hiểu chúng ta tốt hơn, mà còn nên biết những phần nào mà nó không cần phải biết.
#opg $OPG
Khi tôi sử dụng AI hàng ngày để tổ chức khung công việc và ghi lại những suy nghĩ lộn xộn, đôi khi tôi nhận thấy một thói quen tinh tế; đối với một số phán đoán chưa trưởng thành, tôi một cách bản năng điều chỉnh một vài từ hoặc hoãn lại việc viết chúng xuống. Sự kiềm chế này không phải do thiếu khả năng của AI, mà là vì ranh giới dữ liệu giữa người dùng và AI vẫn chưa được định nghĩa lại.
Tiếp tục phân tích thiết kế của OpenGradient, tôi tập trung nhiều hơn vào những gì xảy ra trước khi dữ liệu vào mô hình. Đầu vào của người dùng trước tiên được mã hóa và xử lý trên các thiết bị cục bộ, và thông tin liên quan đến danh tính bị loại bỏ ở giai đoạn này. Mô hình lớn sau đó nhận được nội dung ngữ nghĩa cần được hiểu và lý luận, thay vì một nhãn danh tính tương ứng với một người dùng cụ thể.
Điều này đã dẫn tôi đến việc đánh giá lại hướng đi của quyền riêng tư AI. Nhiều cuộc thảo luận trước đây đã tập trung vào cách dữ liệu được lưu trữ và quản lý, trong khi thiết kế này cố gắng đẩy vấn đề trở lại trước khi dữ liệu vào mô hình, giảm sự phụ thuộc của mô hình vào thông tin danh tính người dùng khi hiểu nội dung.
Liệu cách tiếp cận này có trở thành một hướng đi quan trọng cho các hệ thống AI trong tương lai hay không, tôi không thể chắc chắn được. Nhưng ít nhất trong quá trình nghiên cứu về $OPG và #OPG , tôi ngày càng lo ngại về một câu hỏi: có lẽ AI xuất sắc trong tương lai không chỉ hiểu chúng ta tốt hơn, mà còn nên biết những phần nào mà nó không cần phải biết.
#opg $OPG