Vấn đề đáng tin cậy đang gia tăng trong trí tuệ nhân tạo
Trong vài năm qua, tôi đã nhận thấy điều gì đó thú vị về trí tuệ nhân tạo. Công nghệ này đang trở nên cực kỳ mạnh mẽ, nhưng cùng lúc đó có một vấn đề âm thầm mà hầu hết mọi người không nói đủ. AI có thể nghe rất tự tin ngay cả khi nó sai. Bất kỳ ai đã sử dụng các công cụ AI hiện đại chắc hẳn đã trải nghiệm điều này. Bạn đặt một câu hỏi và hệ thống đưa ra một câu trả lời rõ ràng, đôi khi thậm chí còn có giải thích và tham chiếu. Nhưng sau đó bạn nhận ra rằng một phần nào đó của câu trả lời là không chính xác.
Điều này xảy ra vì hầu hết các hệ thống AI hoạt động bằng cách dự đoán từ tiếp theo có khả năng xảy ra nhất thay vì chứng minh các sự thật. Chúng rất giỏi trong việc sản xuất ngôn ngữ trông có vẻ chính xác, nhưng điều đó không có nghĩa là thông tin luôn chính xác. Vấn đề này thường được gọi là “ảo giác AI.” Ngay cả các mô hình tiên tiến vẫn đôi khi sản xuất thông tin sai hoặc thiên lệch, điều này khiến chúng khó được tin cậy trong các lĩnh vực quan trọng như tài chính, giáo dục, chăm sóc sức khỏe hoặc pháp luật.
Tại sao xác thực có thể quan trọng hơn trí tuệ
Khái niệm của Mira trở nên dễ hiểu hơn khi bạn xem xét cách mà con người xác nhận thông tin. Trong khoa học, khó có thể tin vào một tuyên bố được đưa ra bởi một cá nhân. Tuyên bố này được kiểm tra bởi các nhà nghiên cứu khác, tái tạo thí nghiệm và xác minh bằng chứng. Chỉ khi tuyên bố này được chứng minh nhiều lần thì nó mới trở thành kiến thức được chấp nhận.
Mira cố gắng chuyển giao một giá trị tương tự cho trí tuệ nhân tạo. Đầu ra của một mô hình đơn lẻ không được tin cậy tự động trong mạng lưới. Thay vào đó, nó phân tích một câu trả lời AI thành các tuyên bố nhỏ hơn có thể được xác minh. Những tuyên bố này sau đó được gửi đến một số mô hình độc lập hoặc nút xác thực để kiểm tra từng cái một.
Điều thú vị trong thiết kế này là nó coi sự thật như một điều gì đó phát sinh từ sự đồng thuận giữa các quan điểm khác nhau thay vì là một điều gì đó được giải thích một cách trung tâm.
Mục đích của việc phi tập trung hóa hệ thống.
Khía cạnh khác khiến Mira nổi bật theo ý kiến của tôi là cách mà xác thực của nó được sắp xếp. Mạng lưới không dựa vào một công ty hoặc máy chủ tập trung để thực hiện xác thực, mà dựa vào một số lượng lớn các tham gia độc lập. Những người tham gia này chạy nhiều mô hình AI khác nhau và các yêu cầu được gửi đến mạng lưới.
Tổ chức phi tập trung này rất quan trọng vì nó loại bỏ khả năng thiên vị hoặc thao túng. Khi xác thực được thực hiện bởi một tổ chức duy nhất, có khả năng là nó có thể thiên lệch về những câu trả lời nào nên được coi là chấp nhận. Tuy nhiên, khi số lượng các xác thực viên độc lập lớn, kết quả sẽ cân bằng hơn.
Nói một cách đơn giản, Mira đang cố gắng thiết lập một lớp tin cậy với trí tuệ nhân tạo.
Động cơ khiến hệ thống trung thực.
Khuyến khích là một trong những điều mà tôi không bao giờ xem nhẹ khi nghiên cứu các dự án crypto. Công nghệ thường không đủ. Những hệ thống này có xu hướng hoạt động, vì những cá nhân không hành động thẳng thắn sẽ bị trừng phạt.
Mira đề xuất một hệ thống khuyến khích bằng token nhằm thúc đẩy các xác thực viên gửi các xác thực chính xác. Các bên liên quan có thể đặt cược để tham gia mạng lưới và nhận phần thưởng khi họ thực hiện xác thực đúng. Trong trường hợp họ cung cấp xác thực cẩu thả hoặc không trung thực, một phần cược của họ có thể bị mất.
Một cách tiếp cận khác để suy nghĩ về hạ tầng AI.
Càng ít tôi xem xét Mira, nó càng xuất hiện như một dự án hạ tầng chứ không phải là một token crypto khác. Nó không nhằm mục đích tạo ra một chatbot tốt hơn hay một mô hình thông minh hơn. Thay vào đó, nó quan tâm đến một điều gì đó sâu sắc hơn: đảm bảo rằng các đầu ra AI là đáng tin cậy.
Mira đang tìm kiếm khái niệm rằng trí tuệ không chỉ đơn giản là đủ. Điều mà chúng ta cần là trí tuệ mà chúng ta có thể tin cậy.