@Mira - Trust Layer of AI #Mira $MIRA
Cố gắng Khắc Phục Một Trong Những Vấn Đề Im Lặng Nhất Của AI
Trí tuệ nhân tạo cảm thấy vô cùng mạnh mẽ ngay bây giờ. Bạn có thể đặt câu hỏi, yêu cầu tóm tắt, tạo mã, hoặc phân tích dữ liệu, và chỉ trong vài giây, một hệ thống AI sản xuất ra thứ gì đó trông có vẻ suy nghĩ và thông minh.
Nhưng có một thực tế kỳ lạ đứng sau trải nghiệm này.
Các hệ thống AI thực sự không hiểu thông tin theo cách mà con người làm. Chúng dự đoán các mẫu trong ngôn ngữ. Hầu hết thời gian, những dự đoán đó trông có vẻ đúng. Đôi khi chúng thực sự đúng. Nhưng thỉnh thoảng, hệ thống tự tin sản xuất thông tin mà đơn giản là không đúng sự thật.
Nếu bạn đã sử dụng các công cụ AI đủ lâu, bạn có thể đã thấy điều này xảy ra. Một mô hình tạo ra một số liệu thống kê, trích dẫn sai nguồn, hoặc mô tả một sự kiện chưa bao giờ xảy ra. Câu trả lời trông chi tiết và thuyết phục, nhưng nó lại sai.
Các nhà nghiên cứu gọi đây là ảo giác, nhưng ngoài các vòng tròn kỹ thuật, mọi người thường chỉ gọi đó là một sai lầm của AI.
Đối với các nhiệm vụ thông thường, điều này hầu như không gây hại. Nếu AI giúp viết một tweet hoặc động não ý tưởng, một sai lầm thỉnh thoảng không phải là một thảm họa. Nhưng khi AI bắt đầu đi sâu vào nghiên cứu, tài chính, chăm sóc sức khỏe và các hệ thống tự động, độ tin cậy của những câu trả lời này trở nên quan trọng hơn nhiều.
Đây là vấn đề mà Mạng lưới Mira đang cố gắng suy nghĩ về.
Thay vì xây dựng một mô hình AI khác, Mira tập trung vào điều gì đó khác biệt. Nó cố gắng xây dựng một hệ thống kiểm tra đầu ra của AI trước khi mọi người dựa vào nó. Nói cách khác, dự án này ít về việc tạo ra trí thông minh và nhiều hơn về việc xác thực nó.
Khoảng Cách Độ Tin Cậy Mà Không Ai Nói Đến
Có rất nhiều sự phấn khích xung quanh AI, nhưng cũng có một khoảng cách im lặng trong ngăn xếp công nghệ.
Hầu hết mọi người nói về các mô hình tốt hơn, GPU nhanh hơn và các ứng dụng AI mới. Đây là những phần quan trọng của hệ sinh thái. Nhưng vẫn chưa có hệ thống nào được áp dụng rộng rãi để xác minh thông tin do AI tạo ra có thực sự đúng.
Ngay bây giờ, xác thực thường diễn ra theo cách rất đơn giản. Một con người đọc câu trả lời và quyết định xem nó có hợp lý hay không.
Cách tiếp cận đó hoạt động khi một người đang xem xét một phản hồi tại một thời điểm. Nhưng hãy tưởng tượng một tương lai nơi hàng triệu đại lý AI đang tạo ra quyết định, báo cáo, hoặc hướng dẫn mỗi phút. Việc kiểm tra bằng tay sẽ không thể mở rộng trong thế giới đó.
Đây là nơi ý tưởng của Mira bắt đầu trở nên hợp lý hơn.
Dự án khám phá xem liệu đầu ra của AI có thể được xác thực một cách tập thể, sử dụng nhiều hệ thống độc lập thay vì dựa vào một.
Nó vay cảm hứng từ cách các mạng blockchain xác nhận các giao dịch. Thay vì tin tưởng một quyền lực duy nhất, một nhóm phân tán các thành viên đạt được sự đồng thuận.
Mira cố gắng áp dụng một ý tưởng tương tự vào kiến thức.
Một Cách Khác Để Nghĩ Về AI Stack
Để hiểu vai trò mà Mira muốn đóng, điều hữu ích là nhìn vào cách mà hệ sinh thái AI được cấu trúc.
Ở nền tảng của mọi thứ có cơ sở hạ tầng máy tính. Các GPU mạnh mẽ và trung tâm dữ liệu cung cấp sức mạnh xử lý thô cần thiết để đào tạo và vận hành các mô hình.
Trên đó là chính các mô hình AI. Những mô hình này bao gồm các mô hình ngôn ngữ, máy tạo hình ảnh và các hệ thống chuyên biệt khác.
Trên các mô hình là các ứng dụng mà mọi người thực sự tương tác. Các chatbot, trợ lý lập trình, công cụ nghiên cứu và hệ thống tự động đều nằm trong lớp này.
Nhưng có điều gì đó còn thiếu giữa các mô hình và các ứng dụng.
Không có lớp tin cậy trung lập.
Các ứng dụng thường chấp nhận bất kỳ câu trả lời nào mà mô hình tạo ra. Nếu mô hình sai, ứng dụng đơn giản chỉ chuyển sai lầm đó đến người dùng.
Mira đang cố gắng lấp đầy khoảng trống này.
Mạng lưới hoạt động như một điểm kiểm tra nơi thông tin do AI tạo ra có thể được đánh giá trước khi nó lan rộng hơn vào hệ thống.
Cảm Nhận Quy Trình Xác Thực Trong Thực Tế
Các chi tiết kỹ thuật đứng sau Mira rất phức tạp, nhưng ý tưởng cơ bản lại khá trực quan.
Hãy tưởng tượng một hệ thống AI viết một đoạn văn giải thích một sự kiện lịch sử. Đoạn văn đó có thể chứa một số tuyên bố thực tế, chẳng hạn như một năm, một địa điểm, hoặc một số liệu thống kê.
Thay vì coi đoạn văn là một mảnh thông tin, Mira chia nó thành các tuyên bố nhỏ hơn.
Mỗi tuyên bố trở thành thứ mà mạng lưới có thể đánh giá.
Các nút khác nhau trong mạng phân tích các tuyên bố đó một cách độc lập. Mỗi nút có thể dựa vào các mô hình, tập dữ liệu, hoặc công cụ đánh giá riêng của mình để đánh giá xem tuyên bố đó có vẻ đúng hay không.
Một số nút có thể nói rằng tuyên bố trông chính xác. Những cái khác có thể nói rằng nó không chắc chắn hoặc sai.
Một khi đủ đánh giá được nộp, mạng lưới tổng hợp các phản hồi và xác định một kết quả đồng thuận.
Nếu hầu hết các thành viên đồng ý rằng tuyên bố là đúng, nó vượt qua xác thực. Nếu mạng thấy sự bất đồng, tuyên bố có thể bị đánh dấu hoặc từ chối.
Quá trình này giống như xác thực blockchain về bản chất. Thay vì xác nhận các giao dịch tài chính, hệ thống xác nhận các mảnh thông tin.
Tại Sao Nhiều Mô Hình AI Có Thể Tốt Hơn Trực Tuyến
Một trong những hiểu biết thú vị đứng sau Mira là các hệ thống AI có xu hướng mắc phải những loại sai lầm khác nhau.
Một mô hình đơn lẻ có thể gặp khó khăn với các chủ đề cụ thể hoặc dựa vào các mẫu tạo ra các câu trả lời thiên lệch. Nhưng khi một số mô hình độc lập phân tích cùng một tuyên bố, điểm yếu của chúng thường hủy bỏ lẫn nhau.
Nếu mười hệ thống khác nhau xem xét cùng một thông tin và hầu hết chúng đồng ý với câu trả lời, mức độ tự tin trở nên cao hơn nhiều.
Ý tưởng này chuyển sự chú ý ra khỏi việc xây dựng một mô hình AI hoàn hảo.
Thay vào đó, độ tin cậy xuất phát từ sự phối hợp giữa nhiều yếu tố không hoàn hảo.
Theo một cách, mạng lưới coi trí thông minh như một quá trình tập thể.
Vai Trò của Mã Thông Báo MIRA
Chỉ công nghệ đơn thuần không giữ cho các mạng phi tập trung trung thực. Các động lực kinh tế thường cần thiết để hướng dẫn hành vi.
Mira giới thiệu một mã thông báo nội bộ gọi là MIRA đóng vai trò này.
Các thành viên muốn hoạt động các nút xác thực phải đặt cược mã thông báo. Số tiền đặt cược hoạt động như một hình thức tài sản đảm bảo.
Nếu một nút đóng góp các đánh giá chính xác, nó nhận được phần thưởng. Nếu nó liên tục cư xử kém hoặc nộp các kết quả gây hiểu lầm, phần đặt cược của nó có thể bị phạt.
Cơ chế này khuyến khích các thành viên hành động trung thực. Càng nhiều nút đáng tin cậy, nó càng được hưởng lợi từ việc giữ hoạt động trong mạng.
Vì vậy, mã thông báo hoạt động như cả một lớp bảo mật và một công cụ phối hợp kinh tế. Hiểu về Kinh Tế Mã Thông Báo
Tổng cung của mã thông báo MIRA được giới hạn ở một tỷ.
Các phần khác nhau của nguồn cung hỗ trợ các phần khác nhau của hệ sinh thái. Một số mã thông báo được dành riêng cho phần thưởng xác thực và sự tham gia mạng lâu dài. Những cái khác hỗ trợ phát triển hệ sinh thái, những người đóng góp ban đầu, và các quan hệ đối tác giúp phát triển mạng.
Mã thông báo cũng có nhiều vai trò bên trong hệ thống.
Nó được sử dụng để đặt cược và bảo mật mạng.
Nó cho phép các nhà phát triển trả tiền cho dịch vụ xác thực.
Nó cung cấp quyền quản trị cho các quyết định giao thức.
Càng nhiều ứng dụng dựa vào xác thực, càng nhiều hoạt động chảy qua nền kinh tế mã thông báo này.
Hệ Sinh Thái Có Thể Phát Triển Xung Quanh Nó
Một giao thức xác thực chỉ trở nên có ý nghĩa khi các sản phẩm thực bắt đầu sử dụng nó.
Mira đang xây dựng các công cụ phát triển cho phép các ứng dụng AI kết nối với mạng. Thông qua các API và bộ phần mềm, các nhà phát triển có thể định tuyến các phản hồi AI qua lớp xác thực trước khi trình bày chúng cho người dùng.
Điều này có thể hữu ích trong một số tình huống.
Các nền tảng nghiên cứu có thể sử dụng nó để kiểm tra các tuyên bố thực tế trong các tóm tắt được tạo ra. Các đại lý AI tự động có thể dựa vào nó khi đưa ra các quyết định liên quan đến giá trị thực. Các nền tảng kiến thức có thể sử dụng nó để cải thiện độ tin cậy của các câu trả lời.
Một khả năng thú vị khác xuất hiện khi các đại lý AI tương tác với blockchain.
Nếu một hệ thống tự động đang quản lý quỹ, thực hiện giao dịch, hoặc tham gia vào quản trị phi tập trung, thông tin hướng dẫn các hành động đó phải đáng tin cậy.
Một mạng lưới xác thực có thể hoạt động như một cơ chế an toàn trong những môi trường đó.
Nơi Dự Án Có Thể Đi Đến
Giống như nhiều dự án hạ tầng ban đầu, Mira vẫn đang phát triển.
Giai đoạn đầu tiên tập trung vào việc xây dựng giao thức cốt lõi và kinh tế mã thông báo hỗ trợ nó. Các bước tiếp theo dường như liên quan đến việc củng cố quản trị, cải thiện sự phối hợp của các nút, và mở rộng công cụ phát triển.
Theo thời gian, mạng lưới có thể tiến xa hơn việc xác thực các tuyên bố cá nhân và bắt đầu đánh giá các quá trình lý luận phức tạp hơn do các hệ thống AI tạo ra.
Về lâu dài, có thể tưởng tượng ra một mạng lưới nơi các máy móc thường xuyên kiểm tra đầu ra của các máy khác.
Hệ thống như vậy sẽ tạo ra một vòng lặp phản hồi nơi trí thông minh và xác thực phát triển cùng nhau.
Những Thách Thức Phía Trước
Mặc dù khái niệm này thú vị, con đường phía trước không đơn giản.
Xác thực yêu cầu tài nguyên tính toán. Chạy nhiều mô hình để đánh giá mỗi tuyên bố có thể trở nên tốn kém nếu mạng phát triển nhanh chóng.
Tốc độ là một thách thức khác. Mỗi bước xác thực thêm thời gian giữa một câu hỏi và câu trả lời của nó. Nếu quá trình trở nên quá chậm, các nhà phát triển có thể ưu tiên các giải pháp nhanh hơn ngay cả khi chúng ít đáng tin cậy hơn.
Còn có thách thức triết học sâu sắc hơn trong việc định nghĩa sự thật trong các bối cảnh phức tạp. Một số thông tin dễ xác thực, chẳng hạn như ngày tháng hoặc dữ liệu số. Thông tin khác liên quan đến việc giải thích hoặc không chắc chắn.
Và cuối cùng có câu hỏi về việc áp dụng.
Hạ tầng chỉ trở nên có giá trị khi mọi người sử dụng nó. Mira sẽ cần các nhà phát triển và nền tảng AI để tích hợp lớp xác thực vào các quy trình làm việc thực tế.
Một Cách Khác Để Nghĩ Về AI
Điều làm Mira thú vị là góc nhìn đứng sau nó.
Nhiều công ty AI tập trung vào việc xây dựng các mô hình lớn hơn và mạnh mẽ hơn, hy vọng rằng dữ liệu đào tạo tốt hơn cuối cùng sẽ loại bỏ ảo giác.
Mira khám phá một khả năng khác.
Có thể độ tin cậy không xuất phát từ một hệ thống hoàn hảo duy nhất.
Có thể nó xuất hiện khi nhiều hệ thống đánh giá lẫn nhau trong một bộ quy tắc và động lực chung.
Ý tưởng này đã hoạt động trong các mạng blockchain. Các thành viên phân tán phối hợp để duy trì một sổ cái đáng tin cậy mà không có sự kiểm soát trung tâm.
Mira đang hỏi liệu nguyên tắc tương tự có thể hoạt động cho chính thông tin hay không.
Nếu thí nghiệm đó thành công, tương lai của AI có thể trông ít giống như một cỗ máy siêu thông minh duy nhất và nhiều hơn như một mạng lưới các hệ thống thường xuyên kiểm tra lẫn nhau.
Trong loại môi trường đó, niềm tin sẽ không đến từ quyền lực.
Nó sẽ đến từ sự phối hợp.