Trước đây, mình nghĩ rằng những vấn đề về niềm tin trong AI chỉ xoay quanh tỷ lệ chính xác.
Mira khiến mình cảm thấy như đây là một vấn đề về trách nhiệm hơn. Khi một hệ thống AI mắc lỗi, thiệt hại không chỉ là thống kê, mà là hợp đồng. Ai đó đã hành động dựa trên kết quả đó. Ai đó đã phê duyệt nó. Ai đó phải chịu trách nhiệm về hậu quả.
Điều thú vị về hướng đi của Mira là nó không chỉ hỏi liệu một câu trả lời có khả năng đúng hay không. Nó hỏi liệu quy trình chấp nhận câu trả lời đó có thể bảo vệ được không.
Đó là một sự thay đổi tinh tế nhưng quan trọng.
Độ chính xác cải thiện các mô hình.
Tính khả thi cải thiện các hệ thống.
Khi AI tiến vào tài chính, tuân thủ và quy trình làm việc với sự tự động hóa cao, "có khả năng đúng" sẽ không đủ. Điều quan trọng là liệu đầu ra đã qua một cấu trúc phân phối rủi ro thay vì tập trung nó lại hay không.
Tương lai của việc áp dụng AI sẽ không phụ thuộc vào những văn bản thông minh hơn.
Nó sẽ phụ thuộc vào ai có thể nói, với sự tự tin,
"Điều này đã được xác minh theo những quy tắc mà tất cả chúng ta đã đồng ý."
@Mira - Trust Layer of AI - Lớp Niềm Tin của AI#mira $MIRA