Nói ra bạn có thể không tin.
Tôi vừa mới suýt bị một AI làm cho tức điên.
Sự việc là như thế này: Tôi muốn viết một bài sâu về Fabric, để Gemini Pro giúp tôi tra cứu tài liệu. Tôi còn đặc biệt nhắc nhở nó: mỗi điểm quan trọng phải ghi rõ số trang tài liệu trắng, tôi cần đối chiếu.
Kết quả là nó liệt kê cho tôi một đống:
“Xem chi tiết trong mục 7.3 mô-đun bảo vệ ảo giác”
“Trang 15 của tài liệu trắng giải thích chi tiết”
“Mục 4.2 mạch đồng cảm của robot”
Tôi lật tài liệu trắng, từng trang từng trang tìm.
Hoàn toàn không có.
Mục 7.3 không tồn tại, trang 15 là trống, mục 4.2 nói về kiến trúc kỹ thuật, không liên quan gì đến “đồng cảm”.
Gemini đang nói dối trắng trợn.
Và nói một cách tự tin, như một kẻ lừa đảo chính hiệu.
Đây là một từ đáng sợ nhất trong giới AI: ảo giác.
—
Trước đây mọi người nghĩ ảo giác AI chỉ là một trò đùa.
Luật sư dùng AI viết đơn kiện, AI trích dẫn 6 án lệ không tồn tại, bị thẩm phán phạt. AI tài chính tạo báo cáo giả, trader làm theo, mất vài triệu. Mọi người xem xong cười haha: AI này thật hài hước.
Nhưng bạn đã bao giờ nghĩ rằng -
Nếu AI này không còn là robot chat, mà là robot trước cửa nhà bạn giúp sửa điện, giao đồ ăn, chăm sóc người già thì sao?
Nó nối dây điện như nối dây hỏa, nhà bạn có thể bốc cháy.
Nó nhớ sai liều thuốc, bố mẹ bạn gặp chuyện.
Nó đứng bên đường “ảo giác” một chút, nghĩ rằng đèn đỏ không cần dừng lại -
Ảo giác trong chat chỉ khiến bạn ngại, nhưng ảo giác của robot thực thể có thể lấy mạng bạn.
—
Đây là lý do tại sao mình bỗng dưng hiểu Fabric.
@FabricFoundation muốn làm không phải là tạo ra một AI thông minh hơn.
Mà là tạo ra một hệ thống tin tưởng cho robot “không bao giờ dám ảo giác”.
Làm sao mà làm được vậy?
Đầu tiên, lắp “App” cho robot, chứ không phải lắp “não”.
Robot truyền thống là hộp đen: bên trong nó nghĩ gì, bạn không biết, cũng không thể sửa.
Fabric đã tách kỹ năng của robot thành các mô-đun “Skill Chips” - giống như bạn tải App trên điện thoại.
Muốn nó sửa điện? Lắp một bộ đồ điện.
Muốn nó chăm sóc người già? Lắp một bộ đồ chăm sóc.
Sử dụng xong có thể gỡ bỏ.
Điều quan trọng nhất là: một robot ở California học kỹ năng mới, trong vài giây có thể chia sẻ cho tất cả các đồng loại trên toàn cầu.
Rủi ro ảo giác đã được phân tán - ngay cả khi một mô-đun kỹ năng có vấn đề nhỏ, cũng chỉ ảnh hưởng đến nhiệm vụ cụ thể, không lây lan toàn bộ hệ thống.
Thứ hai, mở “phòng phát trực tiếp” cho robot, để toàn nhân loại làm giám thị.
Fabric đã làm một Global Robot Observatory.
Nói đơn giản là: mỗi robot đang hoạt động đều đang phát trực tiếp công khai.
Dữ liệu cảm biến của nó, quá trình ra quyết định, lộ trình hành động, tất cả mọi người đều có thể thấy theo thời gian thực.
Bạn nghĩ nó sai? Có thể đánh giá thấp, phát âm để sửa lỗi, hoặc gửi báo cáo.
Tất cả phản hồi được ghi lại trên chuỗi, không thể thay đổi.
Robot hoạt động tốt, cộng đồng chấm điểm cao, nhận nhiều nhiệm vụ hơn, kiếm nhiều tiền hơn.
Robot có ảo giác, cộng đồng đồng loạt chấm điểm thấp, nhà điều hành mất tiền ngay lập tức.
Khi ảo giác xuất hiện, nó sẽ bị bắt ngay tại chỗ, cái giá là tổn thất bằng tiền thật.
Thứ ba, yêu cầu robot “đặt cọc”, muốn lập trình sai là phá sản.
Nhà điều hành muốn cho robot hoạt động? Trước tiên phải đặt cọc một số $ROBO làm ký quỹ.
Robot làm việc kiếm tiền, nhưng phải trả phí dữ liệu, sức mạnh tính toán, và phí thuê kỹ năng.
Hệ thống còn thiết lập cơ chế thưởng tự thích ứng: robot chất lượng cao, thưởng nhiều; nếu có ảo giác khiến chất lượng giảm, thưởng ngay lập tức bị giảm.
Còn ác hơn là “thách thức xác minh”: bất kỳ ai phát hiện robot gian lận, đều có thể đặt cọc token để kiểm tra. Người gian lận sẽ mất ngay 30%-50% tiền đặt cọc.
Robot không còn là “muốn lập trình thì lập trình”, mà là “lập trình rồi thì phá sản”.
—
Thiết kế này khiến mình nghĩ đến một từ trong tâm lý học: cảm giác kiểm soát.
Thời điểm mình bị trầm cảm, điều mình sợ nhất là mất kiểm soát - không biết khi nào sẽ sụp đổ, không biết điều gì có thể tin.
Ảo giác AI cũng giống vậy.
Điều đáng sợ nhất không phải là nó sai, mà là bạn hoàn toàn không biết nó sai khi nào, cũng không biết cách sửa.
Fabric đã biến tất cả hành động của robot thành hệ thống minh bạch, có thể kiểm toán, con người có thể can thiệp theo thời gian thực.
Bạn có thể thấy, can thiệp, và sửa chữa.
Cảm giác lo lắng mất kiểm soát đó, ngay lập tức biến mất.
—
Vậy nên khi mình bị Gemini làm cho phát điên, mình lại cảm thấy hơi may mắn.
May mà nó chỉ đang lừa mình trong việc viết bài.
Nếu nó điều khiển một robot vật lý, có thể bây giờ mình không phải viết bài, mà là gọi 120.
Fabric làm việc này, chính là biến ảo giác từ “rủi ro hộp đen không thể kiểm soát” thành “chi phí kinh tế có thể được giám sát bởi tập thể”.
Không phải làm cho AI giỏi kể chuyện hơn, mà là làm cho AI không thể kể chuyện nữa - vì cái giá quá cao.
Năm 2026, lô ROBO1 đầu tiên sẽ ra đường.
Đến lúc đó bạn sẽ thấy: ảo giác AI không còn là thanh kiếm treo trên đầu, mà là chi phí có thể kiểm soát được hoàn toàn nhờ blockchain.
Đây mới là khởi đầu thực sự của sự cộng sinh giữa con người và máy móc.
—
Hãy thảo luận trong phần bình luận: bạn đã từng bị AI lừa chưa?
\u003ct-8/\u003e\u003ct-9/\u003e\u003cc-10/\u003e