Vài ngày trước, tôi đang trò chuyện với một người bạn làm việc trong một công ty thương mại điện tử lớn. Ở giữa cuộc trò chuyện của chúng tôi, cô ấy nói một điều gì đó đã ở lại trong tôi đến tận bây giờ.
Cô ấy nói với tôi rằng nhiều năm trước, nếu một thương hiệu muốn một sản phẩm trở nên phổ biến, chiến lược hiển nhiên là phải có một người nổi tiếng hoặc một người có ảnh hưởng về thời trang nói về nó. Ngày nay, điều đó không còn là yếu tố quan trọng nhất nữa. Hầu hết thời gian, một thuật toán âm thầm quyết định sản phẩm nào xứng đáng được cho hàng triệu người nhìn thấy.
Cô ấy chia sẻ một ví dụ thực sự khiến tôi chú ý.
Có một chiếc túi xách tay bình thường đã được bán với tốc độ hoàn toàn trung bình trong suốt nhiều tuần. Rồi gần như chỉ sau một đêm, nó bắt đầu xuất hiện khắp nơi. Mọi người cho rằng một người có ảnh hưởng nào đó đã quảng bá nó, hoặc rằng có một ngôi sao nổi tiếng nào đó đã được nhìn thấy đang mang nó.
Cái nào cũng không đúng.
Thực ra mọi chuyện đơn giản hơn nhiều. Một nhóm mua sắm tương đối nhỏ đã nhấp vào chiếc túi đó, thêm vào giỏ hàng của họ và hoàn tất giao dịch với tỉ lệ cao hơn nhiều so với dự kiến. Hệ thống gợi ý diễn giải những hành động đó như một tín hiệu mạnh và bắt đầu hiển thị sản phẩm đó cho một lượng khán giả rộng hơn nhiều. Càng được tiếp xúc, càng có nhiều người mua. Càng nhiều người mua, thuật toán càng quảng bá nó.
Cuối cùng, ai cũng tin rằng họ đang chứng kiến một xu hướng.
Trên thực tế, xu hướng đó chỉ tồn tại vì thuật toán đã quyết định rằng nó xứng đáng được chú ý hơn trước.
Câu chuyện đó ngay lập tức nhắc tôi nhớ đến việc crypto có thể đang đi về đâu khi các Tác nhân AI có thể tự đưa ra quyết định và tự động thực hiện giao dịch.
Tôi không nghĩ ảnh hưởng sẽ chủ yếu thuộc về người có lượng khán giả lớn nhất nữa. Có thể nó sẽ thuộc về bất kỳ ai xác định khung (framework) quyết định Tác nhân AI được phép tin tưởng, đánh giá và hành động như thế nào trước khi bất kỳ giao dịch nào được thực hiện.
Đó là một trong những lý do khiến @NewtonProtocol thu hút sự chú ý của tôi.
Không phải vì nó tạo ra nội dung tốt hơn hay phân tích tốt hơn, mà vì nó nằm ở tầng nơi có thể định nghĩa các quy tắc chi phối hành vi của AI trước cả khi quá trình thực thi tự động bắt đầu.
Cách đây nhiều năm, một người có ảnh hưởng thành công đã định hình các quyết định thông qua cá tính và danh tiếng. Ngày mai, hàng triệu Tác nhân AI có thể thay vào đó được dẫn dắt bởi các chính sách được chuẩn hóa và có thể kiểm chứng, hoàn toàn không dựa vào sức hút. Đó là một kiểu ảnh hưởng hoàn toàn khác.
Nhưng bạn tôi cũng kể cho tôi biết câu chuyện đã diễn tiến như thế nào.
Khi các thương hiệu nhận ra hệ thống gợi ý coi trọng những tín hiệu nào, một số trong họ đã ngừng tập trung vào nhu cầu thực sự và bắt đầu tạo ra các tín hiệu giả. Những lượt nhấp nhân tạo, tài khoản thuê, và các giao dịch mua phối hợp được dùng để thuyết phục thuật toán rằng một sản phẩm xứng đáng được tiếp xúc rộng rãi hơn.
Thuật toán không nhất thiết đã bị hỏng.
Nó chỉ đơn giản là đưa ra quyết định dựa trên các dữ liệu đầu vào đã bị thao túng.
Tôi nghĩ câu hỏi tương tự rồi sẽ trở nên quan trọng đối với hạ tầng AI.
Nếu một ngày nào đó các chính sách trên @NewtonProtocol ảnh hưởng đến hành vi của hàng triệu Tác nhân AI, thì thách thức lớn nhất có thể không nằm ở việc viết ra chính sách hay. Mà có thể là đảm bảo rằng các tín hiệu quyết định chính sách nào được áp dụng rộng rãi không thể bị thao túng ngay từ đầu.
Với tôi, chính là ở chỗ $NEWT cuối cùng nên được đánh giá—không phải bởi có bao nhiêu chính sách tồn tại hay có bao nhiêu Tác nhân AI kết nối vào mạng, mà bởi hệ thống bền vững đến mức nào khi ai đó tìm cách tạo ra niềm tin thay vì kiếm được nó.