Bạn không thể quản lý những gì bạn không thể đo lường. @OpenLedger measures mọi thứ và blockchain không bao giờ quên.

Tôi đã dành cả tuần trước để nói chuyện với một nhân viên tuân thủ tại một công ty tài chính, và cô ấy đã nói một điều khiến tôi nhớ mãi: "Chúng tôi sử dụng các mô hình AI để đưa ra quyết định về tín dụng, khoản vay, cuộc sống của mọi người. Khi tôi hỏi các nhà cung cấp về cách họ hoạt động, tôi chỉ nhận được một bài thuyết trình PowerPoint và một lời hứa." Đó chính là thực trạng hiện nay với việc giám sát AI. Chúng tôi đã xây dựng các hệ thống có ảnh hưởng đến hàng tỷ quyết định. Các cơ chế kiểm toán chưa theo kịp.

Vấn đề không phải là các nhà quản lý không quan tâm. Mà là họ không thể xác minh những gì họ cần giám sát. Một nhà phát triển mô hình có thể nói với bạn rằng AI của họ là công bằng, có thể giải thích, không thiên lệch. Nhưng làm sao để kiểm tra? Bạn sẽ cần truy cập vào dữ liệu huấn luyện, trọng số chính xác ở mỗi giai đoạn, mọi quyết định tiền xử lý, các chỉ số xác thực dưới những điều kiện khác nhau. Hầu hết các công ty sẽ không chia sẻ điều đó. Một số không thể vì dữ liệu có thể nhạy cảm. Những công ty khác thì không có cơ sở hạ tầng để công khai nó. Kết quả là một khoảng cách tin cậy được đo bằng hàng tỷ đô la và không thể định lượng.

Luật AI của EU yêu cầu các công ty chứng minh rằng mô hình của họ tuân thủ. Họ đang yêu cầu sự minh bạch mà hiện chưa có ở quy mô lớn. Khi tôi nhìn vào bối cảnh quy định, điều khiến tôi ấn tượng là nhu cầu đã trở nên cụ thể đến mức nào. Điều này không còn là triết lý nữa. Các nhà quản lý đang đặt ra những câu hỏi cụ thể: Bạn có thể chứng minh rằng dữ liệu đào tạo không bị thiên lệch không? Bạn có thể cho chúng tôi thấy khi nào hiệu suất của mô hình giảm sút không? Bạn có thể truy dấu mọi quyết định về các đầu vào của nó không? Câu trả lời từ hầu hết các đội ngũ AI vẫn là không.

Blockchain quan trọng ở đây theo cách mà nó không làm trước đây. Nó không làm cho AI chính xác hơn hoặc nhanh hơn. Điều nó làm là tạo ra một đường dẫn kiểm toán mà không thể bị viết lại. Mỗi bước đào tạo, mỗi mẫu dữ liệu, mỗi kiểm tra xác thực đều được ghi lại với một dấu thời gian. Một nhà quản lý, một kiểm toán viên, một bên thứ ba có thể xác minh một cách độc lập. Nó không phải là kịch. Nó là nền tảng.

Hãy nghĩ về việc đào tạo mô hình. Bạn bắt đầu với dữ liệu. Nó được làm sạch, chuẩn hóa, có thể được tăng cường. Các đặc điểm được chọn. Mô hình được đào tạo qua hàng ngàn lần lặp. Trọng số thay đổi. Các chỉ số được ghi lại. Sau đó là xác thực. Sau đó là triển khai. Ở bất kỳ thời điểm nào, điều gì đó có thể giới thiệu thiên lệch, giảm tính công bằng hoặc ẩn giấu lỗi. Các nhà quản lý chỉ muốn một điều: bằng chứng rằng không có điều gì đó xảy ra theo những cách quan trọng.

Một đường dẫn kiểm toán blockchain ghi lại các hàm băm mật mã (dấu vân tay số) ở mỗi giai đoạn. Bạn băm tập dữ liệu đào tạo. Bạn băm trọng số mô hình sau mỗi epoch. Bạn băm kết quả xác thực. Mỗi hàm băm liên kết đến hàm băm trước đó. Chuỗi là không thể thay đổi. Nếu ai đó thay đổi dữ liệu đào tạo hoặc chỉnh sửa các chỉ số hiệu suất sau đó, chuỗi sẽ đứt. Một nhà quản lý nhìn vào sổ cái của bạn sẽ thấy ngay lập tức.

Sự khác biệt so với cơ sở dữ liệu là tính phân cấp. Nếu bạn giữ hồ sơ kiểm toán trong hệ thống của riêng bạn, bạn kiểm soát chúng. Một nhà quản lý phải tin tưởng vào cơ sở hạ tầng, bảo mật và động cơ của bạn. Với blockchain, công ty không sở hữu hồ sơ. Nó được phân phối trên một mạng lưới. Nhiều bên xác minh cùng một chuỗi một cách độc lập. Điều đó có ý nghĩa.

Các con số về điều này là có thật. Các thử nghiệm ban đầu trong dịch vụ tài chính cho thấy hồ sơ kiểm toán dựa trên blockchain đã rút ngắn thời gian xác minh tuân thủ khoảng 40 phần trăm và chi phí kiểm toán giảm khoảng 30 phần trăm. Tại sao? Các kiểm toán viên không cần yêu cầu dữ liệu, chờ phản hồi, xác thực định dạng, kiểm tra chéo các nguồn theo cách thủ công. Chuỗi cung cấp mọi thứ trong một định dạng đã được xác minh. Một tổ chức đã cắt giảm thời gian kiểm toán cuối năm từ 8 tuần xuống 5 tuần.

Sự ma sát thực sự xuất hiện khi bạn cố gắng ghi lại điều gì đó thực sự hữu ích. Trọng số mô hình thô là khổng lồ. Một mô hình ngôn ngữ có hàng tỷ tham số. Bạn không thể băm và lưu trữ tất cả điều đó trên chuỗi. Vì vậy, bạn băm các đại diện nén lại. Bạn lưu trữ dữ liệu riêng biệt và ghi lại các băm. Hệ thống chỉ đáng tin cậy như hàm băm và nơi lưu trữ mà các vật phẩm tồn tại. Tốt hơn là không có gì. Không hoàn hảo.

Một áp lực khác đang hình thành. Khi AI được tích hợp vào tuyển dụng, tín dụng, chăm sóc sức khỏe, trách nhiệm pháp lý cho những kết quả xấu tăng lên. Nếu một mô hình đưa ra quyết định thiên lệch và bị kiện, công ty cần chứng minh rằng họ đã thực hiện các bước hợp lý để kiểm toán và xác minh. Các tòa án sẽ bắt đầu hỏi liệu các công ty có giữ được các đường dẫn kiểm toán có thể kiểm chứng không. Trong môi trường đó, một hồ sơ blockchain trở nên có thể bảo vệ. Việc không có hồ sơ trở thành rủi ro.

Cơ sở hạ tầng tốt không tự công bố. Các nền tảng chuyên dụng đang nổi lên để xử lý các yêu cầu cụ thể. Họ xây dựng các trừu tượng để các nhà khoa học dữ liệu không phải nghĩ về cơ chế blockchain. Bạn đẩy các vật phẩm mô hình và chỉ số vào một API. Nó xử lý việc băm, chuỗi, xác minh. Trải nghiệm của nhà phát triển cảm thấy bình thường. Ở bên dưới, mọi bước đều được ghi lại và xác minh.

Điều đang thay đổi là kết cấu của niềm tin. Không phải là một sự chuyển mình đột ngột đến sự minh bạch hoàn toàn. Mà là một sự chuyển dịch hướng tới trách nhiệm vững chắc, có thể kiểm chứng thông qua các hồ sơ có thể kiểm chứng. Các nhà quản lý thấy sự minh bạch tốt hơn. Các công ty nhận được sự bảo vệ pháp lý. Các kiểm toán viên làm việc nhanh hơn. Hồ sơ là không thể thay đổi và phân phối, vì vậy hệ thống trở nên khó bị thao túng hơn.

Có những phản biện đáng để xem xét nghiêm túc. Một công ty muốn giấu điều gì đó có thể làm điều đó ở phía trên. Không ghi lại một số bước nhất định. Manipulate dữ liệu trước khi nó được băm. Giữ nhiều phiên bản của các lần chạy đào tạo và chỉ nộp phiên bản thuận lợi. Blockchain không giải quyết được sự không trung thực của con người. Nó làm cho sự không trung thực khó bị giấu diếm ở quy mô lớn. Điều đó có ý nghĩa. Nó không phải là sự bảo vệ tuyệt đối.

Rủi ro khác là chính tính không thể thay đổi. Nếu bạn ghi lại điều gì đó và nó sai, bạn không thể xóa nó. Bạn đang ghi lại mọi sai lầm, mọi thí nghiệm thất bại, mọi mô hình không hoạt động. Một số công ty sẽ không muốn mức độ minh bạch đó, đặc biệt là khi nhiều thí nghiệm thất bại ở giai đoạn đầu.

Động lực là có thật. Các doanh nghiệp đang chuyển mình vì các nhà quản lý đang thúc ép, trách nhiệm pháp lý đang gia tăng và chi phí kiểm toán đang giảm. Câu hỏi không phải là liệu việc kiểm toán AI dựa trên blockchain có xảy ra hay không. Mà là liệu nó có trở thành tiêu chuẩn mặc định hay vẫn chỉ là một công cụ tuân thủ cho các khách hàng cao cấp.

Đây là điều mà tôi nhớ: Chúng tôi đã xây dựng AI nhanh hơn so với các cơ chế để giám sát nó. Trong nhiều năm, điều đó là ổn vì mức độ rủi ro cảm thấy trừu tượng. Bây giờ chúng đã trở nên cụ thể. Quyết định tuyển dụng. Quyết định tín dụng. Kết quả chăm sóc sức khỏe. Khoảng cách giữa những gì chúng ta có thể xây dựng và những gì chúng ta có thể xác minh đã trở thành một trách nhiệm. Các đường dẫn kiểm toán dựa trên blockchain không đóng hoàn toàn khoảng cách đó. Nhưng chúng thay đổi kinh tế học. Chúng làm cho sự minh bạch trở nên rẻ hơn so với sự mờ mịt.

Đó là cuộc cách mạng im lặng. Không phải là công nghệ làm cho AI tốt hơn. Mà là công nghệ làm cho nó có thể kiểm chứng. Trong một thế giới mà niềm tin là yếu tố hạn chế, điều đó là đủ.

@OpenLedger $OPEN #OpenLedger