ironclaw

IronClaw 1.0 vừa mang lại cho việc staking $NEAR một trường hợp sử dụng thực sự vượt ra ngoài lợi suất. Đây là phân tích đầy đủ về những gì đã thay đổi, vì sao kiến trúc vẫn vững, và điều đó có ý nghĩa gì nếu bạn đang nắm giữ.
Vấn đề của hầu hết các #AI tác nhân
Mọi khung tác nhân được xây dựng cho đến nay đều có chung một điểm yếu về cấu trúc. Mô hình quyết định phải làm gì được nối trực tiếp với thông tin xác thực mà nó nắm giữ, các công cụ nó có thể gọi và bộ nhớ nó lưu giữ, tất cả được gói chung trong một hệ thống mà không có sự tách biệt giữa chúng. Điều đó có nghĩa là chỉ một quyết định sai, một công cụ bị xâm phạm, hoặc một kết nối bị gián đoạn cũng có thể xóa sạch tiến trình hoặc làm lộ quyền truy cập mà lẽ ra nó không bao giờ nên có ngay từ đầu.

Các tác nhân AI đang ngày càng có năng lực hơn.
‎Nhưng khi chúng trở nên có năng lực hơn, một câu hỏi càng trở nên quan trọng hơn.
‎Chúng ta có thực sự kiểm soát được những gì họ làm không?
‎Đó là một trong những điều đã thu hút sự chú ý của tôi khi tìm hiểu IronClaw 1.0 từ NEAR AI. @NEAR Protocol
‎Hầu hết mọi người tập trung vào những gì một mô hình AI có thể nghĩ đến.
‎IronClaw tiếp cận theo một cách hơi khác bằng cách chú ý đến những gì xảy ra sau khi AI đã đưa ra quyết định.
‎Mô hình suy nghĩ về những gì cần phải làm.
‎Sau đó, Guard nằm giữa mô hình và hành động.

Hãy tưởng tượng một công ty nơi bất kỳ ai cũng có thể đề xuất một lệnh chuyển khoản. Bộ phận marketing có thể yêu cầu một lệnh, kỹ thuật có thể yêu cầu một lệnh, nhân sự cũng có thể yêu cầu một lệnh. Nhưng dù ai khởi xướng, tiền sẽ không di chuyển cho đến khi nó đi qua một bộ phận phê duyệt duy nhất, nơi áp dụng cùng một bộ kiểm tra mỗi lần. Không có phòng ban nào có lối đi riêng. Đó là ý tưởng cơ bản đằng sau IronClaw 1.0 của NEAR AI: tác nhân có thể suy luận về điều mình muốn làm, nhưng bản thân hành động phải đi qua một lớp điều phối duy nhất trước khi được thực thi.

Các tác nhân AI đang trở nên có năng lực vượt xa chatbot. Chúng đang bắt đầu lập kế hoạch, thực hiện tác vụ, tương tác với các ứng dụng và hỗ trợ các quy trình làm việc ngày càng phức tạp. Khi những khả năng này tăng lên, một câu hỏi trở nên quan trọng hơn: Làm thế nào để chúng ta khiến AI tự trị trở nên đáng tin cậy?
Đây là nơi @NEAR Protocol đang áp dụng một cách tiếp cận thú vị với IronClaw 1.0.
Thay vì cho phép một mô hình AI suy nghĩ và thực hiện hành động mà không có sự giám sát, IronClaw giới thiệu một lớp Guard tách biệt việc ra quyết định khỏi việc thực thi. Các thao tác nhạy cảm yêu cầu phê duyệt rõ ràng, tạo thêm một lớp bảo mật cho các quy trình làm việc được hỗ trợ bởi AI.

Tôi đã xem xét điều gì xảy ra khi AI vượt ra ngoài việc đưa ra câu trả lời và bắt đầu thực hiện hành động.
Đó là nơi thách thức thực sự bắt đầu. Một tác nhân có thể rất năng lực, nhưng liệu nó có thể hành động trong những ranh giới rõ ràng, bảo toàn công việc của mình và xử lý an toàn các tác vụ nhạy cảm không?
Đó là lý do khiến IronClaw 1.0 từ @NEAR Protocol đáng để xem xét.
#NEARAI Cloud cung cấp cơ sở hạ tầng đứng sau hướng đi này, mang đến cho nhà phát triển một cách để chạy các khối lượng công việc AI với quyền riêng tư mạnh hơn và bảo mật có thể xác minh. Cách tiếp cận điện toán bí mật của nó sử dụng Môi trường Thực thi Tin cậy (TEE) để cô lập các khối lượng công việc AI nhạy cảm, trong khi chứng thực mật mã có thể cung cấp bằng chứng về nơi và cách phép tính đã được thực hiện.

Các tác nhân AI đang tiến xa hơn việc chỉ trả lời câu hỏi.
Chúng có thể duyệt website, làm việc với tài liệu, sử dụng công cụ, tương tác với phần mềm và ngày càng thực hiện nhiệm vụ thay mặt người dùng.
Nhưng khi các tác nhân có thêm nhiều khả năng hành động, một câu hỏi trở nên quan trọng hơn:
Làm sao để trao cho AI đủ quyền hạn để hữu ích mà không trao cho nó quá nhiều tự do?
Đây là lúc IronClaw 1.0 từ @NEAR Protocol và NEAR AI trở nên đặc biệt thú vị.
Một cách tiếp cận khác đối với kiến trúc tác nhân AI
Các hệ thống AI truyền thống chủ yếu tập trung vào việc cải thiện khả năng suy luận của mô hình.

Các tác tử AI đang vượt ra ngoài việc trả lời câu hỏi.
Chúng ngày càng được yêu cầu thực thi các tác vụ, tương tác với phần mềm, quản lý quy trình làm việc và cuối cùng là vận hành trên hạ tầng tài chính và số.
Điều đó tạo ra một vấn đề mới.
Làm thế nào để bạn trao cho một tác tử AI khả năng hành động mà không trao cho nó quyền hành động không giới hạn?
Đây là lúc IronClaw 1.0 từ @NEAR Protocol trở nên thú vị.
Từ tư duy đến hành động
Các hệ thống AI truyền thống chủ yếu hoạt động xoay quanh việc tạo ra một câu trả lời.
Một hệ thống tác tử thì khác. Nó cần suy luận, đưa ra quyết định, tương tác với các hệ thống bên ngoài và thực thi hành động.

Điều tôi thấy thú vị về @NEAR Protocol cách tiếp cận này là nó coi các tác tử AI như hạ tầng, chứ không chỉ là các chatbot có thêm nhiều công cụ.
Rất nhiều hệ thống tác tử vẫn để suy luận, thực thi, bí mật và truy cập Internet chạy chung trong cùng một vòng lặp. Điều đó có thể trông ấn tượng trong một bản demo, nhưng công việc thực tế lại là một câu chuyện khác. Càng nhiều công cụ mà một tác tử có thể truy cập, càng có nhiều cơ hội xảy ra sự cố.
IronClaw 1.0 chọn một cách tiếp cận khác.
Tác tử đưa ra các quyết định, trong khi một lớp điều phối riêng gọi là guard kiểm soát cách những quyết định đó được thực thi. Mọi hành động đều đi qua lớp đó, bao gồm cả các khả năng mới được thêm sau này.

Khi AI Có Thể Làm Mọi Thứ, Ai Sẽ Giám Sát?
Trong một thời gian dài, các tác nhân AI đã là “một người thạo mọi nghề”, chúng có thể nghiên cứu, quản lý tệp, tương tác với trang web và giao tiếp trên nhiều nền tảng. Nhưng khi một tác nhân vừa chịu trách nhiệm quyết định phải làm gì vừa trực tiếp thực hiện điều đó, nguy cơ sai sót, rủi ro bảo mật và mất kiểm soát sẽ tăng lên
Đây là thách thức mà @NEAR Protocol đang giải quyết với IronClaw 1.0. Đúng như tên gọi của nó, IronClaw được xây dựng để mang lại cho các tác nhân AI khả năng kiểm soát chặt chẽ hơn về cách chúng hành động, tách biệt việc ra quyết định khỏi việc thực thi thông qua một lớp điều phối tập trung vào bảo mật có tên là Guard. Điều này có nghĩa là một tác nhân AI có thể xác định điều nó tin rằng nên xảy ra, trong khi một lớp riêng biệt sẽ quản lý những gì nó thực sự được phép làm

Là một người đã làm nghề viết lách@DAO Labs được khá lâu, tôi có nhiều kinh nghiệm khám phá các dự án AI. Tôi đã thấy cả những gì các tác nhân AI có thể làm và những rủi ro đi kèm khi trao cho chúng nhiều quyền tự do hơn.
Điều gì sẽ xảy ra khi các tác nhân AI đủ mạnh để có thể tự hành động, nhưng chúng ta vẫn chưa thể hoàn toàn tin tưởng vào những hành động mà chúng thực hiện?
Việc đảm bảo các tác nhân AI an toàn và đáng tin cậy là yếu tố then chốt để chúng được chấp nhận và phát huy giá trị. Giao thức NEAR, với việc phát hành IronClaw 1.0, là nỗ lực đầu tiên nhằm cung cấp các khung và công cụ để giải quyết thách thức này.

Các tác nhân AI đang tiến hóa từ những hệ thống chỉ đơn giản phản hồi thành những hệ thống có thể suy luận và thực thi các tác vụ phức tạp trong thế giới thực.
Chúng đang vượt ra ngoài việc trả lời câu hỏi và bắt đầu duyệt web, làm việc với tệp, tương tác với ứng dụng, sử dụng API và thực hiện các tác vụ nhiều bước. Nhưng khi các tác nhân có được nhiều quyền tự chủ hơn, một câu hỏi quan trọng xuất hiện: làm thế nào để trao cho AI khả năng hành động mà không đánh đổi an ninh, độ tin cậy và quyền kiểm soát của người dùng?
@NEAR Protocol ’s IronClaw 1.0 mang đến một cách tiếp cận thú vị cho thách thức này bằng cách thiết kế lại cách một tác nhân AI suy nghĩ, hành động và duy trì tiến trình của nó.

Giới thiệu: Giai đoạn tiếp theo của các tác nhân AI
Các tác nhân trí tuệ nhân tạo đã vượt ra ngoài việc chỉ trả lời câu hỏi đơn giản. Các tác nhân ngày nay lên lịch họp, quản lý tệp, tiến hành nghiên cứu và tương tác trên nhiều nền tảng. Nhưng sự tiến hóa này đặt ra một thách thức kiến trúc then chốt: làm thế nào để đảm bảo các tác nhân AI hành động an toàn khi chúng có những khả năng tác động đến thế giới thực?
@NEAR Protocol giải quyết vấn đề này với IronClaw 1.0, một khung tác nhân mang tính cách mạng, cơ bản tái tư duy kiến trúc tác nhân AI bằng cách tách biệt việc ra quyết định khỏi việc thực thi thông qua một lớp điều phối an toàn.

AI đang tiến xa hơn các hệ thống chỉ đơn thuần trả lời câu hỏi.
Chúng ta đã đi từ chatbot, đến các trợ lý có thể dùng công cụ, đến các tác tử có thể duyệt web, làm việc với tệp, gọi API và thực thi nhiệm vụ thay mặt chúng ta.
Nhưng khi các tác tử trở nên mạnh mẽ hơn, một câu hỏi lớn hơn xuất hiện:
Điều gì xảy ra khi một AI thực sự có thể hành động?
Điều đó khiến kiến trúc tác tử quan trọng không kém trí thông minh của mô hình.
Đây là vấn đề @NEAR Protocol AI đang giải quyết với IronClaw 1.0, một bộ khung tác tử AI an toàn, mã nguồn mở, được xây dựng bằng Rust.

Các tác nhân AI đang bước vào một giai đoạn khác.
Chúng không còn chỉ giới hạn ở việc tạo câu trả lời nữa. Chúng có thể duyệt web, quản lý tệp, viết mã, xử lý thông tin và thực thi các quy trình làm việc nhiều bước.
Khả năng bổ sung đó tạo ra một vấn đề kỹ thuật mới.
Khi phần mềm có thể thay bạn hành động, làm sao bạn kiểm soát nó được phép làm gì? Làm sao bạn đảm bảo một tác vụ bị gián đoạn không biến mất? Và làm sao bạn bảo vệ cơ sở hạ tầng xử lý dữ liệu và tính toán đằng sau nó?
Chính điều này làm IronClaw 1.0 từ @NEAR Protocol trở nên đáng để xem xét.

Các tác nhân AI đang bước vào một giai đoạn mới.
Thay vì chỉ đơn giản tạo ra câu trả lời, ngày càng có nhiều kỳ vọng rằng chúng sẽ nghiên cứu, tương tác với các công cụ, quản lý quy trình làm việc và thực hiện hành động thay mặt cho người dùng. Điều đó khiến một câu hỏi ngày càng trở nên quan trọng: làm thế nào để trao cho AI nhiều năng lực hơn mà không đánh mất quyền kiểm soát?
#IronClaw 1.0 từ @NEAR Protocol tiếp cận thách thức này thông qua kiến trúc.
Ý tưởng then chốt của nó là sự tách biệt giữa suy nghĩ và hành động.
Mô hình AI xử lý việc suy luận và ra quyết định, trong khi một lớp điều phối an toàn gọi là guard nằm giữa mô hình và các công cụ mà nó có thể truy cập. Điều này tạo ra một lộ trình được kiểm soát, nơi các hành động có thể được xác thực và, khi cần thiết, được phê duyệt rõ ràng trước khi thực thi.

Các tác nhân AI đang bước vào một giai đoạn khác.
Mục tiêu không còn chỉ là xây dựng các mô hình có thể trả lời câu hỏi. Cơ hội lớn hơn là xây dựng các tác nhân (agents) có thể thực hiện hành động, vận hành công cụ, duy trì ngữ cảnh và hoàn tất các quy trình làm việc ngoài đời thực.
Nhưng điều đó tạo ra một vấn đề quan trọng:
Làm thế nào để trao cho AI khả năng hành động mà không cấp quyền kiểm soát không bị giám sát?
@NEAR Protocol IronClaw 1.0 áp dụng một cách tiếp cận hoàn toàn khác.
Lớp “Guard”
IronClaw tách việc ra quyết định khỏi quá trình thực thi thông qua một lớp điều phối bảo mật gọi là guard.

AI đang bước vào một chương mới đầy hấp dẫn. Chúng ta đang vượt ra khỏi những hệ thống chỉ đơn giản trả lời câu hỏi, tiến tới các tác nhân có thể suy luận, sử dụng công cụ, ghi nhớ ngữ cảnh và hoàn thành các nhiệm vụ trong thế giới thực. Nhưng khi AI ngày càng có thêm khả năng hành động, có một câu hỏi trở nên không thể bỏ qua: làm thế nào để trao cho AI nhiều năng lực hơn mà không trao cho nó quyền hạn vô hạn?
Đó là nơi @NEAR Protocol IronClaw 1.0 đưa ra một cách tiếp cận thú vị.
Cốt lõi của IronClaw là sự tách biệt giữa suy nghĩ và hành động. Thay vì cho phép một tác nhân AI đưa ra quyết định rồi ngay lập tức thực thi một hành động nhạy cảm, kiến trúc này giới thiệu một lớp bảo vệ nằm giữa quá trình suy luận và thực thi của tác nhân.

Trí tuệ nhân tạo đang vượt ra ngoài các chatbot.
Thế hệ AI tiếp theo đang được xây dựng xoay quanh các tác nhân có thể suy luận, sử dụng công cụ, thực thi nhiệm vụ và tiếp tục làm việc với sự can thiệp tối thiểu từ con người.
Nhưng quyền tự chủ lớn hơn lại tạo ra một thách thức cơ bản:
Làm thế nào để chúng ta trao cho AI khả năng hành động mà không đánh đổi an ninh, quyền riêng tư và quyền kiểm soát của người dùng?
@NEAR Protocol của IronClaw 1.0 đưa ra một câu trả lời thú vị.
IronClaw 1.0: Một kiến trúc khác cho các tác nhân AI
IronClaw 1.0 được xây dựng xoay quanh một sự phân biệt kiến trúc đơn giản nhưng quan trọng: tách phần của một hệ thống AI đưa ra quyết định khỏi phần thực thi hành động.

AI đã vượt ra ngoài việc chỉ trả lời các câu hỏi.
Sự thay đổi đáng kể hơn xảy ra khi một hệ thống AI có thể thực hiện hành động.
Một tác nhân có thể duyệt web, nghiên cứu, làm việc với tệp, sử dụng các công cụ bên ngoài, giao tiếp qua nhiều kênh khác nhau và tiếp tục một nhiệm vụ mà không cần được hướng dẫn qua từng bước cụ thể.
Điều đó tạo ra một vấn đề hạ tầng khác.
Khi phần mềm có thể thay mặt bạn hành động, năng lực không còn là đủ. Bạn cũng cần biết tác nhân được phép làm gì, điều gì nằm giữa các quyết định của nó và các hành động của nó, và điều gì xảy ra khi mọi thứ đi sai.

Các tác nhân AI đang vượt ra khỏi việc chỉ trả lời câu hỏi. Ngày càng người ta kỳ vọng chúng sẽ có thể thực hiện các hành động, làm việc xuyên qua nhiều ứng dụng, ghi nhớ các nhiệm vụ trước đó và hoạt động trong thời gian dài mà không cần giám sát liên tục. Điều đó đặt ra một câu hỏi khó: làm thế nào để tạo ra một tác nhân AI đủ năng lực để hành động, mà không cấp cho nó quyền truy cập không được kiểm soát vào mọi thứ mà nó có thể chạm tới?
l

IronClaw 1.0 của NEAR thực hiện một cách tiếp cận kiến trúc khác.
Tách Tư Duy Khỏi Hành Động
IronClaw 1.0 là một nền tảng tác nhân AI được xây dựng dựa trên một sự tách biệt đơn giản nhưng quan trọng: thành phần chịu trách nhiệm quyết định điều gì cần xảy ra được tách khỏi thành phần thực sự thực hiện hành động.