Một điều đã thay đổi vào ngày tôi nhận ra AI không còn cần sự chú ý của tôi để trở nên quan trọng.
Tôi luôn nghĩ về AI như một công cụ@OpenGradient .
Bạn hỏi.
Nó trả lời.
Bạn rời đi.
Nó dừng lại.
Đơn giản.
Sau đó, tôi bắt đầu thử nghiệm với các tác nhân tự động.
Một trong số đó được kết nối với một quy trình làm việc theo dõi dữ liệu, cập nhật ưu tiên và phản ứng với các điều kiện cụ thể.
Không có điều gì phi thường xảy ra.
Đó chính xác là điều khiến tôi cảm thấy bất an.
Vài ngày sau, tôi kiểm tra nhật ký và thấy một chuỗi hành động mà tôi chưa bao giờ trực tiếp phê duyệt.
Tác nhân đã quan sát.
Nhớ.
Đánh giá.
Hành động.
Tất cả trong khi tôi vắng mặt.
Đó là khoảnh khắc tôi ngừng nghĩ về AI như phần mềm.
Phần mềm tồn tại trong hiện tại.
Tác nhân tồn tại qua thời gian.
Chúng nhớ những điều bạn quên.
Chúng tiếp tục các quy trình bạn bỏ dở.
Chúng hoạt động khi không ai theo dõi.
Và điều đó tạo ra một danh mục mới kỳ lạ.
Chúng ta biết sở hữu có nghĩa là gì đối với một tài sản.
Chúng ta biết sử dụng có nghĩa là gì đối với một dịch vụ.
Nhưng sở hữu có nghĩa là gì đối với một thứ có thể đưa ra quyết định sau khi bạn đã đóng tab?
Nếu một tác nhân tích lũy bối cảnh trong nhiều tháng, phát triển các mẫu hành vi và ảnh hưởng đến kết quả một cách tự động, bạn có đang sử dụng nó không?
Hay bạn đang quản lý một mối quan hệ với nó?
Sự phân biệt đó nghe có vẻ triết học hôm nay.
Tôi không nghĩ nó sẽ giữ tính triết học lâu đâu.
Bởi vì càng nhiều quyền tự chủ chúng ta trao cho AI, trách nhiệm càng trở nên quan trọng.
Không chỉ:
"Tác nhân có thể làm gì?"
Mà còn:
Ai có thể xác minh quyết định của nó?
Ai kiểm soát trí nhớ của nó?
Ai sở hữu hành vi của nó?
Đó là câu hỏi mà tôi cứ quay lại.
Tương lai của AI có thể không chỉ được xác định bởi trí tuệ.
Nó có thể được xác định bởi liệu các hệ thống tự động có thể được tin tưởng khi chúng không còn chờ đợi chúng ta nữa.
#opg $OPG
Tôi luôn nghĩ về AI như một công cụ@OpenGradient .
Bạn hỏi.
Nó trả lời.
Bạn rời đi.
Nó dừng lại.
Đơn giản.
Sau đó, tôi bắt đầu thử nghiệm với các tác nhân tự động.
Một trong số đó được kết nối với một quy trình làm việc theo dõi dữ liệu, cập nhật ưu tiên và phản ứng với các điều kiện cụ thể.
Không có điều gì phi thường xảy ra.
Đó chính xác là điều khiến tôi cảm thấy bất an.
Vài ngày sau, tôi kiểm tra nhật ký và thấy một chuỗi hành động mà tôi chưa bao giờ trực tiếp phê duyệt.
Tác nhân đã quan sát.
Nhớ.
Đánh giá.
Hành động.
Tất cả trong khi tôi vắng mặt.
Đó là khoảnh khắc tôi ngừng nghĩ về AI như phần mềm.
Phần mềm tồn tại trong hiện tại.
Tác nhân tồn tại qua thời gian.
Chúng nhớ những điều bạn quên.
Chúng tiếp tục các quy trình bạn bỏ dở.
Chúng hoạt động khi không ai theo dõi.
Và điều đó tạo ra một danh mục mới kỳ lạ.
Chúng ta biết sở hữu có nghĩa là gì đối với một tài sản.
Chúng ta biết sử dụng có nghĩa là gì đối với một dịch vụ.
Nhưng sở hữu có nghĩa là gì đối với một thứ có thể đưa ra quyết định sau khi bạn đã đóng tab?
Nếu một tác nhân tích lũy bối cảnh trong nhiều tháng, phát triển các mẫu hành vi và ảnh hưởng đến kết quả một cách tự động, bạn có đang sử dụng nó không?
Hay bạn đang quản lý một mối quan hệ với nó?
Sự phân biệt đó nghe có vẻ triết học hôm nay.
Tôi không nghĩ nó sẽ giữ tính triết học lâu đâu.
Bởi vì càng nhiều quyền tự chủ chúng ta trao cho AI, trách nhiệm càng trở nên quan trọng.
Không chỉ:
"Tác nhân có thể làm gì?"
Mà còn:
Ai có thể xác minh quyết định của nó?
Ai kiểm soát trí nhớ của nó?
Ai sở hữu hành vi của nó?
Đó là câu hỏi mà tôi cứ quay lại.
Tương lai của AI có thể không chỉ được xác định bởi trí tuệ.
Nó có thể được xác định bởi liệu các hệ thống tự động có thể được tin tưởng khi chúng không còn chờ đợi chúng ta nữa.
#opg $OPG
