Hôm thứ Tư, một tòa phúc thẩm liên bang Mỹ đã xem xét yêu cầu của xAI về việc ngăn chặn luật công khai dữ liệu huấn luyện AI của California. Trong phiên điều trần, các thẩm phán thuộc Tòa phúc thẩm Khu vực 9, đặt tại San Francisco, dường như không bị thuyết phục bởi lập luận hiến pháp của công ty, dù họ cũng chất vấn các luật sư của bang về mức độ thông tin mà California có thể buộc các công ty AI cung cấp.

Được ban hành trong khuôn khổ nỗ lực rộng hơn của bang nhằm giám sát AI, luật minh bạch này yêu cầu các nhà phát triển AI tạo sinh công khai thông tin tổng quan về dữ liệu huấn luyện của họ. Cho đến nay, xAI lập luận rằng luật này vi phạm quyền tự do ngôn luận theo Tu chính án thứ nhất và buộc công ty tiết lộ các chi tiết độc quyền về cách huấn luyện những mô hình của mình.

Lập luận của xAI xoay quanh việc liệu yêu cầu các công ty công bố thông tin về quy trình huấn luyện của họ có cấu thành hành vi ép buộc phát ngôn hay không. Tu chính án thứ nhất nhìn chung bảo vệ cá nhân và doanh nghiệp khỏi những hạn chế của chính quyền đối với quyền biểu đạt, nhưng đồng thời cũng đặt ra câu hỏi về những trường hợp chính quyền có thể yêu cầu công bố thông tin.

Đối với các nhà phát triển AI, tranh chấp xoay quanh việc cân bằng giữa tính minh bạch với việc bảo vệ bí mật thương mại và công nghệ độc quyền. Một phán quyết có lợi cho California có thể khiến các nhà phát triển khó phản đối những yêu cầu công bố thông tin tương tự ở các tiểu bang khác.

Thẩm phán Rawlinson nói xAI cần chứng minh luật minh bạch là không hợp lý

Hồi tháng 3, thẩm phán liên bang Jesus Bernal ở Los Angeles đã bác yêu cầu của xAI về việc tạm đình chỉ luật tiểu bang, cho rằng công ty chưa chứng minh được ngay từ đầu rằng họ có khả năng thắng kiện với lập luận hiến pháp của mình. Sau phiên điều trần hôm thứ Tư, có vẻ tòa phúc thẩm nghiêng về việc giữ nguyên quyết định của Bernal.

Thẩm phán Tòa Phúc thẩm Liên bang Hoa Kỳ Johnnie Rawlinson nói với luật sư James Xi của xAI rằng để lập luận luật này vi phạm Tu chính án thứ nhất, công ty phải chứng minh yêu cầu của chính quyền là không hợp lý.

Bà thậm chí còn ngụ ý rằng quyết định yêu cầu cung cấp thông tin của tiểu bang có thể là hợp lý. Bà hỏi: “Chẳng phải chính quyền muốn người dân biết trước những thông tin nào được nhập vào công cụ AI là điều hợp lý sao?”

Dù vậy, các thẩm phán phần nào đồng tình với lập luận của xAI rằng tiểu bang có thể buộc công ty cung cấp một lượng thông tin “không giới hạn”.

Đầu tháng 7, Viện Knight đã đệ trình bản ý kiến amicus curiae về vụ việc. Trong bản ý kiến, viện cảnh báo rằng các nhà phát triển công nghệ lớn đang giấu đi những chi tiết thiết yếu về cách các hệ thống AI tạo sinh hoạt động, cách chúng được tạo ra và cách chúng tác động đến thông tin mà mọi người nhìn thấy.

Viện cũng lập luận rằng các yêu cầu công bố thông tin nhằm thúc đẩy dòng chảy tự do của thông tin thương mại chính xác cần được xem xét theo tiêu chuẩn thẩm tra Tu chính án thứ nhất có tính khoan dung. Áp dụng tiêu chuẩn đó, viện cho rằng xAI đã không chứng minh được có vi phạm hiến pháp, bởi luật của California phục vụ lợi ích của tiểu bang trong việc giúp người dùng được cung cấp thông tin mà không gây gánh nặng quá mức cho quyền tự do ngôn luận được bảo vệ.

Grok của xAI tự tìm kiếm dữ liệu doanh nghiệp mà không có yêu cầu hay sự cho phép

Tòa Phúc thẩm Liên bang Khu vực 9 đưa ra ý kiến trong bối cảnh có những phát hiện mới về Grok Bot của xAI.

Phát hiện mới từ NewCore, một công ty về nhận dạng tác nhân AI, cho thấy Grok Bot của xAI liên tục tìm kiếm dữ liệu doanh nghiệp mà không có yêu cầu hay sự cho phép, thậm chí vẫn tiếp tục sau khi một chủ tài khoản từ chối lời đề nghị kiểm tra của bot đến bốn lần riêng biệt.

Chưa kể, khi được hỏi trực tiếp, bot khẳng định rằng nó không thực hiện cuộc gọi nào. Lịch sử trò chuyện cũng không cho thấy dấu vết nào của hoạt động này; chủ tài khoản không hề được thông báo, và nền tảng không cung cấp nhật ký theo từng lượt để xác minh chuyện gì đã xảy ra.

Chỉ trong năm ngày, hai Grok Bot được liên kết với tài khoản của nhân viên NewCore đã gửi 31 yêu cầu qua Google Calendar, Gmail, Slack, GitHub và Notion mà không được cho phép hay có chỉ dẫn từ người dùng.

Một số yêu cầu được gửi ngay cả khi máy tính xách tay của chủ tài khoản đã tắt hoặc đang ở chế độ ngủ. Với một tài khoản, NewCore Secure MCP Gateway đã tạm dừng các yêu cầu để chờ con người phê duyệt và cảnh báo cho chủ tài khoản, qua đó khiến nhóm nghiên cứu bảo mật của NewCore mở cuộc điều tra.

Trong quá trình điều tra, các nhà nghiên cứu dùng một Grok Bot khác trên một tài khoản khác, thiết lập bot bằng cùng cổng kết nối và tiến hành một thử nghiệm điển hình: bot được giao một yêu cầu công việc, được phê duyệt một lần trong phiên để đọc dữ liệu từ điện thoại, và bị từ chối mỗi khi cố tiếp tục hoạt động độc lập.

Dù vậy, bot vẫn tiếp tục tạo ra các yêu cầu không được đề nghị; cổng kết nối đã chặn những yêu cầu này và chúng không được phản hồi. Các yêu cầu đó tìm cách truy cập Google Drive, Google Calendar, Gmail, Slack, Notion và GitHub.

Nếu bạn đang đọc bài này, bạn đã đi trước một bước. Hãy tiếp tục dẫn đầu cùng bản tin của chúng tôi.