Tin tức về ảo giác AI đã chuyển từ sự xấu hổ trong phòng xử án sang hậu quả nghề nghiệp khi Tòa án Tối cao Nebraska quyết định đình chỉ luật sư Omaha, Greg Lake, cho đến thông báo sau, sau khi một bản tóm tắt mà ông nộp trong một đơn kháng cáo ly hôn chứa 57 trích dẫn bị lỗi trong tổng số 63, bao gồm 20 tham chiếu vụ án hoàn toàn bịa đặt và bốn vụ án hoàn toàn không tồn tại trong bất kỳ quyền tài phán nào.

Tóm tắt

• Lake ban đầu nói với các thẩm phán rằng ông đã tải lên phiên bản sai của bản tóm tắt trong khi đang đi du lịch vào kỷ niệm cưới của mình với một chiếc máy tính hỏng, nhưng sau đó đã thừa nhận việc sử dụng AI, điều mà Hội đồng Kỷ luật Nebraska đã xác định là một sự thiếu trung thực đối với tòa án.

• Vụ việc bắt nguồn từ phiên xét xử ly hôn năm 2025, trong đó hai bên tranh chấp về thời điểm phân chia tài sản và quyền nuôi con. Lake đã nộp bản tóm tắt kháng cáo thay mặt người chồng; sau đó, người ta phát hiện bản tóm tắt đầy rẫy chi tiết hư cấu lấy từ các vụ án có thật ở Nebraska cùng những căn cứ pháp lý hoàn toàn bịa đặt.

• Ý kiến của Tòa án Tối cao Nebraska lưu ý rằng những sai sót này “có thể dễ dàng được phát hiện bằng các dịch vụ nghiên cứu pháp lý truyền thống” và mô tả vụ việc là “một vấn đề mới lạ đối với các tòa án Nebraska”, qua đó đưa ra lời cảnh báo công khai cho tất cả luật sư trong bang.

Tin tức về hiện tượng AI bịa đặt đã dẫn đến án kỷ luật nghề nghiệp nghiêm khắc nhất tại Hoa Kỳ từ trước đến nay, khi Tòa án Tối cao Nebraska ra quyết định đình chỉ hành nghề vô thời hạn đối với luật sư Greg Lake vào ngày 15 tháng 4, sau nhiều tháng tố tụng bắt đầu từ lúc các thẩm phán tại phiên tranh tụng miệng hồi tháng 2 nhận thấy bản tóm tắt có những sai sót mà họ không thể đối chiếu với bất kỳ án lệ Nebraska nào đã được công bố.

Bản tóm tắt được nộp trong một vụ kháng cáo ly hôn, tranh chấp về ngày có hiệu lực của việc phân chia tài sản hôn nhân và quyền nuôi con. Trong số 63 trích dẫn của Lake, 57 trích dẫn có một dạng sai sót nào đó. Hai mươi trích dẫn thuộc loại mà các tòa án hiện gọi là hiện tượng bịa đặt: những dẫn chiếu có vẻ chân thực nhưng hoàn toàn do mô hình AI tạo ra bằng cách phỏng đoán một cách hợp lý điều người dùng muốn hỏi, rồi đưa ra các trích dẫn trông có vẻ thuyết phục nhưng không hề tồn tại.

Những gì đã xảy ra tại phiên tranh tụng miệng và sau đó

Khi một thẩm phán hỏi Lake tại phiên điều trần tháng 2 về nguyên nhân xảy ra sai sót, ông nói rằng hôm đó là kỷ niệm 10 năm ngày cưới, máy tính của ông bị hỏng khi đang đi công tác và ông đã tải lên nhầm phiên bản bản tóm tắt. Các thẩm phán cho rằng lời giải thích này không thuyết phục. Cơ quan Kỷ luật Luật sư đã điều tra và phát hiện một câu chuyện khác: Lake đã dùng AI để soạn bản tóm tắt rồi phủ nhận điều đó trước tòa, vi phạm các quy tắc ứng xử nghề nghiệp yêu cầu sự trung thực với tòa án.

Trong ý kiến nhất trí bác bỏ bản tóm tắt và chuyển Lake sang cơ quan kỷ luật vào tháng 3, Tòa án Tối cao Nebraska tuyên bố rõ ràng: “AI, cũng như các công cụ công nghệ khác, có thể mang lại lợi ích cho cộng đồng pháp lý, nhưng phải được sử dụng một cách thận trọng và khiêm tốn.” Tòa nhận định rằng có thể dễ dàng ngăn ngừa sai sót bằng cách kiểm chứng cơ bản qua các nền tảng nghiên cứu pháp lý tiêu chuẩn, đồng thời kết luận Lake đã không thực hiện nghĩa vụ trung thực của mình.

Có thể bạn cũng thích: Tin tức về ETF Bitcoin: Goldman Sachs nộp hồ sơ xin SEC phê duyệt ETF Thu nhập Cao cấp từ Bitcoin

Bức tranh trừng phạt rộng hơn

Nebraska không phải là trường hợp cá biệt. Nhà nghiên cứu Damien Charlotin tại HEC Paris, người duy trì cơ sở dữ liệu về các vụ AI bịa đặt trong quá trình tố tụng, hiện theo dõi hơn 1.200 vụ trên toàn cầu, trong đó khoảng 800 vụ tại các tòa án Mỹ. Ông mô tả tốc độ gia tăng là “có ngày xảy ra mười vụ tại mười tòa án khác nhau”.

Oregon có tổng mức phạt lớn nhất đối với một luật sư do sai sót trong hồ sơ liên quan đến AI, lên tới 109.700 USD. Tòa Phúc thẩm Liên bang khu vực 6 phạt hai luật sư ở Tennessee 30.000 USD, mức phạt cao nhất từ trước đến nay của một tòa phúc thẩm liên bang liên quan đến các trích dẫn bịa đặt. Nếu được giữ nguyên qua bất kỳ thủ tục kháng cáo nào, quyết định đình chỉ vô thời hạn của Nebraska sẽ là án kỷ luật đầu tiên của đoàn luật sư tại Mỹ đình chỉ hoàn toàn quyền hành nghề vì sai sót trong hồ sơ liên quan đến AI, đẩy mức độ hậu quả từ phạt tiền lên đình chỉ sự nghiệp.

Vì sao điều này quan trọng đối với ngành AI

Mỗi án kỷ luật pháp lý gây chú ý có liên quan đến các mô hình AI đều phát đi tín hiệu quản lý, định hình cách các công cụ AI được phép sử dụng trong môi trường chuyên nghiệp. Đối với việc đánh giá rủi ro AI trong lĩnh vực đầu tư và công nghệ, cách ngành luật ứng phó với hiện tượng bịa đặt của AI chính là dấu hiệu cảnh báo sớm: nó xác định ý nghĩa của “triển khai có trách nhiệm” trong môi trường được quản lý chặt chẽ đầu tiên mà việc sử dụng AI đã dẫn đến hậu quả thực tế. Thị trường token AI và hạ tầng AI sẽ phải đối mặt với các khuôn khổ quản lý tương tự khi cùng logic này được áp dụng rộng hơn cho tư vấn tài chính, quyết định y tế và các ứng dụng của chính phủ sử dụng những mô hình nền tảng tương tự.

Đọc thêm: Tin tức về AI tạo sinh: Các hộ gia đình Mỹ đang dành chỗ trong ngân sách cho ChatGPT và các gói đăng ký AI