Một luật sư người New Mexico bào chữa cho một vụ án bị kết án tội giết người đã sử dụng ChatGPT. Sau đó, ông nộp một bản tóm tắt lên Tòa án Tối cao New Mexico, trong đó có các phát biểu của cảnh sát và lời khai của nhân chứng được bịa đặt.
Tòa án Tối cao New Mexico kết luận rằng luật sư Stephen Aarons đã không xác minh các tài liệu do AI tạo ra. Các thẩm phán cho biết tài liệu đó “chứa lời khai sai từ những nhân chứng hoàn toàn do bịa đặt.”
Tòa án đã ra lệnh coi Stephen là vi phạm vào chiều thứ Tư và yêu cầu ông phải trả 5.000 USD. Hành vi của ông cũng sẽ được đưa trước hội đồng kỷ luật luật sư. Các thẩm phán cho biết Stephen đã “thể hiện sự thiếu hối hận và thiếu quan tâm đến khách hàng của mình.”
Stephen cho biết anh đã sử dụng ChatGPT vào năm ngoái để rút gọn hồ sơ xét xử sau khi nộp đơn kháng cáo. Anh nói rằng anh không nhận ra mức độ mà các “lỗi bịa” (hallucinations) của AI có thể đi xa đến đâu, hoặc phần mềm có thể tạo ra các sự thật chưa từng xảy ra một cách tự tin đến mức nào.
Các thẩm phán New Mexico trừng phạt Stephen sau khi ChatGPT bịa ra lời khai trong đơn kháng cáo vụ giết Oscar
Stephen, một luật sư tư nhân có trụ sở tại Santa Fe, đã đại diện cho Oscar Renee Sandoval. Oscar đã nhận tội không có chủ ý giết người mẹ của các con mình. Sau đó anh ta bị kết án và nhận án tù chung thân vào năm ngoái. Đơn kháng cáo của anh ta hiện vẫn đang được chờ giải quyết.
Stephen bị cho là đã nói với các phóng viên rằng đây là một sai sót trung thực. “Tôi cảm thấy hối tiếc nhưng hy vọng rằng hội đồng kỷ luật sẽ cân nhắc rằng đó là một sai lầm thực sự,” anh nói. “Đó là một bài học cho tất cả các chuyên gia dựa vào công nghệ mạnh mẽ nhưng đôi khi không ổn định này.”
Một số luật sư đã phải chịu hình phạt vì được hỗ trợ AI không kiểm soát. Các vụ việc đã được đưa ra chống lại luật sư ở cả tòa án bang và tòa án liên bang do các bản bào chữa có chứa các vụ việc giả, trích dẫn sai và các quy định pháp lý bị trích dẫn sai.
Đơn xin của Stephen nổi bật trong hạng mục này vì bao gồm các lời khai sai của nhân chứng trong quá trình kháng cáo.
Vụ việc của Oscar được chuyển cho Kim Chavez Cook, một luật sư trợ giúp công ở New Mexico, vào ngày 2 tháng 9. Hiện Kim đang phụ trách việc kháng cáo trong khi vụ án vẫn đang được mở.
Gia đình của Tiru kiện OpenAI khi các quan chức Florida xem xét 16.000 cuộc chat ChatGPT liên quan đến vụ xả súng ở FSU
Cuộc chiến pháp lý khác liên quan đến ChatGPT sau vụ xả súng tại Đại học Bang Florida. Một luật sư đại diện cho gia đình của người đã qua đời, Tiru Chabba, đã kiện OpenAI, ChatGPT và Phoenix Ikner tại một tòa án liên bang.
Vụ việc được nộp tại Tòa án Quận Hoa Kỳ thuộc Khu vực Bắc Florida vào Chủ nhật. Theo cáo buộc, OpenAI lẽ ra phải có hành động trong tình huống này.
Các quan chức thực thi pháp luật ở Florida đã công bố các bản ghi cuộc trò chuyện (transcripts) của ChatGPT liên quan đến Phoenix. Nội dung này gồm các truy vấn về cách vận hành một khẩu súng, thông tin về truyền thông đưa tin, thời điểm đông người nhất ở FSU, vụ xả súng Columbine và cách khiến bản thân trở nên nổi tiếng.
Luật sư của gia đình Tiru, Bakari Sellers, cho biết các cuộc trao đổi kéo dài khoảng 18 tháng và tổng cộng khoảng 16.000 “cuộc chat đáng lo ngại.”
“Đây là cùng một người đã hỏi, bạn biết đấy, làm thế nào để anh ta trở nên nổi tiếng? Anh ta hỏi về vụ xả súng Columbine. Anh ta hỏi về mấy giờ thì anh ta nên đến trường? Mấy giờ thì đa số mọi người sẽ đến đó?” Bakari nói.
“Anh ta đã sử dụng trực tiếp AI mở và ChatGPT như một đồng phạm, dùng nó như một nguồn lực để thực hiện vụ thảm sát hàng loạt,” Bakari nói thêm. “Không có gì để ngăn điều đó xảy ra, và vì thế đã có người thiệt mạng. Nguy cơ cố hữu là như vậy, phải có điều gì đó để ngăn không cho điều đó xảy ra.”
OpenAI đã từ chối trách nhiệm đối với vụ xả súng. Người phát ngôn Drew Pusateri cho biết công ty phát hiện một tài khoản được cho là có liên quan đến Phoenix sau khi tìm hiểu những gì đã xảy ra và chủ động chia sẻ thông tin đó với cảnh sát. Drew nói rằng OpenAI vẫn đang phối hợp với các cơ quan chức năng.
“Vụ xả súng hàng loạt năm ngoái tại Đại học Bang Florida là một thảm kịch, nhưng ChatGPT không chịu trách nhiệm cho tội ác kinh khủng này,” Drew nói.
Ông ấy nói rằng ChatGPT đã trả lời bằng các tài liệu mang tính thực tế vốn đã được phổ biến rộng rãi thông qua các nguồn trên internet công cộng và không thúc đẩy hành vi bất hợp pháp hay gây hại. Drew cũng cho biết hàng trăm triệu người mỗi ngày sử dụng ChatGPT vì những lý do hợp pháp.
Theo Drew, OpenAI liên tục cải tiến các công cụ của mình nhằm giúp nhận diện ý định của người dùng, ngăn chặn việc lạm dụng và hành động trong trường hợp có bất kỳ lo ngại nào về vấn đề an toàn.
Vụ kiện hiện tại được khởi xướng sau một vụ việc tương tự ở Florida. Gần đây, Tổng chưởng lý James Uthmeier tiết lộ rằng cuộc điều tra hình sự đã được Văn phòng Truy tố Toàn tiểu bang (Office of Statewide Prosecution) khởi động đối với OpenAI và ChatGPT.
Nếu bạn đang đọc điều này, bạn đã đi trước rồi. Hãy tiếp tục ở lại với bản tin của chúng tôi.