Berita halusinasi AI berpindah dari rasa malu di ruang sidang menjadi konsekuensi karir ketika Mahkamah Agung Nebraska memutuskan untuk menangguhkan pengacara Omaha Greg Lake hingga pemberitahuan lebih lanjut, setelah ringkasan pengadilan yang dia ajukan dalam banding perceraian mengandung 57 kutipan cacat dari 63, termasuk 20 referensi kasus yang sepenuhnya dibuat dan empat kasus yang sepenuhnya tidak ada dalam yurisdiksi mana pun.
Ringkasan
Lake awalnya memberi tahu para hakim bahwa dia telah mengunggah versi yang salah dari ringkasan saat bepergian pada ulang tahun pernikahannya dengan komputer yang rusak, tetapi kemudian mengakui telah menggunakan AI, yang ditemukan oleh Dewan Disiplin Nebraska sebagai kegagalan dalam kejujuran terhadap pengadilan.
Kasus ini berasal dari persidangan perceraian 2025 yang memperdebatkan waktu pembagian aset dan hak asuh anak, dengan Lake mengajukan berkas banding atas nama suami, berkas tersebut kemudian dipenuhi dengan detail fiktif dari kasus nyata Nebraska dan otoritas yang sepenuhnya dibuat-buat.
Opini Mahkamah Agung Nebraska mencatat bahwa kesalahan tersebut “dapat dengan mudah ditemukan menggunakan layanan riset hukum tradisional” dan menggambarkan kasus tersebut sebagai menyajikan “isu baru bagi pengadilan Nebraska,” yang berfungsi sebagai peringatan publik kepada semua pengacara di negara bagian tersebut.
Berita tentang halusinasi AI telah menghasilkan sanksi profesional paling parah di Amerika Serikat sampai saat ini, ketika Mahkamah Agung Nebraska memberikan penangguhan tidak terbatas kepada pengacara Greg Lake pada 15 April, setelah berbulan-bulan proses yang dimulai ketika para hakim di argumen lisan pada bulan Februari melihat bahwa berkas tersebut mengandung kesalahan yang tidak bisa mereka rekonsiliasi dengan hukum kasus Nebraska yang dipublikasikan.
Berkas tersebut diajukan dalam banding perceraian yang memperdebatkan tanggal efektif untuk membagi aset perkawinan dan hak asuh anak. Dari 63 kutipan yang dibuat Lake, 57 mengandung beberapa bentuk cacat. Dua puluh adalah apa yang sekarang disebut pengadilan sebagai halusinasi: referensi yang tampak realistis tetapi sepenuhnya dipalsukan yang dihasilkan oleh model AI yang menebak secara masuk akal apa yang diminta pengguna dan menghasilkan kutipan yang tampak meyakinkan tetapi tidak ada.
Apa yang Terjadi di Argumen Lisan dan Setelahnya
Ketika seorang hakim bertanya kepada Lake selama sidang Februari bagaimana kesalahan itu bisa terjadi, dia mengatakan bahwa dia sedang merayakan ulang tahun pernikahan ke-10, komputernya rusak saat bepergian, dan dia telah mengunggah versi yang salah dari berkas tersebut. Para hakim menemukan penjelasan itu tidak meyakinkan. Penasihat Disiplin menyelidiki dan menemukan akun yang berbeda: bahwa Lake telah menggunakan AI untuk menyusun berkas tersebut dan kemudian menolaknya di hadapan pengadilan, yang merupakan pelanggaran terhadap aturan perilaku profesional yang mengharuskan keterbukaan terhadap tribunal.
Opini bulat Mahkamah Agung Nebraska yang menolak berkas tersebut dan merujuk Lake untuk disiplin pada bulan Maret menyatakan dengan jelas: “AI, seperti alat teknologi lainnya, dapat menjadi keuntungan bagi komunitas hukum, tetapi harus digunakan dengan hati-hati dan rendah hati.” Pengadilan menyatakan bahwa kesalahan tersebut dapat dengan mudah dicegah dengan verifikasi dasar melalui platform riset hukum standar dan menemukan bahwa Lake telah menunjukkan kegagalan dalam tugas keterbukaannya.
Kamu mungkin juga suka: Berita ETF Bitcoin: Goldman Sachs Mengajukan Permohonan untuk ETF Pendapatan Premium Bitcoin dengan SEC
Lanskap Sanksi yang Lebih Luas
Nebraska bukanlah kasus terisolasi. Peneliti Damien Charlotin dari HEC Paris, yang memelihara database kasus halusinasi AI dalam proses hukum, kini melacak lebih dari 1,200 kasus semacam itu secara global, dengan sekitar 800 dari pengadilan AS. Dia telah menggambarkan kecepatan tersebut sebagai mencapai “sepuluh kasus dari sepuluh pengadilan dalam satu hari.”
Oregon memegang sanksi agregat terbesar yang terkait dengan seorang pengacara tunggal untuk kesalahan pengajuan terkait AI, sebesar $109,700. Sirkuit Keenam menjatuhkan denda $30,000 kepada dua pengacara Tennessee, sanksi banding federal terbesar yang pernah terhubung dengan kutipan yang dipalsukan. Penangguhan tidak terbatas Nebraska, jika dipertahankan dalam banding apa pun, akan menjadi tindakan disiplin bar pertama yang sepenuhnya menangguhkan praktik karena kesalahan pengajuan terkait AI di AS, meningkatkan konsekuensi dari denda finansial menjadi penangguhan karir.
Mengapa Ini Penting untuk Sektor AI
Setiap sanksi hukum profil tinggi yang terkait dengan model AI mengirimkan sinyal regulasi yang mengkalibrasi bagaimana alat AI diizinkan digunakan dalam pengaturan profesional. Untuk penilaian risiko AI di seluruh lanskap investasi dan teknologi, respons profesi hukum terhadap halusinasi adalah burung kenari di dalam tambang batubara: itu mendefinisikan apa yang dimaksud dengan “penempatan yang bertanggung jawab” dalam lingkungan teratur berisiko tinggi yang menghasilkan konsekuensi. Pasar token AI dan infrastruktur AI akan menghadapi kerangka regulasi serupa karena logika yang sama diperluas ke saran keuangan, keputusan medis, dan aplikasi pemerintah dari model yang sama.
Baca lebih lanjut: Berita AI Generatif: Rumah Tangga AS Mengalokasikan Ruang dalam Anggaran untuk ChatGPT dan Langganan AI