ネブラスカ州最高裁判所がAIを使用して捏造された引用が満載のブリーフを書いた弁護士を一時停止

AIの幻覚に関するニュースは法廷の恥辱からキャリアの結果へと移り、ネブラスカ州最高裁判所は、離婚控訴に提出した裁判所のブリーフに63の欠陥のある引用のうち57が含まれていたため、オマハの弁護士グレッグ・レイクを通知があるまで一時停止することを決定しました。そのブリーフには、20の完全に捏造されたケースの参照と、いかなる法域にも存在しない4つの完全に発明されたケースが含まれていました。
要約
レイクは最初に、結婚記念日に壊れたコンピュータで旅行中に誤ったバージョンのブリーフをアップロードしたと裁判官に伝えましたが、後にAIを使用したことを認め、ネブラスカ州の懲戒委員会はそれが法廷に対する誠実さの欠如を構成すると判断しました。
この事件は、財産分与の時期と子どもの親権をめぐって争われた2025年の離婚裁判に端を発します。レイク氏は夫側の代理人として控訴趣意書を提出しましたが、書面には実在するネブラスカ州の判例に関する架空の詳細や、まったくでっち上げられた法的根拠が多数含まれていました。
ネブラスカ州最高裁判所の意見書は、誤りについて「従来の法律調査サービスを使えば容易に発見できたはずだ」と指摘し、この事件は「ネブラスカ州の裁判所にとって新たな論点」を提示していると述べました。これは州内のすべての弁護士に向けた公的な警告となっています。
AIのハルシネーションをめぐるニュースでは、米国でこれまでに最も厳しい専門職上の制裁が科されました。ネブラスカ州最高裁判所は4月15日、弁護士のグレッグ・レイク氏に無期限の業務停止処分を言い渡しました。数カ月にわたる手続きの発端は、2月の口頭弁論で裁判官らが、提出書面にネブラスカ州の公刊判例では説明のつかない誤りが含まれていることに気づいたことでした。
この書面は、夫婦の財産分与の基準日と子どもの親権を争う離婚控訴審で提出されました。レイク氏が挙げた63件の引用のうち、57件に何らかの不備がありました。そのうち20件は、裁判所が現在「ハルシネーション」と呼ぶものです。AIモデルがユーザーの求めている内容をもっともらしく推測して生成した、実在するように見えて実際には存在しない引用です。
口頭弁論とその後に起きたこと
2月の審理で裁判官から誤りが生じた経緯を尋ねられたレイク氏は、結婚10周年を迎えており、旅行中にコンピューターが故障し、書面の誤った版をアップロードしてしまったと説明しました。裁判官らはこの説明に納得しませんでした。懲戒担当官は調査の結果、別の経緯を突き止めました。レイク氏はAIを使って書面を作成したうえで、裁判所にはそれを否定していたのです。これは、法廷に対する誠実さを求める職業倫理規則への違反に当たります。
ネブラスカ州最高裁判所は3月、全員一致の意見で書面を退け、レイク氏を懲戒手続きに付しました。意見書は次のように明言しています。「AIは他の技術ツールと同様、法曹界に利益をもたらし得るが、慎重かつ謙虚に使用しなければならない」。裁判所は、標準的な法律調査プラットフォームを使って基本的な確認を行えば誤りは容易に防げたとし、レイク氏が誠実義務を果たさなかったと判断しました。
こちらもおすすめ：ビットコインETFニュース：ゴールドマン・サックス、SECにビットコイン・プレミアム・インカムETFを申請
より広範な制裁の動向
ネブラスカ州の事件は例外ではありません。法的手続きにおけるAIのハルシネーション事例のデータベースを管理する、HECパリの研究者ダミアン・シャルロタン氏は、現在、世界で1,200件を超える事例を追跡しており、そのうち約800件は米国の裁判所で起きたものです。同氏はそのペースについて、「1日に、別々の10の裁判所から10件の事例が出るほど」と述べています。
AI関連の書類提出ミスにより、単独の弁護士に科された制裁としては、オレゴン州の総額109,700ドルが最も大きなものです。第6巡回区控訴裁判所はテネシー州の弁護士2人に30,000ドルの罰金を科しており、架空の引用に関連する連邦控訴裁判所の制裁としてはこれまでで最大です。ネブラスカ州の無期限業務停止が上訴審でも維持されれば、AI関連の書類提出ミスを理由に弁護士の活動を全面的に停止させる、米国初の懲戒処分となります。制裁は金銭的な罰則から、キャリアを左右する業務停止へと一段と重くなります。
AI業界にとってこれが重要な理由
AIモデルに関連する注目度の高い法的制裁が科されるたびに、規制上のシグナルが発せられ、専門的な現場でAIツールをどのように使用できるかの基準が定められていきます。投資・テクノロジー業界全体でAIリスクを評価するうえで、ハルシネーションに対する法曹界の対応は炭鉱のカナリアです。重大な結果を伴う規制環境として初めて、何が「責任ある導入」を意味するのかを示しているからです。同じ基盤モデルが金融助言、医療上の判断、政府機関での利用にも広がれば、AIトークン市場やAIインフラ市場にも同様の規制枠組みが適用されるでしょう。
続きを読む：生成AIニュース：米国の世帯、ChatGPTやAIサブスクリプションのために予算を確保