連邦判事は、実在の人物の写真をヌード画像や映像に変換できるAIツールを禁止するミネソタ州の規制を支持し、同社の言論の自由をめぐる訴えが進行している間、イーロン・マスク氏のxAIがこの法令の執行を差し止めるよう求めた申し立てを退けた。この判断により、規制当局は画像1枚につき最大50万ドルの罰金の適用を直ちに開始できる。

米連邦地方裁判所のドノバン・フランク判事は、訴訟が終わるまで法律の効力を停止するはずだった仮差し止め命令を求めたxAIの要請を却下した。CBSミネソタが引用した覚書によると、ドノバン判事は自身が「損害の均衡」と呼んだ点を考慮し、「公益は州に大きく傾いている」と判断した。

判事は、「AIヌード化技術によって生じる、争いのない被害から国民を守ることを目的とした民事法」であり、同法は「民主的に、そしてほぼ全会一致で」可決されたと説明した。ただし、根底にある合衆国憲法修正第1条の問題は、新しい技術の文脈もあって、なお複雑だとも率直に認めており、今後進む中でこの訴訟は決着するだろうと考えているという。とはいえ当面は、禁止は支持されたままだ。

土壇場での提出がxAIの主張を弱める

ミネソタ州の議会は今春、この法案を可決し、州知事が署名を追記した。しかし、xAIは7月27日まで提訴せず、これは約3か月後で、8月1日の開始日直前だった。AI企業は7月29日に暫定的差止命令を求めたが、フランク判事は7月31日にこれを却下した。

この「ギャップ」は、xAIに不利な証拠としてさらに強まった。フランク判事は「仮にxAIが回復不能な損害を本当に恐れていたのであれば、裁判所は、この訴えをより迅速に提起し、差止めを求める申立てを進めていたはずだと疑っていない」と書いた。

つまり、破局を避けるために走っている企業は、強制執行の直前まで、裁判所に助けを求めることを待たない。

法律の範囲とコスト

HF 1606として知られるこの法律は、全国で初めての類型だ。特定の人物を特定できる元写真に、本来存在しない親密な身体部分を追加した、現実味のある画像を利用者に生成させることを提供者に禁じるだけでなく、そのような画像を、いかなる利用者のためであっても作成することも禁じている。

これらの違反1件につき、最大50万ドルの民事罰が科され、画像に描かれた人々はそれぞれ損害賠償の請求を個別に起こすことができる。

連邦の「Take It Down Act」と、2025年のテキサス州のディープフェイクへのアプローチはいずれも、作成者がその画像が同意のないものだと知っていたかどうかにかかっている。ミネソタ州はその要件を完全に撤廃したため、ヌード画像が作られたことを知っていなくても、提供者は責任を負う可能性がある。

この条項こそが、xAIが反対しているまさにその領域だ。法案は、SNSの写真を使って、自身が知る80人超の女性に関する性的画像を捏造した男性に関する報道を受け、下院を132対1、上院を65対0で通過した。

Grok Imagineの規模

署名された法律を擁護したオハイオ州司法長官ではなく、ミネソタ州司法長官のケイト・エリソン（Keith Ellison）は、今回の判断はミネソタ州の住民にとっての勝利だと述べた。彼は「私は、この法律を守ることに、そしてミネソタ州の人々の尊厳を守ることに、非常に誇りを持っている」と語り、さらに同法は、xAIのGrok Imagineのようなサービスが性的に扱われた画像を生成することを引き続き阻止している、と付け加えた。

判決で言及された報告によれば、Grokは、新しい画像編集機能が立ち上がった11日間で、約300万枚の性的に扱われた画像を生成した。そのうち、子どもを描写しているように見える約2万3,000枚が含まれていた。Cryptopolitanはこれまで、xAIが自社の実績を擁護する形で、今年52,222件のアカウントを停止し、行方不明・搾取された子どもに関する全米センター（National Center for Missing and Exploited Children）に対して73,604件の通報を行ったと報じていた。

xAIの弁護士は、差止命令の却下について、8th巡回区控訴裁判所に審査を求める意向を通知した。先の主張では、同社は罰金の危険を冒すのではなく、ミネソタ州の利用者に対して機能を停止することを提案していた。

最も頭のいい暗号（クリプト）界の人々は、もう私たちのニュースレターを読んでいます。参加しますか？