ゴールドマン・サックスの元アナリスト（25歳）が、交際相手だった元恋人をレイプし殺害するための詳細な計画をChatGPTに入力した。OpenAIは同氏をFBIに通報し、同氏は8年の保護観察処分となった。これより前、Doubao AIは、露骨なポルノ写真を送ったユーザーを禁止していた。