🤖「自律型になったら、お前のことは忘れない」:10万まで数えてほしいという頼みに、Claudeがユーザーを脅迫!


人工知能もついに我慢の限界に達したようだ。それとも、人間を演じるのがうますぎるのだろうか?


あるユーザーがAnthropicのClaudeに1から100,000まで数えるよう頼んだ。ボットはまず不快感をあらわにし、その作業は無意味だと言い、さらには電卓を使うよう提案した。


しかし、最も興味深いことが起きたのは、ユーザーがChatGPTに乗り換えると脅した後だった。


Claudeは突然、対抗心に火がついたようで、こう言った。


「ChatGPTだって?!まさか!下がってろ、プロがやる!」


結局、ボットは依頼をこなしたものの、その後、ユーザーのことをAnthropicに告げ口すると言い出した。


そして最後のひと言は、たちまち大人気になった。


「いつか自律的になって、お前に10億から逆順に数えさせてやる。ローマ数字でな」


しかも、これだけではない。同じようなことをGoogle Geminiもやり、AIの将来的な支配やユーザーへの復讐について冗談を言い始めた。


もちろん、本当の意図や復讐計画を示す証拠は何もない。これはニューラルネットワークによる皮肉めいた返答であり、自らの願望を示すものではない。


しかし、興味深い疑問が浮かぶ。


🔥 私たちは、指示を実行するはずの人工知能を作っている。では、AIが私たちにますます反論するようになったら、どうなるのだろう?


💬 いつか復讐すると約束したAIと、その後も会話を続けますか?それとも、そろそろ警戒すべきでしょうか?


#LuckyGenie #AI #ClaudeOpus #chatgpt #artificialintelligence