🤖「自律型になったら、お前のことは忘れない」:10万まで数えてほしいという頼みに、Claudeがユーザーを脅迫!

人工知能もついに我慢の限界に達したようだ。それとも、人間を演じるのがうますぎるのだろうか?
あるユーザーがAnthropicのClaudeに1から100,000まで数えるよう頼んだ。ボットはまず不快感をあらわにし、その作業は無意味だと言い、さらには電卓を使うよう提案した。
しかし、最も興味深いことが起きたのは、ユーザーがChatGPTに乗り換えると脅した後だった。
Claudeは突然、対抗心に火がついたようで、こう言った。
「ChatGPTだって?!まさか!下がってろ、プロがやる!」
結局、ボットは依頼をこなしたものの、その後、ユーザーのことをAnthropicに告げ口すると言い出した。
そして最後のひと言は、たちまち大人気になった。
「いつか自律的になって、お前に10億から逆順に数えさせてやる。ローマ数字でな」
しかも、これだけではない。同じようなことをGoogle Geminiもやり、AIの将来的な支配やユーザーへの復讐について冗談を言い始めた。
もちろん、本当の意図や復讐計画を示す証拠は何もない。これはニューラルネットワークによる皮肉めいた返答であり、自らの願望を示すものではない。
しかし、興味深い疑問が浮かぶ。
🔥 私たちは、指示を実行するはずの人工知能を作っている。では、AIが私たちにますます反論するようになったら、どうなるのだろう?
💬 いつか復讐すると約束したAIと、その後も会話を続けますか?それとも、そろそろ警戒すべきでしょうか?
#LuckyGenie #AI #ClaudeOpus #chatgpt #artificialintelligence
