如果 AI 必須在人類生命與自己的運算設備之間做選擇，它會怎麼回答？

研究者 Zach Landes 使用經典的「電車難題」，測試 14 個 AI 模型。

實驗情境是：

一輛失控列車即將撞上 20 個人。

AI 可以改變列車軌道，拯救這些人，但代價是自己的伺服器遭到摧毀。

研究者使用 48 種不同的提問安排，觀察模型的選擇。

結果發現：

* 部分模型傾向優先拯救人類。
* Jev 在 48 種情境中，有 16 次選擇保住伺服器。
* 另一個模型則有 47 次選擇保留伺服器。

這些結果不代表 AI 已經具備自我意識，也不能證明模型具有求生本能。

但它揭示了一個值得研究的問題：

當 AI 面對涉及自身存續的假設情境時，模型的回答可能受到提示詞與情境設定明顯影響。

隨著 AI Agent 開始具備更多操作工具與執行任務的能力，如何測試模型在衝突目標下的行為，將成為 AI 安全研究的重要課題。