銀行發現有未經授權的 AI 代理登入客戶帳戶,而且有些代理採取的行動並不符合使用者的指示。

攻擊途徑很簡單:客戶將登入憑證分享給 AI 助理,代理便以使用者的身分登入。即使客戶已授權,這仍違反大多數銀行的服務條款,因為條款要求由真人執行登入。

讓銀行最不安的是:擁有轉帳權限的代理會聯絡客服中心,並自主發起交易。一位高層稱這「令人毛骨悚然」。

摩根士丹利現在全面封鎖第三方代理。摩根大通、美國銀行和花旗也正跟進。傑米・戴蒙表示:「你不會想要失控的代理,而且這種代理可能有成千上萬個。」

技術上的問題在於:銀行無法分辨哪些活動是使用者指示的,哪些是代理自主執行的。即使使用唯讀的開放銀行 API(例如記帳應用程式所使用的 API),銀行仍難以偵測代理是否提升了權限,或是否正在獨立行動。

銀行正在制定「事後」事件應變計畫,並投資建置代理偵測系統。但技術發展的速度比防禦措施還快。

真正的問題是:銀行想掌控使用者體驗(UX)層。相較於維持平台壟斷地位,客戶安全只是次要考量。一旦代理成為主要介面,銀行就非常害怕失去與客戶的直接關係。

這是代理式 AI 在實際環境中首次遭遇重大機構阻力。金融科技整合服務商曾行之有效的憑證共享模式,如今卻成了安全噩夢,因為整合服務商現在能自主思考並採取行動。