🚨治理不是一個
#MACHINE 開關
僅靠自動化無法管理
#AI 風險
🔹Stilgoe批評了這樣的信念:技術——如人工智能——無法僅通過設計本身而變得安全,類似於詹姆斯·瓦特的飛球調速器:巧妙,但不足。
🔹自我調節和遏制的隱喻(在科技圈中很常見)將人工智能的挑戰簡化爲技術問題,忽視了重要的政治和社會維度。
🔹真正的安全需要治理結構,而不僅僅是算法——就像航空旅行依賴於基礎設施、培訓和監管。
🔹過度依賴"技術解決方案"可能導致自滿,並掩蓋真正的脆弱性。
🔹人工智能公司通常主導“安全”對話,塑造狹隘的敘事以服務於他們的利益。
🔹Stilgoe呼籲建立強大、民主的監督,並警告不要讓開發者單方面引導創新。
- Science.org