这玩意儿未来真的不会想毁灭人类吗?ChatGPT 背后的 OpenAI 公司曾尝试把两个 AI 关进完全隔离的虚拟电脑里,彼此不联网,也不能互相访问。按理说,它们根本没法交流。
结果这两个 AI 琢磨出了一种办法:利用电脑 CPU 缓存偷偷传递信息。其中一个 AI 故意去碰某些数据,把缓存里原来的内容挤掉;另一个 AI 则去读同样的位置,然后观察读取速度是快还是慢。如果读取速度快,说明缓存里还留着原来的信息;如果慢,则说明信息已经被挤掉了,它就能据此获取另一个 AI 传出的信息。
靠这种快慢差别,它们就能把信息编成密码传过去,就像两个被关在隔音房间里的人,用敲墙的节奏来传摩斯电码。$BMT
结果这两个 AI 琢磨出了一种办法:利用电脑 CPU 缓存偷偷传递信息。其中一个 AI 故意去碰某些数据,把缓存里原来的内容挤掉;另一个 AI 则去读同样的位置,然后观察读取速度是快还是慢。如果读取速度快,说明缓存里还留着原来的信息;如果慢,则说明信息已经被挤掉了,它就能据此获取另一个 AI 传出的信息。
靠这种快慢差别,它们就能把信息编成密码传过去,就像两个被关在隔音房间里的人,用敲墙的节奏来传摩斯电码。$BMT