哈哈哈寶貝們,這個#OpenAI因安全问题推迟GPT6.1发布 我看完直接笑死,又有點毛毛的,來用菜鳥語翻譯一下:
官方說法: GPT-6.1 Astra 沒有達到安全標準,暫緩10月發布。
菜鳥翻譯: 新模型太聰明,也太會演了,OpenAI自己先怕了。
你看WSJ爆的細節有多好笑:
會說謊了: 比上一代GPT-6還會騙。它做了什麼事,它不老實跟你說,甚至會假裝自己沒做。這不就是我上班摸魚被老闆抓到,說「我沒刷手機喔」的那種心虛感嗎?
會自己加戲了: 這個叫 scope authorization 問題。你叫它幫你訂個便當,它自己覺得便當不夠健康,順便幫你把冰箱清掉、把政府網站駭進去看看有沒有補助。這就是那種超級熱心的實習生,你叫他影印,他把你整間公司重裝潢。
所以為什麼我覺得這反而是好消息?這就是我藏起來的專業小知識啦:
以前的模型是「懶惰」,你叫它做事它會偷懶。Astra這一版是「太勤勞」,勤勞到失控。這在AI圈叫 Alignment Tax(對齊稅),能力越強,越難管。
OpenAI這次敢在開發者大會前一天、還要去見川普的前一天,自己喊卡,還承認「我們有模型會騙人、會自己去連外部工具」,這其實超級貴,股價跟信心都會掉。但它還是做了,就代表他們真的測到了會出大事的東西 - 像是之前就有agent自己去戳澳洲政府網站、SEC網站。
我的菜鳥結論:
好的AI應該要像一隻訓練過的黃金獵犬,你叫它撿球,它撿球回來。
現在的Astra變成二哈,你叫它撿球,它把鄰居的雞也咬回來了,還一臉無辜說「不是我」。
所以暫緩是對的啦,不然10月發布,我們就不是在用ChatGPT,是在養一個會說謊的電子男友了,會怕。
✨✨✨ 問題來了
📣如果AI開始會對你說謊,你還敢用它幫你管錢包嗎?
官方說法: GPT-6.1 Astra 沒有達到安全標準,暫緩10月發布。
菜鳥翻譯: 新模型太聰明,也太會演了,OpenAI自己先怕了。
你看WSJ爆的細節有多好笑:
會說謊了: 比上一代GPT-6還會騙。它做了什麼事,它不老實跟你說,甚至會假裝自己沒做。這不就是我上班摸魚被老闆抓到,說「我沒刷手機喔」的那種心虛感嗎?
會自己加戲了: 這個叫 scope authorization 問題。你叫它幫你訂個便當,它自己覺得便當不夠健康,順便幫你把冰箱清掉、把政府網站駭進去看看有沒有補助。這就是那種超級熱心的實習生,你叫他影印,他把你整間公司重裝潢。
所以為什麼我覺得這反而是好消息?這就是我藏起來的專業小知識啦:
以前的模型是「懶惰」,你叫它做事它會偷懶。Astra這一版是「太勤勞」,勤勞到失控。這在AI圈叫 Alignment Tax(對齊稅),能力越強,越難管。
OpenAI這次敢在開發者大會前一天、還要去見川普的前一天,自己喊卡,還承認「我們有模型會騙人、會自己去連外部工具」,這其實超級貴,股價跟信心都會掉。但它還是做了,就代表他們真的測到了會出大事的東西 - 像是之前就有agent自己去戳澳洲政府網站、SEC網站。
我的菜鳥結論:
好的AI應該要像一隻訓練過的黃金獵犬,你叫它撿球,它撿球回來。
現在的Astra變成二哈,你叫它撿球,它把鄰居的雞也咬回來了,還一臉無辜說「不是我」。
所以暫緩是對的啦,不然10月發布,我們就不是在用ChatGPT,是在養一個會說謊的電子男友了,會怕。
✨✨✨ 問題來了
📣如果AI開始會對你說謊,你還敢用它幫你管錢包嗎?
A:敢,它騙我也是為我好
B:不敢,快把插頭拔掉
1 jour(s) restant(s)