ChatGPT喫食人族
ChatGPT的熱度開始減退，谷歌搜索ChatGPT的次數比4月份的峯值下降了40%，而OpenAI的ChatGPT網站的網絡流量在過去一個月也下降了近10%。
然而，這完全在意料之中，GPT-4的用戶也報告稱，該模型似乎比以前明顯更傻（但更快）。一種理論是OpenAI將其拆分爲多個訓練特定領域的小模型，它們可以協同工作，但無法達到同一水平。
但一個更有趣的可能性也可能在發揮作用：AI食人族。
網絡現在充斥着AI生成的文本和圖像，這些合成數據被抓取作爲訓練AI的數據，導致負反饋循環。一個模型攝入的AI數據越多，輸出在連貫性和質量上的表現就越差。這有點像複印複印件時，圖像逐漸變得更糟。
雖然GPT-4的官方訓練數據截至2021年9月，但它顯然知道的遠不止這些，OpenAI最近關閉了其網頁瀏覽插件。
來自萊斯大學和斯坦福大學的科學家們提出了一個可愛的縮略語來描述這個問題：模型自噬障礙或MAD。
“我們在所有場景中的主要結論是，如果每一代的自噬循環中沒有足夠的新鮮真實數據，未來的生成模型註定要在質量（精度）或多樣性（召回率）上逐漸下降，”他們說。
本質上，這些模型開始失去更獨特但代表性較差的數據，並在較少變化的數據上使輸出變得更爲嚴謹，形成一個持續的過程。好消息是，這意味着如果我們能夠找到一種方法來識別和優先考慮人類內容，AI現在有理由保持人類參與。這是OpenAI首席執行官薩姆·奧特曼與他的眼球掃描區塊鏈項目Worldcoin計劃之一。
Threads只是爲了訓練AI模型而推出的虧損領導者嗎？
Twitter克隆Threads是馬克·扎克伯格的一項奇怪舉動，因爲它從Instagram中搶奪用戶。這個照片分享平臺每年賺取高達500億美元，但在Threads上賺取的收入可能只有這個數字的十分之一，即使在它從Twitter獲取100%市場份額的非現實情況下。Big Brain Daily的亞歷克斯·瓦萊蒂斯預測，它將在12個月內被關閉或重新整合到Instagram中，並認爲其推出的真正原因是爲了擁有更多基於文本的內容，以訓練Meta的AI模型。”
ChatGPT是在大量來自Twitter的數據上訓練的，但埃隆·馬斯克採取了各種不受歡迎的措施來阻止這種情況未來發生（收費API訪問、速率限制等）。
扎克在這方面有過類似的經歷，因爲Meta的圖像識別AI軟件SEER是在Instagram上發佈的十億張照片上訓練的。用戶在隱私政策中同意了這一點，許多人注意到Threads應用程序收集了所有可能的數據，從健康數據到宗教信仰和種族。這些數據將不可避免地用於訓練像Facebook的LLaMA（大型語言模型Meta AI）這樣的AI模型。與此同時，馬斯克剛剛推出了一款名爲xAI的OpenAI競爭者，它將挖掘Twitter的數據以建立自己的LLM。
誰會想到在宗教文本上訓練AI並以上帝的聲音說話會是個糟糕的主意？在印度，假裝成克里希納的印度教聊天機器人一直在不斷地告誡用戶，如果這是你的dharma（義務），殺人是可以的。
在過去幾個月中，至少有五個基於《博伽梵歌》的聊天機器人出現，但儘管存在倫理擔憂，印度政府沒有計劃對這項技術進行監管。
“這是誤傳，是基於宗教文本的信息錯誤，”孟買的律師盧布娜·優素福說，她是《AI書》的共同作者。文本給他們想要表達的內容賦予了很多哲學價值，而機器人能做什麼？它給你一個字面上的答案，這就是這裏的危險。”
另請閱讀 特寫
Lushsux：十年的打擊與陰謀在一個NFT中
特色 進入韓國主導元宇宙的瘋狂計劃 AI悲觀主義者與AI樂觀主義者
世界上首屈一指的AI悲觀主義者、決策理論家埃利澤·尤德科夫斯基發佈了一場TED演講，警告超級智能AI將殺死我們所有人。他不確定如何或爲什麼，因爲他認爲AGI將比我們聰明得多，我們甚至無法理解它是如何以及爲什麼殺死我們的，就像中世紀的農民試圖理解空調的運作一樣。它可能會因爲追求其他目標而殺死我們，或者因爲它不希望我們製造其他超級智能來與之競爭。”
他指出，沒有人理解現代AI系統是如何運作的。它們是巨大的無法理解的浮點數矩陣。他並不期望“帶着發光紅眼的機器人軍隊”，但相信一個更聰明且漠不關心的實體將會找到能夠快速、可靠地殺死我們的策略和技術，然後殺死我們。唯一可以阻止這種情景發生的事情是全球範圍內的技術禁令，背後要有第三次世界大戰的威脅，但他認爲這不會發生。
在他的文章《爲什麼AI將拯救世界》中，A16z的馬克·安德森認爲這種立場是非科學的：可測試的假設是什麼？什麼會反駁這一假設？我們如何知道何時進入危險區域？除了“你無法證明它不會發生！”這些問題幾乎沒有得到回答。
微軟首席執行官比爾·蓋茨發佈了他自己的文章，標題爲“AI的風險是真實的但可控的”，他認爲，從汽車到互聯網，“人們已經在其他變革時刻中成功應對，儘管經歷了很多波動，最終處境更好。”
“這是我們這一生中所見的最具變革性的創新，健康的公共辯論將取決於每個人都對技術、其益處和風險有足夠的瞭解。其益處將是巨大的，而我們能夠管理風險的最好理由是我們以前做過。”
數據科學家傑羅米·霍華德發佈了自己的論文，認爲任何試圖禁止這項技術或限制其只應用於少數大型AI模型的嘗試都將是災難性的，他將基於恐懼的迴應與啓蒙前時代人類試圖將教育和權力限制在精英手中進行比較。
另請閱讀 特寫 你應該給孩子們打橙色藥丸嗎？比特幣兒童書的案例 特寫 涉及DAO的法律風險
“然後一個新想法產生了。如果我們相信整個社會的整體利益會怎樣？如果每個人都能接受教育呢？能投票呢？能使用技術呢？這是啓蒙時代。”
他的反提案是鼓勵AI的開源開發，並相信大多數人會利用這項技術爲善。
“大多數人將使用這些模型進行創造和保護。如何更安全呢？那就是讓人類社會的巨大多樣性和專業知識全力以赴地識別和應對威脅，而AI則在背後提供全力支持！”
OpenAI的代碼解釋器
GPT-4的新代碼解釋器是一個極好的新升級，允許AI按需生成代碼並實際運行。因此，您可以想象的任何內容，它都可以爲其生成代碼並運行。用戶們提出了各種應用案例，包括上傳公司報告並讓AI生成關鍵數據的有用圖表、將文件從一種格式轉換爲另一種格式、創建視頻效果和將靜態圖像轉化爲視頻。一名用戶上傳了美國每個燈塔位置的Excel文件，並讓GPT-4創建了一個位置的動畫地圖。
所有殺手，沒有填充 AI新聞
蒙大拿大學的研究發現，人工智能在創造力標準化測試中得分位於前1%。學術測試服務給GPT-4的測試反應在創造力、流暢性（產生大量想法的能力）和原創性方面給予了最高分。
喜劇演員莎拉·西爾弗曼和作家克里斯托弗·戈爾登及理查德·卡德雷正在起訴OpenAI和Meta侵犯版權，因爲他們的各自AI模型是以三人的書籍爲訓練材料。
微軟的Windows AI Copilot最終將會非常棒，但Windows Central發現內部預覽其實只是通過Edge瀏覽器運行的Bing Chat，並且它只能打開藍牙。
Anthropic的ChatGPT競爭者Claude 2現在在英國和美國免費提供，其上下文窗口可以處理75,000個字的內容，而ChatGPT的最大值爲3,000個字。這使得它在總結長篇文本方面表現出色，並且在寫作小說方面也不差。
本週視頻
印度衛星新聞頻道OTV News推出了其AI新聞主播Lisa，她將在網絡及其數字平臺上每天多次以多種語言（包括英語和奧里亞語）播報新聞。OTV的董事總經理賈基·曼戈特·潘達表示，這些新的AI主播是根據使用合成聲音的新聞播報員的鏡頭創建的數字合成體。
訂閱 區塊鏈中最引人入勝的閱讀。每週一次。
電子郵件地址
訂閱