作爲人類,象徵主義是理解我們周圍世界的關鍵,它是我們如何解釋物體、想法以及它們之間的關係。

我們完全依賴於類比,這使得我們當前的計算技術極其複雜,而且在目前還過時。

人工智能(AI)的日益普及以及我們在 OpenAI 的 ChatGPT 中已經看到的用例並不一定是超越單純“炒作”和股票通脹的最佳應用。

在傳統計算下,我們無法完全理解這些人工神經網絡 (ANN) 的作用,甚至無法理解它們爲何如此有效。完全缺乏透明度也使我們無法理解數據是如何收集和分析的,從而得出我們如此渴望並稱之爲“進步”的結果。

考慮以下能夠區分“圓形”和“正方形”的 ANN 示例。

實現這種區分的一種方法很明顯——如果一個輸出層指示一個圓形,另一個輸出層指示一個正方形。

但是如果你想讓 ANN 辨別出特定形狀的“顏色”——是“紅色”還是“藍色”?

由於“顏色”是一個完全獨立的數據集,因此需要額外的輸出神經元才能在最終輸出中解釋該特徵。在這種情況下,需要四個輸出神經元——藍色圓圈、藍色正方形、紅色圓圈和紅色正方形各一個。

現在,如果我們想要一個考慮附加信息(例如“大小”或“位置/位置”)的計算怎麼辦?

更多特徵意味着更多的神經元需要考慮與“圓形”和“正方形”定義特定特徵(或特徵組合)相關的每一種可能性。

換句話說,它變得非常複雜。

加州大學伯克利分校的神經科學家 Bruno Olshausen 最近談到了這種需要,即爲所有可能的特徵組合都對應一個神經元。

“這不可能是我們的大腦感知自然世界及其所有變化的方式。你必須提出......一個神經元來代表所有組合,”他說,並進一步解釋說,我們本質上需要“一個紫色大衆汽車探測器”或某種非常模糊的東西來解釋我們希望在任何給定實驗中考慮的所有可能的信息組合。

輸入“超維計算”。

什麼是“超維計算”?

超維計算的核心是算法從複雜圖像中解讀特定信息(想想元數據)的能力,然後將該集體信息表示爲單個實體,稱爲“超維向量”。

與傳統計算不同,超維計算使我們能夠以符號方式解決問題,從某種意義上說,能夠根據超維向量中包含的數據有效而準確地“預測”特定問題的結果。

奧爾豪森和其他同事認爲,大腦中的信息是由大量神經元的活動所表示的,因此,我們對虛構的“紫色大衆汽車”的感知不可能由單個神經元的活動所包含,而是需要通過數千個神經元共同組成一輛紫色大衆汽車。

當同一組神經元發揮不同的作用時,我們可以看到完全不同的概念或結果,例如粉紅色的凱迪拉克。

根據《連線》雜誌最近的討論,關鍵在於每條信息,例如汽車的概念或其品牌、型號、顏色或所有這些的組合,都表示爲一個單一的實體——超維向量或超向量。

“矢量”只是一個有序的數字數組 - 1、2、3 等 - 其中 3D 矢量由三個數字組成 - 3D 空間中精確點的 x、y 和 z 座標。

另一方面,“超向量”可以是數千或數十萬個數字的數組,表示該維空間中的一個點。例如,表示 10,000 個數字的數組的超向量表示 10,000 維空間中的一個點。

這種抽象層次爲我們提供了靈活性和能力,可以發展現代計算並使其與人工智能(AI)等新興技術相協調。

“這是我整個職業生涯中最興奮的事情,”奧爾豪森說。對他和其他許多人來說,超維計算預示着一個新世界,在這個世界中,計算高效而強大,機器做出的決策完全透明。

將“元數據”轉換爲超維算法以生成複雜結果

底層代數告訴我們爲什麼系統選擇特定的答案,而傳統的神經網絡則無法做到這一點。

在開發混合系統中,這些神經網絡可以將現實生活中的事物映射到超向量,然後讓超維代數接管,這是如何使用人工智能來真正幫助我們更好地理解我們周圍的世界的關鍵。

“這正是我們對任何人工智能系統的期望,”奧爾豪森說。“我們應該能夠理解它,就像我們理解飛機或電視機一樣。”

回到“圓形”和“正方形”的例子,並將其應用於高維空間,我們需要向量來表示“形狀”和“顏色”的變量,但同時,我們需要向量來表示可以分配給變量的值——“圓形”、“正方形”、“藍色”和“紅色”。

最重要的是,這些向量必須足夠獨特,才能真正量化這些變量。

現在,讓我們把注意力轉向奧爾斯豪森的學生埃裏克·韋斯,他在 2015 年展示了超維計算獨特能力的一個方面,即如何將複雜圖像最好地表示爲單個超維向量,該向量包含有關圖像中所有對象的信息——顏色、位置、大小。

換句話說,這是圖像元數據的極其先進的表示。

“我差點從椅子上摔下來,”奧爾豪森說。“突然間,我突然靈光一閃。”

此時,更多團隊開始集中精力開發“超維算法”,以複製深度神經網絡二十年前已經從事的“簡單”任務——例如對圖像進行分類。

爲每個圖像創建一個“超向量”

例如,如果您要獲取由手寫數字圖像組成的帶註釋的數據集,則此超維算法將分析每張圖像的特定特徵,併爲每個圖像創建一個“超向量”。

爲每個數字創建一個超向量的“類”

從那裏,算法會將所有“零”圖像的超向量添加以創建“零的想法”的超向量,並對所有數字重複該操作,生成 10 個“類”超向量 - 每個數字一個。

現在,對這些存儲的超向量類別進行測量,並根據爲新的未標記圖像創建的超向量進行分析,以便算法確定哪個數字與新圖像最匹配(基於每個數字的預定超向量類別)。

IBM 研究深入研究

今年 3 月,蘇黎世 IBM 研究中心的阿巴斯·拉希米 (Abbas Rahimi) 和兩位同事利用神經網絡的超維計算解決了抽象視覺推理中的一個經典問題——這對典型的 ANN 甚至一些人類來說都是一個重大挑戰。

該團隊首先創建了一個超向量“字典”來表示每個圖像中的對象,其中字典中的每個超向量代表一個特定的對象及其屬性的某種組合。

從此,該團隊訓練了一個神經網絡來檢查圖像以生成雙極超向量——其中特定屬性或元素可以是+1 或-1。

“你將神經網絡引導到一個有意義的概念空間,”拉希米說。

這裏的價值在於,一旦網絡爲每個上下文圖像以及每個空白槽候選生成了超向量,就會使用另一種算法來分析超向量,爲圖像中的多個對象創建“概率分佈”。

換句話說,代數可以用來預測最有可能填補空缺的圖像。該團隊的方法在一組問題上取得了近 88% 的準確率,而僅使用神經網絡的解決方案准確率不到 61%。

我們仍處於起步階段

儘管超維計算具有諸多優點,但它仍處於起步階段,需要針對現實世界的問題進行測試,而且規模比我們迄今爲止所見的要大得多——例如,需要有效搜索超過 10 億個項目或結果並找到特定的結果。

最終,這將隨着時間而到來,但它確實提出了我們在哪裏以及如何應用和整合人工智能的問題。

瞭解由人工智能驅動的 40 分鐘教堂禮拜如何作爲一項史無前例的實驗吸引了超過 300 名德國參加者。

點擊此處查看 Hypemoon 的完整畫廊