Ca oameni, simbolismul este cheia înțelegerii lumii din jurul nostru, este modul în care interpretăm obiectele, ideile și relațiile dintre și între ele.

Suntem în totalitate dependenți de analogie, ceea ce face ca tehnologia noastră de calcul actuală să fie extrem de complicată, complexă și, în acest moment, arhaică.

Popularitatea tot mai mare a inteligenței artificiale (AI) și cazurile de utilizare pe care le vedem deja cu ChatGPT de la OpenAI nu sunt neapărat cele mai bune aplicații care depășesc simplul „hype” și inflația stocurilor.

În calculul tradițional, nu înțelegem pe deplin ce fac aceste rețele neuronale artificiale (ANN) sau de ce funcționează chiar la fel de bine ca ele. Lipsa totală de transparență oferă, de asemenea, un dezavantaj major în înțelegerea noastră a modului în care datele sunt colectate și analizate pentru a scuipa rezultatele de care ne atașăm atât de disperat încât ajungem să le etichetăm drept „progres”.

Luați în considerare următorul exemplu de ANN care este capabil să distingă „cercurile” și „pătratele” unul de celălalt.

O modalitate de a obține această distincție este cea evidentă - dacă un strat de ieșire indică un cerc, iar celălalt indică un pătrat.

Dar dacă ați dori ca ANN să discearnă „culoarea” formei respective – este „roșu” sau „albastru”?

Deoarece „culoarea” este un set de date complet separat, necesită neuroni de ieșire suplimentari pentru a putea lua în considerare acea caracteristică în rezultatul final. În acest caz, ar trebui să existe patru neuroni de ieșire - câte unul pentru cercul albastru, pătratul albastru, cercul roșu și pătratul roșu.

Acum, ce se întâmplă dacă am dori un calcul care să ia în considerare și informații suplimentare, cum ar fi „mărimea” sau „poziția/locația”?

Mai multe caracteristici înseamnă mai mulți neuroni care trebuie să țină cont de fiecare posibilitate asociată în definirea acelei caracteristici specifice (sau combinație de caracteristici) cu „cercul” și „pătratul”.

Cu alte cuvinte, devine incredibil de complex.

Bruno Olshausen, neurolog la Universitatea din California, Berkeley, a vorbit recent despre această nevoie de a avea un neuron pentru fiecare combinație posibilă de caracteristici.

„Nu poate fi așa cum percepe creierul nostru lumea naturală, cu toate variațiile ei. Trebuie să propuneți... un neuron pentru toate combinațiile”, a spus el, explicând în continuare că, în esență, vom avea nevoie de „un detector violet Volkswagen” sau de ceva atât de obscur pentru a ține seama de fiecare combinație posibilă de informații pe care sperăm să o luăm în considerare în orice moment dat. experiment.

Introduceți „calculatură hiperdimensională”.

Ce este „Hyperdimensional Computing”?

Inima calculului hiperdimensional este capacitatea algoritmului de a descifra anumite informații din imagini complexe (gândiți-vă la metadate) și apoi de a reprezenta acele informații colective ca o singură entitate, cunoscută sub numele de „vector hiperdimensional”.

Spre deosebire de calculul tradițional, calculul hiperdimensional ne permite să rezolvăm probleme simbolic și, într-un sens, să fim capabili să „predice” eficient și precis rezultatul unei anumite probleme pe baza datelor conținute în vectorul hiperdimensional.

Ceea ce susține Olshausen, printre alți colegi, este că informațiile din creier sunt reprezentate de activitatea unei tone de neuroni, ceea ce face ca percepția fictivului nostru „Volkswagen violet” să fie imposibil de a fi cuprinsă de acțiunile unui singur neuron, ci, în schimb, prin mii. de neuroni care, colectiv, ajung să cuprindă un Volkswagen violet.

Cu același set de neuroni care acționează diferit, am putea vedea un concept sau un rezultat complet diferit, cum ar fi un Cadillac roz.

Cheia, conform unei discuții recente din WIRED, este că fiecare informație, cum ar fi ideea unei mașini sau marca, modelul, culoarea sau toate combinate, este reprezentată ca o singură entitate - un vector hiperdimensional sau hipervector.

Un „vector” este doar o matrice ordonată de numere – 1, 2, 3 etc. – unde un vector 3D este format din trei numere – coordonatele x, y și z ale unui punct exact din spațiul 3D.

Un „hipervector”, pe de altă parte, ar putea fi o matrice de mii sau sute de mii de numere care reprezintă un punct din acea cantitate de spațiu dimensional. De exemplu, un hipervector care reprezintă o matrice de 10.000 de numere reprezintă un punct în spațiul cu 10.000 de dimensiuni.

Acest nivel de abstractizare ne oferă flexibilitatea și capacitatea de a evolua computerele moderne și de a o armoniza cu tehnologiile emergente, cum ar fi inteligența artificială (AI).

„Acesta este lucrul de care am fost cel mai entuziasmat, practic în întreaga mea carieră”, a spus Olshausen. Pentru el și pentru mulți alții, calculul hiperdimensional promite o nouă lume în care calculul este eficient și robust, iar deciziile luate de mașini sunt complet transparente.

Transformarea „metadatelor” în algoritmi hiperdimensionali pentru a genera rezultate complexe

Algebra subiacentă ne spune de ce sistemul a ales acel răspuns special, ceea ce nu poate fi spus pentru rețelele neuronale tradiționale.

În dezvoltarea sistemelor hibride în care aceste rețele neuronale pot mapa lucrurile IRL la hipervectori și apoi permite ca algebrei hiperdimensionale să preia controlul este esențialul modului în care ar trebui folosită AI pentru a ne împuternici să înțelegem mai bine lumea din jurul nostru.

„La asta ar trebui să ne așteptăm de la orice sistem AI”, spune Olshausen. „Ar trebui să putem înțelege asta la fel cum înțelegem un avion sau un televizor.”

Revenind la exemplul cu „cercuri” și „pătrate” și aplicând-o spațiilor de dimensiuni mari, avem nevoie de vectori care să reprezinte variabilele de „formă” și „culoare” – dar, de asemenea, avem nevoie de vectori pentru a reprezenta valorile care pot să fie atribuite variabilelor – „CERC”, „PĂTRAT”, „ALBASTRU” și „ROȘU”.

Cel mai important, acești vectori trebuie să fie suficient de diferiți pentru a cuantifica efectiv aceste variabile.

Acum, să ne îndreptăm atenția către Eric Weiss, un student de la Olshausen, care în 2015, a demonstrat un aspect al abilităților unice ale calculului hiperdimensional în modul de a reprezenta cel mai bine o imagine complexă ca un singur vector hiperdimensional care conține informații despre TOATE obiectele din imagine - culori, pozitii, marimi.

Cu alte cuvinte, o reprezentare extrem de avansată a metadatelor unei imagini.

„Practic am căzut de pe scaun”, a spus Olshausen. „Deodată, becul s-a aprins.”

În acel moment, mai multe echipe au început să-și concentreze eforturile pe dezvoltarea de „algoritmi hiperdimensionali” pentru a reproduce sarcinile „simple” pe care rețelele neuronale profunde au fost deja angajate cu două decenii înainte – cum ar fi clasificarea imaginilor.

Crearea unui „hipervector” pentru fiecare imagine

De exemplu, dacă ar fi să luați un set de date adnotat care constă din imagini cu cifre scrise de mână, acest algoritm hiperdimensional ar analiza caracteristicile specifice ale fiecărei imagini, creând un „hipervector” pentru fiecare imagine.

Crearea unei „clase” de hipervectori pentru fiecare cifră

De acolo, algoritmul ar adăuga hipervectorii pentru toate imaginile de „zero” pentru a crea un hipervector pentru „ideea de zero” și repetă asta pentru toate cifrele, generând 10 hipervectori de „clasă” – câte unul pentru fiecare cifră.

Acele clase de hipervectori stocate sunt acum măsurate și analizate față de hipervectorul creat pentru o imagine nouă, neetichetată, în scopul algoritmului de a determina care cifră se potrivește cel mai bine cu noua imagine (pe baza clasei predeterminate de hipervectori pentru fiecare cifră).

Cercetarea IBM se scufundă

În martie, Abbas Rahimi și doi colegi de la IBM Research din Zurich au folosit calcularea hiperdimensională cu rețele neuronale pentru a rezolva o problemă clasică în raționamentul vizual abstract – ceva care a reprezentat o provocare semnificativă pentru ANN-urile tipice și chiar pentru unii oameni.

Echipa a creat mai întâi un „dicționar” de hipervectori pentru a reprezenta obiectele din fiecare imagine, unde fiecare hipervector din dicționar reprezenta un obiect specific și o combinație a atributelor sale.

De acolo, echipa a antrenat o rețea neuronală pentru a examina o imagine pentru a genera un hipervector bipolar - unde un anumit atribut sau element poate fi +1 sau -1.

„Tu ghidezi rețeaua neuronală către un spațiu conceptual semnificativ”, a spus Rahimi.

Valoarea aici este că, odată ce rețeaua a generat hipervectori pentru fiecare dintre imaginile de context și pentru fiecare candidat pentru slotul gol, un alt algoritm este utilizat pentru a analiza hipervectorii pentru a crea „distribuții de probabilitate” pentru un număr de obiecte din imagine.

Cu alte cuvinte, algebra poate fi folosită pentru a prezice imaginea candidată cea mai probabilă pentru a ocupa locul liber. Iar abordarea echipei a dat o precizie de aproape 88% pentru un set de probleme, în care soluțiile numai pentru rețele neuronale au fost mai puțin de 61% precise.

Suntem încă în copilărie

În ciuda numeroaselor sale avantaje, calculul hiperdimensional este încă la început și necesită testare împotriva problemelor din lumea reală și la o scară mult mai mare decât ceea ce am văzut până acum - de exemplu, nevoia de a căuta eficient peste 1 miliard de articole sau rezultate. și găsiți un rezultat specific.

În cele din urmă, acest lucru va veni cu timpul, dar prezintă întrebările unde și cum aplicăm și integrăm utilizarea inteligenței artificiale.

Citiți despre cum o slujbă bisericească de 40 de minute, susținută de AI, a atras peste 300 de participanți în Germania, ca un experiment de acest gen.

Faceți clic aici pentru a vedea galeria completă la Hypemoon