Як люди, символіка є ключем до розуміння світу навколо нас, це те, як ми інтерпретуємо об’єкти, ідеї та зв’язки між ними.
Ми повністю залежні від аналогії, що робить нашу поточну обчислювальну технологію надзвичайно заплутаною, складною та на даний момент часу архаїчною.
Зростаюча популярність штучного інтелекту (ШІ) і випадки використання, які ми вже бачимо з ChatGPT OpenAI, не обов’язково є найкращими програмами, які виходять за рамки простого «ажіотажу» та інфляції акцій.
У традиційних обчисленнях ми не зовсім розуміємо, що роблять ці штучні нейронні мережі (ШНМ) і чому вони взагалі працюють так добре, як вони. Абсолютна відсутність прозорості також є серйозною вадою для нашого розуміння того, як дані збираються та аналізуються, щоб виплюнути результати, до яких ми так відчайдушно прив’язуємося, і які називаємо «прогресом».
Розглянемо наступний приклад ШНМ, яка здатна відрізняти «кола» і «квадрати» один від одного.
Один із способів досягнення цієї відмінності очевидний – якщо один вихідний шар позначає коло, а інший – квадрат.
Але що, якщо ви хочете, щоб ШНМ розпізнала «колір» цієї конкретної фігури — вона «червона» чи «синя»?
Оскільки «колір» є цілком окремим набором даних, йому потрібні додаткові вихідні нейрони, щоб мати можливість врахувати цю функцію в кінцевому виході. У цьому випадку має бути чотири вихідних нейрона – по одному для синього кола, синього квадрата, червоного кола та червоного квадрата.
А що, якби нам знадобилося обчислення, яке б також враховувало додаткову інформацію, таку як «розмір» або «позиція/розташування»?
Більше функцій означає більше нейронів, які повинні враховувати кожну можливість, пов’язану з визначенням цієї конкретної функції (або комбінації ознак) за допомогою «кола» та «квадрата».
Іншими словами, це стає неймовірно складним.
Бруно Ольсхаузен, нейробіолог з Каліфорнійського університету в Берклі, нещодавно говорив про необхідність наявності нейрона для кожної можливої комбінації функцій.
«Наш мозок не може так сприймати світ природи з усіма його варіаціями. Ви повинні запропонувати… нейрон для всіх комбінацій», — сказав він, далі пояснюючи, що нам, по суті, знадобиться «фіолетовий детектор Фольксвагена» або щось таке незрозуміле, щоб врахувати кожну можливу комбінацію інформації, яку ми сподіваємося розглянути в будь-якому конкретному випадку. експеримент.
Введіть «гіпервимірне обчислення».
Що таке «гіпервимірне обчислення»?
Серцем гіпервимірних обчислень є здатність алгоритму розшифровувати певні частини інформації зі складних зображень (подумайте про метадані), а потім представляти цю колективну інформацію як єдину сутність, відому як «гіпервимірний вектор».
На відміну від традиційних обчислень, гіпервимірні обчислення дозволяють нам вирішувати проблеми символічно і в певному сенсі мати можливість ефективно й точно «передбачити» результат конкретної проблеми на основі даних, що містяться в гіпервимірному векторі.
Ольсгаузен, серед інших колег, стверджує, що інформація в мозку представлена активністю тонни нейронів, що робить сприйняття нашого фіктивного «фіолетового Фольксвагена» неможливим для дії одного нейрона, а замість цього через тисячі нейронів, які разом складають фіолетовий Volkswagen.
З тим самим набором нейронів, які діють по-різному, ми можемо побачити зовсім іншу концепцію чи результат, наприклад, рожевий Кадилак.
Згідно з нещодавньою дискусією в WIRED, ключовим є те, що кожна частина інформації, така як ідея автомобіля або його марка, модель, колір або все разом, представлена як єдине ціле – гіпервимірний вектор або гіпервектор.
«Вектор» — це просто впорядкований масив чисел — 1, 2, 3 тощо, де 3D-вектор складається з трьох чисел — координат x, y і z точної точки в 3D-просторі.
«Гіпервектор», з іншого боку, може бути масивом із тисяч або сотень тисяч чисел, які представляють точку в такій кількості вимірного простору. Наприклад, гіпервектор, який представляє масив з 10 000 чисел, представляє точку в 10 000-вимірному просторі.
Цей рівень абстракції дає нам гнучкість і здатність розвивати сучасні обчислення та гармонізувати їх із новими технологіями, такими як штучний інтелект (ШІ).
«Це те, що мене найбільше хвилювало, практично за всю мою кар’єру», — сказав Ольсхаузен. Для нього та багатьох інших гіпервимірні обчислення обіцяють новий світ, у якому обчислення ефективні та надійні, а рішення, що приймаються машиною, повністю прозорі.
Перетворення «метаданих» у надвимірні алгоритми для отримання складних результатів
Базова алгебра говорить нам, чому система вибрала саме цю відповідь, чого не можна сказати про традиційні нейронні мережі.
У розробці гібридних систем, у яких ці нейронні мережі можуть відображати речі IRL у гіпервектори, а потім дозволяти гіпервимірній алгебрі взяти на себе головне, полягає в тому, як слід використовувати штучний інтелект, щоб фактично дати нам змогу краще розуміти світ навколо нас.
«Це те, чого ми повинні очікувати від будь-якої системи штучного інтелекту», — каже Ольсхаузен. «Ми повинні бути в змозі зрозуміти це так само, як ми розуміємо літак або телевізор».
Повертаючись до прикладу з «колами» та «квадратами» та застосовуючи його до просторів великої розмірності, нам потрібні вектори для представлення змінних «форми» та «коліру», але також нам потрібні вектори для представлення значень, які можуть бути присвоєно змінним – «КОЛО», «КВАДРАТ», «СИНІЙ» і «ЧЕРВОНИЙ».
Найважливіше те, що ці вектори мають бути достатньо чіткими, щоб фактично кількісно визначити ці змінні.
Тепер давайте звернемо увагу на Еріка Вайсса, студента Ольсгаузена, який у 2015 році продемонстрував один аспект унікальних можливостей гіпервимірних обчислень у тому, як найкраще представити складне зображення як єдиний гіпервимірний вектор, який містить інформацію про ВСІ об’єкти на зображенні – кольори, положення, розміри.
Іншими словами, надзвичайно розширене представлення метаданих зображення.
«Я практично впав зі стільця», — сказав Ольсгаузен. «Раптом загорілася лампочка».
У той момент більше команд почали зосереджувати свої зусилля на розробці «гіпервимірних алгоритмів» для повторення «простих» завдань, які глибокі нейронні мережі вже вирішували два десятиліття тому, наприклад класифікації зображень.
Створення «гіпервектора» для кожного зображення
Наприклад, якщо ви візьмете анотований набір даних, який складається із зображень рукописних цифр, цей гіпервимірний алгоритм аналізуватиме специфічні особливості кожного зображення, створюючи «гіпервектор» для кожного зображення.
Створення «класу» гіпервекторів для кожної цифри
Звідси алгоритм додає гіпервектори для всіх зображень «нуля», щоб створити гіпервектор для «ідеї нуля», і повторює це для всіх цифр, генеруючи 10 гіпервекторів «класу» – по одному для кожної цифри.
Ці збережені класи гіпервекторів тепер вимірюються та аналізуються порівняно з гіпервектором, створеним для нового зображення без міток, щоб алгоритм визначав, яка цифра найбільше відповідає новому зображенню (на основі попередньо визначеного класу гіпервекторів для кожної цифри).
Дослідження IBM занурюються
У березні Аббас Рахімі та двоє його колег із IBM Research у Цюріху використали гіпервимірні обчислення з нейронними мережами, щоб вирішити класичну проблему абстрактного візуального мислення – те, що стало серйозною проблемою для типових ШНМ і навіть для деяких людей.
Спочатку команда створила «словник» гіпервекторів для представлення об’єктів на кожному зображенні, де кожен гіпервектор у словнику представляв конкретний об’єкт і деяку комбінацію його атрибутів.
Після цього команда навчила нейронну мережу досліджувати зображення для створення біполярного гіпервектора, де певний атрибут або елемент може бути +1 або -1.
«Ви направляєте нейронну мережу до значущого концептуального простору», — сказав Рахімі.
Цінність тут полягає в тому, що коли мережа згенерує гіпервектори для кожного з контекстних зображень і для кожного кандидата на порожнє місце, інший алгоритм використовується для аналізу гіпервекторів для створення «розподілу ймовірностей» для ряду об’єктів у зображенні.
Іншими словами, за допомогою алгебри можна передбачити найбільш вірогідне зображення-кандидата для заповнення вакантного місця. І підхід команди дав майже 88-відсоткову точність для одного набору проблем, де точність лише нейронних мереж була менш ніж на 61 відсоток.
Ми все ще в дитинстві
Незважаючи на численні переваги, гіпервимірні обчислення все ще перебувають у зародковому стані та потребують тестування на реальних проблемах у набагато більших масштабах, ніж те, що ми бачили досі – наприклад, необхідність ефективного пошуку понад 1 мільярда елементів або результатів і знайти конкретний результат.
Зрештою, це прийде з часом, але це породжує питання про те, де і як ми застосовуємо та інтегруємо використання штучного інтелекту.
Прочитайте про те, як 40-хвилинна церковна служба за допомогою ШІ залучила понад 300 відвідувачів у Німеччині як перший у своєму роді експеримент.
Натисніть тут, щоб переглянути повну галерею Hypemoon