Deweloperzy DeepMind firmy Google wprowadzili „Promptbreeder (PB): samoodniesieniowe samodoskonalenie poprzez przyspieszoną ewolucję”. To pionierskie rozwiązanie obiecuje nowe podejście do zwiększania możliwości dużych modeli językowych (LLM) poprzez wykorzystanie mocy przyspieszonej ewolucji.
Powiązane: Wstrzyknięcie ChatGPT, czyli jak uzyskać najlepszą możliwą odpowiedź od bota
Podstawą tej innowacji jest zrozumienie, że inteligencja dużego modelu języka jest ściśle związana z jakością otrzymywanych przez niego wskazówek tekstowych. W istocie, im inteligentniejsze wskazówki, tym bardziej inteligentne i dokładne stają się odpowiedzi modelu. W związku z tym krytycznym zadaniem jest opracowanie optymalnych strategii wskazówek, aby skutecznie kierować tymi modelami.
Konwencjonalne strategie podpowiadania, takie jak podejście łańcuchowe lub planowanie i podejmowanie decyzji, niewątpliwie poprawiły zdolności rozumowania LLM. Jednak te strategie, często opracowywane ręcznie, mogą nie zapewniać optymalnej wydajności.
W ten sposób Promptbreeder jest stale udoskonalany. Jest to samodoskonalący się, samoodniesieniowy cykl, którego podłożem jest język naturalny. Nie jest wymagane żadne dostrajanie sieci neuronowej. Proces ten skutkuje dostosowanymi wskazówkami zoptymalizowanymi pod kątem konkretnych zastosowań.
Promptbreeder to rozwiązanie, które wykorzystuje mechanizm ewolucyjny do iteracyjnego udoskonalania strategii podpowiedzi. To, co wyróżnia PB, to jego niezwykła zdolność do ulepszania nie tylko podpowiedzi, ale także własnych możliwości ulepszania podpowiedzi z każdym nowym pokoleniem.
Oto jak działa schemat ewolucyjny Promptbreedera:
Pod przewodnictwem LLM Promptbreeder generuje populację jednostek ewolucyjnych, z których każda składa się z dwóch „wskazówek dotyczących rozwiązań” i jednej „wskazówki dotyczącej mutacji”.
Następnie stosuje się binarny algorytm genetyczny do oceny sprawności tych mutantów na podstawie zestawu treningowego, identyfikując te, które osiągają lepsze wyniki.
Ten cykliczny proces nieustannie powraca do kroku 1, co ostatecznie prowadzi do powstania generacji „wskazówek-rozwiązań”.
Przez kilka pokoleń Promptbreeder używa pięciu różnych klas operatorów mutacji, aby mutować zarówno „wskazówki rozwiązań”, jak i „wskazówki mutacji”. Genialność tego schematu polega na tym, że te mutujące „wskazówki-rozwiązania” stopniowo stają się bardziej inteligentne. „Wskazówki mutacji” są tutaj kluczowe, dostarczając instrukcji, jak mutować, aby ulepszyć „wskazówki rozwiązań”.
Promptbreeder jest w istocie samodoskonalącym się, samoreferencyjnym systemem, który działa w obrębie języka naturalnego. Co najważniejsze, nie wymaga skomplikowanego dostrajania sieci neuronowej. Zamiast tego generuje dostosowane wskazówki, skrupulatnie zoptymalizowane pod kątem konkretnych zastosowań.
Wstępne eksperymenty dały obiecujące rezultaty. Promptbreeder przewyższył wszystkie inne współczesne metody wskazówek w zadaniach matematycznych, logicznych, zdroworozsądkowych i klasyfikacji języka, w tym w identyfikowaniu mowy nienawiści.
Patrząc w przyszłość, Promptbreeder przechodzi rygorystyczne testy pod kątem jego wykonalności w konstruowaniu całego procesu myślowego. Obejmuje to eksplorację strategii N-hint, w której wskazówki są warunkowo stosowane, torując drogę do rozwoju programów wstępnych dla polityk LLM zaangażowanych w antagonistyczne dialogi sokratyczne.
Promptbreeder nadal ma ograniczenia w porównaniu do rozległej natury ludzkich procesów myślowych. Topologia podpowiedzi pozostaje stała, a Promptbreeder przede wszystkim dostosowuje treść podpowiedzi, a nie sam algorytm podpowiedzi. Ludzka myśl obejmuje wieloaspektowe aspekty wykraczające poza język, w tym intonację, obrazy i system multimodalny, których Promptbreeder jeszcze nie posiada.
Przeczytaj więcej pokrewnych tematów:
Hipokrates AI przedstawia model językowy skoncentrowany na bezpieczeństwie z finansowaniem w wysokości 50 mln USD
Ostateczna decyzja Google w sprawie unijnej grzywny antymonopolowej w wysokości 2,6 mld USD trafia do najwyższego europejskiego sądu
Artykuł Google ogłosił pierwszy samodoskonalący się model sztucznej inteligencji Promptbreeder, który ewoluuje miliardy razy szybciej niż ludzie, ukazał się po raz pierwszy w serwisie Metaverse Post.