Разработчики DeepMind из Google представили «Promptbreeder (PB): самореферентное самосовершенствование посредством ускоренной эволюции». Эта новаторская разработка обещает новый подход к расширению возможностей больших языковых моделей (LLM) за счет использования силы ускоренной эволюции.
По теме: ChatGPT Injection, или как получить наилучший ответ от бота
В основе этого нововведения лежит понимание того, что интеллект большой языковой модели тесно связан с качеством текстовых подсказок, которые она получает. По сути, чем умнее подсказки, тем более умными и точными становятся ответы модели. Следовательно, важнейшей задачей на данный момент является создание оптимальных стратегий подсказок для эффективного руководства этими моделями.
Традиционные стратегии подсказок, такие как цепочка мыслей или подходы «планируй и решай», несомненно, улучшили способность рассуждения LLM. Однако эти стратегии, часто придуманные вручную, могут не обеспечивать оптимальной производительности.
Таким образом, Promptbreeder постоянно совершенствуется. Это самосовершенствующийся, самореферентный цикл, субстратом которого является естественный язык. Не требуется тонкая настройка нейронной сети. Результатом процесса являются индивидуальные подсказки, оптимизированные для конкретных приложений.
Promptbreeder — это решение, которое использует эволюционный механизм для итеративного совершенствования стратегий подсказок. PB отличается своей замечательной способностью улучшать не только подсказки, но и свои собственные возможности улучшения подсказок с каждым новым поколением.
Вот как работает эволюционная схема Promptbreeder:
Под руководством магистра права Promptbreeder генерирует популяцию эволюционных единиц, каждая из которых содержит две «подсказки по решению» и одну «подсказку по мутации».
Затем применяется бинарный турнирный генетический алгоритм для оценки приспособленности этих мутантов на основе обучающего набора и выявления тех, которые работают лучше.
Этот циклический процесс постоянно возвращается к шагу 1, в конечном итоге приводя к эволюции поколений «подсказок-решений».
В течение нескольких поколений Promptbreeder использует пять различных классов операторов мутации для мутации как «подсказок решения», так и «подсказок мутации». Гениальность этой схемы заключается в том, что эти мутирующие «подсказки-решения» постепенно становятся все более интеллектуальными. «Подсказки мутации» играют здесь ключевую роль, предоставляя инструкции о том, как мутировать для улучшения «подсказок решения».
Promptbreeder, по сути, является самосовершенствующейся, самореферентной системой, которая работает в сфере естественного языка. Что особенно важно, она не требует сложной тонкой настройки нейронной сети. Вместо этого она выдает индивидуальные подсказки, тщательно оптимизированные для конкретных приложений.
Первоначальные эксперименты дали многообещающие результаты. Promptbreeder превзошел все другие современные методы подсказок в математических, логических, здравых задачах и классификации языка, включая выявление языка вражды.
Заглядывая вперед, Promptbreeder проходит строгие испытания на жизнеспособность в построении целого мыслительного процесса. Это включает в себя изучение стратегии N-подсказок, где подсказки применяются условно, прокладывая путь к разработке предпрограмм для политик LLM, вовлеченных в состязательные сократовские диалоги.
Promptbreeder все еще имеет ограничения по сравнению с обширной природой человеческих мыслительных процессов. Топология подсказок остается фиксированной, и Promptbreeder в первую очередь адаптирует содержание подсказок, а не сам алгоритм подсказок. Человеческое мышление охватывает многогранные аспекты за пределами языка, включая интонацию, образы и мультимодальную систему, которой Promptbreeder пока не обладает.
Читайте больше связанных тем:
Гиппократовский ИИ представляет модель языка, ориентированную на безопасность, с финансированием в размере 50 млн долларов
Окончательная позиция Google в отношении антимонопольного штрафа ЕС в размере 2,6 млрд долларов передана в Европейский суд
Публикация Google анонсировала первую самосовершенствующуюся модель искусственного интеллекта Promptbreeder, которая эволюционирует в миллиарды раз быстрее людей, впервые появилась на Metaverse Post.