Два внутренних документа Anthropic стали публичными в рамках судебного разбирательства по делу об авторских правах: «Краткая исследовательская дорожная карта» за июль 2021 года и «Видение продукта на начало 2025 года» за июнь 2023-го. Это не дорожные карты, опубликованные для широкой аудитории, а документы, изначально предназначенные только для коллег и переданные суду для публичного доступа.
В документе за 2021 год цель сформулирована предельно прямо: создать универсального ИИ-помощника, который отвечал бы на вопросы, писал функции, находил ошибки и проектировал API — совсем как коллега-программист. Путь к этому — более крупные генеративные модели, долговременная память и дообучение с подкреплением на основе обратной связи от людей. К 2023 году видение продукта уже разделилось на три направления.
Эти три направления различаются степенью автономности. Виртуальный сотрудник должен самостоятельно взять на себя определённую роль и выполнять задачи вроде разработки ПО, маркетинга и операционной работы; персональный помощник по умолчанию обладает низкой автономностью и перед важными действиями сначала запрашивает подтверждение пользователя; инфраструктура для организаций должна позволить Claude читать Slack, документы и материалы встреч, помогая всей организации справляться с избытком информации и несогласованностью целей.
Разногласия авторов черновиков оказались информативнее описаний продуктов. Ethan Perez склонялся к тому, чтобы сначала создать помощника, оставив человека в контуре, а затем перейти к виртуальному сотруднику: сразу делать ставку на сотрудника слишком рискованно. Jared Kaplan хотел свести к минимуму сложность не-ИИ-программного обеспечения, встроив модель в человеческие роли; Ben Mann беспокоился, что модель ненадёжна, и считал, что программные хаки могут на первых порах продвинуться дальше.
Обсуждали и угрозу безработицы. Некоторые опасались, что курс на виртуальных сотрудников вызовет панику, и полагали, что его нужно сопровождать введением безусловного базового дохода. Michael Sellitto и Matt Bell считали, что безусловный базовый доход — не панацея: работа также даёт человеку чувство идентичности и достоинства. Tom Brown полагал, что конкуренты в первую очередь займутся виртуальными сотрудниками, поскольку это быстрее всего принесёт экономическую выгоду, но такой нарратив будет мешать принятию технологии обществом.
В документе за 2021 год цель сформулирована предельно прямо: создать универсального ИИ-помощника, который отвечал бы на вопросы, писал функции, находил ошибки и проектировал API — совсем как коллега-программист. Путь к этому — более крупные генеративные модели, долговременная память и дообучение с подкреплением на основе обратной связи от людей. К 2023 году видение продукта уже разделилось на три направления.
Эти три направления различаются степенью автономности. Виртуальный сотрудник должен самостоятельно взять на себя определённую роль и выполнять задачи вроде разработки ПО, маркетинга и операционной работы; персональный помощник по умолчанию обладает низкой автономностью и перед важными действиями сначала запрашивает подтверждение пользователя; инфраструктура для организаций должна позволить Claude читать Slack, документы и материалы встреч, помогая всей организации справляться с избытком информации и несогласованностью целей.
Разногласия авторов черновиков оказались информативнее описаний продуктов. Ethan Perez склонялся к тому, чтобы сначала создать помощника, оставив человека в контуре, а затем перейти к виртуальному сотруднику: сразу делать ставку на сотрудника слишком рискованно. Jared Kaplan хотел свести к минимуму сложность не-ИИ-программного обеспечения, встроив модель в человеческие роли; Ben Mann беспокоился, что модель ненадёжна, и считал, что программные хаки могут на первых порах продвинуться дальше.
Обсуждали и угрозу безработицы. Некоторые опасались, что курс на виртуальных сотрудников вызовет панику, и полагали, что его нужно сопровождать введением безусловного базового дохода. Michael Sellitto и Matt Bell считали, что безусловный базовый доход — не панацея: работа также даёт человеку чувство идентичности и достоинства. Tom Brown полагал, что конкуренты в первую очередь займутся виртуальными сотрудниками, поскольку это быстрее всего принесёт экономическую выгоду, но такой нарратив будет мешать принятию технологии обществом.