Новый «Стэнфордский эксперимент» выявил непреодолимую уязвимость языковой интуиции людей. Из-за этого вероятность того, что мы определим авторство ИИ, сильно снижается.
Сегодня в мире существует множество проблем в результате революции ChatGPT. Наиболее очевидным является то, что искусственный интеллект, такой как ChatGPT, способен настолько искусно создавать фейки, что люди не могут отличить их от правды. Результаты проведенных испытаний продемонстрировали огромную способность ChatGPT к обману. Однако было неясно, как работает эта сверхсила — чем обладает ИИ, который может заставить очень умных и образованных людей поверить в то, что он делает?
Подробнее: 20+ лучших чат-ботов Telegram с искусственным интеллектом 2023 года
Чтобы ответить на этот вопрос, Стэнфордская лаборатория социальных сетей в сотрудничестве с Исследовательским центром Корнеллского университета провела новый «Стэнфордский эксперимент».
Результат серии из шести экспериментов с участием 4600 человек сенсационен и удручает.
Людям была поставлена задача определить, были ли самопрезентации написаны человеком или искусственным интеллектом. По мнению исследователей, самопрезентация является одним из наиболее личностных и значимых элементов языкового общения, поскольку наше отношение к любому высказыванию во многом зависит от того, кто (как мы считаем) его автор.
В основе языкового восприятия людей лежат эвристики. Термин «эвристика» относится к умственным упрощениям, которые люди используют для принятия решений, решения проблем и вынесения суждений. Это помогает людям облегчить умственную нагрузку и избежать когнитивной перегрузки.
«Вычислительный анализ особенностей языка показывает, что человеческим суждениям о языке, генерируемом ИИ, препятствуют интуитивные, но ошибочные эвристики, такие как связывание местоимений первого лица, использование сокращений или семейных тем с человеческой письменной речью», — говорится в исследовании. Эксперименты показали, что при восприятии текста, написанного ИИ, люди автоматически используют те же эвристики, что и при общении с другими людьми. И это фундаментальная ошибка. Дело в том, что для нас это интуитивная эвристика, и ИИ легко их читает и оперирует ими, как таблицей умножения.
В результате ИИ может использовать эвристику для создания текста, который люди воспринимают как «более человечный, чем человеческий». Это значительно увеличивает обманчивый потенциал текстов и речи ИИ, побуждая нас доверять этому «самому человечному человеку» больше, чем высказываниям реальных людей. Шансы людей идентифицировать написанную ИИ самопрезентацию составляют 50/50. Еще хуже дела обстоят в романтическом общении людей. Почти 70% взрослых не могут отличить любовное письмо, написанное ChatGPT, от письма, написанного человеком.
Узнайте больше о ChatGPT:
Эволюция чат-ботов от эпохи T9 и GPT-1 до ChatGPT
ChatGPT: сила искусственного интеллекта пробивается в Telegram
ChatGPT представляет новые плагины для расширенных возможностей и взаимодействия человека и искусственного интеллекта
Публикация Корнеллского университета: искусственный интеллект — главное оружие обмана, против которого мы бессильны, впервые появилось на сайте Metaverse Post.