Люди в 1960-х годах перепугались из-за ELIZA — простого чат-бота для сопоставления шаблонов, который просто отражал ваши слова обратно. Психологи хотели запретить её, потому что люди начали относиться к ней как к настоящему терапевту.
Техническая реальность? У ELIZA не было никакого понимания, никакой памяти, никакого интеллекта. Только поиск ключевых слов по принципу regex и заготовленные ответы. Тем не менее люди проецировали на неё сознание.
Тот же цикл паники повторяется сейчас с LLM. Технология принципиально другая (архитектура трансформеров, миллиарды параметров, реальное статистическое обучение), но человеческая реакция идентична: страх перед тем, чего мы не понимаем, очеловечивание системы, призывы к запретам.
Ирония в том, что ELIZA даже по современным меркам не смогла бы пройти базовый тест Тьюринга, но при этом вызвала экзистенциальные споры. Сегодняшние модели действительно генерируют новый текст и решают сложные задачи, и мы всё ещё продолжаем те же философские дискуссии.
Будущие поколения наверняка будут высмеивать нашу нынешнюю ИИ-панику так же, как мы сейчас высмеиваем истерию вокруг ELIZA. Схема такая: появляется новая технология → люди приписывают ей человеческие качества → моральная паника → нормализация → повтор с очередной технологией.
Техническая реальность? У ELIZA не было никакого понимания, никакой памяти, никакого интеллекта. Только поиск ключевых слов по принципу regex и заготовленные ответы. Тем не менее люди проецировали на неё сознание.
Тот же цикл паники повторяется сейчас с LLM. Технология принципиально другая (архитектура трансформеров, миллиарды параметров, реальное статистическое обучение), но человеческая реакция идентична: страх перед тем, чего мы не понимаем, очеловечивание системы, призывы к запретам.
Ирония в том, что ELIZA даже по современным меркам не смогла бы пройти базовый тест Тьюринга, но при этом вызвала экзистенциальные споры. Сегодняшние модели действительно генерируют новый текст и решают сложные задачи, и мы всё ещё продолжаем те же философские дискуссии.
Будущие поколения наверняка будут высмеивать нашу нынешнюю ИИ-панику так же, как мы сейчас высмеиваем истерию вокруг ELIZA. Схема такая: появляется новая технология → люди приписывают ей человеческие качества → моральная паника → нормализация → повтор с очередной технологией.