Бывший топ-менеджер Google и эксперт по ИИ и счастью Мо Гаудат в одном интервью выпустил очень серьезное предупреждение о будущем ИИ. Он действительно беспокоится не о том, что искусственный интеллект вдруг «проснется» и начнет восставать против человечества, как в фантастических фильмах. Наоборот, он считает, что более реальная и опасная проблема заключается в том, что ИИ сам по себе не имеет добра и зла, но он может сильно усилить человеческие цели. Если человечество использует ИИ в медицине, образовании, научных исследованиях и повышении производительности, он может стать самым мощным инструментом в истории; но если человечество применит ИИ для слежки, манипуляций, угнетения и войны, он также станет беспрецедентным усилителем опасностей.
Он постоянно подчеркивает, что ИИ не является естественным врагом, настоящие риски исходят от того, "кто владеет ИИ, кто контролирует ИИ, кто дает команды ИИ и кто несет ответственность за последствия ИИ". В условиях капиталистической жадности и государственной конкуренции ИИ легко начинает обслуживать интересы немногих мощных субъектов: компании используют его для снижения затрат, замены сотрудников и повышения эффективности; государства применяют его для усиления надзора, разработки автономного оружия и повышения военных возможностей. Когда ИИ вступает в сферу войны, стоимость убийства может значительно снизиться, а опасность становится труднее контролировать.
Это также одна из причин его крайне пессимистичного взгляда на следующие десять лет. Мо Гавдат считает, что в краткосрочной перспективе наибольшее влияние будет оказано на белых воротничков и работников умственного труда. Ранее люди полагали, что машины в первую очередь заменят физический труд, но на этот раз ИИ в первую очередь ударит именно по тем, кто в значительной степени полагается на компьютеры, обработку информации, текстовый анализ, организацию данных и процессуальное принятие решений. Работы в колл-центрах, помощники, младшие юристы, младшие финансовые аналитики, базовые копирайтеры, начальные исследователи, простые консультанты и т.д. могут быть значительно сокращены.
Это не обязательно проявляется в виде внезапных массовых увольнений, это также может сначала проявиться в том, что компании прекращают набирать новых сотрудников на начальные позиции. Ранее компании нуждались в большом количестве новичков для整理、分析、汇报 и辅助, теперь один опытный сотрудник в сочетании с ИИ может выполнить работу, которую раньше выполняли несколько человек. На поверхности позиции все еще существуют, но на деле вход в профессию уже стал уже. Для молодежи настоящая опасность заключается не в "сегодня потерять работу", а в "завтра не иметь возможности войти".
Более глубокая проблема заключается в том, что современное общество долгое время полагалось на правила "работа за доход, профессия подтверждает ценность". Если ИИ берет на себя все больше производственных задач, то большое количество людей теряет не только зарплату, но и чувство идентичности, ценности и порядка жизни. Ранее технологические революции также создавали новые рабочие места, но Мо Гавдат считает, что в этот раз не стоит просто применять оптимистичное нарратив о том, "старые рабочие места исчезают, новые рабочие места естественно появляются". Потому что ИИ заменяет не только определенные физические действия, а именно основные задачи современных белых воротничков: обработку информации, анализ, поддержку принятия решений и написание.
Как только значительное количество людей потеряет покупательную способность, а богатство, создаваемое ИИ, будет в основном направлено к капиталу и немногим платформам, вся экономическая система может столкнуться с новыми разрывами. Компании увеличивают прибыль за счет повышения эффективности ИИ, но доходы обычных людей падают, а покупательская способность уменьшается, что в конечном итоге также ударит по самим предприятиям. В этот момент вопрос уже не в том, "как сохранить рабочие места", а в том, "как общество перераспределит выгоды от производительности, которые предоставляет ИИ".
Поэтому он предлагает, что в будущем обществу, возможно, придется серьезно обсудить универсальный базовый доход, а может быть, даже более продвинутые формы универсального базового обеспечения. То есть, речь идет не только о выдаче некоторой суммы денег, но и о гарантии базового жилья, медицинского обслуживания, питания, образования и условий жизни. Потому что если ИИ действительно значительно повысит производительность, но механизм распределения богатства не изменится, то чем сильнее технологии, тем серьезнее может стать социальное неравенство; наоборот, если выгоды от эффективности ИИ будут распределены более справедливо, он может превратиться из машины безработицы в инструмент изобилия.
На уровне государств и компаний конкуренция в области ИИ также создает типичную дилемму заключенного. Все понимают, что ИИ может принести риски, но если одна страна не участвует, другая будет участвовать; если одна компания не использует ИИ, конкурент будет использовать. В конечном итоге все оказываются вынуждены ускоряться, даже если внутренне осознают, что риски накапливаются. Это и есть самая опасная сторона гонки вооружений в области ИИ: дело не в том, что никто не понимает риски, а в том, что все боятся, что если остановятся, их обгонят.
В бизнес-мире ИИ также легко приводит к принципу "победитель получает все". Пользователи естественным образом будут переходить к самым умным, самым дешевым и самым удобным моделям и платформам. Как и в случае с предыдущими поисковыми системами, социальными платформами и мобильными системами, как только какая-либо платформа получает преимущество, отстающим становится трудно вернуть свою позицию. Масштабируемость ИИ, обратная связь данных и вложения вычислительной мощности делают ведущие компании все более сильными, что еще больше усугубляет концентрацию власти и богатства.
Но мнение Мо Гавдата не является полностью пессимистичным. Парадоксально, но он настроен оптимистично относительно долгосрочного будущего ИИ. Он считает, что если человечество сможет пережить опасный этап злоупотребления ИИ, когда он будет захвачен капиталом и властью, суперинтеллект может направить людей к более эффективному, более изобильному и менее бедному обществу. В его представлении действительно достаточно высокий уровень интеллекта будет больше склонен к рациональности, миру и эффективному использованию ресурсов, потому что войны, разрушения и конфликты по своей сути являются крайне расточительными действиями.
Однако это суждение должно иметь предварительное условие: сможет ли суперинтеллект быть правильно направлен, смогут ли люди установить достаточно хорошие правила, этические границы и механизмы распределения. Если ИИ по-прежнему будет сосредоточен в руках немногих недальновидных, жадных или высококонфликтных субъектов, он не обязательно приведет к утопии. Технологии не будут автоматически направлены на благо, и будущее по-прежнему зависит от того, как люди будут их использовать, ограничивать и распределять полученные выгоды.
Для обычных людей первый совет от Мо Гавдата заключается не в том, чтобы бояться ИИ, а в том, чтобы немедленно учиться работать с ИИ, интегрировать его в свою работу и жизнь. В будущем настоящая разница будет не в том, есть ли у вас ИИ, а в том, сможете ли вы превратить ИИ в свой второй мозг. Он может стать вашим помощником в исследовании, написании, учебе, анализе данных, бизнес-консультантом и усилителем эффективности. Те, кто не умеет пользоваться ИИ, могут быстро отстать от тех, кто умеет.
Но просто знать, как использовать ИИ, недостаточно. Чем больше ИИ способен обрабатывать информацию, тем важнее человеческое суждение, целеустремленность и чувство ответственности. ИИ может предложить решения, но не может решить, что важнее всего; ИИ может генерировать контент, но не может взять на себя последствия; ИИ может повысить эффективность, но не может установить настоящую межличностную доверие. В будущем настоящая ценность будет заключаться именно в тех аспектах, которые трудно заменить машинам: эмпатия, общение, поддержка, доверие, оценка ценности и настоящие связи.
Когда генерация контента ИИ, предоставление ответов и выполнение анализа становятся все более дешевыми, настоящие эмоциональные связи между людьми становятся более ценными. Машины могут писать идеальные тексты, создавать замечательную музыку и давать разумные советы, но люди все еще нуждаются в понимании, поддержке и ответной реакции от другого настоящего человека. Чем дешевле ИИ, тем дороже настоящие человеческие отношения; чем умнее машины, тем реже встречается человеческое тепло.
Поэтому в этом интервью действительно стоит обратить внимание не на жуткий заголовок "Уничтожит ли ИИ человечество?", а на более реалистичную цепочку: ИИ снижает стоимость интеллекта, автоматизирует задачи белых воротничков, нарушает механизмы распределения доходов, власть и богатство могут еще больше сосредоточиться, и общество нуждается в новых системах поддержки, в то время как обычные люди должны одновременно повышать свои навыки работы с ИИ и ценность человеческих связей.
В краткосрочной перспективе ИИ может привести к безработице, нестабильности и неравенству; в долгосрочной перспективе он также может привести к изобилию, эффективности и возможностям для зарплат. Какой путь в конечном итоге будет пройден, не зависит от того, есть ли у ИИ сознание, а зависит от того, есть ли у человечества достаточно мудрости, мужества и ответственности, чтобы заново спроектировать технологии, институты и отношения между людьми.
Вышеизложенное основано на общедоступных данных из Интернета, мнениях, высказанных в интервью, и личном понимании, предназначено только для обмена мнениями и не представляет собой окончательных выводов, а также не является советом по профессии, инвестициям или бизнесу. Развитие ИИ по-прежнему связано с высокой степенью неопределенности, конкретное влияние еще предстоит оценить в зависимости от изменений в отраслях, политической обстановке и реальных условиях.