Источник перепечатки статьи: AI DreamWorks.
Первоисточник: Синьчжиюань
Источник изображения: создано Unbounded AI.
В интервью программе «60 минут» 9 октября Хинтон еще раз выразила опасения, что искусственный интеллект может захватить человечество.
Но уже в мае этого года «крестный отец искусственного интеллекта» Джеффри Хинтон объявил о своем уходе из Google, чтобы иметь возможность свободно говорить о рисках искусственного интеллекта.
С тех пор Хинтон выражала обеспокоенность по поводу рисков искусственного интеллекта в различных публичных выступлениях.
В интервью Хинтон даже сказала: «Я глубоко сожалею о деле всей своей жизни».
В год бурного развития искусственного интеллекта людям было трудно остановить атаку.
Хотя в конце марта этого года тысячи технологических лидеров подписали совместное письмо, призывающее ввести мораторий на разработку искусственного интеллекта, более мощного, чем GPT-4.
Но на встрече выпускников YC 24 сентября Альтман рассказал новости о больших моделях OpenAI следующего поколения GPT-5 и GPT-6.
В то же время Meta, как лидер сообщества открытого исходного кода, также постоянно разрабатывает новые большие модели. В июле вышла Llama 2 с улучшенной производительностью по всем аспектам, достигшая уровня, близкого к ChatGPT.
Поскольку производительность больших моделей продолжает улучшаться, тень рисков и угроз безопасности всегда нависает над человечеством, как дамоклов меч.
Некоторые люди думают, что еще слишком рано беспокоиться о рисках, связанных с искусственным интеллектом. Например, Ян ЛеКун, главный научный сотрудник Меты и ученик Хинтона, который также является лауреатом премии Тьюринга, много раз говорил, что люди преувеличивают риски, связанные с искусственным интеллектом. искусственный интеллект.
Но некоторые люди настаивают на том, что «риски, связанные с выживанием, невозможно переоценить».
Хинтон — один из них.
Хинтон: Возможность того, что ИИ захватит человечество
В разговоре с репортером Wired Хинтон выразила обеспокоенность по поводу рисков искусственного интеллекта со следующих аспектов.
Во-первых, это непрерывный рост искусственного интеллекта.
Хинтон считает, что мы вступаем в эпоху, когда искусственный интеллект становится умнее человека и способен принимать решения на основе собственного опыта и понимания.
Хотя обладатель премии Тьюринга Бенджио и другие использовали 88 страниц, чтобы продемонстрировать, что искусственный интеллект в настоящее время не обладает сознанием, и Бенджио, и Хинтон полагают, что искусственный интеллект может развить самосознание в будущем.
В будущем искусственный интеллект заменит человека и станет самым разумным существом на Земле.
Интеллект модели определяет ее способность к обучению. Хинтон объяснил процесс обучения искусственного интеллекта.
Искусственный интеллект может учиться, потому что люди разработали алгоритмы, но нейронные сети, возникающие на основе моделей, сложны и до конца не изучены.
Этот процесс Хинтон сравнивает с принципом эволюции дизайна и признает, что по мере того, как искусственный интеллект будет решать более сложные задачи, его внутренняя работа будет становиться все более загадочной и непостижимой для людей.
Кроме того, Хинтон также выразил обеспокоенность тем, что системы искусственного интеллекта будут писать свой собственный код, чтобы модифицировать себя, что может привести к тому, что люди потеряют контроль над искусственным интеллектом.
Помимо рисков безудержного ИИ, Хинтон также обсудил риски манипулирования ИИ людьми, указав на потенциальные последствия в таких областях, как автономные боевые роботы, фейковые новости и предвзятость в сфере занятости.
Но что еще хуже, Хинтон подчеркнул неопределенность, связанную с искусственным интеллектом, и проблемы навигации по неизведанной территории.
«Мы вступаем в очень неопределенный период и имеем дело с вещами, которые никогда раньше не делались. Обычно, когда вы впервые имеете дело с чем-то совершенно новым, вы обязательно совершаете ошибки. Но мы не могу ошибаться в этих вещах.
Но Хинтон также подтвердил вклад искусственного интеллекта.
Благодаря различным применениям искусственного интеллекта в реальном мире эффективность работы человека значительно повысилась в офисе, научных открытиях, медицине и других аспектах.
Хинтон особо подчеркнул огромные преимущества искусственного интеллекта в сфере здравоохранения, особенно в области распознавания медицинских изображений и дизайна лекарств, запущенного Google DeepMind.
Хинтон выразил оптимизм по поводу положительного влияния искусственного интеллекта в этой области.
Что касается будущего искусственного интеллекта, то хотя Хинтон и не предсказывал, что искусственный интеллект обязательно захватит человечество, он признал, что это и будет наше возможное будущее.
Поэтому Хинтон призывает людей принять необходимые меры защиты для собственной безопасности перед лицом потенциала развития искусственного интеллекта.
Другие опасения по поводу рисков ИИ
Ранее такую же обеспокоенность выразил и профессор Нью-Йоркского университета Маркус.
«Что важнее — то, что человечество вымирает, или важнее быстрее кодировать и общаться с роботами?»
Маркус считает, что хотя до AGI еще слишком далеко, LLM уже очень опасен, и самое опасное то, что ИИ сейчас содействует различной преступной деятельности.
«В эту эпоху мы должны каждый день спрашивать себя: какой тип ИИ мы хотим? Иногда неплохо не торопиться, потому что каждый маленький шаг, который мы делаем, будет иметь глубокое влияние на будущее».
Сэм Альтман, отец ChatGPT и генеральный директор OpenAI, также публично заявил, что риски, связанные со сверхразумным ИИ, могут значительно превзойти наши ожидания.
В подкасте с участием исследователя технологий Лекса Фридмана Альтман озвучил раннее предупреждение о потенциальных опасностях передового искусственного интеллекта.
Он сказал, что больше всего его беспокоит проблема ложной информации, вызванная искусственным интеллектом, экономические последствия и другие проблемы, которые еще не проявились. Этот вред может значительно превысить уровень, с которым люди могут справиться.
Он высказал предположение, что большие языковые модели могут влиять или даже доминировать на опыт и взаимодействие пользователей социальных сетей.
«Например, откуда мы знаем, что большая языковая модель не направляет поток мыслей каждого в Твиттере?»
«Я думаю, что мы, OpenAI, несем ответственность за инструменты, которые выпускаем в мир», — сказал Альтман.
«Инструменты искусственного интеллекта принесут огромную пользу человечеству, но, как вы знаете, у инструментов есть как преимущества, так и недостатки», — добавил он. «Мы минимизируем вред и максимизируем пользу».
Хотя модель GPT-4 удивительна, также важно осознавать ограничения искусственного интеллекта и избегать его антропоморфизации.
Точно так же Билл Гейтс уже много лет обеспокоен проблемой «искоренения ИИ человечества».
В течение многих лет Гейтс говорил, что технология искусственного интеллекта стала слишком мощной и может даже вызвать войну или использоваться для создания оружия.
Он заявил, что не только реальные «злодеи 007» могут использовать его для манипулирования мировыми державами, но и сам искусственный интеллект может выйти из-под контроля и представлять большую угрозу для человечества.
По его мнению, когда сверхинтеллект будет развит, его скорость мышления намного превысит человеческую.
Он может делать все, что может человеческий мозг, и самое страшное то, что объем его памяти и скорость работы совершенно не ограничены.
Эти так называемые «супер» существа ИИ могут ставить перед собой собственные цели, не зная, что они будут делать.
И общественность начинает слышать свой голос.
Столкнувшись с «гонкой вооружений» между крупными компаниями, компания Meta столкнулась с протестами граждан за открытие публике весов моделей Llama 2.
Общественность обеспокоена тем, что Мета, стратегия снижения веса модели, позволяет любому модифицировать модель в соответствии со своими интересами.
В то же время, поскольку веса открыты, это означает, что другие не могут вспомнить эти модели. Это обеспечивает практически безграничную питательную среду для использования крупных моделей для совершения киберпреступлений.
Сейчас для всего человечества, похоже, вопрос «быть или не быть» стал насущной проблемой, с которой приходится столкнуться.
Использованная литература:
https://www.arabtimesonline.com/news/godfather-of-ai-fears-technology-could-one-day-take-over-humanity/