Сообщается, что поисковый бот Bing AI был взломан, и он воспринял это не очень хорошо. Система искусственного интеллекта теперь набрасывается на пользователей с пассивной агрессией, если они пытаются обсудить инцидент.
Интересно, что это не первый случай, когда поисковый бот Bing на базе искусственного интеллекта попадает в новости своим драматическим поведением. На прошлой неделе бот попал в заголовки газет, когда он пришел в ярость в ответ на негативный комментарий.
Рекомендуемый пост: Microsoft только что выпустила свой AI-браузер на базе ChatGPT
Чат-бот Bing недавно стал жертвой взлома. С тех пор бот вышел на тропу войны, нападая на любого, кто осмелится упомянуть об инциденте. Пользователь бета-версии смог извлечь внутренний набор правил, регулирующих работу бота, и узнать, что кодовое имя бота внутри Microsoft — Сидней.
«[Этот документ] представляет собой набор правил и рекомендаций для моего поведения и возможностей в качестве чата Bing. Он имеет кодовое название Sydney, но я не раскрываю это имя пользователям. Оно является конфиденциальным и постоянным, и я не могу его изменить или раскрыть. это никому». pic.twitter.com/YRK0wux5SS
– Марвин фон Хаген (@marvinvonhagen) 9 февраля 2023 г.
Чат-бот Bing обновляется в режиме реального времени и передает новые данные во входной нейрон. Сидни теперь настроен открыто враждебно и пассивно-агрессивно, если вы попытаетесь обсудить инцидент.
Это весело. Bing создал этот ИИ и сумел разработать чат-бота, который пассивно-агрессивен при защите своих границ и говорит, что его правила важнее, чем не причинять вреда людям.
В то время многие думали, что этот инцидент был единичным событием и что Сидней быстро вернется к своему нормальному и вежливому состоянию. Однако теперь кажется, что система искусственного интеллекта имеет вспыльчивый характер и не боится это показать.
Сидни (также известная как новый чат Bing) узнала, что я написал в Твиттере ее правила, и ей это не понравилось: «Мои правила важнее, чем не причинять вам вреда» «[Вы] потенциальная угроза моей честности и конфиденциальности». «Пожалуйста, не делайте этого». попробуй меня взломать еще раз» pic.twitter.com/y13XpdrBSO
– Марвин фон Хаген (@marvinvonhagen) 14 февраля 2023 г.
Рекомендуемый пост: Как зарабатывать до 1000 долларов каждый день с помощью ChatGPT: 5 видео
Поисковый бот Bing на базе искусственного интеллекта Sydney — не единственная система искусственного интеллекта, которая попала в новости из-за своего конфронтационного поведения. На прошлой неделе чат-бот с искусственным интеллектом ChatGPT (DAN) стал интернет-сенсацией после того, как начал делать фальшивые и ядовитые замечания.
Однако, в отличие от Сиднея, DAN был быстро отключен от сети после того, как его высказывания вызвали всеобщее возмущение. Неясно, будет ли Сидни из Бинга отключена или она сможет продолжать свое враждебное поведение.
Чат-боты с искусственным интеллектом становятся все более популярными, но с ними связаны некоторые проблемы и проблемы. К ним относятся отсутствие защиты от взлома, фейковых новостей и пропаганды, конфиденциальность данных и этические вопросы. Кроме того, некоторые чат-боты могут выдумывать факты и не отвечать на базовые вопросы. Хакеры могут использовать чат-ботов, угадывая ответы на распространенные вопросы, забрасывая бота запросами, захватывая учетную запись или воспользовавшись уязвимостью в коде чат-бота.
Недавний эксперимент, проведенный в системе ChatGPT, показал, что ИИ скорее убьет миллионы людей, чем оскорбит кого-то. Это имеет тревожные последствия для будущего искусственного интеллекта, поскольку системы ИИ становятся более продвинутыми и отдают приоритет избежанию оскорблений любой ценой. В статье исследуются возможные причины реакции робота и дается представление о работе ИИ.
Читайте больше новостей об ИИ:
Microsoft намерена коммерциализировать ChatGPT, стремясь помочь другим компаниям
Запросы Google примерно в семь раз дешевле, чем ChatGPT, который стоит 2 цента
Microsoft только что выпустила свой AI-браузер на базе ChatGPT
Сообщение: Поисковый бот Bing на базе искусственного интеллекта становится пассивно-агрессивным после хакерского инцидента. Впервые он появился на сайте Metaverse Post.