ChatGPT ест каннибалов
Ажиотаж вокруг ChatGPT начинает спадать: количество поисковых запросов ChatGPT в Google снизилось на 40% по сравнению с пиковым значением в апреле, а веб-трафик на веб-сайт OpenAI ChatGPT за последний месяц снизился почти на 10%.
Этого вполне следовало ожидать, однако пользователи GPT-4 также сообщают, что модель кажется значительно глупее (но быстрее), чем была раньше. Одна из теорий состоит в том, что OpenAI разбил ее на несколько более мелких моделей, обученных в определенных областях, которые могут действовать в тандеме. , но не совсем на том же уровне.
Однако здесь может играть роль и более интригующая возможность: каннибализм искусственного интеллекта.
Интернет теперь завален текстом и изображениями, сгенерированными ИИ, и эти синтетические данные выскребаются как данные для обучения ИИ, вызывая отрицательную обратную связь. Чем больше данных ИИ поглощает модель, тем хуже становится результат с точки зрения согласованности и качества. Это немного похоже на то, что происходит, когда вы делаете фотокопию фотокопии, и изображение становится все хуже.
Хотя официальные данные по обучению GPT-4 заканчиваются в сентябре 2021 года, очевидно, что он знает гораздо больше, и OpenAI недавно закрыл свой плагин для просмотра веб-страниц.
В новой статье ученых из Университета Райса и Стэнфорда была предложена забавная аббревиатура для обозначения этой проблемы: расстройство модельной аутофагии или MAD.
«Наш основной вывод по всем сценариям заключается в том, что без достаточного количества свежих реальных данных в каждом поколении аутофагического цикла будущие генеративные модели обречены на постепенное снижение своего качества (точности) или разнообразия (полноты)», — заявили они.
По сути, модели начинают терять более уникальные, но менее хорошо представленные данные и укрепляют свои выходные данные на менее разнообразных данных в непрерывном процессе. Хорошая новость заключается в том, что теперь у ИИ есть причина держать людей в курсе событий, если мы сможем разработать способ идентификации и приоритизации человеческого контента для моделей. Это один из планов босса OpenAI Сэма Альтмана с его блокчейн-проектом сканирования глазных яблок, Worldcoin.
Является ли Threads просто убыточным лидером для обучения моделей ИИ?
Клон Twitter Threads — это немного странный ход Марка Цукерберга, поскольку он отбирает пользователей у Instagram. Платформа обмена фотографиями зарабатывает до 50 миллиардов долларов в год, но, как ожидается, получит около десятой части этой суммы от Threads, даже в нереалистичном сценарии, когда она отнимет 100% доли рынка у Twitter. Алекс Валайтис из Big Brain Dailys предсказывает, что он будет либо закрыт, либо реинтегрирован в Instagram в течение 12 месяцев, и утверждает, что настоящей причиной его запуска сейчас было желание иметь больше текстового контента для обучения моделей Metas AI».
ChatGPT был обучен на огромных объемах данных из Twitter, но Илон Маск предпринял ряд непопулярных мер, чтобы предотвратить возникновение подобных ситуаций в будущем (взимание платы за доступ к API, ограничение скорости и т. д.).
У Цука есть форма в этом отношении, поскольку программное обеспечение Metas для распознавания изображений ИИ SEER было обучено на миллиарде фотографий, опубликованных в Instagram. Пользователи согласились с этим в политике конфиденциальности, и многие отметили, что приложение Threads собирает данные обо всем возможном, от данных о здоровье до религиозных убеждений и расы. Эти данные неизбежно будут использоваться для обучения моделей ИИ, таких как LLaMA (Large Language Model Meta AI) Facebook. Тем временем Маск только что запустил конкурента OpenAI под названием xAI, который будет добывать данные Twitter для своего собственного LLM.
Кто бы мог подумать, что обучение ИИ на религиозных текстах и говорение от имени Бога окажется ужасной идеей? В Индии индуистские чат-боты, маскирующиеся под Кришну, постоянно говорят пользователям, что убивать людей — это нормально, если это ваша дхарма или долг.
За последние несколько месяцев появилось не менее пяти чат-ботов, обученных работе с Бхагавад-гитой — священным писанием из 700 стихов, но правительство Индии не планирует регулировать эту технологию, несмотря на этические проблемы.
«Это недопонимание, дезинформация, основанная на религиозном тексте», — сказала юрист из Мумбаи Лубна Юсуф, соавтор книги AI Book. Текст придает большую философскую ценность тому, что они пытаются сказать, а что делает бот? Он дает вам буквальный ответ, и в этом опасность».
Читайте также Особенности
Lushsux: Десятилетие насмешек и обмана в одном NFT
Особенности Внутри южнокорейского дикого плана доминировать в метавселенной Сторонники ИИ-обреченности против оптимистов ИИ
Самый выдающийся в мире ИИ-убийца, теоретик решений Элиезер Юдковски, выступил на TED с предупреждением, что сверхразумный ИИ убьет нас всех. Он не уверен, как и почему, потому что он считает, что ИИ будет настолько умнее нас, что мы даже не поймем, как и почему он убивает нас, как средневековый крестьянин, пытающийся понять работу кондиционера. Он может убить нас как побочный эффект преследования какой-то другой цели или потому, что он не хочет, чтобы мы создавали другие сверхразумы, чтобы конкурировать с ним».
Он указывает, что никто не понимает, как современные системы ИИ делают то, что они делают. Это гигантские непостижимые матрицы чисел с плавающей точкой. Он не ожидает «марширующих армий роботов со светящимися красными глазами, но верит, что более умная и безразличная сущность разработает стратегии и технологии, которые могут убить нас быстро и надежно, а затем убьет нас». Единственное, что может остановить этот сценарий, — это всемирный мораторий на технологию, подкрепленный угрозой Третьей мировой войны, но он не думает, что это произойдет.
В своем эссе «Почему ИИ спасет мир» Марк Андрессен из A16z утверждает, что такая позиция ненаучна: Какова проверяемая гипотеза? Что может опровергнуть гипотезу? Как мы узнаем, что попадаем в опасную зону? Эти вопросы в основном остаются без ответа, за исключением вопроса «Вы не можете доказать, что этого не произойдет!»
Глава Microsoft Билл Гейтс опубликовал собственное эссе под названием «Риски ИИ реальны, но управляемы», в котором утверждается, что от автомобилей до Интернета «люди справлялись с другими преобразующими моментами и, несмотря на множество потрясений, в конечном итоге оказались в лучшем положении».
«Это самая преобразующая инновация, которую любой из нас увидит в своей жизни, и здоровая публичная дискуссия будет зависеть от того, насколько все осведомлены о технологии, ее преимуществах и рисках. Преимущества будут колоссальными, и лучшая причина верить, что мы можем управлять рисками, заключается в том, что мы уже делали это раньше».
Специалист по обработке данных Джереми Ховард опубликовал собственную статью, в которой утверждает, что любая попытка объявить технологию вне закона или ограничить ее несколькими крупными моделями ИИ обернется катастрофой. Он сравнивает основанную на страхе реакцию на ИИ с эпохой до Просвещения, когда человечество пыталось ограничить образование и власть элитой.
Читайте также Особенности Давать ли детям оранжевую таблетку? Аргументы в пользу книг Bitcoin kids Особенности Юридические опасности участия в DAO
«Затем возникла новая идея. А что, если мы поверим в общее благо общества в целом? А что, если бы у всех был доступ к образованию? К голосованию? К технологиям? Это была эпоха Просвещения».
Его контрпредложение — поощрять разработку ИИ с открытым исходным кодом и верить в то, что большинство людей будут использовать эту технологию во благо.
«Большинство людей будут использовать эти модели для создания и защиты. Что может быть лучше для обеспечения безопасности, чем огромное разнообразие и экспертиза человеческого общества в целом, делающие все возможное для выявления и реагирования на угрозы, имея за спиной всю мощь ИИ?»
Интерпретатор кода OpenAIs
Новый интерпретатор кода GPT-4 — это потрясающее новое обновление, которое позволяет ИИ генерировать код по требованию и фактически запускать его. Так что все, что вы можете придумать, он может сгенерировать код и запустить. Пользователи придумывают различные варианты использования, включая загрузку отчетов компании и получение ИИ для создания полезных диаграмм ключевых данных, конвертацию файлов из одного формата в другой, создание видеоэффектов и преобразование неподвижных изображений в видео. Один пользователь загрузил файл Excel с каждым местоположением маяков в США и заставил GPT-4 создать анимированную карту местоположений.
Все новости об искусственном интеллекте — просто убийственные, без лишних слов
Исследование Университета Монтаны показало, что искусственный интеллект набирает 1% лучших баллов на стандартизированном тесте на креативность. Служба тестирования Scholastic Testing Service дала участникам теста GPT-4 высшие баллы за креативность, беглость (способность генерировать множество идей) и оригинальность.
Комик Сара Сильверман и авторы Кристофер Голден и Ричард Кадрей подали в суд на OpenAI и Meta за нарушение авторских прав, связанных с обучением их моделей искусственного интеллекта на книгах трио.
Microsoft AI Copilot для Windows в конечном итоге станет потрясающим решением, но Windows Central обнаружил, что предварительная версия Insider Preview на самом деле представляет собой просто Bing Chat, работающий через браузер Edge, и он может просто включать Bluetooth.
Конкурент Anthropics ChatGPT Claude 2 теперь доступен бесплатно в Великобритании и США, и его контекстное окно может обрабатывать 75 000 слов контента против 3 000 слов ChatGPT максимум. Это делает его фантастическим для резюмирования длинных фрагментов текста, и он неплох для написания художественной литературы.
Видео недели
Индийский спутниковый новостной канал OTV News представил своего ведущего новостей на базе искусственного интеллекта по имени Лиза, которая будет вести новости несколько раз в день на разных языках, включая английский и одия, для сети и ее цифровых платформ. Новые ведущие на базе искусственного интеллекта представляют собой цифровые композиты, созданные из кадров человеческого ведущего, который читает новости с помощью синтезированных голосов», — сказал управляющий директор OTV Джаги Мангат Панда.
Подписаться Самые увлекательные статьи о блокчейне. Доставляется раз в неделю.
Адрес электронной почты
ПОДПИСАТЬСЯ