Источник перепечатки статьи: Сердце машины.

У ИИ, особенно с открытым и закрытым исходным кодом в эпоху больших моделей, есть плюсы и минусы. Важно то, как хорошо работать в процессе его использования.

Источник изображения: создано Unbounded AI.

Люди всегда разделялись в выборе между открытым исходным кодом и закрытым исходным кодом в области ИИ, однако в эпоху больших моделей незаметно проявилась мощная сила открытого исходного кода. Согласно ранее просочившемуся внутреннему документу Google, на основе моделей с открытым исходным кодом, таких как LLaMA от Meta, все сообщество быстро строит модели, аналогичные OpenAI и возможностям больших моделей Google.

Само собой разумеется, что Meta занимает центральное место в мире открытого исходного кода, учитывая продолжающиеся усилия по созданию открытого исходного кода, такие как недавний выпуск Llama 2. Однако все хорошее будет уничтожено ветром. В последнее время у Meta возникли «проблемы» из-за открытого исходного кода.

Возле офиса Meta в Сан-Франциско группа протестующих с плакатами собралась в знак протеста против стратегии Meta по публичному выпуску моделей искусственного интеллекта, утверждая, что эти выпуски вызвали «необратимое распространение» потенциально небезопасных технологий. Некоторые протестующие даже сравнили выпущенные «Метой» крупные модели с «оружием массового поражения».

Протестующих, называющих себя «обеспокоенными гражданами», возглавляет Холли Элмор. Согласно ее профилю в LinkedIn, она является независимым сторонником движения AI Pause.

Источник: МИША ГУРЕВИЧ

Она отметила, что если модель окажется небезопасной, API может быть отключен, как в случае с крупными моделями, такими как Google и OpenAI, которые позволяют пользователям получать к ней доступ только через API.

Напротив, семейство моделей с открытым исходным кодом LLaMA компании Meta делает веса моделей доступными для общественности, позволяя любому, у кого есть подходящее оборудование и опыт, самостоятельно воспроизводить и настраивать модели. После публикации весов моделей издательская компания больше не имеет никаких средств контроля над использованием ИИ.

По мнению Холли Элмор, сброс весов моделей — опасная стратегия, поскольку любой может изменить модель, и модели невозможно будет отозвать. «Чем мощнее модель, тем опаснее стратегия».

По сравнению с моделями с открытым исходным кодом, большие модели, доступ к которым осуществляется через API, часто имеют различные функции безопасности, такие как фильтрация ответов или специальное обучение для предотвращения вывода опасных или оскорбительных ответов.

Если вес модели высвобождается, становится намного легче переучить модель перепрыгивать через эти «ограждения». Это делает более возможным использование этих моделей с открытым исходным кодом для создания фишингового программного обеспечения и проведения сетевых атак.

Источник: МИША ГУРЕВИЧ

Потому что она считает, что часть проблемы заключается в «недостаточных мерах безопасности при выпуске моделей» и что должен быть лучший способ обеспечить безопасность моделей.

Мета пока не прокомментировала это. Однако Ян Лекун, главный научный сотрудник Meta по искусственному интеллекту, похоже, отреагировал на заявление о том, что «ИИ с открытым исходным кодом должен быть запрещен», и раскрыл грандиозную ситуацию в предпринимательском сообществе искусственного интеллекта с открытым исходным кодом в Париже.

Многие не согласны с Холли Элмор, считающей, что открытая стратегия развития ИИ — единственный способ обеспечить доверие к технологии.

Некоторые пользователи сети заявили, что у открытого исходного кода есть плюсы и минусы. Он может позволить людям добиться большей прозрачности и стимулировать инновации, но он также столкнется с риском неправильного использования (например, кода) злоумышленниками.

Как и ожидалось, OpenAI в очередной раз высмеяли: «Она должна вернуться к открытому исходному коду».

Многие люди обеспокоены открытым исходным кодом.

«Широкое распространение передовых моделей ИИ будет особенно проблематичным в будущем, поскольку предотвратить неправильное использование моделей ИИ практически невозможно», — сказал Питер С. Парк, научный сотрудник по безопасности ИИ в Массачусетском технологическом институте.

Однако Стелла Бидерман, исполнительный директор EleutherAI, некоммерческой исследовательской организации в области искусственного интеллекта, заявила: «Пока мало доказательств того, что модели с открытым исходным кодом причиняют какой-либо конкретный вред. Неясно, решит ли проблему простое использование модели в API». проблема. Контрольный вопрос».

Бидерман считает: «Основные элементы построения LLM были опубликованы в бесплатной исследовательской статье, и любой человек в мире может прочитать бумажную литературу, чтобы разработать свою собственную модель».

Она добавила: «Поощрение компаний хранить детали моделей в секрете может иметь серьезные негативные последствия для прозрачности исследований, осведомленности общественности и научных разработок в этой области, особенно для независимых исследователей».

Хотя все уже обсуждают влияние открытого исходного кода, до сих пор неясно, действительно ли подход Meta достаточно открыт и может ли он использовать преимущества открытого исходного кода.​

Стефано Маффулли, исполнительный директор Open Source Initiative (OSI), сказал: «Концепция ИИ с открытым исходным кодом не была должным образом определена. Различные организации используют этот термин для обозначения разных вещей, указывая на разные уровни «чего-то общедоступного». что это смутит людей».

Маффулли отмечает, что для программного обеспечения с открытым исходным кодом ключевой вопрос заключается в том, является ли исходный код общедоступным и воспроизводимым для любых целей. Однако, если вы хотите воспроизвести модель ИИ, вам, возможно, придется поделиться данными обучения, методами сбора данных, программным обеспечением для обучения, весами модели, кодом вывода и т. д. Среди них наиболее важным является то, что данные обучения могут иметь проблемы с конфиденциальностью и авторскими правами.

OSI работает над точным определением «ИИ с открытым исходным кодом» с прошлого года и, вероятно, выпустит ранний проект в ближайшие недели. Но несмотря ни на что, он считает, что открытый исходный код имеет решающее значение для развития ИИ. «У нас не может быть надежного и ответственного ИИ, если ИИ не будет иметь открытый исходный код», — сказал он.

В будущем различия между открытым исходным кодом и закрытым исходным кодом сохранятся, но открытый исходный код не остановить.

Оригинальная ссылка: https://spectrum.ieee.org/meta-ai.