Компания заявляет, что также создала инструмент обнаружения, который позволяет проверить, был ли текст создан её моделями.

OpenAI начала внедрять невидимые водяные знаки в тексты, созданные ChatGPT и её помощником для программирования Codex, для пользователей в Европе. Водяные знаки встраиваются непосредственно в сгенерированный текст, но читатель их не видит. Как сообщают Cryptopolitan и BeInCrypto, OpenAI также подготовила инструмент обнаружения, предназначенный для определения того, был ли текст создан её моделями.

Система водяных знаков работает, изменяя базовую структуру сгенерированного текста так, что эти изменения остаются незаметными при обычном чтении. Такой подход отличается от видимых пометок или предупреждений, которые некоторые платформы добавляют к контенту, созданному ИИ. Вместо этого маркер встраивается непосредственно в текст, чтобы позднее его можно было проверить с помощью сопутствующего инструмента обнаружения OpenAI.

Этот шаг последовал за многолетними спорами о том, как отличать текст, написанный человеком, от контента, созданного большими языковыми моделями. По мере роста возможностей ИИ-инструментов и расширения их использования усиливались опасения по поводу дезинформации, академической нечестности и подрыва доверия к письменным материалам. В качестве одного из частичных решений неоднократно предлагалось использовать водяные знаки, однако отрасль так и не внедрила их повсеместно.

Европа находится в авангарде нормативных инициатив, направленных на обеспечение прозрачности ИИ. Закон Европейского союза об искусственном интеллекте предусматривает требования к более чёткому раскрытию информации о контенте, созданном или изменённом системами искусственного интеллекта. Компании, работающие в ЕС, сталкиваются с растущим давлением, требующим продемонстрировать, как можно идентифицировать и проверять их инструменты. Решение OpenAI сначала внедрить водяные знаки в Европе соответствует этой общей нормативной тенденции, хотя точные причины, связанные с соблюдением требований, публично не раскрывались.

Для разработчиков, использующих Codex, невидимые водяные знаки поднимают дополнительные вопросы. Код, созданный ИИ-ассистентами, часто копируют, изменяют или распространяют между проектами и репозиториями. В теории водяной знак, встроенный в сгенерированный код, мог бы помочь впоследствии выявить вклад ИИ. Однако пока неясно, насколько устойчивы такие метки после редактирования и рефакторинга кода или его обработки другими инструментами.

OpenAI публично не раскрывала полные технические характеристики метода нанесения водяных знаков или точность детектора. Cryptopolitan и BeInCrypto сообщили о внедрении этой функции и наличии возможности обнаружения, однако ни одно из изданий не предоставило исчерпывающей технической документации. Ограниченность общедоступной информации оставляет открытыми вопросы о том, как водяные знаки ведут себя при редактировании, переводе или переформатировании текста.

Этот шаг также отражает более широкую отраслевую тенденцию к разработке инструментов для подтверждения происхождения материалов, созданных ИИ. Несколько технологических компаний экспериментировали с похожими подходами, включая криптографическую подпись и добавление метаданных, чтобы помочь отличать контент, созданный машиной, от написанного человеком. Внедрение технологии OpenAI в Европе стало ещё одним примером таких усилий, однако более широкое распространение за пределами Европы пока не подтверждено.

Влияние на рынок

Для криптовалютного и более широкого технологического рынков эта разработка свидетельствует о дальнейшем усилении нормативного регулирования ИИ в Европе и повышении ответственности за его использование — теме, которая всё чаще пересекается с надзором за цифровыми активами. Компании, разрабатывающие торговые инструменты на базе ИИ, контентные платформы или продукты для анализа блокчейна, могут столкнуться с аналогичными требованиями к прозрачности по мере распространения нормативных рамок, подобных Закону ЕС об искусственном интеллекте. Инвесторы, следящие за акциями компаний, связанных с ИИ, и токенами, привязанными к проектам инфраструктуры ИИ, могут рассматривать внедрение водяных знаков как ранний сигнал того, как расходы на соблюдение требований в будущем могут влиять на разработку продуктов. О прямом влиянии этого внедрения на цены или торговлю не сообщалось.

Внедрение OpenAI невидимых водяных знаков в Европе стало конкретным шагом на пути к проверяемому контенту, созданному ИИ, хотя в публичных сообщениях по-прежнему мало технических подробностей и планов по более широкому распространению технологии.

Часто задаваемые вопросы

На что именно ставят водяной знак?

Сообщается, что тексты, созданные ChatGPT и Codex для пользователей в Европе, содержат невидимую метку, которую нельзя заметить при обычном чтении.

Как можно обнаружить водяной знак?

Как сообщается, OpenAI создала инструмент обнаружения, предназначенный для определения того, был ли текст сгенерирован её моделями с помощью встроенной метки.

Это внедрение ограничено Европой?

Согласно сообщениям, функция уже внедрена для пользователей в Европе; подтверждённых сроков её более широкого глобального распространения пока нет.

Связано ли это с регулированием ИИ в ЕС?

Закон Европейского союза об искусственном интеллекте содержит требования к прозрачности контента, созданного ИИ. Это важный нормативный контекст, хотя OpenAI не уточняла, связана ли эта мера напрямую с соблюдением закона.

Первоначально опубликовано AltcoinGordon, автор — Бенджамин Кларк. Перепечатано с разрешения.

Посмотреть оригинал на AltcoinGordon →

Публикация «OpenAI начинает встраивать невидимые водяные знаки в результаты работы ChatGPT и Codex по всей Европе» впервые появилась на TheCoinrise.com.