OpenAI начнёт помечать тексты ChatGPT и Codex скрытыми водяными знаками

OpenAI внедряет в ChatGPT и Codex технологию скрытых водяных знаков для текста. Первыми нововведение почувствуют пользователи из Европейского союза - невидимые метки появятся в ответах на всех тарифах в ближайшие недели.

Причина - вступление в силу европейского закона об искусственном интеллекте. Он требует от разработчиков генеративных моделей делать сгенерированный текст узнаваемым для автоматических систем.

Для клиентов API по всему миру опцию сделают добровольной. Доступ к детектору меток компания сначала откроет только проверенным исследователям и профильным организациям. Позже исходный код технологии обещают опубликовать.

Фирменный метод textGrain работает на этапе подбора слов нейросетью - он внедряет малозаметный статистический паттерн. Внутренние тесты на флагманской модели Astra показали, что такое вмешательство почти не сказывается на качестве и точности ответов.

Разработчики признают и слабые стороны технологии. Детектор хуже справляется с короткими фрагментами и точными дисциплинами вроде математики, где выбор формулировок ограничен. Водяной знак разрушается при ручном редактировании: если заменить 10% слов синонимами в тексте из 400 токенов, точность распознавания падает с 92% до 66%. Замена четверти слов снижает показатель до 17%.

В OpenAI подчеркнули: водяной знак не содержит данных о пользователе, не раскрывает введённые промпты и не подтверждает достоверность написанного.

Читайте также

Нейросеть Claude передала полиции переписку пользовательницы с угрозами расстрела

CFTC предложила правила для криптобирж с кредитным плечом, но спотовая торговля осталась без надзора

Стейблкоины в Китае превратились в теневую платежную сеть на $176 млрд

Google заморозила выплаты за найденные баги из-за потока фальшивых отчётов от нейросетей

На рынок США выходит первый биржевой фонд на Tron с доходом от стейкинга