Суть обновления: водяные знаки в текстах ChatGPT и Codex
OpenAI объявила о внедрении технологии невидимых водяных знаков в тексты, которые генерируют ChatGPT и Codex. Нововведение касается пользователей из стран Евросоюза на всех тарифах. Для клиентов OpenAI API маркировка будет доступна по запросу и только для некоторых моделей, независимо от региона.
Как работает технология textGrain
Технология textGrain меняет статистический паттерн выбора слов при генерации текста. Детектор, разработанный OpenAI, способен определить наличие такого водяного знака, но сам знак для читателя незаметен. Это реализовано для соответствия закону ЕС об искусственном интеллекте, который требует идентифицировать ИИ-контент машинным способом.
Ограничения точности
- Чем короче текст, тем сложнее определить водяной знак.
- В тематике с низким разнообразием слов, например в математике, точность ниже.
- Редактирование текста снижает вероятность обнаружения: замена 10% слов синонимами уменьшает вероятность с 92% до 66% (для 400 токенов), а замена 25% — до 17%.
Кого касается обновление
В первую очередь — маркетологи, агентства и компании, которые используют ChatGPT или Codex для создания текстов в Евросоюзе. Также это важно для пользователей API по всему миру, если они решат включить маркировку.
Детектор водяных знаков пока доступен только для одобренных исследователей и экспертных организаций по заявке. Публичного доступа не будет из-за риска ложных срабатываний.
Что делать маркетологам и бизнесу
- Проверьте, попадает ли ваш бизнес под новые правила ЕС по ИИ-контенту.
- Если вы работаете с API OpenAI, решите, включать ли маркировку для своих моделей.
- Учитывайте ограничения: короткие и сильно переработанные тексты могут не определяться как сгенерированные ИИ.
- Помните: водяной знак не доказывает авторство и не подтверждает точность или уникальность текста.
Что не делает водяной знак
- Не показывает степень участия человека при создании текста.
- Не устанавливает авторство или источник.
- Не гарантирует достоверность или корректность информации.