OpenAI разработала инструмент для маркировки контента, созданного ChatGPT

Американский стартап OpenAI разработал инструмент, который позволит внедрить скрытые шаблоны в сгенерированный текст, позволяющие идентифицировать этот текст как созданный в рамках определенного LLM, пишет издание The Wall Street Journal.

Речь идет о водяных знаках, которые позволят на 99,9% определить текст, написанный ChatGPT. Сообщается, что данная система была готова к использованию еще год назад, однако компания до сих пор не внедрила свою разработку, поскольку опасается отпугнуть пользователей. Опрос, проведенный среди лояльных пользователей ChatGPT, показал, что почти треть из них такая технология бы отпугнула. По мнению части сотрудников OpenAI, изменения также могут сильно сказаться на прибыли компании.

Если бы ChatGPT был единственным инструментом LLM, использование водяных знаков могло бы иметь смысл. Проблема сегодня заключается в том, что сейчас существует множество поставщиков, предлагающих высококвалифицированные LLM, и если кто-то полон решимости обмануть, у него есть и другие варианты. Более того, созданный при помощи ChatGPT текст можно попросить перефразировать с помощью другой нейросети, что также позволит обойти защиту.