OpenAI создала инструмент для обнаружения ИИ, но так и не выпустила его: почему

Элеонора Хекс — главный редактор журнала Designerly, где она освещает вопросы бизнес-технологий и многое другое, в своей недавней статье для HackerNoon написала, что OpenAI, известная своим революционным проектом ChatGPT, разработала инструмент обнаружения искусственного интеллекта, чтобы решить проблемы, связанные с ИИ-контентом, но, несмотря на потенциал инструмента, OpenAI до сих пор не выпустила его публично.

Инструмент предназначен для выявления текстов, сгенерированных искусственным интеллектом, что становится все более актуальным, поскольку предприятия и учебные заведения борются с плагиатом и подлинностью контента. «Колебания» OpenAI, пишет Хекс, обусловлены более широкими последствиями и потенциальным негативным влиянием. Компания выразила опасения по поводу точности инструмента и его потенциального негативного влияния на людей, не являющихся носителями английского языка. Кроме того, инструмент может заставить внести изменения в работу ChatGPT, что может привести к «непредвиденным последствиям».

Существующие инструменты обнаружения ИИ подвергаются критике за неточности, часто отмечая законный контент как созданный ИИ, и наоборот. Это вызвало опасения, что новый инструмент может усугубить эти проблемы, привести к ложным обвинениям и подорвать доверие в образовательном и профессиональном контекстах. Критики также опасаются, что инструмент может быть использован не по назначению или привести к «творческому застою», если люди будут изменять свои работы, чтобы избежать обнаружения.