OpenAI использует ChatGPT для поиска информаторов внутри компани

OpenAI использует внутреннюю версию ChatGPT для вычисления сотрудников, которые сливают данные в прессу. Нейросеть изучает переписку в Slack и служебные документы.

Компания OpenAI, разработавшая популярного чат-бота, применяет свои же технологии для слежки за собственными сотрудниками. Согласно данным осведомленных источников, корпорация использует специальную внутреннюю версию ChatGPT, чтобы находить тех, кто сливает в прессу конфиденциальную информацию.

Как сообщает издание The Information, служба безопасности OpenAI действует по отработанной схеме. Как только в новостях появляется статья, содержащая внутренние данные компании, сотрудники службы безопасности загружают текст в закрытую версию нейросети. Этот инструмент имеет расширенный доступ к внутренней инфраструктуре компании. Система подключена к базам документов, корпоративному мессенджеру Slack и архивам электронной почты сотрудников.

Искусственный интеллект сопоставляет текст утечки с внутренними материалами. Программа определяет, какие именно файлы или переписка стали источником информации. После этого система анализирует, у кого из сотрудников был доступ к этим конкретным документам. Таким образом OpenAI может вычислить вероятного информатора.

Представители OpenAI пока никак не прокомментировали эту информацию. Журналистам также не удалось подтвердить, удалось ли компании с помощью ИИ поймать хотя бы одного нарушителя. Однако известно, что ранее компания уже увольняла исследователей по подозрению в разглашении внутренней информации.

Внедрение таких строгих мер слежения не случайно. OpenAI работает в условиях жесткой конкуренции на рынке искусственного интеллекта. Руководство компании опасается, что утечки могут навредить бизнесу и дать преимущество соперникам. Особое беспокойство вызывает возможность доступа китайских конкурентов к интеллектуальной собственности и передовым разработкам американских компаний.

Политика OpenAI в этом вопросе напоминает подход других технологических гигантов. Например, компании Apple и Tesla давно известны своими жесткими правилами по борьбе с утечками. Они также вводят строгие протоколы безопасности, чтобы защитить свои коммерческие тайны и разработки.

Ситуация вокруг защиты данных осложняется и геополитическим контекстом. Власти США всерьез обеспокоены тем, что американские технологии ИИ могут попасть в руки китайских компаний. Еще при администрации Джо Байдена были введены ограничения на экспорт передовых чипов в Китай и Объединенные Арабские Эмираты. Американские власти опасались, что ОАЭ могут стать каналом для реэкспорта этой продукции в КНР.

В этой гонке технологий и безопасности каждый шаг игроков находится под пристальным вниманием. Сама идея использовать ИИ для поиска нелояльных сотрудников выглядит символично. Компания, которая создает интеллектуальные системы для общения, теперь использует их для контроля за своими создателями. Вопрос о границах приватности внутри таких корпораций становится все более острым.