BBC: Синтезированный ИИ голос способен обмануть системы банковской безопасности

Искусственный интеллект теперь может клонировать человеческие голоса так хорошо, что они почти неотличимы от настоящих. К такому выводу пришло издание BBC в ходе эксперимента, проведённого в рамках Недели безопасности от мошенничества. Журналисты смогли продемонстрировать уязвимость голосовой идентификации в банках.

Проблема становится все более актуальной — уже известны случаи использования поддельных голосов знаменитостей мошенниками. Среди пострадавших оказался защитник прав потребителей Мартин Льюис, а актер Джеймс Несбитт был поражён качеством имитации своего голоса. Есть также видео, которое демонстрирует, насколько непросто ему было отличить свой голос от ИИ:

Опираясь на этот и другие случаи, в BBC решили провести эксперимент, касающийся безопасности. Для этого журналистка BBC создала клон собственного голоса с помощью того же эксперта, который работал с Несбиттом. Достаточно было короткого радиоинтервью, чтобы получить убедительную копию. Коллеги с трудом могли отличить настоящий голос от искусственного.

Журналисты поставили себе целью проверку не способность обмануть людей как таковую, а возможность преодолеть банковские системы безопасности. Многие банки используют технологию Voice ID («мой голос — мой пароль») для идентификации клиентов по телефону.

Выяснилось, что клонированный голос успешно прошел проверку в двух крупных банках — Santander и Halifax. Причем это удалось сделать как через профессиональное оборудование, так и через обычный динамик планшета. Единственным препятствием оставалась необходимость звонить с зарегистрированного телефона клиента.

Представители банков заявили, что случаев мошенничества с использованием Voice ID пока не зафиксировано, и что это лишь один из элементов многоуровневой системы безопасности. Однако эксперт по кибербезопасности Саж Хук выразил обеспокоенность результатами эксперимента, назвав это ярким примером рисков, связанных с развитием генеративного ИИ.