Цифрові аватари та клонування голосу: як технології ШІ стали інструментом шахрайства

Створення штучних відео та аудіо за допомогою штучного інтелекту (ШІ) перетворилося на побутову технологію. Щодня соцмережі заполоняють десятки тисяч згенерованих роликів, а зловмисники й ворожа пропаганда використовують цифрових аватарів для маніпуляцій, поширення дезінформації та фінансових афер. Про загрози технологій в ефірі програми “Ранок Вдома” розповіли ШІ-експерти Василь Орищук та Максим Валін.

За словами фахівців, для створення реалістичного відео більше не потрібні великі знімальні команди чи професійні монтажери.

“Достатньо мати близько 30 доларів, аби придбати підписку на декілька сервісів, і ви вже можете збудувати вдома власну лабораторію з генерації діпфейків, — зазначає розробник ШІ-рішень Максим Валін.

Серед найпопулярніших інструментів експерти виділяють платформу HeyGen, яка дозволяє створити цифрового аватара. Приблизно за 20 доларів можна відцифрувати власну особистість і генерувати реалістичні відео.

Для клонування голосу використовують сервіс ElevenLabs, де можна легко зробити україномовний аудіозліпок із урахуванням регіональних акцентів Києва, Волині, заходу, сходу чи центру України. Крім того, для генерації медіаконтенту дедалі частіше задіюють чат-бот Grok.

“У Grok, на відміну від ChatGPT, немає таких яскравих обмежень щодо порушень політики обробки даних, тож він може генерувати діпфейки навіть сексуального характеру”, — застерігає Василь Орищук.

Айтівці наголошують, що цим активно користуються як шахраї, так і ворожі структури. Зловмисники адаптовують голоси під рідних людей, щоб обманювати родини військових, або проходять онлайн-ідентифікацію в банках у реальному часі. 

“Є такий показовий кейс: жінка, яка виїхала до Варшави як біженка, знайшла свого колишнього чоловіка в Миколаєві. Вони придбали підписки на сервіси, які генерують відео та аудіо, викрадали дані людей, а потім завдяки цьому авторизувалися через BankID і проходили онлайн-співбесіди по відеозв'язку, адже діпфейки можуть працювати в реальному часі. У такий спосіб вони оформили на інших людей кредитів на декілька мільйонів гривень”, — розповідає Максим Валін.

Крім того, Росія інвестує мільярди доларів у створення спеціальних лабораторій в Азії та Африці, де щодня монтуються тисячі маніпулятивних відео про мобілізацію чи політику.

Читайте також: Діпфейки стають дедалі реалістичнішими: головні ознаки ШІ-підробок назвали експерти