Цифровые аватары и клонирование голоса: как технологии ИИ стали инструментом мошенничества

Создание искусственных видео и аудио с помощью искусственного интеллекта (ИИ) превратилось в повседневную технологию. Ежедневно социальные сети заполняют десятки тысяч сгенерированных роликов, а злоумышленники и вражеская пропаганда используют цифровых аватаров для манипуляций, распространения дезинформации и финансовых афер. Об угрозах современных технологий в эфире программы “Ранок Вдома” рассказали ИИ-эксперты Василий Орищук и Максим Валин.

По словам специалистов, для создания реалистичного видео больше не нужны большие съемочные группы или профессиональные монтажеры.

“Достаточно иметь около 30 долларов, чтобы приобрести подписку на несколько сервисов, и вы уже можете построить дома собственную лабораторию по генерации дипфейков”, — отметил разработчик ИИ-решений Максим Валин.

Среди самых популярных инструментов эксперты выделяют платформу HeyGen, которая позволяет создать цифрового аватара. Примерно за 20 долларов можно оцифровать собственную личность и генерировать реалистичные видео.

Для клонирования голоса используют сервис ElevenLabs, где можно легко создать украиноязычный аудиослепок с учетом региональных акцентов Киева, Волыни, запада, востока или центра Украины. Кроме того, для генерации медиаконтента все чаще используют чат-бот Grok.

“В Grok, в отличие от ChatGPT, нет столь строгих ограничений в отношении нарушений политики обработки данных, поэтому он может генерировать дипфейки даже сексуального характера”, — предупреждает Василий Орищук.

IT-специалисты подчеркивают, что этими технологиями активно пользуются как мошенники, так и вражеские структуры. Злоумышленники адаптируют голоса под голоса близких людей, чтобы обманывать семьи военнослужащих, или проходят онлайн-идентификацию в банках в режиме реального времени.

“Есть показательный случай: женщина, которая выехала в Варшаву как беженка, нашла своего бывшего мужа в Николаеве. Они приобрели подписки на сервисы, генерирующие видео и аудио, похищали данные людей, а затем благодаря этому авторизовывались через BankID и проходили онлайн-собеседования по видеосвязи, поскольку дипфейки могут работать в реальном времени. Таким образом они оформили на других людей кредиты на несколько миллионов гривен”, — рассказывает Максим Валин.

Кроме того, Россия инвестирует миллиарды долларов в создание специальных лабораторий в Азии и Африке, где ежедневно монтируются тысячи манипулятивных видео о мобилизации или политике.

Читайте также: Дипфейки становятся все более реалистичными: основные признаки ИИ-подделок назвали эксперты