Изображения, видео и голос: как выявить сгенерированный контент, пояснили ИИ-эксперты

Сегодня технологии искусственного интеллекта (ИИ) часто используются для пропаганды, манипулирования, дезинформации, формирования фейков. Генерируются изображения, видео, клонируется голос. Распознать сгенерированный контент непросто, но можно. Об этом в проекте "Обман" на телеканале "Дім" рассказали эксперты по искусственному интеллекту.

"Искусственный интеллект существует с 1950-х годов. Но массово о нем начали говорить с 2023 года, когда вышел чат GPT. Он стал неким технологическим триггером, после которого все начали говорить об искусственном интеллекте", — отметил эксперт по ИИ, автор книги "Как генеративный искусственный интеллект меняет мир" Александр Краковецкий.

Пользователи соцсетей часто сталкиваются со сгенерированными изображениями, даже не догадываясь, что это фейки. Например, они использованы в следующих постах с участием якобы украинских военных. Данные сообщения набрали множество просмотров, лайков, комментариев. На самом деле людей с этих фотографий не существует, все это дезинформаторы делают с помощью искусственного интеллекта.

И не все лайки и комментарии под такими постами являются настоящими.

"Часть из них — это накрутки, чтобы показать, что уже есть определенный охват. И когда человек видит пост вроде "Ой, нас никто не поздравил с днем бракосочетания" (или с днем рождения, или еще с чем-то), и видит уже 300 комментариев, что кто-то уже поздравляет, то у него тоже может возникнуть желание присоединиться. То есть с помощью накрученных комментов и лайков привлекают органическую аудиторию", — пояснила эксперт по медиаграмотности, автор проекта "НотаЄнота" Алена Романюк.

У таких фейковых постов есть две основные цели. Первая — раскрутка группы в социальных сетях, чтобы через них делать какие-то вбросы.

"Например, у группы 20 000 подписчиков, 100 000 подписчиков, 200 000 подписчиков. И между таким безобидным контентом потом начинают проскакивать очень вредные информационные вбросы", — обратила внимание Алена Романюк.

Вторая цель — выявление уязвимой аудитории к конкретному типу фейков.

"Например, есть люди, которые реагируют на военных. Вбрасывают в группу фотографию украинского военного и предлагают: давайте помолимся. А кто-то реагирует именно на молитвы, на религиозный контент. С помощью таких тем потом можно формировать очень таргетированные воздействия на конкретную аудиторию", — добавила спикер.

Эксперт по ИИ Александр Краковецкий назвал признаки, по которым можно определить, является ли изображение сгенерированным, или нет:

• если изображение слишком фотореалистичное, то есть слишком красивое, даже идеальное, то с большой долей вероятности оно сгенерировано;
• неестественный цвет кожи, неестественные тени, свет;
• нужно обращать внимание на детали: очень часто на сгенерированных фотографиях глаза смотрят в разные стороны, блик в глазах разный;
• есть явные признаки: например, у человека на фотографии часто не 5 пальцев, а 4 или 6.

"С другой стороны, технологии развиваются довольно быстро. И через несколько месяцев, возможно, через год мы будем иметь технологии, которые все эти проблемы устранят", — отметил эксперт.

Кроме того, искусственный интеллект с легкостью может клонировать голос человека. И этим часто пользуются мошенники.

Поэтому специалисты рекомендуют быть осторожными, когда отправляйте голосовые сообщения через мессенджеры, а также не верить всему, что слышите. Искусственный интеллект легко подделывает голоса настолько точно, что и сам человек не отличит свою реальную запись от сгенерированной.

Мошенники используют поддельные голоса, чтобы их было сложнее отследить правоохранителям. Наиболее известна схема — когда вам звонят "из банка". Также могут клонировать голос вашего знакомого, и якобы он вам звонит и просит одолжить деньги.

"Искусственный интеллект может скопировать любой голос. Как различить подделку? Обращайте внимание на ритмичность, достаточно узнаваемые определенные паузы. ИИ меньше передает эмоции — этот голос почти без эмоций. И он очень ровный по всей звуковой дорожке. Потому что когда модель генерирует искусственный голос, она берет именно ту эмоцию, которая предоставлена как референс. Но конечно, если это короткая дорожка, то все равно будет трудно отличить", — рассказала эксперт по ИИ Мария Гриценко.

Полная версия программы: Волонтер, студент, логопед и бизнесвумен испытали себя в распознании фейков в шоу "Обман"

Как сообщалось ранее, человек говорит неправду в среднем 4 раза в день. Согласно исследованиям британских социологов, более 80% людей признались, что хотя бы раз в день говорят неправду. 65% считают, что нужно врать, чтобы не обидеть других людей. А 45% людей называют ежедневную ложь просто преувеличением, чтобы их рассказы или события казались более интересными.

Психолог Орест Шупенюк пояснил, что ложь — это механизм выживания в социуме. А эксперт по медиаграмотности Ольга Кравченко рассказала, как отличить дезинформацию от правды.

Читайте также: Ложь помогает выживать в социуме: как распознать обман, пояснил психолог Орест Шупенюк