Зображення, відео та голос: як виявити згенерований контент, пояснили ШІ-експерти

Сьогодні технології штучного інтелекту (ШІ) часто використовуються для пропаганди, маніпулювання, дезінформації, формування фейків. Генеруються зображення, відео, клонується голос. Розпізнати згенерований контент непросто, але можна. Про це в проєкті "Обман" на телеканалі "Дім" розповіли експерти зі штучного інтелекту.

"Штучний інтелект існує з 1950-х років. Але масово про нього почали говорити з 2023 року, коли вийшов чат GPT. Він став таким собі технологічним тригером, після якого всі почали говорити про штучний інтелект", — зазначив експерт з ШІ, автор книги “Як генеративний штучний інтелект змінює світ” Олександр Краковецький.

Користувачі соцмереж часто стикаються зі згенерованими зображеннями, навіть не здогадуючись, що це фейки. Наприклад, вони використані в наступних постах за участю нібито українських військових. Ці дописи набрали безліч переглядів, лайків, коментарів. Насправді людей з цих світлин не існує, все це дезінформатори роблять за допомогою штучного інтелекту.

І не всі вподобайки та коментарі під такими постами є справжніми.

"Частина з них — це накрутки, щоб показати, що вже є певне охоплення. І коли людина бачить пост на кшталт "Ой, нас ніхто не привітав з днем одруження" (чи з днем народження, чи ще з чимось), і бачить уже 300 коментарів, що хтось уже вітає, то в неї теж може виникнути бажання приєднатися. Тобто за допомогою накручених коментів і вподобайок залучають органічну аудиторію", — пояснила експертка з медіаграмотності, авторка проєкту “НотаЄнота ” Альона Романюк.

У таких фейкових постів є дві основні цілі. Перша — розкрутка групи в соціальних мережах, щоб через них робити якісь вкидання.

"Наприклад, у групи 20 000 підписників, 100 000 підписників, 200 000 підписників. І між таким нешкідливим контентом потім починають проскакувати дуже шкідливі інформаційні вкидання", — звернула увагу Альона Романюк.

Друга мета — виявлення вразливої аудиторії до конкретного типу фейків.

"Наприклад, є люди, які реагують на військових. Вкидають у групу фотографію українського військового і пропонують: давайте помолимося. А хтось реагує саме на молитви, на релігійний контент. За допомогою таких тем потім можна формувати дуже таргетовані впливи на конкретну аудиторію", — додала спікерка.

Експерт з ШІ Олександр Краковецький назвав ознаки, за якими можна визначити, чи є зображення згенерованим, чи ні:

• якщо зображення надто фотореалістичне, тобто надто красиве, навіть ідеальне, то з великою часткою ймовірності воно згенероване;
• неприродний колір шкіри, неприродні тіні, світло;
• потрібно звертати увагу на деталі: дуже часто на згенерованих фотографіях очі дивляться в різні боки, відблиск в очах різний;
• є явні ознаки: наприклад, у людини на фотографії часто не 5 пальців, а 4 або 6.

"З іншого боку, технології розвиваються досить швидко. І через кілька місяців, можливо, через рік ми матимемо технології, які всі ці проблеми усунуть", — зазначив експерт.

Крім того, штучний інтелект з легкістю може клонувати голос людини. І цим часто користуються шахраї.

Тому фахівці рекомендують бути обережними, коли надсилайте голосові повідомлення через месенджери, а також не вірити всьому, що чуєте. Штучний інтелект легко підробляє голоси настільки точно, що й сама людина не відрізнить свій реальний запис від згенерованого.

Шахраї використовують підроблені голоси, щоб їх було складніше відстежити правоохоронцям. Найвідоміша схема — коли вам телефонують "з банку". Також можуть клонувати голос вашого знайомого, і нібито він вам телефонує і просить позичити гроші.

"Штучний інтелект може скопіювати будь-який голос. Як розрізнити підробку? Звертайте увагу на ритмічність, достатньо впізнавані певні паузи. ШІ менше передає емоції — цей голос майже без емоцій. І він дуже рівний по всій звуковій доріжці. Бо коли модель генерує штучний голос, вона бере саме ту емоцію, яка надана як референс. Але звісно, якщо це коротка доріжка, то все одно буде важко відрізнити", — розповіла експертка з ШІ Марія Гриценко.

Повна версія програми: Волонтер, студент, логопедка і бізнесвумен випробували себе в розпізнаванні фейків у шоу "Обман"

Як повідомлялося раніше, людина говорить неправду в середньому 4 рази на день. Згідно з дослідженнями британських соціологів, понад 80% людей зізналися, що хоча б раз на день говорять неправду. 65% вважають, що потрібно брехати, щоб не образити інших людей. А 45% людей називають щоденну брехню просто перебільшенням, щоб їхні розповіді або події здавалися цікавішими.

Психолог Орест Шупенюк пояснив, що брехня — це механізм виживання в соціумі. А експертка з медіаграмотності Ольга Кравченко розповіла, як відрізнити дезінформацію від правди.

Читайте також: Брехня допомагає виживати в соціумі: як розпізнати обман, пояснив психолог Орест Шупенюк