Ілля Зав'ялов розбирає, де закінчується дипфейк і починається клон голосу

Навіщо розрізняти чотири слова

Словник підробок складався швидше, ніж встигали домовлятися про значення слів. Технології з'являлися одна за одною, а назви для них брали з новин, з реклами постачальників і з розмовної мови. У підсумку одне слово почало позначати кілька різних явищ, а одне явище отримало кілька назв. Для розмови на кухні такої точності достатньо, для заяви про злочин уже замало.

Ціна плутанини стає видимою в момент, коли потрібна чужа дія. Банк відкриває різні процедури для випадку з підробленим голосом клієнта і для випадку з вигаданим клієнтом, якого ніколи не існувало. Платформа знімає ролик за скаргою на використання чужої зовнішності і залишає той самий ролик, якщо у скарзі написано щось загальне про штучний інтелект. Слово в першому рядку звернення визначає, до якого відділу воно потрапить і скільки днів пролежить у черзі. Точність тут працює як швидкість.

Розбір нижче тримається трьох запитань до будь-якого матеріалу. Що саме підроблено, чи стоїть за підробкою реальна людина і навіщо матеріал зробили. Відповіді на ці три запитання дають назву точніше, ніж інтуїція та звичка. Далі кожен термін розібрано окремо, а потім показано місця, де вони перетинаються між собою.

Дипфейк: підміна конкретної людини у кадрі

Дипфейком коректно називати відео чи фото, де зовнішність конкретної людини перенесено на чуже тіло або у вигадану сцену. Ключова ознака цього терміна лежить у наявності прототипу. Хтось реальний має бути впізнаним, інакше слово втрачає зміст. Глядач дивиться на знайоме обличчя і робить висновок про людину, яка нічого подібного не робила і не казала. Саме цей розрив між обличчям і вчинком утворює шкоду.

Під цю назву потрапляє кілька різних технік. Обличчя можуть накласти на актора у знятому ролику, можуть переписати рухи губ під іншу звукову доріжку, можуть оживити одну фотографію і змусити її говорити. Для потерпілого різниця між цими способами невелика, бо результат виходить однаковий. Для перевірки різниця суттєва, бо кожен спосіб залишає свої сліди на межах обличчя, у волоссі, у відблисках на окулярах.

Слово розтягнули на все підряд, і від цього воно стерлося. Дипфейком стали називати рекламний ролик з намальованим ведучим, аудіозапис без жодної картинки і навіть текст, написаний моделлю. У всіх цих випадках зникає головна ознака, бо впізнавати нікого. Коли термін вживають так широко, отримувач скарги перестає розуміти, яку саме норму йому застосувати. Ілля Зав'ялов у таких розборах радить починати з питання про прототип, бо воно відсікає половину помилок одразу.

Практична вага точної назви видно на прикладі скарги. Вимога прибрати дипфейк спирається на право людини розпоряджатися власним зображенням і на заборону вводити глядача в оману щодо особи. Для платформи це зрозуміла конструкція з відпрацьованою процедурою. Загальна фраза про згенерований контент такої процедури не вмикає.

Клон голосу: підробка, яка живе у звуці

Клон голосу означає відтворення тембру, темпу і характерних пауз конкретної людини. Картинка тут не потрібна взагалі, підробка існує у звуці і живе в телефонній лінії, у голосовому повідомленні, у записі автовідповідача. Прототип, як і в дипфейку, реальний і впізнаваний. Різниця між двома термінами проходить рівно по носію.

Технічний поріг опустився дуже низько. Переконливий клон збирають із запису тривалістю близько трьох секунд, а точність відтворення оцінюють приблизно у вісімдесят п'ять відсотків. Три секунди набираються з голосового привітання, з короткого відео у стрічці, з відповіді на дзвінок невідомого номера. учасники того ж експерименту вгадували підробний голос лише у 37,5 відсотка спроб. Слух перестав бути надійним доказом особи.

навіть за короткий період видно, як швидко росте цей канал шахрайства. Голосовий фішинг із клонованим голосом за один квартал додав 1633 відсотки. Телефон зручний для нападника тим, що не залишає видимих слідів обробки, які показує відео. Співрозмовник чує знайому інтонацію, поспішає і не встигає засумніватися.

Назва має значення для банківської процедури. Якщо у зверненні написано про клон голосу, банк перевіряє голосову автентифікацію, записи дзвінків і телефонний канал. Якщо там написано про дипфейк, перевірка може піти шляхом відео і зупинитися ні на чому. Одне точне слово економить тижні листування.

Синтетична особа: персонаж, за яким нікого немає

Синтетична особа означає повністю вигадану людину. У неї є обличчя, ім'я, професія, місто, історія публікацій і коло знайомств. Прототипу за нею немає, тому нема кого запитати і нема чиє право на зображення захищати. Такий персонаж живе довше за окремий ролик, бо його завдання полягає в накопиченні довіри. Час у цій схемі працює на нього.

Типові ролі таких персонажів повторюються. Рекрутер, який веде до тестового завдання і до оплати за навчання, консультант з інвестицій, який місяцями пише в месенджер, автор коментарів, який підтримує потрібну думку в обговореннях. У кожній ролі цінність персонажа зростає з кожним тижнем спілкування. Тому скарга на нього стає результативною тільки тоді, коли доходить до платформи раніше за гроші.

Скаржитися на синтетичну особу складніше через відсутність потерпілого від використання зовнішності. Захист тут будується на факті обману і на порушенні правил платформи про фальшиві акаунти. Доказом стає слід у часі: дата створення профілю, збіг тексту з іншими сторінками, однакові фотографії в кількох мережах, порожня історія до певного місяця. Такий доказ збирається довше, зате він стійкіший до заперечень.

Генеративна підробка: родова назва для всього

Генеративна підробка працює як парасолька над усіма попередніми словами. Під нею вміщується будь-який матеріал, зроблений моделлю і поданий як справжній: текст листа, скан документа, фотографія товару, голос, відео, відгук у картці компанії. Спільна ознака одна, і вона стосується походження матеріалу. Ознаки носія та прототипу тут навмисно винесені за дужки.

Родовий термін корисний рівно там, де спосіб виготовлення поки невідомий. Коли на руках є підозрілий скан, а експертизи ще не було, чесніше написати про згенеровану підробку, ніж вигадати техніку. У внутрішньому звіті така формула теж доречна, бо вона збирає різні епізоди в одну категорію. Загальний рахунок за квартал легше вважати саме в таких словах.

Шкода від цього терміна починається там, де він витісняє конкретику. Заява, у якій написано тільки про генеративну підробку, змушує отримувача самому здогадуватися про носій і про потерпілого. Здогадуватися він не буде, бо в нього черга з таких самих звернень. Тому родове слово доречне в описі проблеми і зайве в рядку про вимогу.

Три запитання, які проводять межу

Перше запитання стосується носія. Підробили звук, нерухоме зображення, відео, текст чи цілий пакет документів. Відповідь на нього одразу відсікає половину термінів і визначає, який спеціаліст дивитиметься матеріал. Голосом займається одна команда, відео інша, документами третя.

Друге запитання стосується прототипу. Треба зрозуміти, чи стоїть за підробкою реальна впізнавана людина, чи вигаданий персонаж без адреси в реальному світі. Якщо прототип є, працюють дипфейк і клон голосу, а разом з ними право на власне зображення та ім'я. Якщо прототипу немає, залишається синтетична особа і правила платформи про фальшиві акаунти.

Третє запитання стосується мети. Одні схеми беруть гроші протягом одного дзвінка, інші тижнями будують стосунки заради доступу до рахунку чи до корпоративної пошти. Швидка схема вимагає негайного блокування платежу, повільна вимагає збереження листування і зняття профілю. Мета визначає, що робити першим, і саме вона найчастіше випадає з опису.

Разом три відповіді складають робочу назву за хвилину. Дзвінок від знайомого голосу з проханням оплатити рахунок описується як клон голосу з фінансовою метою і реальним прототипом. Профіль консультанта, який півроку писав про інвестиції, описується як синтетична особа з довгою підготовкою. Обидва описи вміщуються в один рядок і не потребують експертизи.

Змішані випадки, де межа розмивається

Реальні схеми рідко тримаються одного терміна. Типовий корпоративний епізод збирає одразу три: обличчя керівника у короткому відеодзвінку, його ж голос у наступному телефонному дзвінку і листування з вигаданим колегою з фінансового відділу. Кожен елемент окремо виглядає слабко і легко пояснюється випадковістю. Разом вони закривають три канали перевірки, до яких звик співробітник. Опис такого епізоду має перелічувати всі три складові, інакше половина доказів залишиться без застосування.

Окремо стоять підробки, зроблені без жодної моделі. Справжній запис виступу з підміненим підписом, вирізана з контексту фраза, старе відео, видане за вчорашнє, працюють не гірше за складну генерацію. Технічна експертиза в таких випадках нічого не знайде, бо файл справжній. Захист будується на джерелі та даті, і слово про штучний інтелект тут тільки заважає.

Третій змішаний тип виріс із перекладу. Реальне інтерв'ю переозвучують чужою мовою, підганяють рух губ і додають кілька нових речень посередині. Формально в кадрі та сама людина і той самий запис, а зміст уже змінений. Такі матеріали найважче знімати, бо частина ролика справжня і скарга потребує точної позначки таймкоду.

Чому статистика бачить ці межі погано

Офіційні звіти тільки почали розділяти ці явища. У річному підсумку центру скарг на інтернет-злочини вперше з'явилася позначка про зв'язок зі штучним інтелектом, і під неї потрапило понад двадцять дві тисячі звернень приблизно на дев'ятсот мільйонів доларів. Цифра виглядає великою рівно доти, доки її не порівняти з рештою звіту. Порівняння змінює висновок повністю.

З інвестиційних схем, які дали понад вісім мільярдів доларів заявлених втрат, позначку про штучний інтелект отримали лише шістсот тридцять два мільйони. Пояснення просте: потерпілий рідко знає, з чим мав справу. Людина чула голос і бачила профіль, а спосіб виготовлення залишився за кадром. Позначка фіксує помічене, тому вона більше говорить про уважність тих, хто заповнював форму.

Практичний висновок звідси стосується мови звернення. Якщо описувати те, що бачив і чув, а здогадки про техніку виносити в окреме речення, звернення проходить швидше і потрапляє в потрібну статистику. Опис голосу з дзвінка коштує більше за припущення про модель. Здогад можна написати наприкінці, позначивши його як припущення.

Як назва впливає на реакцію отримувача

Найбільша категорія звернень у споживчій статистиці стосується видавання себе за іншого. За рік це понад мільйон звернень і приблизно три з половиною мільярди доларів заявлених втрат, тобто майже кожне третє звернення загалом. Усі чотири терміни цієї статті обслуговують один сюжет: хтось видає себе за того, ким він не є. Різниця між ними полягає лише в інструменті.

Дві менш очевидні цифри з тієї самої добірки корисні для рішення про подання. Типова втрата за одним зверненням про видавання себе за іншого тримається на рівні близько семисот доларів. При цьому в чотирьох зверненнях з п'яти грошової втрати не було зовсім. Спроб набагато більше, ніж успіхів, і кожна невдала спроба теж варта фіксації. Саме такі звернення показують нові сценарії раніше, ніж вони встигнуть спрацювати на комусь іншому.

Перший рядок звернення варто складати за формулою з трьох елементів. Канал, у якому все сталося, носій підробки і наявність прототипу. Речення на кшталт «телефонний дзвінок, клонований голос керівника, прототип реальний» працює краще за абзац емоцій. Далі можна описувати деталі скільки завгодно, бо адресат уже зрозумів, куди передати справу.

Що робити зі словником на практиці

Словник має сенс тільки тоді, коли ним користуються послідовно. Один термін для одного епізоду від першого повідомлення до останнього листа економить години пояснень. Зміна назви посеред листування виглядає як зміна показань і дає отримувачу привід повернути звернення на уточнення. Дисципліна тут коштує дешево і приносить багато.

Оригінал матеріалу зберігають до будь-яких дій. Файл дзвінка, повне відео, знімок профілю з датою і адресою сторінки мають цінність рівно доти, доки їх не видалили з боку платформи. Після зняття ролика доказ зникає разом з ним, і розмова з банком перетворюється на розмову про враження. Копія на власному диску вирішує цю проблему за хвилину.

Головна користь від точних слів полягає у зниженні тривоги. Коли явище має ім'я і межу, воно перестає бути суцільною загрозою і перетворюється на набір знайомих сценаріїв. Ілля Зав'ялов будує розбори саме навколо цієї ідеї: назвати, відокремити, описати дію. Далі залишається технічна робота, яку вже видно і яку можна планувати.