Что такое дипфейк: как распознать подделку

Вам звонит «директор» компании и на повышенных тонах требует срочно перевести деньги на новый счёт — а голос на другом конце линии звучит один в один как у настоящего начальника. Ещё недавно это было сюжетом фантастики, а сегодня так работают мошенники. Объясняет это ровно то, что такое дипфейк: технология, которая с помощью нейросетей подменяет лицо, мимику или голос человека в видео или аудио так убедительно, что отличить подделку на глаз почти невозможно.

Как работает дипфейк

Дипфейк создаёт нейросеть, которая обучается на фотографиях, видео или аудиозаписях конкретного человека, а затем накладывает его лицо, мимику или голос на другой ролик. Чаще всего в основе лежат генеративно-состязательные сети: одна модель генерирует подделку, вторая пытается её разоблачить, и в этом соревновании обе становятся точнее. Чем больше исходного материала, тем правдоподобнее результат, поэтому в зоне риска в первую очередь публичные персоны: у знаменитостей, политиков и топ-менеджеров компаний в открытом доступе тысячи часов записей голоса и видео.

Где дипфейки встречаются в реальной жизни

Самый частый сценарий — мошенничество. Голосовые дипфейки используют для звонков от имени руководителя с просьбой срочно перевести деньги, а видео — для роликов с поддельными знаменитостями. Известны случаи, когда мошенники публиковали видео с якобы Илоном Маском, который «лично» призывал зрителей перевести Ethereum на определённый адрес ради удвоения — доверчивые пользователи отправляли реальные средства прямо в кошелёк злоумышленников. Но у технологии есть и легальное применение: дублирование фильмов на другие языки с сохранением мимики актёра, омоложение персонажей в кино, виртуальные примерочные и озвучка для людей, потерявших голос из-за болезни.

Что часто путают: дипфейк и обычный монтаж

Дипфейк — это не фотошоп и не склейка кадров в видеоредакторе, а именно синтез, сгенерированный нейросетью с нуля на основе обучающих данных. Обычный монтаж вырезает или переставляет реальные фрагменты, а дипфейк создаёт то, чего никогда не было, — например, слова, которые человек никогда не произносил. Есть и промежуточный вариант, так называемый чипфейк: видео, вырванное из контекста или замедленное без всякого использования ИИ, но способное ввести в заблуждение не хуже настоящей подделки.

Как распознать дипфейк

Прямого стопроцентного способа нет, но есть набор признаков, которые стоит проверять в комплексе, а не по одному. На что обратить внимание:

• Неестественное или редкое моргание, застывший взгляд
• Рассинхрон между движением губ и звуком речи
• Странные тени, блики или отражения в очках и на коже
• Монотонная интонация голоса, неровные паузы и дыхание
• Артефакты на границе лица, волос и шеи, «плывущие» контуры
• Отсутствие оригинала ролика на официальных каналах героя видео

Стоит ли всего бояться

Не стоит: подавляющее большинство видео и аудио в интернете — не дипфейки, а обычный контент, и паранойя тут мешает не меньше, чем доверчивость. Но по мере того как инструменты для создания синтетических медиа дешевеют и упрощаются, критическое отношение к неожиданным просьбам «от начальства» или сенсационным роликам со звёздами становится такой же базовой цифровой гигиеной, как проверка ссылок в письмах.

Подробнее о похожих мошеннических схемах — в материале как распознать фишинг и защититься от кибератак. Разработчики соцсетей и мессенджеров тоже реагируют: появляются пометки об ИИ-контенте и инструменты автоматического обнаружения синтеза, хотя они пока далеки от идеала.

Как защититься: короткий чек-лист

• Не принимайте финансовые решения на основании одного видео или звонка — перепроверьте по другому каналу связи
• Для звонков от имени руководства заведите кодовое слово внутри команды

Включите двухфакторную аутентификациюдвухфакторную аутентификацию на всех важных аккаунтах, чтобы даже украденные данные не дали доступа к ним.

Ищите первоисточник ролика на официальных площадках, а не только в пересланных сообщениях, и помните: публичные фотографии и видео — тоже часть цифрового следацифрового следа, и чем его меньше в открытом доступе, тем сложнее собрать материал для подделки.

Дипфейки — не повод отказываться от видеозвонков или соцсетей, а повод относиться к неожиданным просьбам и сенсациям чуть внимательнее. Технология развивается в обе стороны: одни нейросети учатся подделывать всё правдоподобнее, другие — распознавать подделку быстрее. Пока это соревнование продолжается, самый надёжный инструмент остаётся прежним — здоровая привычка проверять источник прежде, чем действовать.