Технология дипфейк использует передовые алгоритмы искусственного интеллекта для создания фальшивых, но реалистичных фотографий, видео или аудиозаписей.
Люди, изображенные в этих материалах, могут говорить или делать то, чего они никогда не говорили и не делали.
Как работает технология дипфейка?
Дипфейки полагаются на нейронные сети – компьютерные системы, имитирующие функционирование человеческого мозга для распознавания закономерностей в данных. Создание дипфейка обычно требует обработки сотен или тысяч изображений через искусственную нейронную сеть, чтобы «обучить» ее идентифицировать и воссоздавать закономерности, чаще всего лица.
Работа алгоритмов, используемых для дипфейков, основана на двух принципах. Во-первых, алгоритмы развивают глубокое понимание лица одного человека и учатся назначать эти черты лицу другого. У людей рот, глаза и нос расположены примерно в одном и том же месте, поэтому алгоритм может анализировать особенности этой анатомии и учиться на них с исключительным уровнем детализации. Во-вторых, ИИ манипулирует функциями второго видео, чтобы они соответствовали функциям, видимым в первом. Алгоритм делает все это, сохраняя общий стиль и внешний вид исходного видео.
В основе дипфейков лежат различные технологии искусственного интеллекта, включая автокодировщики и генеративно-состязательные сети (GAN). Автоэнкодер – это нейронная сеть, обученная воспроизводить входные данные из упрощенного представления. GAN состоит из двух конкурирующих нейронных сетей: одна пытается создавать ложные изображения, а другая пытается их обнаружить. Эта конкуренция приводит к появлению все более убедительных дипфейков.
Применение дипфейков
Технология дипфейк имеет как невинное, так и опасное применение. Его можно использовать в сфере развлечений, электронной коммерции и коммуникаций, позволяя синтезировать речь и манипулировать лицом, создавая впечатление, что человек говорит на другом языке. В последнем фильме об Индиане Джонсе актер Харрисон Форд выглядит моложе 40 лет. Создатели использовали искусственный интеллект, чтобы найти все записи актера, сделанные несколько десятилетий назад, и создать более молодую версию Форда.
Однако дипфейки также используются для таких злоупотреблений, как порнография, дезинформация, влияние на политику и выборы, а также разжигание социальных волнений (дестабилизация государства). Популярной формой является оскорбление с использованием изображения или голоса. В крайних случаях преступники вымогают деньги, выдавая себя за других людей. Технология дипфейк может оказать сильное влияние на этические и юридические вопросы, такие как имидж человека в будущем. В последнее время ведется много дискуссий о том, стоит ли рассматривать возможность защиты авторских прав на свое изображение, если оно в настоящее время является основой для получения прибыли.
Влияние дипфейков на общество
Обнаружение дипфейков – серьезная задача. Методы обнаружения обычно используют ИИ для анализа видео на наличие цифровых артефактов или деталей, которые дипфейки не могут реалистично имитировать. В настоящее время ИИ имеет множество недостатков в воспроизведении внешности и поведения человека, таких как моргание и мимика. Однако инструменты обнаружения мошенничества необходимо регулярно обновлять, чтобы не отставать от все более сложных методов дипфейков.
Дипфейки могут подорвать веру в создание общедоступного аудиовизуального контента, что приведет к созданию общества с нулевым доверием, в котором люди не смогут отличать правду от лжи. Фейковые новости могут затруднить обнаружение реальных доказательств правонарушений и даже представлять регулярную угрозу личной безопасности, например, из-за мошенничества с синтезатором голоса.
Решения и будущее дипфейков
Информирование общественности о дипфейках, маркировка СМИ и отслеживание информации для проверки ее подлинности – вот лишь некоторые из предлагаемых стратегий борьбы с этим явлением. Будет большой проблемой подготовить общество к новым угрозам, и старение населения и цифровая изоляция не облегчают эту задачу.
Поскольку технология дипфейков становится все более доступной и сложной, общество должно решать проблемы, связанные с правовой защитой, этикой и доверием к СМИ в эпоху цифровых технологий.
