Что такое дипфейк и почему от него может быть не только польза

В последние годы дипфейки стали одной из самых обсуждаемых технологий. С их помощью можно заменить лица и голоса людей на видео и аудиозаписях. Нужно знать, что такое дипфейк и как он работает.

КЛЮЧЕВЫЕ МОМЕНТЫ

Данный текст создан автоматически при помощи ИИ и не проходил проверку редактора, поэтому может содержать фактологические или грамматические ошибки. Подробности в публикации

• Дипфейк - это технология искусственного интеллекта, использующая глубокое машинное обучение для создания поддельных видео, аудио или изображений, которые выглядят как настоящие.
• Дипфейки применяются в разных сферах - от развлечений и киноиндустрии до медицины и образования, но также несут риски распространения дезинформации и мошенничества.
• По мнению Министерства внутренней безопасности США, основная угроза дипфейков связана со склонностью людей верить тому, что они видят, что может использоваться для манипуляций.

Это технология ИИ

Что такое дипфейк? Дипфейк — это технология, которая использует искусственный интеллект и машинное обучение для создания поддельных видео, аудио или изображений. После обработки они выглядят как настоящие. С помощью дипфейков можно создать видео, где человек говорит или делает то, что на самом деле не говорил и не делал. Основой таких видео обычно становятся нейронные сети, которые обучаются на больших наборах данных изображений или записей нужного человека, чтобы синтезировать его максимально реалистичное изображение или голос.

На сайте Университета Вирджинии пишут, что дипфейк — это сгенерированное фото или видео с помощью «глубокого» машинного обучения, который основан на том, что ИИ «скармливают» множество примеров. На их основе он и учится производить похожие результаты и генерировать заданный материал.

Машинное обучение аналогично тому, как обучаются люди. К примеру, когда человек, начиная с младенчества, пробует что-то новое съесть и определяет, насколько ему это нравится и съедобно ли вообще. На основе полученного опыта он делает вывод о тех вещах, которые пробовал. Подобным образом работает машинное обучение. ИИ анализирует изображения в интернете и генерирует похожее на основе существующих данных.

Дипфейки создают за счет глубокого обучения

Глубокое обучение — это вид машинного обучения, который включает скрытые слои. Как правило, для него используются нейросети, которые работают по подобию человеческого мозга, как он изучает и анализирует информацию. Скрытый слой — это ряд узлов в сети, которые выполняют математические вычисления для преобразования входных сигналов в выходные сигналы. Чем больше таких слоев в нейронной сети, тем она глубже.

Как работает дипфейк? Процесс создания сложных дипфейков на самом деле включает два алгоритма. Один алгоритм обучен создавать наилучшие возможные поддельные копии реальных изображений. Другая модель обучена определять, когда изображение поддельное, а когда нет. Две модели повторяются, и каждая становится лучше в своей соответствующей задаче. В конечном итоге получается модель, которая чрезвычайно искусна в создании поддельных изображений.

Их делают при помощи ИИ

Как сделать дипфейк? Сейчас ИИ уже далеко продвинулся в создании дипфейков, и делать их очень просто. В разных сервисах процесс может отличаться, но в общем инструкция такая:

1. Выберите любой сервис или ПО для создания дипфейков, которое найдете в интернете.
2. Загрузите материал, на котором нужно сделать дипфейк.
3. Загрузите лицо, которое нужно добавить на выбранный материал.
4. Сгенерируйте дипфейк.

Научный писатель газеты The Guardian Ян Сэмпл пишет, что для создания видео с заменой лиц требуется несколько шагов. Сначала нужно дать ИИ проанализировать лица двух людей. Сперва система с помощью первого алгоритма находит и изучает их сходства, после чего сводит к общим чертам, сжимая изображения в процессе. Затем с помощью второго алгоритма ИИ обучается восстанавливать лица из сжатых изображений.

Замена лица уже происходит при помощи реконструкции на основе проанализированных изображений. По сути, ИИ удаляет лицо с изображения человека, которому нужно его заменить, а затем поверх воссоздает новое лицо с сохранением всех пропорций и мимики.

Дипфейки можно встретить везде

Дипфейки применяют в самых разных областях, от индустрии развлечений до медицины и маркетинга. Вот несколько примеров использования:

1. Развлечения и киноиндустрия. В фильмах дипфейки позволяют омолаживать актеров для флешбэков или для ролей, которые требуют молодого облика. С помощью технологии дипфейк можно «воскрешать» актеров для их участия в новых фильмах или рекламных кампаниях, как это было с Кэрри Фишер в «Звездных войнах».
2. Маркетинг и реклама. Некоторые бренды создают дипфейк-версии известных лиц или полностью виртуальных персонажей, чтобы продвигать свои продукты в социальных сетях.
3. Обучение. С помощью дипфейков могут создавать виртуальных преподавателей, которые объясняют сложные темы. Их можно настроить под разные языки и уровни подготовки.
4. Медицина. В медицине дипфейк-технологии помогают создавать реалистичные симуляции пациентов для отработки навыков у врачей и медицинского персонала.
5. Игры и виртуальная реальность. В играх и VR-средах с помощью дипфейков можно оживлять игровых персонажей, делая их эмоции и мимику реалистичнее.

Дипфейки могут использоваться в дезинформации, мошенничестве, кибербуллинге и распространении фальшивых новостей. Многие страны активно изучают способы регулирования использования дипфейков, чтобы ограничить их потенциальный вред.

Они несут угрозу

В заметке Министерства внутренней безопасности США «Растущая угроза от дипфейков» указано, что угроза дипфейков и сгенерированного контента исходит не от технологий, которые используют для их создания, а от склонности человека верить в то, что он видит. Из-за этого можно легко распространять дезинформацию среди людей, которые пока еще не могут отличать сгенерированный контент от созданного человеком.

В то же время ИИ становится все лучше, а его результаты все более похожи на то, что мог бы создать человек. Если говорить о дипфейкаx, вскоре замененные лица людей на фото и видео будет практически невозможно отличить от реальных.

В работе международной консалтинговой корпорации «Дипфейки: Реальная угроза» пишут, что дипфейки вызывают опасения у руководителей разных отраслей. Они могут нести угрозу для кибербезопасности и конфиденциальности персональных данных. Многие руководители служб безопасности считают, что с помощью сгенерированного контента легче всего манипулировать людьми, которые работают на дому. В целом основная опасность дипфейков — дезинформация.

Дипфейк — это технология, которая открывает перед нами огромные возможности в различных сферах от киноиндустрии до маркетинга и образования. Она позволяет творить удивительные вещи, создавать виртуальных персонажей и погружать зрителя в яркие и уникальные миры. Однако вместе с этим дипфейки несут в себе серьезные риски, поскольку их можно использовать для создания дезинформации, манипулирования общественным мнением и подрыва доверия к визуальным и аудиоматериалам.