Face swap

FaceFusion - это продукт одного из разработчиков популярного дипфейка Roop. Дело в том, что у них произошел разлад, проект Roop закрался, а команда разошлась.

В целом, FaceFusion - это тот же самый Roop, только с интерфейсом на базе Gradio, который многие знают по Stable Diffusion от Automatic1111

Тем не менее множество функций тут вынесены из командной строки в интерфейс.

FRAME PROCESSORS - этот модуль отвечает за обработку кадров.
face_swapper - просто замена лица
face_enhancer - улучшение лица (через GFPGAN)
frame_enhancer - новая опция, апскейлит весь кадр.

EXECUTION PROVIDERS - тут вы выбираете ваш бэкенд, через что будет идти обработка. На видеокартах Nvidia это Cuda либо TensoRT, на AMD это DirectML (DML), если запускать на Windows.

Остальные же параметры в блоке EXECUTION отвечают за скорость обработки. Больше потоков - больше скорость, больше потребление видеопамяти. Поэтому выставляйте в меру, большое количество потоков может привести к вылету либо к замедлению работы.

MAX MEMORY - лимит потребления оперативной памяти.

OUTPUT VIDEO ENCODER - через какой енкодер будут собраны кадры в видео, после замены лица. Для видеокарт Nvidia можно использовать NVENC, так как он базируется на аппаратном ускорении.


KEEP FPS, KEEP TEMP, SKIP AUDIO - Отвечают за то, чтобы Сохранить фпс оригинального видео, оставить временную папку с раскадровками и пропустить аудио.

Средний блок отвечает за выбор файлов с которыми мы будем работать.

SOURCE - фото с лицом, на которое будем менять

TARGET - фото или видео, в котором будем менять лицо

OUTPUT PATH - где будет сохранено видео. Также в Output появится итоговое видео

Третий блок содержит в себе:

PREVIEW - Тут вы можете посмотреть как будет выглядеть замена.
FACE RECOGNITION - выбор распознавания лиц. Либо на основе референса, либо все лица.

REFERENCE FACE - тут как раз и будут лица, распознанные на кадре из превью. Выбирая их, вы выбираете какое лицо будет меняться в кадре.

Оставшиеся параметры отвечают за настройки анализа лиц.

Что касается скорости работы - я не заметил разницы с последней версией Roop. Все примерно точно так же, шустро, но можно и шустрее (Refacer и Rope тому примеры)

Как обычно, я сделал портативную версию с запуском в 1 клик. Пока что готова версия для Nvidia, версия для AMD будет позже, ссылку на нее оставлю у себя в Телеграм канале.

Скачать портативную версию можно по ссылкам:

Мое облако | Яндекс Диск

Особенности портативной сборки:
- Запуск в 1 клик, не надо ничего устанавливать
- Удалена 18+ цензура.
- Обновлены библиотеки CUDA (Cudnn 8.9.4)

После открытия программы, откройте в браузере адрес, который будет написан в консоли (обычно http://127.0.0.1:7860)

Последующие обновления, а так же другие дипфейки можно найти у меня в Телеграм канале, а пообщаться на тематику всего, что связано с нейронками - можно в нашем чате.

DeepFake видео, коррекция фото и видео, удаление лишних объектов на фото и видео, работа в дипфейк фотошоп афтер эффектс. Можно заменить лица на фото, на постерах даже в фильме в разумный срок, на видео итд. Стоимость зависит от объема. Интересно пишите в личку или в комментарии.

Rope - это форк популярного дипфейка roop, но серьёзно переработанный автором. Во-первых, он заточен и оптимизирован под видеокарты Nvidia. Во-вторых, у него абсолютно новый подход к графическому интерфейсу, который теперь позволяет реал-тайм выбрать замену нескольких лиц в видео, а также следить за процессом за окном предпросмотра. Кроме этого, все настройки вынесены из командной строки в интерфейс.

Поясняющая картинка от автора программы:

Оригинальный код проекта можно найти на GitHub.

Портативную версию с запуском в 1 клик можно скачать либо с Яндекс Диска либо с Облака.

Более подробный обзор я сделал в видео на YouTube, ибо для понимания некоторых аспектов лучше показать, чем рассказать, а тут пробежимся по основным аспектам работы с программой.

Для начала нам надо выбрать папку с лицами для замены, папку, где лежат видео, где мы будем менять лицо и папку куда будет все сохраняться. Лучше подготовить для этого отдельные папки. Затем нажать Загрузить модели.

После чего выбираем нужное нам видео и проматываем его на тот фрагмент, где находится лицо которое мы будем менять. Нажимаете Найти лица и оно появляется в списке.

Затем выбираем лицо из загруженных и сопоставляем его с нужным нам лицом: нажимаем сначала на одно потом на другое. После чего нажимаем кнопку SWP и произойдет замена лица.

Чтобы обработать видео, нажмите SWP, REC а затем PLY. В процессе реального времени будет идти замена лица, и когда видео закончится, оно сохранится в папку, которую вы выбрали ранее.

Также, вы можете активировать улучшатель лица GFPGAN, нажав галочку рядом с ним. Справа вы можете отрегулировать степень влияния на картинку.

Рядом же вы можете настроить параметры маски для замены лица.

Количество потоков влияет на скорость работы, но учтите, что 8-9 потоков потребляют около 20-24 гигабайт видеопамяти, поэтому будьте аккуратны с данным параметром.

В целом, программа выглядит достаточно интересно и будем надеяться, что в будущем в ней появится еще больше полезного функционала.

Ну а будущие обновления, а также портативные версии roop, refacer и других полезных нейронок можно найти в моем телеграм канале.