Не умеете танцевать? Этот ИИ украдёт для вас движения профессиональных танцоров

Американские исследователи представили нейросетевой алгоритм, который переносит движения людей из одного видео в другое. Система, описанная на arXiv.org, использует сразу несколько нейросетей, а весь процесс разбит на следующие этапы.

1. Обучение алгоритма на целевом видео с произвольными движениями человека (запись длиной в несколько минут). На героя этого видео затем будут перенесены движения из исходника.
2. Загрузка одного или нескольких исходников: например, видео с танцорами. В конечном счёте система перенесёт их движения на первое видео. Но сперва алгоритм OpenPose превратит исходные видео в упрощённую модель человеческого тела, состоящую из ключевых точек, соединённых линиями.
3. Затем движения исходной модели передаются на целевую модель. В процессе они проходят так называемую нормализацию. У разных людей разные пропорции тела и разная одежда, — нормализация необходима, чтобы свести к минимуму нереалистичные изменения целевой модели.
4. Наконец, алгоритм pix2pixHD превращает движения модели в фотореалистичный видеоролик, на котором человек повторяет движения из исходного ролика.

И вот что получается:

Разработчики списывают артефакты в итоговом видео на несовершенный алгоритм OpenPose, который создаёт промежуточную модель тела. Он работает с одним кадром за раз без учёта соседних, плюс создаёт двумерную модель, которая в принципе не учитывает нюансы трёхмерного пространства.

Алгоритм pix2pixHD, напротив, для каждого нового кадра анализирует и предыдущий кадр, и 2D-модель тела, за счёт чего движения на целевом видео становятся более естественными и согласованными. Кроме того, разработчики использовали ещё одну нейросеть, отвечающую за отрисовку лица.

Впрочем, над лицом тоже следует поработать:

Ранее мы писали о похожей технологии, создающей дипфейки. Это реалистичная имитация мимики, жестов и движений, благодаря которой можно вложить слова одного человека в уста другого. Или, к примеру, поместить звезду шоу-бизнеса в порнографическое видео. Пока популярные платформы сражаются с эпидемией поддельных видео, а порноиндустрия ищет способы монетизировать эту золотую жилу, эксперты прогнозируют, что дипфейки совсем скоро станут главным оружием информационной войны.

О диджитале в удобном формате ➜ подписывайтесь на нашу рассылку

МегаФон ПроБизнес

Получите Кешбэк 100% за запуск рекламы с МегаФон Таргетом!

Узнать больше >>

Реклама. ПАО «МегаФон». ИНН 7812014560. ОГРН 1027809169585