Что такое технология Deepfake и к чему приведет ее распространение

Недавно мы писали о приложении Zao, которое позволяет довольно натуралистично заменять лица на видео. Эта и многие другие программы используют технологию Deepfake, новости о которой вот уже 2 года стабильно появляются в сети. И упоминания часто не самые радужные: крупнейшие мировые издания и представители власти называют Deepfake одной из главных информационных угроз нашего века.

Мы в GBT.org решили разобраться, что такое Deepfake и почему она пугает даже американских сенаторов.

Что такое Deepfake и как эта технология появилась

Своим появлением Deepfake обязана генеративно-состязательным нейросетям (GAN). Механизм их работы заложен в двух противоборствующих алгоритмах. Первый обучается на предоставленных ему фотографиях, чтобы сформировать реалистичную подмену лица. Второй отсекает неудачные варианты до тех пор, пока сам не начнет путать копию и оригинал.

Первое публичное появление технологии произошло на Reddit, где лица таких звезд, как Скарлетт Йоханссон, Дейзи Ридли и Эмма Уотсон, были использованы в роликах эротической направленности. Позднее эти видео появились в Facebook и других соцсетях. Скандал был настолько громким, что о борьбе с дипфейками заговорил лично глава соцсети Марк Цукерберг, пообещав откорректировать правила публикации. Позднее он и сам стал жертвой технологии — в довольно качественно сделанном ролике его «заставили» говорить о том, что он контролирует мир с помощью информации. Смогли бы с уверенностью сказать, что видите обман, если бы не наше предупреждение?

Но не все работы наносили вред репутации известных людей. Были и довольно безобидные развлечения. Например, одна группа энтузиастов начала заменять лица знаменитых людей в кино и сериалах Николасом Кейджем.

В 2018 году была опубликована первая публичная программа для подмены лиц под названием FakeApp, которая открыла доступ к deepfake-инструментам для простого обывателя. Как оказалось, это тот самый алгоритм, которым пользовался создатель эротических роликов.

После такого неприятного старта технологии крупные социальные сети начали серьезнее анализировать публикуемые ролики и фото на предмет фейковости, а «приличный» контент получил более широкое распространение. В то же время политики различных государств заговорили об опасности Deepfake, и небезосновательно.

Чем опасен Deepfake?

Стив Бушеми отреагировал на видео так: «Я никогда не выглядел настолько хорошо».

  • По мнению специалиста компании Google, дипфейки могут оттолкнуть нас на столетия назад, когда видео и фото не считались достаточными доказательствами. И действительно, фейк-технологии совершенствуются с каждым днем, а вот развитие инструментов, способных распознать поддельный контент, пока находится в зачаточном состоянии.
  • Использование программы с лицами политиков может привести к необратимым последствиям. Например, в этом видео бывший президент США Барак Обама нелестно отзывается о своем преемнике Дональде Трампе. Ролик был сделан режиссером Джорданом Пилом («Мы», «Прочь»), чтобы показать всю потенциальную опасность Deepfake.
  • Журналистка The Guardian считает, что Deepfake может стать орудием против женщин в интернете, поскольку львиная доля подобного контента приходится на махинации с их лицами для создания продукта эротического содержания.
  • Уже существует такое понятие, как deepfake-преступность. Широкую огласку получил случай ограбления британской энергетической компании, директору которой позвонил якобы управляющий из Германии. Программа сымитировала все — от внешности до акцента — и попросила переслать деньги фирме-поставщику из Венгрии. Так компания потеряла € 220 тыс.

Есть ли что-то положительное в этой технологии?

К сожалению, кроме веселых и безобидных роликов, эта программа не подарила миру ничего положительного. Как раз выше — кадр одного из последних хитов, трейлера ремейка «Ангелов Чарли», где место всех троих Ангелов занял Михаил Ефремов.

А какая современная технология пугает лично вас?

Жми «Нравится» и получай только лучшие посты в Facebook ↓

Что такое технология Deepfake и к чему приведет ее распространение
Adblock
detector
×
Жми «Нравится», чтобы читать нас на Facebook