Один в один: за порно со звездами взялись любители

Как интернет заполонило фальшивое порно со знаменитостями

Скандал о создании поддельных порнороликов с участием знаменитостей разгорелся с новой силой — теперь любой желающий может выпустить «фейковое» видео, не обладая никакими особыми навыками. Эксперты сходятся во мнении, что эта технология несет в себе опасные для современного общества последствия.

Двухлетку за два месяца

В декабре стало известно о новом алгоритме машинного обучения, который позволяет заменять лица в видеороликах. Его придумал пользователь под никнеймом deepfakes, который поделился на форуме Reddit своим своеобразным «хобби» — с помощью этой технологии он генерирует порноролики со знаменитостями.

Алгоритм позволяет создать крайне достоверный эффект анимации лица благодаря большому количеству фотографий и видео звезд в интернете. Система собирает весь графический контент воедино и компилирует настолько правдоподобную «картинку», что невооруженным глазом можно не заметить подвоха. Deepfakes продемонстрировал результаты работы алгоритма на порно, в котором лицо актрисы было заменено на лицо исполнительницы роли Чудо-Женщины Галь Гадот.

Прошло всего пара месяцев, но выпуск порнороликов с использованием искусственного интеллекта (ИИ) вышел на уровень конвейерного производства.

Один из последователей deepfakes выпустил приложение с простым интерфейсом, которое позволяет человеку без специальных навыков смонтировать видео с той звездой, которая ему нравится.

Это приложение бесплатно, находится в открытом доступе и даже предоставляет уроки для новичков. Сообщается, что для достижения результата пользователю понадобятся всего лишь два видеоролика со знаменитостями в хорошем качестве. Весь процесс создания занимает около 12 часов.

Если в декабре эксперты в области ИИ были настроены довольно пассивно и не видели большого вреда в открытии deepfakes, то при нынешней скорости появления новых роликов со звездами оставаться в стороне уже нельзя. Сам программист не видит в своем алгоритме ничего плохого, ссылаясь на то, что его публикация заинтересовала большое количество людей, которые теперь занимаются новыми технологиями.

Два месяца назад Motherboard связалась с ученым в сфере компьютерных наук из правозащитной организации «Фонд электронных рубежей» Питером Экерсли, чтобы обсудить последствия внедрения такого технологии в повседневную жизнь. Эксперт признал, что на текущий момент создать собственный ролик на базе нейросетей может каждый, но им никого не удастся обмануть — из-за пока еще большого количества шероховатостей и неточностей.

«Такое положение вещей сохранится еще как минимум год или два», — заключил Экерсли.

Как оказалось, хватило всего двух месяцев. На Reddit появились новые порноролики — с «участием» актрис Джессики Альбы и Дэйзи Ридли — и их качество уже значительно превосходит декабрьские видео.

Правдоподобность этих роликов настолько высока, что их стали принимать за настоящие создатели ресурсов, публикующих интимные фотографии знаменитостей. Один из самых популярных подобных сайтов опубликовал видео с актрисой Эммой Уотсон, где она принимает душ, с заголовком «ранее не опубликованные кадры из частной коллекции». Тем не менее, этот ролик был смонтирован по технологии deepfakes, а сама Эмма Уотсон не имеет к нему никакого отношения, кроме того, что ее лицо было использовано без какого-либо согласия.

Несмотря на то, что пользователей, которых заинтересовало машинное обучение, больше привлекает создание именно порнороликов, случаются и исключения. Один из них — юзер Z3ROCOOL22, который совместил фрагменты выступлений президента Аргентины Маурисио Макри и Адольфа Гитлера, создав «нового» политика.

Никому нельзя верить

В результате простое в использование приложение позволяет каждому без особых усилий создавать фейковое видео — от интимного видео со своей бывшей девушкой в качестве «порномести» до выступления государственного деятеля, который может сказать с трибуны все что угодно. Эта технология имеет потенциал навсегда изменить потребление медиа-контента в интернете.

Высокая скорость совершенствования алгоритма и эпоха «фейковых» новостей могут привести к тому, что

отличить ложь от правды станет практически невозможно.

«Тот факт, что эта технология доступна для каждого, пугает. Из-за этого рушится вся концепция доверия и благонадежности», — считает заслуженный профессор прикладной этики Дебора Джонсон.

Действительно, созданный алгоритм в конечном счете затронет не только знаменитостей, которые и так часто становятся жертвами fake news, но и политику, журналистику и даже сферу безопасности.

Технология явно не ограничится только заменой лиц, и пока остается только догадываться, что еще будет сфабриковано в интернет-пространстве. Но если проблемой лживых новостей уже занялись на уровне крупнейших социальных сетей мира и даже правительств некоторых стран, то проблема «фейкового» порно пока в парламентах ведущих стран даже не обсуждается.

gazeta.ru/tech/2018/01/25/11625145/even_more_porn.shtml

Порнофейки: шалости с серьезными последствиями

Дейв Ли
Корреспондент Би-би-си в Северной Америке

На этом видео лицо актрисы Натали Портман было воспроизведено компьютером на основе сотен ее фотографий, которые легко найти в интернете

В последние недели в интернете наблюдается резкий рост популярности так называемых порнофейков - порнофильмов, в которых цифровым способом заменены лица актрис и актеров.

Инструменты компьютерной манипуляции стали в последнее время настолько мощными и удобными в использовании, что позволяют воплощать в виде цифровых образов в интернете любые сексуальные фантазии.

Их применение иногда не только переходит границы человеческой порядочности, но и заставляет нас засомневаться в том, можно ли вообще верить тому, что мы видим на экране.

Эта изощренная технология может выйти далеко за пределы сомнительного развлечения и способна привести к серьезным последствиям - и для отдельных людей, и для общества в целом.

Сейчас много говорят о кризисе, связанном с широким распространением фейковых новостей, но не исключено, что нынешние фейки - это только начало.

Уже слеплено несколько таких фейковых видео с лицом президента Трампа. Пока это очевидные шутки, но несложно представить, насколько эффективными могут быть подобные поделки в пропагандистских целях.

Программа FakeApp позволяет с легкостью создавать видео, если пользователь соберет достаточно фотографий человека, которого он хочет туда добавить

Как всегда, новая технология застала нас врасплох. Вебсайты и соцсети, где распространяются такого рода материалы, пристально за ними следят. Но что со всем этим делать, большинство понятия не имеют и нервничают по поводу того, что будет дальше.

В сообществах, экспериментирующих с такими технологиями, наблюдается заметное оживление, поскольку в сети появляются все новые и новые секс-видео с известными лицами. Новые технологии живо обсуждаются, но крайне редко мы видим следы угрызений совести, когда разговор заходит о возможных последствиях появления этих фейков.

Является ли создание порнографического фильма с использованием чьего-то лица неэтичным? Действительно ли важно, настоящее это видео или нет? Кто-нибудь страдает от этого?

Может быть, этим людям стоит задаться еще одним вопросом: как чувствует себя жертва их манипуляций?

Как создается порнофейк

По словам одного из экспертов, одно такое программное обеспечение, выпущенное менее месяца назад, было загружено уже более 100 000 раз.

Вообще подобные манипуляции с эротическими фотографиями и фильмами - занятие не новое, ему уже более 100 лет.

Но раньше этот процесс был весьма трудоемким, особенно в случае с видео. Качественное редактирование подобного рода требовало большого мастерства и голливудского бюджета.

Несколько актрис сериала "Игра престолов" были добавлены в порноролики

Теперь эта задача упрощена до трех несложных шагов: собрать фотографии человека, выбрать какой-нибудь порнофильм, загрузить это все в компьютер и просто ждать. Ваш компьютер сделает все остальное, хотя на создание короткого клипа может уйти более 40 часов.

Наиболее популяры порнофейки со знаменитостями, но с помощью таких манипуляций можно вставить в видео лицо любого человека, если есть достаточное количество его качественных фотографий. Сейчас, когда люди постоянно публикуют селфи в соцсетях, добыть эти снимки не составляет особого труда.

Новая технология вызвала интерес во всем мире. В последнее время огромное число поисков порнофейка наблюдалось в Южной Корее. Скорее всего, оно было вызвано публикацией нескольких фейковых видео с 23-летней корейской поп-звездой Ким Соль Хён.

Один из просмотревших видео пользователей оставил такой комментарий: "У меня такое чувство, что это противозаконно. Отличная работа!"

Главный объект - знаменитости

Несколько знаменитостей, похоже, особо интересуют создателей порнофейка. Судя по всему, главное здесь то, насколько скандальным было бы появление в сети настоящего порнофильма с этим человеком.

В сообществах фанатов порнофейка наиболее популярны видео с актрисами Эммой Уотсон и Натали Портман.

Появились порнофейки с Мишель Обамой и Иванкой Трамп. Есть фейковое видео и с Кейт Миддлтон. Пресс-служба Кенсингтонского дворца отказалась от комментариев по этому поводу.

Одной из первых жертв подобных манипуляций стала актриса Галь Гадот

Израильская актриса и модель Галь Гадот, сыгравшая главную роль в фильме "Чудо-женщина", стала объектом одного из первых порнофейков, продемонстрировавших возможности новой технологии.

В статье на сайте новостей из мира компьютерных технологий Motherboard прогнозировалось, что понадобится примерно год, прежде чем эта технология станет автоматизированной. В результате этот процесс занял всего месяц.

Порнофейки вызывают все больше критики, и сайты, через которые они распространяются, начинают задумываться над тем, что с этим делать. Некоторые даже начали предпринимать меры.

Администраторы сайта Gfycat уже удалили некоторые видео, которые они идентифицировали как порнофейки. Но в ближайшем будущем эта задача может значительно усложниться.

Вебсайт Reddit, который стал главной платформой обмена в этом сообществе, пока не предпринял никаких прямых мер, но, по сведениям Би-би-си, его администрация рассматривает различные варианты.

Поиск в Google определенных фото или видео зачастую предлагает ссылки на порнофейки из-за того, как поисковая система индексирует посты в Reddit.

Google уже менял алгоритмы поиска, чтобы затруднить поиск определенных типов материалов. Пока неясно, собирается ли компания предпринимать похожие меры в связи с появлением порнофейков. Как и все мы, подобные компании только начинают осознавать, что такой материал существует.

Не повезло и актрисе Эмме Уотсон, чье лицо также было добавлено в порнофейки

Последние несколько лет эти сайты ведут борьбу с так называемой порноместью - публикацией настоящих интимных фотографий и видео людей без их согласия.

Порнофейки могут стать еще одним орудием подобной мести: такие видео могут быть фейковыми, но вызванные ими психологические травмы станут самыми настоящими.

Фейковые новости

Утверждение о том, что порнобизнес был одним из локомотивов инноваций, уже стало журналистским штампом. Именно порнобизнес, как считается, способствовал улучшению качества компрессии видео файлов и успеху домашних видеокассет.

Как и в этих случаях, новые технологии порноиндустрии могут найти применение в других сферах жизни.

Журналист Джон Кристиан в одной из своих статей предсказал худший сценарий, в котором эта технология может быть использована для обмана властей, населения и даже для разжигания международных конфликтов.

И это не пустая угроза. Фейковые новости уже воздействуют на общественное мнение. Возможно, они даже способны влиять на итоги выборов.

Если добавить к этому развитие звуковых технологий, например, разработки компании Adobe, возникнет вероятность двойного обмана. Выглядеть и звучать это будет правдоподобно даже для людей, регулярно следящих за новостями.

Одно из созданных таким образом видео превращает Дональда Трампа в Доктора Зло, персонажа фильмов об Остине Пауэрсе

Но пока это просто порнография, и многие ее производители прекрасно понимают, чем они занимаются.

"То, что мы здесь делаем, нельзя назвать полезным или благородным. Это унизительно и вульгарно по отношению к женщинам, которых используют для создания порнофейков", - признается пользователь Reddit. Но при этом он приводит смехотворный аргумент в защиту порнофейков: по его мнению, они могут свести на нет порноместь.

"Если все выглядит реальным, ничего реального нет, - утверждает он. - Если реальное видео домашнего секса будет кем-нибудь использовано для порномести, всегда можно будет сказать, что оно фейковое".

Подобного рода попытки оправдания, безусловно, в первую очередь призваны защитить душевное спокойствие создателей порнофейков, а не тех, чьи лица появляются в этих видео.

Но в одном с представителями сообщества порнофейков не поспоришь: технология появилась, и пути назад уже нет.

фото
bbc.com/russian/features-42938489