На данный момент она, совместно с учеными из Калифорнийского университета в Беркли, разрабатывает искусственный интеллект для распознавания фальшивых фотографий и отмены всех внесенных в них изменений — в конечном итоге разработчики хотят получить оригинальную картинку. Поддельные видео и фотографии все чаще используются злоумышленниками для обмана людей, и эта проблема очень беспокоит компанию Adobe, которая и является разработчиком популярных графических редакторов. Прототип инструмента для отмены ретуши уже создан, и уже демонстрирует интересные результаты.
Чтобы обучить ее, разработчики использовали базу с парными фотографиями, одна из которых не имеет никаких исправлений, а другая — отредактирована при помощи инструмента Photoshop Liquify для деформирования лиц. Инструмент основан на работе нейронной сети, которая ясно видит отличия между отредактированными и оригинальными фотографиями.
Инструмент Photoshop на основе нейронных сетей
Отредактировав фотографии таким образом, мошенники могут легко ввести людей в заблуждение, и это было доказано в ходе эксперимента. Такой тип изменения фотографий разработчикам был особенно интересен, потому что пара-тройка нажатий мыши способны полностью изменить выражение лица человека. Особую бдительность продемонстрировали только 53% людей, а остальные не обнаружили ничего подозрительного. Исследователи собрали добровольцев, и предложили им угадать, настоящая перед ними фотография, или нет. Искусственный интеллект Adobe, в свою очередь, распознал фальшивки с 99% точностью.
Однако, на данный момент его рекомендации дают смешанные результаты. Разработчики уверяют, что искусственный интеллект может даже показать, как нужно отредактировать фальшивки, чтобы вернуть их в исходное состояние.
Но мы живем в мире, где становится все сложнее доверять потребляемой нами цифровой информации, и я с нетерпением жду дальнейшего изучения этой области исследований, — поделился Ричард Чжан, сотрудник компании Adobe. Идея волшебной универсальной кнопки «отменить», чтобы вернуть изображение в исходное состояние, все еще далека от реальности.
Остановить распространение фальшивых новостей крайне сложно
К сожалению, даже если такой инструмент будет создан, он не сможет искоренить распространение фальшивых новостей — даже будучи разоблаченной, подделка все равно может попасть в социальные сети и заставить людей поверить неверную информацию. Вероятно, это первое в своем роде исследование, в ходе которого ученые хотят создать инструмент для выявления фальшивых фотографий.
Поддельный контент — серьезная и все более актуальная проблема, — поделилась компания Adobe в своем блоге. Хотя мы гордимся тем влиянием, которое Photoshop и другие продукты Adobe оказали на мир, мы также признаем этические последствия наших технологий.
Обман в социальных сетях при помощи фальшивых фото
В социальной сети LinkedIn был обнаружен профиль девушки по имени Кэти Джонс — определить, что под этим аккаунтом скрывается потенциальный шпион, смогли немногие. Один из первых случаев обмана пользователей интернета при помощи фальшивой фотографии был описан информационным агентством Associated Press. Однако, распознать фальшивую фотографию оказалось довольно легко — она была создана при помощи нейронной сети и имела особенности, о которых можно почитать в нашем материале.
Поговорить на эту тему можно в комментариях, или же в нашем Telegram-чате. Как вы думаете, способны ли вы определить, настоящая перед вами фотография, или поддельная?