«ВКонтакте» разработает сервис для распознавания дипфейков вдобавок к своему сервису генерации дипфейков / Хабр
denis-19Время на прочтение 2 мин
Количество просмотров 802Машинное обучение *Софт Искусственный интеллект Социальные сети и сообщества IT-компании
«ВКонтакте» разрабатывает сервис для распознавания фейков на фото и видео. Система будет запущена для всех пользователей соцсети в течение полугода.
««ВКонтакте» уже ведёт работу над технологией распознавания дипфейков. Появится возможность проверить загруженные на платформу фотографии или ролики на наличие манипуляций, связанных с лицом, например изменения в редакторах или замены одного человека на другого», — пояснили СМИ в пресс-службе соцсети.
Представители «ВКонтакте» уточнили, что пользователи соцсети смогут самостоятельно загружать подозрительный контент и проводить проверку видео и изображений на достоверность.
Ранее ректор РТУ МИРЭА Станислав Кудж предложил маркировать весь контент, созданный с помощью технологии дипфейк. Ректор считает, что технологию следует закрепить в законодательстве как несущую угрозу персональным данным пользователей.Исследователи РТУ МИРЭА выяснили, что осведомлённость населения о дипфейках крайне мала.
- 24 ноября 2022 года «ВКонтакте» представила новую функцию «Дипфейк» при использовании которой все авторы контента в соцсети смогут примерить на себя лица знаменитостей. Это стало возможным благодаря собственным технологиям обработки видео, созданным командой «ВКонтакте», рассказали в компании. Воспользоваться инструментом можно в редакторе «VK Клипов» — как в отдельном приложении, так и во вкладке «Клипы» внутри мобильного приложения «ВКонтакте». Технология также появилась и в мини-приложении, с помощью которого «Дипфейк» можно опубликовать в «VK Клипах» и «VK Видео». Результатом можно поделиться с друзьями в личных сообщениях или скачать на устройство.
- В основе работы технологии «Дипфейк» — созданные «ВКонтакте» нейронные сети, которые позволяют трансформировать лицо пользователя в лицо знаменитости, обеспечивая узнаваемые черты звезды и сохраняя фотореалистичность результата. Решение обрабатывает видео практически в режиме реального времени и обладает высокой производительностью. Это позволит создавать «ВКонтакте» свыше 200 тыс. видео с дипфейками ежедневно.
- В начале ноября СМИ сообщили, что специалисты научно-технического центра ФГУП «Главный радиочастотный центр» совместно с НИУ ИТМО создают сервис Expert, который при помощи искусственного интеллекта способен проверять видеозаписи на предмет фейков. ГРЧЦ входит в структуру Роскомнадзора, заинтересованного в применении решения. Разработчики Expert отметили, что софт умеет оценивать уверенность, уровень агрессии, согласованности информации и многое другое.
- Использование дипфейков — один из способом совершения преступлений в сети, заявили в Минцифры.
- vk
- дипфейк
- соцсеть
- вконтакте
- замена
- распознование
- Машинное обучение
- Софт
- Искусственный интеллект
- Социальные сети и сообщества
- IT-компании
Всего голосов 1: ↑1 и ↓0 +1
Комментарии 0
Денис @denis-19
Информационная служба Хабра
«ВКонтакте» и «Одноклассники» начали помечать фейки
03 сентября 2021 19:58
Соцсети «ВКонтакте» и «Одноклассники» начали помечать записи, содержащие потенциально недостоверную информацию, специальной меткой.
Социальные сети «ВКонтакте» и «Одноклассники» начали тестировать новый способ предупреждения пользователей о потенциально недостоверной информации. Теперь посты с утверждениями сомнительного характера, которые были опровергнуты в СМИ или экспертами компетентных организаций (таких как Всемирная организация здравоохранения), будут сопровождаться специальной меткой.
Представители соцсетей подчеркнули, что не хотят ограничивать доступ к информации, однако пользователи должны быть предупреждены о том, что та или иная публикация может ввести их в заблуждение.
Метка будет появляться возле материалов, на которые была оставлена жалоба. Чтобы сообщить о потенциально недостоверном контенте во «ВКонтакте», нужно нажать на кнопку «Пожаловаться», указать в качестве причины «Обман» и выбрать категорию «Введение в заблуждение». При этом записи, содержащие личное мнение автора, оценочные суждения, шутки, пародии и мемы не будут помечаться как фейковые.
«Мы сталкиваемся с публикациями о том, что раковую опухоль можно вылечить медом, что чеснок и настой имбиря защищают от коронавируса, а вышки 5G его распространяют, что Земля плоская, а прививки вызывают аутизм, — сказал Иван Корнеев, руководитель команды модерации «ВКонтакте».
Новая функция запущена в тестовом режиме. К участию в развитии сообщества проверки фактов приглашают профессиональных журналистов, ученых и других экспертов. Заявку на участие в программе можно оставить по адресам [email protected] и [email protected].
технологии ВКонтакте фейк социальные сети новости hi-tech
Ранее по теме
Роскомнадзор не видит оснований разблокировать Twitter
«Зенит» и «Спартак» – в топ-100 клубов мира по числу подписчиков
WhatsApp запустил «Каналы» как в Telegram
Телеграм-канал Володина стал миллионником
«Одноклассники» удерживают мобильных пользователей в среднем на 3 минуты
За несколько месяцев Марк Цукерберг рекордно разбогател
«подтвержденных» аккаунтов в Твиттере опубликовали поддельное изображение «взрыва» возле Пентагона, что вызвало недоумение
Си-Эн-Эн —
Изображение, имеющее все признаки того, что оно создано искусственным интеллектом, было распространено многочисленными проверенными аккаунтами с синими галочками, в том числе одним, который ложно утверждал, что он связан с Bloomberg News.
«Большой взрыв рядом с комплексом Пентагона в Вашингтоне.
— первоначальный отчет», — написал аккаунт вместе с изображением, на котором видно, как черный дым поднимается возле большого здания.
При владельце Илоне Маске Twitter позволил любому получить проверенную учетную запись в обмен на ежемесячный платеж. В результате проверка Twitter больше не является показателем того, что учетная запись представляет того, за кого она себя представляет.
Twitter не ответил на запрос о комментарии.
Ложные сообщения о взрыве также попали в эфир крупной индийской телевизионной сети. Республиканское телевидение сообщило о взрыве, показав фейковое изображение в своем эфире и со ссылкой на сообщения российского новостного агентства RT. Позже он отозвал отчет, когда стало ясно, что инцидента не было.
Поддельное изображение, на котором якобы был показан взрыв возле Пентагона, было опубликовано несколькими подтвержденными учетными записями в Твиттере в понедельник, что вызвало путаницу и привело к кратковременному падению фондового рынка. Позже местные власти подтвердили, что такого инцидента не было.
Поддельное изображение, созданное искусственным интеллектом/Twitter «Республика» передала новости о возможном взрыве возле Пентагона со ссылкой на пост и фотографию, опубликованные RT в Твиттере», — позже написало издание в своем аккаунте в Твиттере.
«RT удалил сообщение, а Республика отозвала новостную ленту».
В заявлении во вторник пресс-служба RT заявила: «Как и в случае быстрой проверки новостей, мы поставили общественность в известность о циркулирующих сообщениях, и как только были установлены происхождение и достоверность, мы предприняли соответствующие шаги для исправления сообщений».
В своем посте в российской социальной сети «ВКонтакте» во вторник RT попытался осветить свою очевидную ошибку.
«Пентагон горит? Смотри, там картинка и все такое.
Это не реально, это просто изображение, сгенерированное искусственным интеллектом. Тем не менее, этой фотографии удалось обмануть несколько крупных новостных агентств, полных умных и привлекательных людей, якобы», — говорится в сообщении RT.
Через несколько мгновений после того, как изображение начало распространяться в Твиттере, фондовый рынок США заметно упал. Промышленный индекс Доу-Джонса упал примерно на 80 пунктов между 10:06 и 10:10, полностью восстановившись к 10:13. Точно так же более широкий индекс S&P 500 вырос с 0,02% в 10:06 до падения на 0,15% в 10:00: 09утра. К 10:11 индекс снова был положительным.
Здание на изображении не очень похоже на Пентагон и, по мнению экспертов, имеет признаки того, что оно могло быть создано с помощью искусственного интеллекта.
«Это изображение демонстрирует типичные признаки того, что оно было синтезировано искусственным интеллектом: на здании и заборе есть структурные ошибки, которые вы бы не увидели, если бы, например, кто-то добавил дым к существующей фотографии», — Хани Фарид, профессор Калифорнийского университета. , Беркли и эксперт по цифровой криминалистике рассказали CNN.
Пожарная служба в Арлингтоне, штат Вирджиния, позже ответила в Твиттере, заявив, что она и Агентство защиты сил Пентагона «знали о распространенном в социальных сетях сообщении о взрыве возле Пентагона. В резервации Пентагона или рядом с ней не происходит НИКАКИХ взрывов или инцидентов, и нет непосредственной опасности или опасностей для населения».
— Дэвид Голдман из CNN предоставил репортаж.
Как Россия использует фотофейки в войне против Украины?
В результате войны с Россией дезинформации становится все больше. В новостях появляется все больше фейков, но помимо текстового обмана россияне могут использовать фотоманипуляции. Манипуляции с изображениями давно стали инструментом борьбы за человеческого разума и эмоций, ведь фото – это еще и оружие в информационной войне. Обычному человеку сложно сразу заметить изменения на изображении, а если они содержат провокационный текст, критически оценить «сенсацию» становится практически невозможно. .Этот материал посвящен использованию русскими фотографий в пропаганде.
Как правило, фотоконтент используется как средство манипуляции в таких случаях:
- предвзятый сюжет, сделанный самим автором;
- поддельный контекст, где один факт принимается за другой;
- ретушь, где реальность корректируется такими программами, как Photoshop;
- изменения восприятия материала за счет использования перспективы, композиции и т. д.
д.Фото-фейк
Россия использует фото-фейки со времен Второй мировой войны. Поднятие флага над Рейхстагом, фото Евгения Халдея — отличный пример. Это очень известный случай манипуляции на всех уровнях. Это специально постановочное фото, его не было — а было сделано. Это классический пример маскировки пропагандистских фото под фотожурналистику.
В 2015 году было распространено фото мальчика на фоне разрушенных зданий. Согласно его описанию, мальчик «искал свою мать среди развалин» якобы после обстрела ВСУ.
На самом деле это фото постановочный кадр из видеоклипа пророссийского певца Дэна Леви.
Нападение на Соловьева и книга с подписью «Подпись неразборчива» в качестве доказательства считается одним из самых глупых фотофейков во время полномасштабного вторжения.
Владимир Путин заявил, что Украина якобы готовит нападение на «известного российского журналиста». «Жертвой» «спланированного» покушения стал один из ведущих российских пропагандистов Владимир Соловьев.
Россияне нашли неопровержимые доказательства вины — самодельное взрывное устройство, восемь «коктейлей Молотова», шесть пистолетов, обрез охотничьего ружья. винтовка и граната РГД-5, украинские паспорта и «националистическая литература» с автографом «Подпись неразборчива».
Россия активно использует постановочные фотографии и для распространения пропаганды. В июне российская миссия по контролю над вооружениями в Вене опубликовала твит с фотографиями антироссийских наклеек на территории концлагеря и музея Освенцим-Биркенау в Польше. в музее до 22 июня — дня нападения Германии на Советский Союз, содержал текст: «Россия и русские, мы вас ненавидим. Единственный газ, которого вы и ваша страна заслуживаете, — это Циклон Б (который применялся для уничтожения лагерей). МИД России поделился этим твитом в своем аккаунте.
В музее Аушвиц-Биркенау отреагировали на публикацию и опровергли распространение ложной информации официальными источниками российских властей: «Все указывает на то, что фотографии являются манипуляцией и инцидент следует рассматривать как примитивную и грубую пропаганду.
»
25 мая президент России Владимир Путин якобы встретился в госпитале с российскими солдатами, ранеными на войне в Украине. Однако на самом деле роль военных «играли» липовые люди. солдаты ВС РФ, раненые на Украине» уже участвовал в путинских постановках в роли актера-маскарада. Затем он исполнил роль заводского рабочего. Такие «театральные постановки» для российского президента обычное дело, видимо, он очень боится встречаться с людьми.
Фото вырвано из контекста
Самый популярный вид фотофейков.
В 2014 году на российских порталах появилась новость о том, что в блогах и социальных сетях «бандеровцев» была распространена фотография, на которой украинец якобы ест руку россиянина.
Однако оказалось, что это фото не из Украины, а со съемок российского фантастического фильма 2008 года «Мы из будущего».
Когда вице-президент США Джо Байден посетил Киев в 2015 году, распространилась фотография людей, стоящих на коленях возле здания Кабинета Министров Украины.
Подпись под фото писала, что это киевляне, «которые обратились к Байдену их от Яценюка». Однако тогда тысячи людей отправились в центр Киева, чтобы почтить память первых жертв столкновений во время Евромайдана.
Весной 2022 года в Интернете было опубликовано фото якобы послания россиян на развалинах Буха: «Кто вам разрешил жить красиво?» Сообщество в Facebook «Черниговский кисел» стало одним из первых источников, которые поделились фотографией 7 апреля. Затем фотографию опубликовал в своем Telegram-канале советник министра внутренних дел Украины Антон Геращенко.
Фотография даже появилась на странице информационного агентства АрмияИнформ в Facebook, а издание «Сегодня» сделало новость.
Однако фактчекеры заподозрили в этой фотографии неладное и проверили ее при создании. Фотография сделана не в Украине, а в России, и впервые ею поделились в 2016 году на сайте «приколы на 300». Еще одна деталь На фальшивость фото указывает то, что это не весенний пейзаж за развалинами.
Там хорошо видна зелень, которая еще даже не успела появиться в Буче.
В очередном фотофейке прокремлевские сайты в качестве иллюстрации использовали Иверский монастырь, разрушенный во время боев за донецкий аэропорт в 2014 году.
«Украинские войска целенаправленно обстреливают православные храмы в Краснолиманском районе Донецкой Народной Республики», — пишет агитпроп.
На самом деле Иверский женский монастырь, который пропагандисты использовали для иллюстрации материала, принадлежал Московскому Патриархату и пострадал в результате боев за Донецкий аэропорт, имевших место в 2014-2015 годах.
Видеозаписи разрушенного монастыря, которые российская пропагандистская машина сегодня использует для иллюстрации новой лжи, появились еще в 2015 году. в приложении для знакомств Tinder.
Следователи фактчекингового ресурса StopFake поговорили с Шурой Рязанцевой, одной из девушек, фото которых опубликовали пропагандисты.
Девушка служит в Вооруженных Силах и не имеет профиля в Tinder.
Фото для фотофейка россияне взяли из ее аккаунта в Instagram. По ее словам, подписчики начали присылать ее публикации.
Российские СМИ создают образ хороших российских солдат, которые не расстреливают мирных граждан Украины, а наоборот, стараются создать гуманитарные коридоры и вывести местных жителей из горячих точек боевых действий. СМИ опубликовали фото разрушенного моста в Ирпене, под которым местные жители в ожидании эвакуации прятались от обстрелов российских сторона.
Сегодня жители России верят постановочным кадрам на телевидении. Однако пропаганда за пределами России во время полномасштабной войны на Украине представляется безуспешной. Во время полномасштабного вторжения пропагандистские телеграм-каналы распространяли фото отчаявшейся девушки, которая назвали дочерью президента Владимира Зеленского. Девушка, совсем не похожая на дочь президента, видимо, «называет отца нацистом». На самом деле российская пропаганда использует скриншот из видео, где девушка отчаянно просит у своего парня новый айфон.
Но россияне называют ее дочерью президента Украины. Чтобы развеять этот фейк, достаточно написать в поле поиска «дочь Зеленского», но мало кто из россиян это делает.
Также символом наглядной агитации в поддержку оккупации Украины стала женщина с советским флагом в руке. При освобождении одного из украинских населенных пунктов Харьковской области к украинским солдатам подошла бабушка с советским флагом в руке. Она перепутала ВСУ с армией Российской Федерации и поздравила их с оккупацией. у бабушки еду и отобрали красный флажок. Бабушка не хотела принимать от них помощь и выступала в поддержку оккупационного режима.
Сюжет с бабушкой тут же использовала российская пропаганда. На улицах городов России были вывешены рекламные баннеры с изображением бабушки с красным флагом. 9 мая скульптура бабушки была установлена в нескольких городах России как новый символ поддержки действий российской армии на Украине.
В соцсетях также распространились фотографии якобы гробов с телами российских солдат на грузовиках с литерой «З», возвращающихся в Россию.
Однако на исходном фото видны грузовики с контейнерами для ЗРК «Бук» и без опознавательных знаков «З», само фото сделано в 2014 году. Буквы «З» и указателя «Россия» на фото нет, контейнеры темно-зеленый.
Также популярным стало фото предполагаемого досмотра украинского заключенного в Донецке, на теле которого есть татуировка с изображением фашистской символики. Фото сделано в июне 2005 года в белорусской тюрьме.
Обратный поиск в Google показывает, что фотография была опубликована на сайте Getty Images в категории «заключенные татуировки». Это медицинский осмотр заключенного в 15-й колонии г. Могилова (Беларусь) 22 июня 2005 года.
На фотографии есть распространяется в Интернете уже много лет и используется как доказательство поддержки фашизма в разных странах. Изображенного заключенного также приняли за польского призывника. В 2015 г. Украинская армия.
Добавление «эффектов»
Подконтрольное оккупационным «властям» Донбасса издание «Донпрес» сообщило, что читатели прислали в редакцию фото из класса одной из украинских школ.
Фото показывает плакат, призывающий учащихся сообщать учителям, говорят ли их родители дома по-русски или есть ли у них родственники в Российской Федерации.
Однако в сети обратили внимание на то, что призыв афиши на украинском языке написан неправильно. На картинке есть и другие грамматические ошибки. Собака-покровитель взята с одного из ютуб-каналов, а картинка птицы с сайта, где можно бесплатно скачать векторные изображения для дизайна. Так что это изображение — работа дизайнера, а не реальная фотография.
Ошибка пропагандистов уже стала мемом в украинском Интернете рядом с «хлопком». Например, «Дия» предлагает инструкцию, как распознать настоящего гражданина цифрового государства.
«Укрпошта», «Киевстар», Freelancehunt, «ПУМБ» и другие.
Россия уже не первый год распространяет фейки об униформе украинских солдат, которые российские СМИ называют «неприличными».
Однако на балансе украинской армии таких шапок нет.
То есть фотографии, опубликованные на российских сайтах, являются фотошопом.
Пресс-служба президента России не гнушается использовать фотошоп.
Например, весной Владимир Путин якобы встретился с женщинами-пилотами и бортпроводниками и рассказал им о цели и обстановке «войсковой операции» в Украине. Центр по противодействию дезинформации быстро обнаружил, что никакой встречи не было. Там была только запись Путина на зеленом фоне, а бортпроводников потом «нарисовали» с помощью специальных программ. При детальном изучении видео можно убедиться, что оно сделано по технологии хромакея, когда сняты кадры в разных местах сочетаются в кадре.
Более того, выяснилось, что стюардессы были не настоящими, а актерами из ФСБ. В СМИ появились данные о том, что одна из «стюардесс» ранее записывалась близкой к Путину, но в других ипостасях, например, играла продавец мороженого.
В начале войны представители страны-агрессора пытались использовать Deep-fake с образа Президента Украины Владимира Зеленского, чтобы дезинформировать и заставить украинские войска сложить оружие.
Однако качество Deep-fake было низким.
На видео президент Украины практически не двигался, когда говорил, кроме головы. Его голос звучал искаженно и почти хрипло.
Впоследствии фейковые видеоролики активно использовались в странах НАТО. Например, в цифровом логотипе BBC News в одном ролике говорилось, что польский военачальник приказал армейским войскам быть в «высшей боевой готовности».
Позже BBC заявила, что такого видео не существует и что их бренд был использован для создания фейкового фильма. Польские официальные лица также обвинили Москву в проведении кибератак на страну. Пропагандисты часто создают фейковые видео или используют технологию Deep-fake. Вот простой пример фейковой фотографии, созданной путем редактирования оригинала в Adobe Photoshop.
Это скриншот со страницы одной из пророссийских групп в российской социальной сети Вконтакте. На широко распространенном снимке изображен младенец якобы со свастикой на руке. Надпись на фото: «Шок! Сотрудники одного из родильных домов Днепропетровска узнали, что женщина была беженкой с Донбасса и женой погибшего бойца.
На руке ребенка сделали рану в виде свастики. Прошло три месяца, и шрам все еще виден».
Это фото, конечно же, подделка. Оригинал можно легко найти в сети. У ребенка на фото нет никаких ран.
Российские СМИ также распространили фейковую фотографию, на которой украинские солдаты якобы крадут корову. Однако на исходном снимке совсем не то, что сообщают россияне.
Так, Россия опубликовала фото с заголовком: «Киевские силовики воруют скот у мирных жителей». На фото украинские военные везут скот.
Оригинал фото можно увидеть на украинском портале «Думская», с датой публикации 24 октября 2014 г. Эти фотографии сделаны на одном из полигонов в Одесской области, где проходила полевая поездка курсантов Военной Академия состоялась.
В течение трех недель первокурсники и второкурсники этого вуза отрабатывали учебные вопросы по тактической, пожарной, инженерной, военно-медицинской подготовке, разведке, РКБЗ, военной топографии и выполняли прыжки с парашютом с вертолета Ми-8.
В качестве примера можно привести и фото с лидером Чечни Рамзаном Кадыровым. 28 марта он сообщил, что находится в Украине. стоит на коленях с автоматом. Внимательные пользователи заметили на заднем плане заправку российской марки «Пульсар», которой нет в Украине.
Фотография якобы тяжелораненого украинского военного, который находится в больнице, также была распространена в Facebook. Изображение было с эмоциональным текстом, который призывал лайкнуть и сделать репост. Как оказалось, фото было отредактировано. Это заметно по неестественному освещению «военного» кузова. Оригинальное фото появилось в Facebook еще в 2014 году.
Как можно проверить подлинность фотографии?
В первую очередь следует внимательно рассмотреть фото и обратить внимание на детали, сопоставив их с сопроводительным текстом. Например, убедиться, что погода, локация, архитектура, названия улиц и номера машин соответствуют действительности. период времени.
Кроме того, вы можете обратить внимание на детали, указывающие на редактирование изображения.
Это неестественная перспектива, тени, отражения, фокус, контраст и цвета.
Еще один момент, на который стоит обратить внимание, это текст, а именно его эмоциональность. В частности, слова «шок», «сенсация», «срочно» и тому подобные. Например, регулярно появляются фотографии неопознанных людей с инвалидностью или инвалидностью на Facebook.
Для оценки правдивости фото можно также проверить ресурс, на котором оно опубликовано. Сайт или страницы авторитетного СМИ, скорее всего, будут свидетельствовать о его подлинности, а ресурс с сомнительными новостями укажет на необходимость критическое отношение к фото.
Другой способ — проверить фотографии через системы поиска изображений. Самый популярный из них — Google. Чтобы воспользоваться сервисом, нужно щелкнуть правой кнопкой мыши по изображению, выбрать «Поиск изображения с помощью Google Lens», а в открывшемся окне — «Найти источник изображения». Откроется окно поиска Google, где вы сможете увидеть, где еще было опубликовано это изображение.