В сентябре 2019 года Facebook запустил публичный конкурс Deepfake Detection Challenge (DFDC). Он был нацелен на создание алгоритмов, которые могли помочь автоматически выявлять подделки среди фейковых видео.
Призовой фонд конкурса составил около $1 млн. Размер вознаграждения за первое место – $500,000 USD, второе – $300,000 USD, третье – $100,000 USD, четвертое – $60,000 USD, пятое – $40,000 USD.
В конкурсе приняли участие 2265 команд из разных стран мира. Спустя почти год Facebook объявил победителей. Первое место занял Селим Сефербеков, инженер по компьютерному зрению из Минска.
Интерес Facebook к результатам этого конкурса очевиден. В настоящее время благодаря высокой доступности мощных графических карт и соответствующего программного обеспечения, можно легко создавать мошеннические видеоклипы. На них будут представлены люди, которые на самом деле не говорили и не делали того, что показано на видео.
Очевидно, что публикация таких материалов может наносить этим людям не только серьезный имиджевый удар, но и из-за «компрометирующего эффекта» фактически создается новое направление мошенничества, выстроенного на шантаже тех лиц, которые попадают на такие фейковые материалы. Если с этим не бороться, то система может выйти из-под контроля.
Задача Facebook рассматривает как борьба с этой дезинформацией в масштабе социальной сети. Facebook стремится автоматически обнаруживать и помечать потенциально опасные видео для дальнейшего просмотра.
«Честно говоря, я был очень разочарован тем, сколько времени и энергии умные исследователи вкладывают в создание видеоподделок вместо того, чтобы заниматься разработкой методологий для их обнаружения и борьбу с их использованием, – заявил технический директор Facebook Майк Шропфер. – Мы пытались придумать способ, который мог бы стимулировать на создание инструментов и технологий, способных помочь обнаруживать такие фейки. Это поможет Facbook активно бороться с этим явлением, если такие фейковые видео используются в мошеннических целях».
По имеющимся сведениям, Facebook потратил около $10 млн на проведение этого конкурса. Компания пригласила более 3500 актеров, с участием которых были созданы тысячи видеороликов. Это были любительские видео, снятые при помощи телефона, без идеального освещения. Тем самым, в Facebook постарались максимально близко воспроизвести в наборе данных то, что может встречаться в реальной жизни.
Затем компания передала созданные наборы данных исследователям. Они состояли из наборов двух типов. В число первых попали наборы, где имелись оригинальные видеофрагменты, а также фейковые материалы с указанием их статуса. Эти данные применялись для обучения AI-систем, которые разрабатывали участники конкурса.
Второй набор был «черным ящиком». Он содержал более 10 000 видео, где были дополнительно использованы различные технические искажения: скорректированная частота кадров, разное качество видео, наложение изображений, несвязанные вкрапления в кадры видео. Участникам конкурса предстояло выявить эти видео, оценив их как фейковые.
Точность распознавания на общедоступных наборах данных, которую показали участники конкурса, составила в среднем чуть более 82%. Однако для наборов типа «черного ящика» точность была ниже. ИИ-модель победителя, Селима Сефербекова, показала точность классификации в среднем чуть более 65%, несмотря на множество различных цифровых уловок и ловушек, с которыми ему пришлось бороться.
Ранее редакция THG.ru опубликовала обзор ELARI Smart Camera 360°. Круговой обзор, функция ночной съёмки, обнаружение движения и поддержка облачного хранилища – всё это новая умная камера ELARI Smart Camera 360°. Давайте посмотрим, на что способна эта малютка в деле. Подробнее об этом читайте в статье “”Обзор ELARI Smart Camera 360°: компактная камера кругового обзора”.
