Пандемия коронавируса породила не только страх заболевания, но и огромный поток информации, связанной с высказыванием мнений о болезни, дачей советов по лечению и пр. Часто эта информация носит непроверенный, а иногда и преднамеренно ложный характер.
Оказалось, что уйти из зоны достоверной информации и оказаться в дебрях слухов, достаточно просто в Facebook – хватит всего нескольких кликов. Там, считают в Facebook, бушуют потоки недостоверных сведений, идут настоящие войны с эмоциональными и подчас ненавистническими высказываниями, распространяется обширная медицинская дезинформация.
В связи с этим Facebook стал активно внедрять ИИ и системы машинного обучения для предотвращения распространения подобного контента.
Пандемия COVID-19 ускорила развития систем ИИ против фейков
После начала пандемии COVID-19 Facebook столкнулся с серьезным ростом рекламы ложных лекарств, выдаваемых за помогающие в лечении болезни. В последние месяцы Facebook привлекла к сотрудничеству около 60 внешних организаций, которые занимались проверкой распространяемых фактов. Таким образом компания боролась с нарастающей дезинформацией.
В связи с ее разгулом уже в марте была временно запрещена продажа с портала Facebook средств индивидуальной защиты, дезинфицирующих средств для рук и чистящих средств. Это было сделано, чтобы избежать рекламы и продажи на деле бесполезных товаров. Однако компания столкнулась с другой проблемой – люди могут легко обойти установленный запрет, слегка изменив текст или изображение в объявлении. После этого они повторно отправляют заявку для размещения. Когда люди видят два немного различающихся изображения, которые внешне могут казаться почти идентичными, они легко могут выбрать ошибочный продукт, который похож на оригинал. Однако программе приходится повторно проверять оба снимка, потому что сбить с толку программу компьютерного зрения достаточно просто.
Нейронная сеть, без которой невозможно решить проблему
Теперь на этом этапе работает нейронная сеть SimSearchNet. Ее сверточная модель специально создана для идентификации почти идентичных изображений. Благодаря этому, теперь стало возможным автоматизировать выполнение проверок до того, как к процессу подключаются модераторы люди.
Как только человек, проверяющий факты, помечает изображение как содержащее ложные утверждения о COVID-19, выявленная им информация передается обратно в SimSearchNet. После этого сеть самостоятельно ищет близкие дубликаты, помогая модераторам быстрее помечать найденные изображения предупреждающими надписями. Такая схема работы существенно увеличивает охват проводимых проверок.
Первые результаты
В своем блоге Facebook сообщила, что в апреле по новой технологии были помечены около 50 млн сообщений, имевших отношение к COVID-19. Из них «более 2,5 млн сообщений, связанных с продажей масок, дезинфицирующих средств для рук, дезинфицирующих салфеток» были удалены.
Планы развития
Аналогичными методами Facebook борется с троллями, а также с лицами, распространяющими ненавистнические высказывания.
Как сообщается в блоге компании, ИИ теперь активно обнаруживает 88,8% неправомерного контента, подлежащего удалению. В предыдущем квартале доля таких выявленных материалов составляла 80,2%.
В 1 квартале 2020 года было принято решение об удалении 9,6 млн единиц контента за нарушение политики не разжигания ненависти.
Ранее редакция THG.ru опубликовала обзор 3G/LTE-роутера QTECH QMO-234. При оснащении доступом в интернет загородного дома, да ещё и заметно удалённого от ближайшей сотовой вышки, эффективную и приемлемую по цене альтернативу решению QTECH QMO-234 придётся ещё поискать. Подробнее об этом читайте в статье “QTECH QMO-234: обзор и тест беспроводного 3G/LTE-роутера”.
