Ненависть, насилие, незаконный оборот наркотиков и оружия, сексуальная эксплуатация и другие неприемлемые материалы блокируются искусственным интеллектом до того, как случайный пользователь увидит его в социальной сети. По данным Facebook, AI и машинное обучение помогли значительно сократить количество запрещенного контента в сети.

В шести из девяти категорий, представленных в отчете, Facebook удалось - с помощью искусственного интеллекта — обнаружить 96,8% неприемлемых публикаций и стереть их, прежде чем кто-либо их заметил (по сравнению с 96,2% в 4 первый квартал 2018 года), сообщает Venture Beat.

Что касается агрессивных заявлений, то в докладе говорится, что искусственный интеллект теперь помогает выявлять 65% из более чем четырех миллионов аналогичных сообщений, стираемых с Facebook каждый квартал, по сравнению с 24% год назад и 59% в четвертом квартале. 2018

Facebook также использует AI для идентификации сообщений, личных объявлений, фотографий и видео, которые нарушают правила рекламы и продажи запрещенных товаров, таких как наркотики и огнестрельное оружие. В первом квартале 2019 года компания приняла меры против 900 000 публикаций, связанных с наркотиками, из которых 83,3% были обнаружены с искусственным интеллектом.

За тот же период Facebook обнаружил и удалил около 670 000 постов с огнестрельным оружием, из которых 69,9% были обработаны до того, как модераторы или пользователи могли столкнуться с ними.

Различные улучшения в алгоритмах искусственного интеллекта привели к уменьшению общего объема запрещенного контента, просматриваемого в Facebook. Компания говорит, что для каждого посещения 10000 в социальную сеть только 11 до 14 пользователей, сталкивается с порнографическим содержанием, но только 25 может обнаружить публикации, содержащую жестокость и насилие.

Что касается терроризма, наготы детей и сексуальной эксплуатации, то эти цифры еще ниже. Facebook сообщает, что в первом квартале 2019 года каждые 10 000 обзоров социальных сетей менее чем в трех встречали похожий контент.

«Благодаря проактивному отслеживанию сообщений о нарушениях технология позволяет нашей команде сосредоточиться на выявлении тенденций в том, как правонарушители пытаются обойти ограничения», - сказал вице-президент по безопасности Гай Розен.

Еще одна область, в которой Facebook использует искусственный интеллект, - это обнаружение спам-аккаунтов. На ежегодной конференции разработчиков F8 в Сан-Франциско технический директор компании Майк Шрофе заявил, что Facebook заблокировал более одного миллиарда спам-аккаунтов, более 700 миллионов фальшивых аккаунтов и десятки миллионов фрагментов, содержащих обнаженные тела и насилие.

По его словам, ИИ является основным источником обнаружения и противодействия в этих категориях. Если говорить о точных цифрах, Facebook заблокировал 1,2 миллиарда аккаунтов в 4 квартале 2018 года и 2,19 миллиарда в первом квартале 2019 года.