Facebook обвиняет AI в том, что он не смог поймать новозеландское видео атаки

Социальная сеть Facebook заявила, что ее инструменты искусственного интеллекта не смогли обнаружить 17-минутное видео, демонстрирующее теракт в Крайстчерче, Новая Зеландия, добавив, что ИИ "не совершенен".

В своем блоге, исполнительный директор Facebook Гай Розен, вице-президент компании по вопросам добросовестности, написал, что инструменты искусственного интеллекта Facebook полагаются на «обучающие данные» - или тысячи примеров определенного типа контента - чтобы определить, является ли контент проблематичным. 

«Этот подход очень хорошо работал в таких областях, как обнаженная натура, террористическая пропаганда, а также графическое насилие, где существует большое количество примеров, которые мы можем использовать для обучения наших систем», - пишет Розен. «Тем не менее, это конкретное видео не активировало наши системы автоматического обнаружения».

Он добавил: «Чтобы достичь этого, нам нужно будет предоставить нашим системам большие объемы данных такого специфического вида контента, что сложно, поскольку эти события, к счастью, редки».

ЧИТАЙТЕ ТАК ЖЕ: Оставьте "гипотезу Терминатора" по отношению к развитию искусственного интеллекта в прошлом

Facebook подверглась критике после того, как предполагаемый террорист использовал платформу для  прямой трансляции своей резни  в мечети в Крайстчерче, причем некоторые новозеландские компании пообещали бойкотировать эту службу. Критики все чаще указывают на то, что, по их словам, не хватает инвестиций и средств контроля со стороны Facebook для защиты от таких проблем, как дезинформация и насильственный контент, которые могут быстро распространиться на сервис. 

По словам Розена, в то время как атака транслировалась в прямом эфире, видео смотрели менее 200 раз. Во время прямой трансляции сервис «не получил ни одного пользовательского отчета», написал он. «Это важно, потому что отчеты, которые мы получаем во время прямой трансляции видео, имеют приоритет для ускоренного просмотра».

Видео было просмотрено около 4000 раз, прежде чем Facebook заблокировала его от службы, добавил он. Первый отчет пришел через 12 минут после окончания видео. Он отметил, что Facebook ускоряет проверку, если видео помечено для самоубийства, что, по его словам, не было помечено в прямом эфире.

«В этом отчете и ряде последующих отчетов видео было сообщено по причинам, отличным от самоубийства, и поэтому оно было обработано в соответствии с различными процедурами», - отметил он. «Из этого следует, что мы пересматриваем нашу логику отчетности и опыт как для живых, так и для недавних живых видео, чтобы расширить категории, которые могли бы получить ускоренный просмотр»

В течение первых 24 часов после атаки Facebook заблокировала 1,2 миллиона загрузок видео, но заявил, что его усилия были частично сорваны «плохими актерами», которые координировали усилия по публикации видео. Другие, в том числе новостные СМИ, распространяли фотографию как способ документировать атаку, добавил он.