Пятничная резня в двух новозеландских мечетях, транслируемых в прямом эфире в мир, не была первой интернет-трансляцией насильственного преступления, но она показала, что прекращение кровавых видеозаписей при распространении в Интернете по-прежнему является серьезной проблемой для технологических компаний, несмотря на годы инвестиций.
Согласно копии, злоумышленник в Крайстчерче в прямом эфире напал на его профиль в Facebook в течение 17 минут. Facebook сказал, что он удалил поток после того, как полиция Новой Зеландии предупредила его об этом.
Но несколько часов спустя отснятый материал из потокового видео остался на Facebook, Twitter и YouTube Alphabet Inc, а также в Instagram, принадлежащем Facebook и WhatsApp. Он также оставался доступным на файлообменных сайтах, таких как новозеландский Mega.nz.
Люди, которые хотели распространить материал, начали действовать быстро, перепаковывая и распределяя видео по многим приложениям и веб-сайтам в течение нескольких минут.
Facebook, Twitter, YouTube и Mega заявили, что принимают меры для удаления копий.
Другие насильственные преступления, которые транслировались в прямом эфире, включают отца в Таиланде в 2017 году, который транслировал себя, убивая свою дочь на Facebook. После более чем одного дня и 370 000 просмотров Facebook удалил видео.
В Соединенных Штатах также было совершено нападение в Чикаго на 18-летнего мужчину с особыми потребностями в сопровождении антибелых расовых насмешек в 2017 году и смертельный выстрел в мужчину в Кливленде, штат Огайо, в том же году. жить-потоковом.
За последние три года Facebook, крупнейшая в мире сеть социальных сетей, насчитывающая около 2,3 миллиарда пользователей в месяц, утроила численность своей команды по защите и безопасности до 30 000 человек, чтобы быстрее реагировать на сообщения о оскорбительном контенте. Она также сосредоточилась на разработке систем искусственного интеллекта для улавливания материалов без необходимости того, чтобы пользователи сначала сообщали об этом.
Но вирусный охват еще одного непристойного видео заставил политиков по всему миру в пятницу сделать тот же вывод: технологические компании терпят неудачу.
Поскольку видео о массовых убийствах продолжало распространяться, бывшая премьер-министр Новой Зеландии Хелен Кларк в своих телевизионных выступлениях сказала, что компании не спешат снимать ненавистнические высказывания.
«Что здесь происходит?» - спросила она, имея в виду способность стрелка вести прямую трансляцию в течение 17 минут. «Я думаю, что это добавит ко всем призывам во всем мире для более эффективного регулирования социальных сетей».
По крайней мере, некоторые ожидают, что Facebook будет страдать от последствий.
Facebook «помог обеспечить платформу для сегодняшней ужасающей атаки и, несомненно, будет поставлен под сомнение для содействия ее распространению», - сказал Клемент Тибо, аналитик сайта финансовых данных Investing.com.
Прибыль компании снизилась в прошлом году, поскольку она потратила на решение этой проблемы, и фондовые аналитики готовятся к дальнейшим краткосрочным ударам по ее прибыльности, независимо от того, материализуются или нет нормативы, несмотря на относительно небольшое количество альтернатив для рекламодателей.
ЧИТАЙТЕ ТАК ЖЕ: Почти два десятка детей вытащили из обрушенного здания в Нигерии
Уклонение от обнаружения
После того, как Facebook прекратил трансляцию в Крайстчерче, он сказал модераторам удалить любые копии или комментарии к атаке.
«Весь контент, восхваляющий, поддерживающий и представляющий атаку и преступников, должен быть удален с нашей платформы», - указало Facebook модераторам контента в Индии, согласно сообщению Reuters.
Пользователи, намеревающиеся делиться жестоким видео, выбрали несколько подходов. Копии, рассмотренные Reuters, показали, что некоторые пользователи записывали видео, воспроизводимое на своих телефонах или компьютерах, чтобы создать новую версию с цифровым отпечатком пальца, отличную от оригинальной, чтобы обойти системы обнаружения компаний. Другие поделились короткими разделами или скриншотами из прямой трансляции боевика. Съемка начинается примерно через шесть минут в 17-минутном видео, просмотренном агентством Рейтер. Начинается нападение злоумышленника на мечеть.
На интернет-дискуссионном форуме Reddit пользователи разработали стратегию, чтобы избежать действий модераторов, направляя друг друга в видеоприложения, которые еще не предприняли никаких действий, и отправляя материал через приложения для обмена сообщениями.
Помимо обработки жалоб пользователей на копии, YouTube заявил в пятницу, что он пытается идентифицировать копии с помощью автоматического инструмента, который находит видео, которые могут иметь насильственный характер, на основе сочетания названия и описания видео, характеристик пользователя. загрузка его и объектов в отснятом материале.
Точные совпадения удаленного материала не могут быть снова загружены на YouTube и Facebook.
Facebook также заявил, что полагается на жалобы пользователей и систему искусственного интеллекта, чтобы выявлять насильственные кадры и отправлять их модераторам.
Он также использовал аудиотехнологию для обнаружения трансляций Крайстчерч, в которых можно было услышать выстрелы и музыку в автомобиле злоумышленника, согласно копии, рассмотренной Reuters.
Исследователи и предприниматели, специализирующиеся на системах обнаружения, сказали, что они были удивлены тем, что пользователи в первые часы после атаки смогли обойти инструменты Facebook.
Джошуа Баксбаум, исполнительный директор Irvine, калифорнийской компании WebPurify, специализирующейся на модерации, сказал, что Facebook и другие службы могут использовать распознавание изображений или другие типы AI для идентификации копий дополнительными способами.
«Я бы, конечно, подумал, что, учитывая имеющиеся у них бюджеты, они смогут выкорчевать эти видео», - сказал Буксбаум.
Эксперты говорят, что компании могут настроить свои инструменты обнаружения и процессы удаления на более агрессивные, но YouTube и Facebook заявили, что они хотят быть осторожными, чтобы не удалять чувствительные видео, которые поступают от новостных организаций или имеют ценность для новостей.
Политики в разных странах говорят, что компании, работающие в социальных сетях, должны быть более бдительными.
«Это тот случай, когда вы предоставляете платформу для ненависти», - заявил сенатор-демократ США Кори Букер, баллотирующийся на пост президента, на мероприятии кампании в Нью-Гемпшире. «Это неприемлемо, этого никогда не должно было случиться, и это должно было быть устранено намного быстрее».
Министр внутренних дел Великобритании Саджид Джавид сказал в Twitter: «Достаточно достаточно».