Генеральный прокурор Джеймс и губернатор Хочул выпустили отчет о роли онлайн-платформ в стрельбе в Буффало

18 октября 2022 года

В докладе подробно рассказывается о радикализации стрелка на граничных сайтах и использовании основных платформ для трансляции насилия.

Генеральный директор Джеймс и губернатор Hochul Призыв к реформам федерального законодательства и законодательства штатов для борьбы с экстремизмом и насилием в Интернете

НЬЮ-ЙОРК - Генеральный прокурор Нью-Йорка Letitia James и губернатор Кэти Хочул сегодня опубликовали доклад о роли интернет-платформ в трагической массовой стрельбе в Буффало, где в продуктовом магазине Tops были убиты 10 чернокожих и ранены еще трое. Генеральная прокуратура (OAG) изучила тысячи страниц документов и содержание социальных сетей, чтобы выяснить, как предполагаемый стрелок использовал онлайн-платформы для планирования, подготовки и освещения своего нападения. Это расследование и последующий отчет были завершены в соответствии с поручением губернатора Хочул. В ходе расследования OAG получила и изучила внешнее и внутреннее содержание и политику нескольких онлайн-платформ, использовавшихся стрелком. В отчете делается вывод, что радикализацию стрелка обеспечили пограничные онлайн-платформы, такие как 4chan; платформы для проведения прямых трансляций, такие как Twitch, использовались для обнародования и поощрения подражательных насильственных атак; а отсутствие надзора, прозрачности и подотчетности этих платформ позволило ненавистным и экстремистским взглядам распространиться в сети, что привело к радикализации и насилию.

В связи с этими выводами генеральный прокурор Джеймс и губернатор Хочул призывают к проведению реформ на федеральном уровне и на уровне штатов для борьбы с экстремизмом и насилием в Интернете, включая законодательство штата, которое предусматривает уголовную ответственность за графические изображения или видео, созданные лицом, совершившим убийство, и наказание лиц, которые повторно распространяют или репостят эти же изображения или видео. Кроме того, генеральный прокурор Джеймс и губернатор Хочул рекомендуют внести изменения в раздел 230 федерального Закона о пристойности в сфере коммуникаций, чтобы повысить ответственность онлайн-платформ и обязать компании принимать разумные меры для предотвращения появления на их платформах противозаконного контента, содержащего насильственные преступные действия.

"Трагическая стрельба в Буффало показала реальную опасность немодерируемых онлайн-платформ, которые стали рассадниками белого превосходства", - сказал генеральный прокурор Джеймс. "Сегодня я встретился с семьями жертв, чтобы поделиться выводами этого отчета. Этот отчет является еще одним доказательством того, что радикализация и экстремизм в Интернете представляют собой серьезную угрозу для наших сообществ, особенно для сообществ цветного населения. Мы видели, как это произошло в Крайстчерче, Шарлотсвилле, Эль-Пасо и Буффало, и мы не можем ждать новой трагедии, прежде чем начнем действовать. Онлайн-платформы должны быть привлечены к ответственности за то, что позволяют ненавистному и опасному контенту распространяться на своих платформах. Экстремистский контент процветает в Интернете, и мы должны работать все вместе, чтобы противостоять этому кризису и защитить наших детей и сообщества".

"Слишком долго ненависть и раскол бурно распространялись на онлайн-платформах - и, как мы видели в моем родном городе Буффало, последствия этого разрушительны", - сказал губернатор Хочул. "После ужасного расстрела белых супремасистов в этом году я выдал направление, в котором попросил Генеральную прокуратуру изучить роль, которую сыграли онлайн-платформы в этом массовом убийстве. Этот отчет предлагает леденящий душу рассказ о факторах, способствовавших этому инциденту, и, что очень важно, "дорожную карту" для повышения ответственности".

В отчете OAG рассмотрены несколько онлайн-платформ, использовавшихся стрелком, включая 4chan, 8kun, Reddit, Discord, Twitch и YouTube, а также другие онлайн-платформы, на которых OAG обнаружила графическое содержание стрельбы или манифеста стрелка, включая Facebook, Instagram, Twitter, TikTok и Rumble. OAG вызвал эти компании в суд и изучил тысячи страниц документов. Следователи изучили, как платформы использовались для распространения и продвижения расистских и антисемитских мемов и сообщений, а также для обмена графическими материалами о предыдущих случаях насилия на расовой почве, что способствовало радикализации предполагаемого стрелка. В отчете также подробно описано, как несколько основных платформ использовались для прямой трансляции стрельбы с целью подстрекательства к новым актам насилия, и как графические видеозаписи стрельбы распространялись в Интернете.

В целом, отчет подтверждает, что несколько онлайн-платформ сыграли неоспоримую роль в этом расистском нападении, сначала радикализировав стрелка, когда он потреблял огромное количество расистского и насильственного контента, помогая ему подготовиться к нападению и, наконец, позволив ему транслировать его. В отчете отмечаются следующие выводы:

Граничные платформы способствуют радикализации: По его собственным словам, стрелок из Буффало был радикализирован под влиянием яростного расистского и антисемитского контента на анонимных, практически немодерируемых сайтах и платформах, которые действуют за пределами основного интернета, в частности, на 4chan. После стрельбы в Буффало графическое видео стрельбы, записанное одним из зрителей, наблюдавших за стрельбой, распространилось на сайтах, посвященных фрилансу. Анонимность, предлагаемая 4chan и подобными ему платформами, и их отказ от какой-либо значимой модерации контента гарантирует, что эти платформы продолжают оставаться рассадниками расистской ненависти и радикализации.
Livestreaming Has Become a Tool for Mass Shooters: Ливстриминг стал инструментом массовых стрелков для мгновенной огласки их преступлений, что еще больше терроризирует общество, на которое нацелился стрелок, и служит механизмом для подстрекательства и призыва к новым насильственным действиям. Стрелка из Буффало подстегивала уверенность в том, что другие будут наблюдать за его действиями в режиме реального времени. Хотя платформа, которую он использовал для трансляции своих злодеяний, отключила трансляцию в течение двух минут после начала насилия, две минуты - это все равно слишком много.
Политика модерации основных платформ непоследовательна и непрозрачна: По сравнению с прошлыми событиями, многие крупные, известные платформы улучшили время реакции на выявление и удаление проблемного контента, связанного со стрельбой в Буффало, включая графическое видео стрельбы и манифест стрелка. Однако реакция платформ была неравномерной: одна из платформ не смогла идентифицировать сообщения, которые ссылались на копии видео со стрельбой за пределами сайта, даже после того, как эти сообщения были отмечены в сообщениях пользователей. Многие платформы также не полностью раскрывают, как они модерируют ненавистный, экстремистский или расистский контент.
Онлайн-платформам не хватает подотчетности: Онлайн-платформы пользуются слишком большим правовым иммунитетом. Раздел 230 Закона о пристойности коммуникаций в значительной степени защищает платформы от ответственности за свои решения по модерации контента, даже если платформа позволяет пользователям размещать и делиться противозаконным контентом.

В ответ на выводы, содержащиеся в отчете, генеральный прокурор Джеймс рекомендует ряд реформ, которые поддерживаются губернатором Хочул и направлены на борьбу с онлайн-экстремизмом и повышение ответственности онлайн-платформ. Эти рекомендации включают:

Ввести ответственность за создание и распространение видеозаписей убийств: Нью-Йорк и другие штаты должны принять закон, вводящий уголовную ответственность за создание преступником изображений или видео, на которых запечатлено убийство. Нью-Йорку следует изучить возможность установления гражданской ответственности для любого лица, передающего или распространяющего такие изображения или видео, помимо преступника. В сочетании с соответствующими изменениями в Разделе 230, эта ответственность будет распространяться на онлайн-платформы, включая социальные сети и платформы для прямых трансляций, которые не принимают разумных мер для предотвращения появления такого контента.
Добавить ограничения на прямые трансляции: Прямые трансляции использовались стрелком из Буффало, как и в предыдущих нападениях на почве ненависти, для мгновенного документирования и трансляции своих насильственных действий с целью получения славы и радикализации других. На прямые трансляции на платформах должны распространяться ограничения - включая требования проверки и задержки записи - специально разработанные для выявления насилия от первого лица, прежде чем они смогут получить широкое распространение.
Реформировать раздел 230: В настоящее время раздел 230 федерального Закона о приличии в сфере коммуникаций защищает онлайн-платформы от ответственности за контент третьих лиц, который они размещают, независимо от практики модерации этих платформ. Конгресс должен переосмыслить готовность Раздела 230 в качестве полной защиты практики модерации контента онлайн-платформами. Вместо этого закон должен быть реформирован таким образом, чтобы требовать от онлайн-платформы, которая хочет сохранить защиту раздела 230, принятия разумных мер для предотвращения появления на платформе незаконного насильственного криминального контента. Данное предложение изменит умолчание. Вместо того, чтобы просто заявить о защите в соответствии с разделом 230, на онлайн-платформу возлагается первоначальное бремя доказывания того, что ее политика и практика были разумно разработаны для борьбы с незаконным контентом.
Повысить прозрачность и усилить модерацию: Онлайн-платформы должны обеспечить лучшую прозрачность своей политики модерации контента и того, как эта политика применяется на практике, включая те, которые направлены на борьбу с ненавистническим, экстремистским и расистским контентом. Они также должны инвестировать в совершенствование общеотраслевых процессов и процедур для снижения распространенности такого контента, в том числе путем расширения типов контента, который может быть проанализирован на предмет нарушения их политики, совершенствования технологии обнаружения и предоставления еще более эффективных средств обмена информацией.
Призыв к поставщикам услуг отрасли делать больше: Провайдеры онлайн-услуг, такие как регистраторы доменов и хостинговые компании, стоят между сайтами, находящимися на периферии, и пользователями. Эти компании должны внимательно изучить сайты, на которых постоянно размещается агрессивный и ненавистный контент, и отказаться от обслуживания сайтов, которые увековечивают цикл насилия со стороны белых экстремистов.

"Днем 14 мая 2022 года стрелок-одиночка проехал 200 миль, чтобы совершить мерзкий, расистский террористический акт против добрых, невинных жителей Буффало. Этот убийца и ему подобные использовали виртуальные чаты и различные формы социальных сетей для планирования, координации и трансляции атак, приводящих к немыслимым, но вполне реальным страданиям и боли", - сказал представитель США Брайан Хиггинс . "Слишком долго мегакомпании уклонялись от своей ответственности за модерацию контента и не несли ответственности за то, что выступали в качестве принимающей стороны для опасной и преступной деятельности. Пусть эта ужасная трагедия станет проводником для борьбы с ненавистью и содействия пониманию, для привлечения людей к ответственности за их действия и для построения более справедливого общества".

"Зрелища и звуки ужасного расистского нападения преследуют многих из тех, кто прямо или косвенно пострадал от этого ужасного события. Мало того, что люди в Топсе и их близкие пережили эту тяжелую утрату в режиме реального времени, но позже они узнают, что расистский стрелок транслировал свою расправу в социальных сетях, где миллионы людей по всему миру могли наблюдать, как каждая из этих прекрасных, полноценных жизней была выбрана мишенью и так бессмысленно забрана", - сказал State сенатор Тим Кеннеди. "Хотя этот прямой эфир был позже удален, видеозапись их убийств и попыток убийства продолжала циркулировать, миллионы людей делились ею в социальных сетях и передавали в новостях - это видео, свидетелем которого ни одна семья не должна быть ни один раз, не говоря уже о том, чтобы быть вечной. В докладе генерального прокурора Джеймса освещаются эти проблемы и предлагаются разумные решения и планы действий. Компании социальных сетей должны быть привлечены к ответственности. Они должны лучше отслеживать язык ненависти, который проникает в каналы и платформы, и взять на себя обязательства по удалению угроз и опасной, агрессивной пропаганды".

"Массовое убийство, совершенное на почве ненависти 14 мая, навсегда изменило наше общество. Хотя боль реальна, мы сильны и выносливы и отказываемся позволить этому расистскому акту определять нас как народ и как сообщество", - сказала лидер большинства в Ассамблее штата Кристал Д. Пеоплз-Стоукс . "Эта атака показала, как ненависть растет и взращивается в темных уголках Интернета. Я благодарю генерального прокурора Джеймс за этот доклад и за ее предложения по борьбе с этой ненавистью и призывами к насилию. Нам нужна большая ответственность со стороны платформ, которые поощряют и восхваляют насилие".

"Роль, которую социальные сети сыграли в массовой стрельбе здесь, в Буффало, иллюстрирует необходимость борьбы с ростом порочного контента в Интернете", - сказал исполнительный директор округа Эри Марк К. Полонкарз. "Необходимо решить вопрос о возможности для белых супремасистов размещать тревожные сообщения и изображения до и во время бессмысленных нападений, подобных тому, что произошло в нашей общине 14 мая. Организации социальных сетей несут моральную ответственность за выявление и удаление угрожающего контента, особенно косвенных и более скрытых угроз, которые зачастую труднее выявить и расследовать, чем явные заявления о предполагаемом насилии. Отчет генерального прокурора Джеймс высветил серьезные проблемы, которые необходимо решить, и я благодарю ее за рекомендации о том, как нам двигаться дальше на уровне штата и страны. Радикально настроенные воинствующие экстремисты не должны получать дополнительную мотивацию для убийства и причинения вреда другим".

"Мы должны серьезно относиться к интернет-экстремизму. Стрелок нашел в Интернете сообщество, которое усилило его фанатизм, радикализировало его, внушив ему теории заговора, и снабдило его стратегиями для осуществления нападения на невинных людей", - сказала председатель законодательного собрания округа Эри Эйприл Н.М. Баскин. "Здесь, в округе Эри, мы создали Офисную группу по оценке поведенческих угроз, которая будет отслеживать угрозы, поступающие в адрес учреждений и общественных организаций. Это модель, которую следует рассмотреть в других сообществах. Я благодарю генерального прокурора Джеймс за отчет, подготовленный ее ведомством и предоставляющий местным, государственным и федеральным чиновникам шаги, которые можно предпринять для спасения жизней и борьбы с онлайн-радикализацией".

"Все большее число насильственных нападений на сообщества начинается с разжигания ненависти в Интернете", - сказал мэр Буффало Байрон Браун. "Слишком легко для людей стать радикалами и внушить им идеологию ненависти через Интернет. Убийца, совершивший массовое убийство 5/14, нашел свою цель в Буффало, распространил этот полный ненависти манифест и с вызывающей тревогу легкостью транслировал свои убийства. Необходимо сделать гораздо больше для того, чтобы в Интернете не было места для языка ненависти, для индоктринации ненависти, для распространения манифестов ненависти".

"Социальные сети оказали много негативного влияния на общество в связи с массовой стрельбой 14 мая. Он не только транслировал злонамеренное нападение, в результате которого пострадало слишком много людей, но и дал нам знать о еще одном общем пространстве ненависти для цветных общин", - сказал председатель общего совета Буффало Дариус Г. Приджен. "Стрелок забрал из нашей общины десять членов семьи и устранил ощущение мира и безопасности в обмен на страх и боль. Нам необходимо обеспечить более эффективное отслеживание отдельных лиц и групп в Интернете и проведение расследований, чтобы мы могли предотвратить дальнейшее развитие терроризма. Все угрозы причинения вреда следует воспринимать серьезно и действовать незамедлительно".

В мае 2022 года губернатор Хочул направила в OAG в соответствии с разделом 63(8) исполнительного закона штата Нью-Йорк поручение расследовать роль онлайн-платформ в стрельбе в Буффало.

Расследование и последующий отчет были проведены Бюро Интернета и технологий и отделом преступлений на почве ненависти Бюро по гражданским правам при особой помощи Отдела исследований и аналитики и Отдела уголовного правосудия.