Ao longo da semana que se seguiu, seus posts on-line mostram que permaneceu em salas de bate-papo secretas no Reddit e no 4chan, mas também leu artigos sobre raça no HuffPost e no Medium. Assistiu ao noticiário da televisão local sobre crimes horríveis. Alternava entre “documentários” em sites extremistas e tutoriais de armas no YouTube.

O jovem, que foi indiciado por um grande júri, foi retratado pelas autoridades e por alguns meios de comunicação como um pária problemático que agiu sozinho ao matar dez negros no supermercado e ferir mais três. Na verdade, ele frequentava várias comunidades on-line em que o conteúdo racista e violento era consumido e compartilhado.

À medida que o número de tiroteios em massa aumenta, especialistas dizem que muitas das ideias perturbadoras que alimentam as atrocidades não são mais relegadas a um punhado de recantos escuros da web, difíceis de encontrar. Cada vez mais veículos, tanto marginais quanto populares, hospedam conteúdo preconceituoso, muitas vezes em nome da liberdade de expressão. E a incapacidade – ou a falta de vontade – dos serviços on-line de controlar o conteúdo violento ameaça atrair mais pessoas para postagens de ódio.

Muitas imagens e conteúdos que o jovem exibia em seus longos textos, que incluíam um diário e um “manifesto” de 180 páginas, circulam on-line há anos. Muitas vezes, acabam chegando a alguns dos sites mais populares do mundo, como o Reddit e o Twitter.

Seu caminho para a radicalização, ilustrado nesses documentos, revela os limites dos esforços de empresas como o Twitter e o Google para moderar postagens, imagens e vídeos que promovem o extremismo e a violência. Ainda resta suficiente conteúdo desse tipo para levar os usuários a sites mais extremos com apenas um ou dois cliques. “Há bastante na internet. Não vai simplesmente cair no seu colo; você tem de começar a procurar. Mas, uma vez que comece, o problema é que a pessoa vai receber uma enxurrada desse tipo de conteúdo”, explicou Eric K. Ward, membro sênior do Southern Poverty Law Center e também diretor executivo do Western States Center, organização de pesquisa sem fins lucrativos.

O ataque em Buffalo renovou o foco no papel que as mídias sociais e outros sites continuam tendo nos atos de extremismo violento, com críticas vindas do público e de autoridades do governo. “O fato de que esse ato de barbárie, essa execução de seres humanos inocentes, possa ser transmitido ao vivo em plataformas de mídia social sem ser retirado em um segundo me diz que há responsabilização”, declarou a governadora Kathy Hochul, de Nova York, depois do tiroteio em Buffalo. Quatro dias depois, a procuradora-geral do estado, Letitia James, anunciou que havia iniciado uma investigação sobre o papel das plataformas.

O Facebook mencionou suas regras e políticas que proíbem conteúdo de ódio. Em um comunicado, um porta-voz garantiu que a plataforma detecta mais de 96 por cento do conteúdo vinculado a organizações de ódio antes de receber alguma denúncia. O Twitter não quis comentar. Certas postagens no Facebook, no Twitter e no Reddit que o “The New York Times” identificou por meio de pesquisas reversas de imagens foram excluídas; algumas contas que compartilharam as imagens foram suspensas.

O homem acusado pelos assassinatos, Payton Gendron, de 18 anos, detalhou seu ataque no Discord, aplicativo de bate-papo que surgiu no mundo dos videogames em 2015, e transmitiu a ação ao vivo pelo Twitch, de propriedade da Amazon. A empresa conseguiu derrubar o vídeo em dois minutos, mas muitas das fontes de desinformação que ele citou permanecem na internet até agora.

A trilha on-line que ele percorreu é um vislumbre assustador de como o ataque mortal foi preparado, recolhendo dicas sobre armas e táticas e encontrando inspiração em colegas racistas e ataques anteriores, que ele basicamente imitou. Ao todo, o conteúdo formava uma visão distorcida e racista da realidade. O atirador considerava as ideias uma alternativa às visões convencionais.

Segundo o próprio relato do assassino, sua radicalização começou depois do início da pandemia de Covid-19, quando ficou restrito à sua casa, como milhões de outros americanos. Ele contou que recebia suas notícias principalmente pelo Reddit antes de ingressar no 4chan, quadro de mensagens on-line. Seguia tópicos sobre armas e atividades ao ar livre antes de encontrar outro dedicado à política, e acabou parando em um lugar que permitia uma mistura tóxica de desinformação racista e extremista.

Embora frequentasse sites como o 4chan, conhecidos por ser marginais, também passava um tempo considerável em plataformas populares, de acordo com o próprio registro, especialmente o YouTube, no qual encontrou cenas gráficas de câmeras policiais e vídeos descrevendo dicas e truques relacionados a armas. À medida que o dia do ataque se aproximava, assistiu a mais vídeos no YouTube sobre assassinatos em massa e policiais envolvidos em tiroteios.

O YouTube assegurou ter revisado todos os vídeos que apareceram no histórico. Três deles foram removidos porque estavam vinculados a sites que violavam a política de armas de fogo do YouTube, que “proíbe conteúdo destinado a instruir os espectadores a fabricar armas de fogo ou acessórios para disparos automáticos ou conteúdo de transmissão ao vivo que mostre alguém manuseando uma arma de fogo”, segundo Jack Malon, porta-voz do YouTube.

No cerne do tiroteio, como outros antes dele, estava uma falsa convicção de que uma conspiração judaica internacional pretende suplantar os eleitores brancos por imigrantes que gradualmente assumirão o poder político nos Estados Unidos. A conspiração, conhecida como a “teoria da grande substituição”, tem raízes que remontam pelo menos à farsa antissemita russa czarista chamada “Os Protocolos dos Sábios do Sião”, que pretendia ser uma conspiração judaica para dominar o cristianismo na Europa.

Ela ressurgiu mais recentemente nas obras de dois romancistas franceses, Jean Raspail e Renaud Camus, que, com quatro décadas de diferença, imaginaram ondas de imigrantes tomando o poder na França. Foi Camus, socialista que se tornou populista de extrema-direita, que popularizou o termo “le grand remplacement” em um romance com esse nome em 2011. Gendron, de acordo com os documentos que postou, parecia não ter lido nenhum deles; em vez disso, atribuiu a noção de “grande substituição” aos textos on-line postados pelo atirador que assassinou 51 muçulmanos em duas mesquitas em Christchurch, na Nova Zelândia, em 2019.

Depois desse ataque, a primeira-ministra da Nova Zelândia, Jacinda Ardern, liderou um pacto internacional, chamado Christchurch Call, no qual o governo e as principais empresas de tecnologia se comprometeram a eliminar o conteúdo terrorista e extremista on-line. Embora o acordo não tenha penalidades legais, o governo Trump se recusou a assiná-lo, citando o princípio da liberdade de expressão.

A experiência on-line de Gendron mostra que os textos e vídeos associados ao tiroteio em Christchurch continuam disponíveis e inspirando outros atos de violência racialmente motivados. Ele se referiu a ambos repetidamente.

A Liga Antidifamação alertou no ano passado que a “grande substituição” havia ido das margens das crenças supremacistas brancas para o mainstream, mencionando os gritos de manifestantes no comício “Unite the Right” de 2017 em Charlottesville, na Virgínia, que acabou em violência, e os comentários de Tucker Carlson na Fox News.

“A maioria de nós não conhece a história original. O que sabemos é a narrativa, e a narrativa da grande teoria da substituição foi credenciada por autoridades e personalidades eleitas a tal ponto que as origens da história não precisam mais ser contadas. As pessoas estão começando a entendê-la como uma compreensão do conhecimento convencional. E é isso que assusta”, afirmou Ward, do Southern Poverty Law Center.

Apesar de todos os esforços que algumas grandes plataformas de mídia social fizeram para moderar o conteúdo on-line, os algoritmos que usam – geralmente destinados a mostrar ao usuário postagens que poderão interessá-lo – podem acelerar a disseminação de desinformação e outros conteúdos nocivos.

Em maio, a Media Matters for America, organização sem fins lucrativos de tendência progressista, revelou que seus pesquisadores encontraram pelo menos 50 anúncios no Facebook nos últimos dois anos promovendo aspectos da “grande substituição” e temas relacionados. Os pesquisadores da organização também descobriram que 907 postagens sobre os mesmos temas em sites de direita atraíram mais de um milhão e meio de engajamentos, muito mais do que postagens destinadas a desmascará-los.

Embora o vídeo do ataque de Gendron tenha sido removido do Twitch, ele ressurgiu no 4chan, mesmo enquanto o rapaz ainda estava na cena do crime. Desde então, o vídeo se espalhou para outras plataformas marginais como o Gab e, finalmente, para plataformas convencionais como o Twitter, o Reddit e o Facebook.

O advento das mídias sociais permitiu que ideias nefastas e conspirações que antes floresciam em relativo isolamento proliferassem pela sociedade, reunindo pessoas motivadas pelo ódio, disse Angelo Carusone, presidente da Media Matters for America: “Eles não estão mais isolados. Estão conectados.”