Definido pelo New York Times como relato “devastador e definitivo” dos impactos das redes sociais na saúde mental das pessoas e em eventos de proporções históricas, “A máquina do caos: como as redes sociais reprogramaram nossa mente e nosso mundo”, de Max Fisher, acaba de ser lançado no Brasil. Eleito um dos cinco melhores trabalhos de excelência em jornalismo em 2022 pela New York Public Library, o livro mostra como Facebook, Twitter e YouTube, entre outros, identificaram e usaram fragilidades psicológicas dos usuários para criar algoritmos focados em engajamento impulsionado por opiniões e ações extremadas. Fisher, que foi colunista e repórter da editoria de Internacional do Times até o mês passado, fez dezenas de entrevistas para o livro, inclusive no Brasil, onde observou o avanço do bolsonarismo em paralelo à multiplicação de notícias falsas nas redes como o kit gay e a guerrilha digital antivacina.
Ele também esmiuçou centenas de pesquisas e recebeu documentos vazados por delatores do Vale do Silício para derrubar a tese de que as redes são meras ferramentas que refletem a natureza humana. Para o especialista no tema, que vê o Brasil como “janela privilegiada para se entender as redes sociais nos próximos anos”, elas estimulam comportamentos extremistas e disseminam notícias falsas pautadas pela lógica irresponsável do lucro garantido pelo algoritmo. Abaixo seguem os principais trechos da entrevista feita por telefone:
O que mudou nas redes sociais desde a publicação do livro nos EUA, há seis meses?
Após a invasão do Capitólio, em 2021, aumentou a pressão política às big techs, pois finalmente todos testemunharam a dimensão das consequências das redes sociais para a democracia. YouTube, Facebook, que proibiu por alguns meses anúncios políticos, e Twitter, que incluiu avisos como “gostaria de ler o post antes de replicar?”, buscaram diminuir danos, mas com passos lentos e sem ânimo. O algoritmo segue promovendo desinformação e discurso de ódio nas redes. Nos EUA, as fake news sobre vacinação e fraude eleitoral não se justificavam apenas pelo lucro, motivação central, mas também porque as empresas queriam agradar a Donald Trump. O que terá impacto global nos usuários das redes no futuro próximo é o clima político em Washington. O jogo das eleições americanas passará uma vez mais pelas redes sociais.
Você argumenta que a mudança do algoritmo impulsionou Trump. Pode-se repetir 2016 no ano que vem?
Há o risco. Trump, com todos os problemas com a Justiça, ainda é o favorito no momento para vencer as primárias republicanas. O Vale do Silício busca a reaproximação cautelosa com o ex-presidente. Ele criou sua própria plataforma, mas as gigantes aceitaram-no de volta às suas redes, após punições por conta do Capitólio. O YouTube, o que faltava, acabou de fazer isso. Não é acaso. Se a extrema direita seguir dominante na base republicana, as plataformas voltarão à sua pior versão, com ramificações globais. Investiu-se muito em inteligência artificial e moderação de conteúdo em larga escala nas plataformas para elas se autorregularem. O quadro só muda com menos extremismo a se promover ou mais regulamentação.
No Brasil, discute-se a regulamentação no Congresso, Executivo e Judiciário…
Ainda não me debrucei sobre as inciativas no Brasil, mas aqui a Suprema Corte trata de um processo muito importante (o de um pai que acusa o Google, por conta de recomendações de vídeos de ódio no YouTube, de ter radicalizado terroristas que mataram sua filha em Paris em novembro de 2015). Se os juízes decidirem que as plataformas são responsáveis por promover extremismo religioso, irão transformar drasticamente como elas operam. A maioria conservadora na Corte é menos ideológica do que partidária, não se pautará apenas pela defesa da liberdade de expressão e do mercado, mas pelo que beneficia os republicanos. Trump é crítico do Vale do Silício, embora se beneficie do modelo irresponsável de negócio nas redes sociais.
Você fez reportagens em Niterói , Minas e Alagoas, e escreve que o Brasil é uma janela para se vislumbrar o futuro das redes sociais. De que modo?
A sociedade brasileira é muito ativa no universo digital, com enorme uso das redes sociais. Já é laboratório para tendências e táticas que depois são exportadas. Penso na deterioração da direita tradicional, no descrédito das instituições e na emergência de figuras aparentemente não-políticas no mainstream. É crucial entender as consequências da facilitação do uso das redes sociais à extrema direita no Brasil para se tatear o futuro global delas. O ataque à democracia brasileira é central para compreender o impacto das redes sociais. É fato histórico mais explícito para tanto, inclusive, do que o Capitólio. E o futuro da democracia passa por como o Brasil responderá à destruição das sedes do Poder por indivíduos incitados pela máquina do caos, de forma menos organizada do que nos EUA, atestando que mesmo com menor coordenação atos antidemocráticos são possíveis.
Como vê a resposta do Judiciário brasileiro aos golpistas identificados?
As instituições agiram de forma mais forte do que as dos EUA após o Capitólio. E vi menos reações da opinião pública daí de que se tratava de algo restrito a uma minoria radical sem consequências graves. Mas, para além da punição, é preciso pensar em prevenção, outra discussão complexa quando se trata de liberdade de expressão nas redes. Eventuais regulamentações precisam modificar o funcionamento das plataformas para impedir atos de violência individual e coletiva antes de eles acontecerem. É preciso compreender a lógica do algoritmo, não focar apenas em conteúdo publicado e moderação, mas em mecanismos legais que impeçam as plataformas de seguirem usando-o para intensificar o discurso de ódio.
Você compara o algoritmo a Hal 9000, inteligência artificial de “2001: uma odisseia no espaço”. E escreve que a lição do filme é desligar o computador. É essa a solução para as redes sociais?
Entre os principais especialistas no tema há duas linhas de pensamento: uma defende as regulamentações, o engajamento das big tech na educação dos usuários e no comprometimento de que o algoritmo deixará de promover extremismo e discurso de ódio, ainda que isso as sufoque financeiramente. Outra crê que YouTube, Facebook, WhatsApp, Twitter e afins são as indústrias do cigarro do século XXI e devem ser tratadas como tal: seu produto é perigoso e prejudicial à saúde, neste caso mental, e a saída é sim reduzir o acesso. E obrigá-las a divulgar o quão viciante e perigoso ele é.
E o que seria a nicotina no caso?
Todos os detalhes da plataforma, o design inclusive, voltados para manipular o comportamento dos usuários. O principal é o algoritmo, que escolhe apresentar, de forma deliberada, temas extremos destinados a fazer com que se passe mais tempo ali. E, claro, a ver mais anúncios. A nicotina também se traduz ao se permitir ver quantas pessoas estão curtindo o post e ao se oferecer seleção de vídeos cada vez mais extremada a partir da pesquisa inicial.
Há especialistas que defendem, no entanto, ser impossível, e mesmo indesejável, deixar a “Matrix” das redes sociais…
No livro, falo de engenheiros do Vale do Silício que acreditam não estar promovendo propositadamente a desinformação e o ódio. A mistura de ideologia, cobiça e a complexidade do algoritmo os impede de ver o todo. Após o Capitólio, alguns reconheceram que suas plataformas promoviam divisão. Mas, em vez de mudança, o que se viu foi o abandono da ideia das redes sociais como revolução que mudaria o mundo, como se vendeu na Primavera Árabe, para algo como “deveríamos ter sido mais responsáveis, mas os problemas não vêm só de nós”. Feriram a própria mística do Vale por lucro.
Eduardo Graça/O Globo — São Paulo