Os dilemas e as soluções das redes

Foto: Reprodução/Documentário “Dilema das redes” – Netflix

Não se fala em outra coisa na bolha: o dilema das redes. Claro, também se fala em muitas outros assuntos no grupo de interação mais próximo nas redes sociais que convencionamos chamar de bolha, mas o fato é que “The Social Dilemma”, documentário de Jeff Orlowski estreado em setembro no Netflix e traduzido aqui como “O Dilema das Redes”, tem gerado debate. Tanto tem que já há uma série de textos, de diversas perspectivas e lugares distintos, que refletem sobre a nossa sociedade e as tecnologias, especialmente as redes sociais na internet, a partir do documentário. Por que será que se fala, se pensa e se escreve tanto desse dilema?

Há diversos fatores, e nos próximos parágrafos vamos resumir alguns deles a partir de quatro diferentes textos que abordam o filme. Gostando ou não, parece que o documentário tem conseguido, em primeiro lugar, reunir diferentes tópicos que nós aqui do BaixaCultura e inúmeros outros projetos, pessoas e organizações falam com frequência há pelo menos 10 anos: a manipulação/modulação que as redes sociais têm feito no comportamento de milhares de pessoas e a necessidade de entender e agir contra isso; a disseminação de informação falsa a partir das mesmas redes sociais e o efeito nefasto disso na sociedade e especialmente na política; a transformação da internet de um lugar libertário e descentralizado em um grande shopping center controlado por algumas poucas empresas gigantes; os aspectos políticos das tecnologias e o que elas podem ajudar a perpetuar se não forem transparentes e auditadas de modo coletivo; o desejo e os benefícios na saúde emocional (e também corporal) de sair das redes sociais, ou pelo menos limitar a “dieta da informação” na rede; entre outros fatores correlatos.

Em segundo lugar, o documentário parece ter embalado tudo isso em um produto audiovisual bem acabado para um público muito maior que do que até então tratava desses temas. Esse parece ser um mérito quase inquestionável do documentário: tornar um assunto de nicho, uma preocupação de pessoas que lidam com a tecnologia e suas implicações sociais, culturais, políticas, econômicas, num assunto popular presente em diversas rodas de discussão. É notório que o potencial de circulação que o Netflix traz, com seus quase 190 milhões de assinantes no mundo inteiro, tem papel central em tornar a preocupação outrora somente de ativistas em um debate global. O que pode vir daí – leis de regulação, mudanças de comportamento, novos projetos que buscam um “bem-estar digital”, etc – ainda é incógnita. Entretanto, podemos dizer: se o filme capturou um certo zeitgeist (espírito do tempo) dessa época de euforia e preocupação com as redes sociais online, ele também pode ajudar a fomentar iniciativas que possam mudar as regras do jogo tal como conhecemos hoje de dentro do sistema.

Na prática, e sendo talvez um tanto otimista e inocente, o documentário pode fomentar um cenário na sociedade civil de maior pressão para mais e melhores leis de regulação, já que essa parece ser uma receita cada vez mais retomada (porque proposta já há muito tempo) para cuidar dessa extrema liberdade que as big tech possuíram para construir seus impérios e criar o tal “dilema das redes” apresentado. Certamente há outras receitas para solucionar o dilema: a autonomia e a auto-organização da inteligência coletiva, a tomada dos meios de produção para a construção de tecnologias mais sensíveis e menos padronizadoras de comportamentos, o não esquecimento dos aspectos políticos, sociais e econômicos dos aparatos tecnológicos. Mas por enquanto mesmo anarquistas, centristas, comunistas ou liberais podem concordar que pelo menos algum tipo de regulação, fiscalização e ou controle para essas empresas pode ser desejável e inevitável.

Foto: Reprodução/Documentário “Dilema das redes” – Netflix

Vamos aos textos, seguindo a ordem em que foram publicados no Brasil. O primeiro é de Tatiana Dias, repórter e editora que cobre a área faz mais de 10 anos, publicado no The Intercept Brasil em 14 de setembro (de 2020). Como quase todos os textos posteriores (e esse nosso), há um reconhecimento dos méritos do documentário – ele “efetivamente desenhou o funcionamento dos algoritmos e da manipulação a que somos submetidos como ratos de laboratório” – e uma crítica à simplificação de alguns temas e ao que o filme escolhe ocultar. Há dois aspectos principais da crítica, que dizem respeito aos encaminhamentos propostos no documentário. O primeiro fala da escolha individual como uma solução para o “dilema das redes”.

“Não se trata de “escolher sair das redes”, mas de se opor a essa lógica e pressionar por regulação e transparência. Parece simples para um ex-executivo das big techs proibir o filho de ter qualquer contato com tecnologia (eles de fato fazem isso). Mas como falar isso para as crianças cada vez mais dependentes da tecnologia até mesmo para estudar num mundo que atravessa uma pandemia? Se os próprios governos usam essas plataformas para serviços públicos?”

O texto de Tatiana também aponta uma particularidade brasileira na questão do acesso. “O Facebook teve uma estratégia agressiva de expansão, com parcerias com empresas de telecom para oferecer acesso grátis aos seus serviços para a população de baixa renda. A pessoa contrata um plano de celular e leva o quê? Acesso ao Facebook, Insta e Zap de graça. Sem dados para outro tipo de navegação, para muita gente a internet se torna só isso. Criou-se um mercado do qual é praticamente impossível sair: as pessoas confundem internet com as interações que acontecem nessas plataformas, e toda a vida acontece ali.”

O segundo aspecto da crítica do texto publicado no The Intercept é a de que a solução para o tal dilema “não vai vir de centros para tecnologia humanizada em Stanford, mas de uma internet descentralizada e diversa por essência, feita por pessoas diferentes, baseada em outra lógica: redes comunitárias ou repositórios de conteúdos livres”, como apontamos aqui no BaixaCultura recentemente. “É um contrassenso”, afirma Tatiana, querer construir uma unidade ou senso de coletividade, ou mesmo ter uma conversa, se a plataforma naturalmente transforma um debate em uma rinha para lucrar com isso. Como também já sinalizamos aqui: o modelo de negócio de venda de dados e da economia de atenção, que ganha com o tempo que as pessoas passam em uma dada plataforma e a quantidade de interações (dados) produzidas, precisa ser alterado para que alguma mudança seja vista. Os esforços coletivos de construção de uma internet mais saudável são importantes, mas paliativos se esse problema estrutural não for atacado de alguma forma.

Foto: Reprodução/Documentário “Dilema das redes” – Netflix

Atacar esse problema estrutural é o que, precisamente, faz tanto o segundo quanto o terceiro aqui citado: respectivamente, “Não, as redes sociais não estão destruindo a civilização”, de Richard Seymour, e “ Não culpe as redes sociais, culpe o capitalismo“, de Paris Marx, ambos publicados na revista de esquerda Jacobin entre o final de setembro e o início de outubro – o segundo traduzido por Rafael Grohmann e Victor Wolffenbuttel, parceiro de muitos textos aqui. No primeiro texto, a crítica à “The Social Dilemma” é, primeiramente, irônica:

“Que mal as redes sociais podem fazer? Guerra civil! O fim da civilização como conhecemos! Esse é o veredito dos luminares renegados do Vale do Silício, reunidos no novo documentário da Netflix O Dilema das Redes (The Social Dilemma). Como o ex-empregado do Google, Tristan Harris coloca a questão, em um axioma bastante TED Talk, as redes sociais ameaçam dar um “xeque-mate na humanidade”. (…) Todos os vilões do techlash dos liberais estão aqui: fake news, ciberataque russo, ditadores estrangeiros, “atores ruins”, polarização política e adolescentes deprimidos. O Dilema das Redes põe um diretos de plataforma desiludido atrás do outro para entregar a mesma homília familiar, encenada através da história de fundo de uma família suburbana, que vive nos EUA, e vem sendo despedaçada pelo vício em redes sociais.”

E, depois, com viés marxista: “O que foi distorcido e tirado do lugar n’O Dilema das Redes para produzir esse pânico moral cinematográfico? O Capital. O documentário é bastante lúcido sobre os aspectos da indústria social e como ela funciona. Trata-se de “uma espécie de poder totalmente nova”. A indústria social não apenas nos monitora e nos manipula. Quanto mais nossas vidas sociais são gastas nestas plataformas, mais nossa vida social é programada.”

De uma perspectiva próxima, mas menos irônica, é o segundo texto publicado na Jacobin. Paris Marx fala do documentário como uma narrativa tecnodeterminista que acaba por inflar as capacidades de captura de dados e algoritmos e, assim, atribuir à tecnologia uma série de problemas que têm suas raízes nas condições sociais e econômicas mais fundamentais da sociedade moderna. Ao contrário do que normalmente se espera em uma narrativa tecnodeterminista, aqui a premissa básica é invertida: “Em vez da tecnologia tornar o mundo melhor, a maioria das pessoas do filme reconhece que coisas ruins estão acontecendo, mas dada a perspectiva que elas enxergam o mundo, o problema principal também deve ser tecnológico.”

Mesmo pessimista, a visão tecnodeterminista do documentário endossa a ideia do solucionismo tecnológico já abordada aqui: de que mais tecnologia vai resolver tudo, inclusive os próprios problemas causados pela tecnologia…Assim, Marx (o autor do texto) afirma que O Dilema das Redes exagera ao apontar que os efeitos negativos das redes sociais na sociedade são derivados apenas das plataformas que utilizam modelos de captura de dados e curadoria por algoritmos.

“Devemos acreditar que a polarização social é resultado do Facebook e não do fato de que a desigualdade de renda retrocedeu a níveis anteriores à Grande Depressão (e que possivelmente ficarão muito piores devido à pandemia)? Devemos acreditar que a desconfiança com as elites e com os políticos é fruto dos resultados de busca do Google, e não do fato de que o sistema político não está respondendo às necessidades da vasta maioria da população, enquanto o governo deixa a indústria se autorregular, acarretando em tragédias como o Boeing 737 MAX?”

A crítica de Marx na Jacobin chega a uma solução para o dilema das redes: destruir (ou modificar?) o capitalismo. Uma resposta, como se sabe, que é muito comum nos diagnósticos dos diversos problemas que acometem o mundo neste 2020, mas que, em alguns casos, pode paralisar diante do tamanho e da dificuldade da tarefa: será mesmo possível acabar com o capitalismo e salvar a internet? Felizmente Marx aponta alguns caminhos, próximos aos mencionados por Tatiana e por nós mesmos aqui no BaixaCultura: “precisamos reconhecer que a internet foi um produto de pesquisa e financiamento público. Para melhorá-la, talvez seja necessário retornar a uma estrutura não comercial, em que as empresas públicas possuam as infraestruturas-chave, as cooperativas operem uma variedade de plataformas com incentivos muito diferentes e sem fins lucrativos, e as pessoas comuns possam colaborar em novas ferramentas digitais sem que haja um imperativo comercial. Mas isso também exigirá mudanças nas estruturas políticas e econômicas mais amplas.”

Foto por Oladimeji Ajegbile em Pexels.com

Por fim, o quarto texto que trazemos aqui para tratar de “O Dilema das Redes” é de Clara Lage, filha do jornalista e conhecido teórico do jornalismo Nilson Lage, em seu blog Moinho. Matemática, pós doutoranda na École Polytechnique de Paris com trabalho com Otimização e Estatística, Clara também fala do “mérito técnico e da fácil compreensão” do documentário, que apresenta ex-engenheiros de altos cargos em grandes empresas de tecnologia, especialmente as GAFA (Google, Apple, Facebook, Amazon), que testemunham seus impasses éticos com seus antigos trabalhos. Nesse aspecto, ela traz uma observação interessante: “embora os engenheiros programem os algoritmos que regem as redes, eles não são capazes de prever seu comportamento quando apresentados à quantidade colossal de dados que recebem. Nesse ponto, a própria estrutura de funcionamento do chamado deep learning dificulta o diagnóstico sobre os efeitos sociais desses algoritmos. A consciência do potencial destrutivo dessa ferramenta chega pelas próprias consequências sociais e individuais, e a percepção negativa das empresas cresce à medida que esses problemas ganham notoriedade.”

Depois, Clara faz críticas políticas parecidas à dos textos anteriores sobre as escolhas do filme, a começar pelos próprios personagens ouvidos: “Ao priorizar ex-engenheiros (brancos e do norte global) que ajudaram a criar os tais aparatos tecnológicos, a impressão que deixa o documentário é de que a percepção do potencial danoso na atual configuração das grandes empresas de tecnologia é recente e que a descoberta parte essencialmente das próprias pessoas que criaram esses algoritmos”. Sabemos que não é uma descoberta recente: a luta por algoritmos/códigos transparentes remete pelo menos ao final dos anos 1970 com o software livre, citado por ela no texto, que há quase 40 anos vem falando que programas de computador – como certos bens culturais, e os comuns – não podem ser fechados e privatizados com vias de apenas explorar o lucro possível esquecendo sua função social como conhecimento produzido pela humanidade.

Clara cita a questão também a questão dos monopólios de comunicação e tecnologia, propulsionados pela desregulação neoliberal dos anos 1980, e que formam o caldo que resultaria na construção geopolítica da internet tal qual conhecemos hoje – e, bom retomar, criticada de modo quase pioneiro em “A Ideologia Californiana” de Barbrook & Cameron em 1995.

Por fim, o texto aponta para como é sintomático o fato de restar tão pouco tempo para a última parte, em que o documentário pretende desenvolver as soluções para o caos apresentado. “Sem um horizonte possivelmente mais utópico, mas mais instigante, de “softwares livres”, ou mesmo a esperança de um ambiente menos feudal para as redes – onde a terra é dividida entre gigantes – restam algumas palavras sobre regulamentação, mudança no bussiness model e importantes atitudes individuais, como desativar as notificações dos aplicativos”. É certo que não há horizontes fáceis e prontos para serem apontados, mas ao olhar para o passado poderíamos aprender a não apostar em um uma saída que não seja política e coletiva e a não esperar da tecnologia somente soluções mágicas e falsamente neutras.