Foto: Reprodução/Documentário “Dilema das redes” – Netflix

Não se fala em outra coisa na bolha: o dilema das redes. Claro, também se fala em muitas outros assuntos no grupo de interação mais próximo nas redes sociais que convencionamos chamar de bolha, mas o fato é que “The Social Dilemma”, documentário de Jeff Orlowski estreado em setembro no Netflix e traduzido aqui como “O Dilema das Redes”, tem gerado debate. Tanto tem que já há uma série de textos, de diversas perspectivas e lugares distintos, que refletem sobre a nossa sociedade e as tecnologias, especialmente as redes sociais na internet, a partir do documentário. Por que será que se fala, se pensa e se escreve tanto desse dilema?

Há diversos fatores, e nos próximos parágrafos vamos resumir alguns deles a partir de quatro diferentes textos que abordam o filme. Gostando ou não, parece que o documentário tem conseguido, em primeiro lugar, reunir diferentes tópicos que nós aqui do BaixaCultura e inúmeros outros projetos, pessoas e organizações falam com frequência há pelo menos 10 anos: a manipulação/modulação que as redes sociais têm feito no comportamento de milhares de pessoas e a necessidade de entender e agir contra isso; a disseminação de informação falsa a partir das mesmas redes sociais e o efeito nefasto disso na sociedade e especialmente na política; a transformação da internet de um lugar libertário e descentralizado em um grande shopping center controlado por algumas poucas empresas gigantes; os aspectos políticos das tecnologias e o que elas podem ajudar a perpetuar se não forem transparentes e auditadas de modo coletivo; o desejo e os benefícios na saúde emocional (e também corporal) de sair das redes sociais, ou pelo menos limitar a “dieta da informação” na rede; entre outros fatores correlatos.

Em segundo lugar, o documentário parece ter embalado tudo isso em um produto audiovisual bem acabado para um público muito maior que do que até então tratava desses temas. Esse parece ser um mérito quase inquestionável do documentário: tornar um assunto de nicho, uma preocupação de pessoas que lidam com a tecnologia e suas implicações sociais, culturais, políticas, econômicas, num assunto popular presente em diversas rodas de discussão. É notório que o potencial de circulação que o Netflix traz, com seus quase 190 milhões de assinantes no mundo inteiro, tem papel central em tornar a preocupação outrora somente de ativistas em um debate global. O que pode vir daí – leis de regulação, mudanças de comportamento, novos projetos que buscam um “bem-estar digital”, etc – ainda é incógnita. Entretanto, podemos dizer: se o filme capturou um certo zeitgeist (espírito do tempo) dessa época de euforia e preocupação com as redes sociais online, ele também pode ajudar a fomentar iniciativas que possam mudar as regras do jogo tal como conhecemos hoje de dentro do sistema.

Na prática, e sendo talvez um tanto otimista e inocente, o documentário pode fomentar um cenário na sociedade civil de maior pressão para mais e melhores leis de regulação, já que essa parece ser uma receita cada vez mais retomada (porque proposta já há muito tempo) para cuidar dessa extrema liberdade que as big tech possuíram para construir seus impérios e criar o tal “dilema das redes” apresentado. Certamente há outras receitas para solucionar o dilema: a autonomia e a auto-organização da inteligência coletiva, a tomada dos meios de produção para a construção de tecnologias mais sensíveis e menos padronizadoras de comportamentos, o não esquecimento dos aspectos políticos, sociais e econômicos dos aparatos tecnológicos. Mas por enquanto mesmo anarquistas, centristas, comunistas ou liberais podem concordar que pelo menos algum tipo de regulação, fiscalização e ou controle para essas empresas pode ser desejável e inevitável.

Foto: Reprodução/Documentário “Dilema das redes” – Netflix

Vamos aos textos, seguindo a ordem em que foram publicados no Brasil. O primeiro é de Tatiana Dias, repórter e editora que cobre a área faz mais de 10 anos, publicado no The Intercept Brasil em 14 de setembro (de 2020). Como quase todos os textos posteriores (e esse nosso), há um reconhecimento dos méritos do documentário – ele “efetivamente desenhou o funcionamento dos algoritmos e da manipulação a que somos submetidos como ratos de laboratório” – e uma crítica à simplificação de alguns temas e ao que o filme escolhe ocultar. Há dois aspectos principais da crítica, que dizem respeito aos encaminhamentos propostos no documentário. O primeiro fala da escolha individual como uma solução para o “dilema das redes”.

“Não se trata de “escolher sair das redes”, mas de se opor a essa lógica e pressionar por regulação e transparência. Parece simples para um ex-executivo das big techs proibir o filho de ter qualquer contato com tecnologia (eles de fato fazem isso). Mas como falar isso para as crianças cada vez mais dependentes da tecnologia até mesmo para estudar num mundo que atravessa uma pandemia? Se os próprios governos usam essas plataformas para serviços públicos?”

O texto de Tatiana também aponta uma particularidade brasileira na questão do acesso. “O Facebook teve uma estratégia agressiva de expansão, com parcerias com empresas de telecom para oferecer acesso grátis aos seus serviços para a população de baixa renda. A pessoa contrata um plano de celular e leva o quê? Acesso ao Facebook, Insta e Zap de graça. Sem dados para outro tipo de navegação, para muita gente a internet se torna só isso. Criou-se um mercado do qual é praticamente impossível sair: as pessoas confundem internet com as interações que acontecem nessas plataformas, e toda a vida acontece ali.”

O segundo aspecto da crítica do texto publicado no The Intercept é a de que a solução para o tal dilema “não vai vir de centros para tecnologia humanizada em Stanford, mas de uma internet descentralizada e diversa por essência, feita por pessoas diferentes, baseada em outra lógica: redes comunitárias ou repositórios de conteúdos livres”, como apontamos aqui no BaixaCultura recentemente. “É um contrassenso”, afirma Tatiana, querer construir uma unidade ou senso de coletividade, ou mesmo ter uma conversa, se a plataforma naturalmente transforma um debate em uma rinha para lucrar com isso. Como também já sinalizamos aqui: o modelo de negócio de venda de dados e da economia de atenção, que ganha com o tempo que as pessoas passam em uma dada plataforma e a quantidade de interações (dados) produzidas, precisa ser alterado para que alguma mudança seja vista. Os esforços coletivos de construção de uma internet mais saudável são importantes, mas paliativos se esse problema estrutural não for atacado de alguma forma.

Foto: Reprodução/Documentário “Dilema das redes” – Netflix

Atacar esse problema estrutural é o que, precisamente, faz tanto o segundo quanto o terceiro aqui citado: respectivamente, “Não, as redes sociais não estão destruindo a civilização”, de Richard Seymour, e “ Não culpe as redes sociais, culpe o capitalismo“, de Paris Marx, ambos publicados na revista de esquerda Jacobin entre o final de setembro e o início de outubro – o segundo traduzido por Rafael Grohmann e Victor Wolffenbuttel, parceiro de muitos textos aqui. No primeiro texto, a crítica à “The Social Dilemma” é, primeiramente, irônica:

“Que mal as redes sociais podem fazer? Guerra civil! O fim da civilização como conhecemos! Esse é o veredito dos luminares renegados do Vale do Silício, reunidos no novo documentário da Netflix O Dilema das Redes (The Social Dilemma). Como o ex-empregado do Google, Tristan Harris coloca a questão, em um axioma bastante TED Talk, as redes sociais ameaçam dar um “xeque-mate na humanidade”. (…) Todos os vilões do techlash dos liberais estão aqui: fake news, ciberataque russo, ditadores estrangeiros, “atores ruins”, polarização política e adolescentes deprimidos. O Dilema das Redes põe um diretos de plataforma desiludido atrás do outro para entregar a mesma homília familiar, encenada através da história de fundo de uma família suburbana, que vive nos EUA, e vem sendo despedaçada pelo vício em redes sociais.”

E, depois, com viés marxista: “O que foi distorcido e tirado do lugar n’O Dilema das Redes para produzir esse pânico moral cinematográfico? O Capital. O documentário é bastante lúcido sobre os aspectos da indústria social e como ela funciona. Trata-se de “uma espécie de poder totalmente nova”. A indústria social não apenas nos monitora e nos manipula. Quanto mais nossas vidas sociais são gastas nestas plataformas, mais nossa vida social é programada.”

De uma perspectiva próxima, mas menos irônica, é o segundo texto publicado na Jacobin. Paris Marx fala do documentário como uma narrativa tecnodeterminista que acaba por inflar as capacidades de captura de dados e algoritmos e, assim, atribuir à tecnologia uma série de problemas que têm suas raízes nas condições sociais e econômicas mais fundamentais da sociedade moderna. Ao contrário do que normalmente se espera em uma narrativa tecnodeterminista, aqui a premissa básica é invertida: “Em vez da tecnologia tornar o mundo melhor, a maioria das pessoas do filme reconhece que coisas ruins estão acontecendo, mas dada a perspectiva que elas enxergam o mundo, o problema principal também deve ser tecnológico.”

Mesmo pessimista, a visão tecnodeterminista do documentário endossa a ideia do solucionismo tecnológico já abordada aqui: de que mais tecnologia vai resolver tudo, inclusive os próprios problemas causados pela tecnologia…Assim, Marx (o autor do texto) afirma que O Dilema das Redes exagera ao apontar que os efeitos negativos das redes sociais na sociedade são derivados apenas das plataformas que utilizam modelos de captura de dados e curadoria por algoritmos.

“Devemos acreditar que a polarização social é resultado do Facebook e não do fato de que a desigualdade de renda retrocedeu a níveis anteriores à Grande Depressão (e que possivelmente ficarão muito piores devido à pandemia)? Devemos acreditar que a desconfiança com as elites e com os políticos é fruto dos resultados de busca do Google, e não do fato de que o sistema político não está respondendo às necessidades da vasta maioria da população, enquanto o governo deixa a indústria se autorregular, acarretando em tragédias como o Boeing 737 MAX?”

A crítica de Marx na Jacobin chega a uma solução para o dilema das redes: destruir (ou modificar?) o capitalismo. Uma resposta, como se sabe, que é muito comum nos diagnósticos dos diversos problemas que acometem o mundo neste 2020, mas que, em alguns casos, pode paralisar diante do tamanho e da dificuldade da tarefa: será mesmo possível acabar com o capitalismo e salvar a internet? Felizmente Marx aponta alguns caminhos, próximos aos mencionados por Tatiana e por nós mesmos aqui no BaixaCultura: “precisamos reconhecer que a internet foi um produto de pesquisa e financiamento público. Para melhorá-la, talvez seja necessário retornar a uma estrutura não comercial, em que as empresas públicas possuam as infraestruturas-chave, as cooperativas operem uma variedade de plataformas com incentivos muito diferentes e sem fins lucrativos, e as pessoas comuns possam colaborar em novas ferramentas digitais sem que haja um imperativo comercial. Mas isso também exigirá mudanças nas estruturas políticas e econômicas mais amplas.”

Foto por Oladimeji Ajegbile em Pexels.com

Por fim, o quarto texto que trazemos aqui para tratar de “O Dilema das Redes” é de Clara Lage, filha do jornalista e conhecido teórico do jornalismo Nilson Lage, em seu blog Moinho. Matemática, pós doutoranda na École Polytechnique de Paris com trabalho com Otimização e Estatística, Clara também fala do “mérito técnico e da fácil compreensão” do documentário, que apresenta ex-engenheiros de altos cargos em grandes empresas de tecnologia, especialmente as GAFA (Google, Apple, Facebook, Amazon), que testemunham seus impasses éticos com seus antigos trabalhos. Nesse aspecto, ela traz uma observação interessante: “embora os engenheiros programem os algoritmos que regem as redes, eles não são capazes de prever seu comportamento quando apresentados à quantidade colossal de dados que recebem. Nesse ponto, a própria estrutura de funcionamento do chamado deep learning dificulta o diagnóstico sobre os efeitos sociais desses algoritmos. A consciência do potencial destrutivo dessa ferramenta chega pelas próprias consequências sociais e individuais, e a percepção negativa das empresas cresce à medida que esses problemas ganham notoriedade.”

Depois, Clara faz críticas políticas parecidas à dos textos anteriores sobre as escolhas do filme, a começar pelos próprios personagens ouvidos: “Ao priorizar ex-engenheiros (brancos e do norte global) que ajudaram a criar os tais aparatos tecnológicos, a impressão que deixa o documentário é de que a percepção do potencial danoso na atual configuração das grandes empresas de tecnologia é recente e que a descoberta parte essencialmente das próprias pessoas que criaram esses algoritmos”. Sabemos que não é uma descoberta recente: a luta por algoritmos/códigos transparentes remete pelo menos ao final dos anos 1970 com o software livre, citado por ela no texto, que há quase 40 anos vem falando que programas de computador – como certos bens culturais, e os comuns – não podem ser fechados e privatizados com vias de apenas explorar o lucro possível esquecendo sua função social como conhecimento produzido pela humanidade.

Clara cita a questão também a questão dos monopólios de comunicação e tecnologia, propulsionados pela desregulação neoliberal dos anos 1980, e que formam o caldo que resultaria na construção geopolítica da internet tal qual conhecemos hoje – e, bom retomar, criticada de modo quase pioneiro em “A Ideologia Californiana” de Barbrook & Cameron em 1995.

Por fim, o texto aponta para como é sintomático o fato de restar tão pouco tempo para a última parte, em que o documentário pretende desenvolver as soluções para o caos apresentado. “Sem um horizonte possivelmente mais utópico, mas mais instigante, de “softwares livres”, ou mesmo a esperança de um ambiente menos feudal para as redes – onde a terra é dividida entre gigantes – restam algumas palavras sobre regulamentação, mudança no bussiness model e importantes atitudes individuais, como desativar as notificações dos aplicativos”. É certo que não há horizontes fáceis e prontos para serem apontados, mas ao olhar para o passado poderíamos aprender a não apostar em um uma saída que não seja política e coletiva e a não esperar da tecnologia somente soluções mágicas e falsamente neutras.

Ilustração: Ben Jennings/The Guardian

Desde meados de março, o novo coronavírus tem chacoalhado o sistema e mandado o capitalismo para a unidade de cuidados intensivos. Muitos pensadores têm manifestado sua esperança de que isso nos leve a um sistema econômico mais humano; outros alertam que a pandemia anuncia um futuro sombrio de vigilância estatal tecno-totalitária. O bierolorusso Evgeny Morozov, habitante frequente por aqui, avisa para um “policial bonzinho” nessa novela distópica apocalíptica de encruzilhada que vivemos hoje: a ideologia do “solucionismo”.

De origem no Vale do Silício, como bem apontado (e criticado) em “A Ideologia Californiana” (ainda temos o zine em estoque e enviamos na quarentena, procure saber), o solucionismo tem feito a cabeça de muita gente, sobretudo as elites dominantes. Ele se manifesta, por exemplo, numa questão como levantada por Morozov no texto, publicado em inglês no The Guardian e traduzido para o Outras Palavras (mais trechos abaixo): por que um governo investiria na reconstrução dos arruinados sistemas de transporte público, tendo a opção de simplesmente usar Big Data para criar incentivos personalizados para cada passageiro, a fim de desencorajá-los a fazer viagens em horários de pico?

O solucionismo tecnológico está intimamente ligado com o neoliberalismo. “Se o neoliberalismo é uma ideologia proativa, o solucionismo é reativo: ele desarma, desativa e descarta toda alternativa política. O neoliberalismo encolhe os orçamentos públicos; o solucionismo encolhe a imaginação coletiva. O maior objetivo do solucionismo é convencer o público de que a forma legítima de uso das tecnologias digitais é perturbar e revolucionar tudo — com exceção da instituição central da vida moderna: o mercado.”

O mundo está fascinado pela tecnologia solucionista; desde um aplicativo polonês, que exige que os pacientes com coronavírus tirem selfies regularmente para provar que estão dentro de casa, até o app chinês de avaliação da saúde em cores e códigos, que rastreia quem pode sair de casa. Governos têm procurado companhias como a Amazon e a Palantir para obter infraestrutura e modelagem de dados, enquanto Google e Apple unem suas forças para habilitar soluções de “preservação da privacidade” no rastreamento de dados.”

Em “Big Tech – A Ascensão dos Dados e a Morte da Política”, Morozov alerta que “o Vale do Silício destruiu a nossa capacidade de imaginar outros modelos de gestão e de organização da infraestrutura da comunicação. Podemos esquecemos os modelos que não se baseiam em publicidade e que não contribuem para a centralização de dados em servidores particulares instalados nos Estados Unidos. Quem sugerir a necessidade de considerar outras opções – talvez até mesmo modelos já publicamente disponíveis – corre o risco de ser acusado de querer “quebrar a internet”.

Ilustração: Sarah Grillo/Axios

[Estamos cegos pela ideia de que não há opção. Por todos os lados, a lógica do serviço mais cômodo faz com que os usuários comuns busquem cada vez menos dificuldades, e a famoso conceito da inclusão digital passa a ser deturpado: a inclusão é junto as Big Techs, e não ao digital. Falamos disso no BaixaCultura nesse pequeno tutorial de “Como compartilhar conteúdo e fazer backup por torrent”, uma opção que, además de técnica, é também política]

Uma das funções do estado solucionista é desencorajar programadores, hackers e aspirantes a empreendedores a experimentar formas alternativas de organização social. Que o futuro seja das startups não é um fato natural, mas um resultado político. Nessa perspectiva, empreendimentos baseados em tecnologia mais subversivos, que poderiam impulsionar economias solidárias, não baseadas no mercado, morrem no estágio de protótipo. Há uma razão por trás do fato de não termos visto surgir nenhuma outra Wikipedia nos últimos vinte anos.

Uma política “pós-solucionista”, conclui Morozov, deveria começar acabando com o binário artificial entre a ágil startup e o ineficiente governo que limita nossos horizontes políticos. A questão não deveria ser qual ideologia consegue aproveitar e domesticar melhor as forças da concorrência, mas de que instituições precisamos para aproveitar as novas formas de coordenação social e inovação oferecidas pelas tecnologias digitais. “Nossa primeira meta deve ser a de traçar um caminho pós-solucionista, que nos dê soberania pública sobre as plataformas digitais. Caso contrário, nos queixarmos sobre a resposta autoritária, porém eficaz, da China ao Covid-19, não será só patético, como também hipócrita”. Se escolher um modo de vida (?) digital entre a versão neoliberal Made in Syllicon Valley ou a tecno-autoritária do Extremo Oriente são nosso únicos caminhos hoje, taí um sinal urgente de que precisamos ampliar nossos horizontes.

[Seguimos nossa campanha de financiamento contínuo no Apoia.se. Buscamos recursos mensais para manter o BaixaCultura e seguir propagando a cultura livre & cobrindo tecnopolítica e cultura livre. A partir de R$5 mensais você já apoia nossa continuidade, colabora para a manutenção de uma das mais antigas iniciativas desse tema no Brasil (vamos completar 12 anos em setembro de 2020) e recebe recompensas diversas, de zines à adesivos, livros e oficinas.]

A terceira edição do curso”Tecnopolítica e Contracultura” chega a Porto Alegre em Outubro, no querido espaço da APPH (Associação de Pesquisas e Práticas em Humanidades), no centro da cidade. Serão três dias de intensas trocas sobre um pensamento tecnopolítico que atravessa os autonomistas italianos da década de 1970, passa pela explosão de criatividade (e otimismo) dos 1990, é alimentado pelas ideias e princípios hackers dos 1980, 1990 e 2000 e chega na encruzilhada do final desta década de 2010 buscando entender o que deu errado no mundo digital e o que pode (deve?) mudar para que possamos sair da “ressaca da internet” que tanto comentamos.

Atualizamos a bibliografia com novas leituras e organizamos melhor as referências do curso, que como os participantes das outras edições já sabem, disponibilizamos ao final (em PDF).

*
Tecnopolítica e Contracultura: um passeio pelo pensamento de anarquistas, autonomistas, hackers e outros rebeldes
24, 25 e 26/10, na APPH, em Porto Alegre.
20 vagas. Inscrições aqui – Estudantes e apoiadores/as do BaixaCultura no Apoia.se ganham desconto.
Evento no Facebook.
Quer fazer o curso mas não tem como pagar agora? Nos escreva que conversamos: info@baixacultura.org
*

Se nos anos 1990, com o casamento do digital com a internet, enxergávamos enormes possibilidades de libertação (da informação de grandes grupos midiáticos, de liberdade de falar o que bem quiser, de criar tecnologias e mundos novos), hoje parece que estamos a lidar com consequências nefastas, representadas em uma palavra na moda nestes tempos: distopia. Nos descuidamos – ou não conseguimos? – prestar atenção na ascensão de plataformas globais de tecnologia, que por sua vez construíram bolhas de informação que confirmam pontos de vista, espalham mentiras e criam realidades alternativas que em muitos casos não há informação comprovada que consiga mudar.

Como podemos compreender o contexto tecnopolítico hoje? Que caminhos podemos apontar para discutirmos e transformarmos a política que sempre está junto na construção de tecnologias? A proposta desse curso é buscar algumas respostas para estas perguntas olhando para o passado e o presente e passear por alguns pensamentos rebeldes sobre a tecnologia desenvolvidos na segunda metade do século XX até hoje. Começamos pelos autonomistas surgidos no ‘maio de 68’ italiano que durou mais de uma década, com foco especial em Antonio Negri, Franco “Bifo” Berardi, Paolo Virno e Mário Tronti. Passamos pela explosão de novidades da arte e do ativismo digital dos anos 1990, com Wu Ming, mídia tática, altermundistas, Critical Art Ensemble, zapatistas e autores como Pierre Levy, Manuel Castells, Bifo (novamente) e Richard Barbrook; continuamos com os hackers, “paranóicos visionários”, e seus princípios éticos de transparência, liberdade e autonomia com as tecnologias, a partir das ideias de Richard Stallman, Pekka Himanen, Sérgio Amadeu, Eric Raymond, César Rendueles, Aracele Torres, entre outres; e chegamos até hoje, com a ascensão das redes sociais como principais espaços de discussão pública nas redes digitais e o fim da internet como a conhecemos nos 1990 e 2000, no que chamamos de “ressaca da internet”, com autores como Jaron Lanier, Bifo (de novo!), Evgeny Morozov, Shoshana Zuboff, Jonathan Crary e Trebor Scholz.

Esta é terceira edição deste curso-experimento; a primeira foi realizada em 2/2019, em São Paulo, no Centro de Pesquisa e Formação do Sesc e a segunda em 6/2019 na UFSM, em Santa Maria-RS.