BaixaCharla ao vivo #8: Racismo Algorítmico

A oitava BaixaCharla ao vivo, quinta de 2021, vai falar sobre racismo algorítmico a partir de  “Comunidades, Algoritmos e Ativismos Digitais: Olhares Afrodiaspóricos“, organizado pelo nosso convidado da conversa, Tarcízio Silva, que é pesquisador, produtor cultural e mestre em Comunicação e Cultura Contemporâneas pela UFBA, doutorando em Ciências Humanas e Sociais na UFABC, onde estuda imaginários sociotécnicos de resistência, e Tech + Society Fellow pela Fundação Mozilla, atuando em promoção de segurança digital e defesa contra danos algorítmicos. Também atua como curador na Desvelar, entre outras atividades que podem ser conferidas em seu currículo.

Editado em 2020 pela Literarua, “Comunidades, Algoritmos e Ativismos Digitais: Olhares Afrodiaspóricos” busca relacionar raça, racismo, negritude e branquitude com os estudos de tecnologias digitais, especialmente algoritmos, mídias sociais e comunidades online. Reúne 14 artigos de pesquisadores/as provenientes do Brasil, países da Afrodiáspora e África, como Congo, Etiópia, Gana, Nigéria, Colômbia, Estados Unidos e Reino Unido. É uma publicação que, com sua diversidade de perspectivas, tenta suprir uma lacuna nos estudos acadêmicos brasileiros na área. 

No prefácio, Emicida escreve que “se a essência das redes sociais é a conectividade, está para nascer uma que cumpra seu papel com mais eficácia do que um tambor”. É importante  desnaturalizar a ideia de que “tecnologia, storytelling, minimalismo e ideias que visam ampliar a percepção do que significa ser humano sejam apenas invenções do vale do silício”, diz o rapper, que cita Paulina Chiziane, “às vezes sinto que nos oferecem algo que já era nosso antes deles chegarem”. 

O capítulo de abertura é de Ruha Benjamin, autora de “Race After Technology: Abolitionist Tools for the New Jim Code” (2019), ativista e professora da Universidade de Princeton, nos Estados Unidos. Nesse texto, Ruha incentiva um compromisso de incorporar abordagens raciais críticas no campoos Estudos de Ciência e Tecnologia – Science and Technology Studies (STS), no inglês.  Como ela escreve: “seja na arquitetura de máquinas (…) ou na arquitetura de  tecnologias legais, os pesquisadores de STS devem treinar nossas ferramentas analíticas sobre as diferentes formas de “correção racial” que sustentam uma forma perniciosa de construção do conhecimento”. A tecnologia é um dos muitos meios pelos quais as formas anteriores de desigualdade são atualizadas, por isso, ela explica, a necessidade vital de se fazer um balanço rotineiro também das ferramentas conceituais que são usadas para entender a dominação racial.

Nos outros 12 textos, o livro colabora com a crescente complexificação do pensamento sobre a comunicação digital e internet resultante da diversificação dos olhares e falas nos espaços acadêmicos. “Da matemática na divinação Ifá ao ativismo político, os temas e objetos dos capítulos passam por transição capilar, blackfishing, afroempreendedorismo, Black Twitter, contra-narrativas ao racismo e métodos digitais de pesquisa apropriados à complexidade das plataformas, algoritmos e relações de poder incorporadas nas materialidades digitais racializadas”, como escreve Tarcízio na apresentação.

É do nosso convidado da BaixaCharla o artigo no livro que complexifica o tema em voga no debate: “Racismo Algorítmico em plataformas digitais: microagressões e discriminações em código”. Para ele, o racismo online é um “sistema de práticas contra pessoas racializadas que privilegiam e mantém poder político, econômico e cultural para os brancos no espaço digital” (citando Tynes, Lozada, Smith & Stewart, 2019). Nos ambientes digitais, especialmente plataformas de publicidade (Facebook), de nuvem e computação (Amazon Web Services, Microsoft Azure, etc), de produto (como Zipcar etc), plataformas lean (Uber, AirBnB), o desafio se torna mais profundo na medida em que o racismo adentra os processos automatizados “invisíveis” como recomendação de conteúdo, reconhecimento facial e processamento de imagens. 

Nesse cenário em que a tecnologia cada vez mais é tanto mediação das atividades humanas quanto interação interpessoal e negociação de serviços e comércio, os casos de identificação de racismo algorítmico passam a ser somados por diversas pesquisadoras, ativistas e desenvolvedores – entre eles o próprio Tarcízio, com sua Linha do tempo do racismo algorítmico, projeto paralelo de sua pesquisa no doutorado (intitulado provisoriamente de “Dados, Algoritmos e Racialização em Plataformas Digitais”) que incorpora casos de 2010 a partir da pergunta: “Como as plataformas digitais, mídias sociais, aplicativos e inteligência artificial reproduzem (e intensificam) o racismo nas sociedades?”

O artigo também fala de chamadas “microagressões”,  “ofensas verbais, comportamentais e ambientais comuns, sejam intencionais ou não intencionais, que comunicam desrespeito e insultos hostis, depreciativos ou negativos contra pessoas de cor” (Sue, 2010a, p. 29). São expressões, consciente ou não, usadas para manter “aqueles à margem racial em seus lugares” e que mostram como o racismo é sistemático em nossa sociedade. No texto, o pesquisador identifica sete tipos dessas microagressões: Suposição de Criminalidade; Negação de Realidades Raciais/Democracia Racial; Suposição de Inferioridade Intelectual; Patologização de Valores Culturais; Exotização; Estrangeiro na Própria Terra / Negação de Cidadania; Exclusão ou Isolamento.

Outro tema em voga na discussão sobre racismo e plataformas digitais são as tecnologias baseadas em inteligência artificial para ordenação e vigilância de cidadãos no espaço público. Conhecidas como “tecnologias de reconhecimento facial”, elas ganharam mercado nos últimos anos tanto a partir do lobby das big techs quanto pelo avanço de ideologias de extrema-direita. Por conta disso, têm sido usadas (ou contratadas para serem) em polícias de diversos lugares, entre eles o Brasil; um estudo do Intervozes afirma que “dentre os 26 prefeitos de capitais empossados em janeiro de 2021, 17 apresentaram propostas que, de algum modo, preveem o uso das tecnologias de informação e comunicação na segurança pública”. Publicamos em nossas redes uma notícia da Folha de S. Paulo nesta semana que conta que 20 estados brasileiros, das cinco regiões do Brasil, utilizam ou estão implementando a tecnologia de reconhecimento facial na segurança pública local. 

Na Linha do Tempo citada há diversos casos de erros dessas tecnologias. Há, por exemplo, situações em que os sistemas de reconhecimento facial da Amazon e da IBM erram mais em imagens de mulheres negras, assim como sistemas de biometria visual costumam falhar de 10 a 100 vezes mais com imagens de pessoas negras ou asiáticas. Por conta dessas falhas que ajudam a perpetuar o racismo algorítmico, pesquisadores têm defendido o seu banimento; nos Estados Unidos, há decisões como a de Minneapolis, cidade onde Geroge Floy foi morto, onde Câmara Municipal vetou o uso da tecnologia pela polícia, por sinais de que a I.A. é tendenciosa contra negros e outros grupos raciais. Na Europa, o Comitê Europeu de Proteção de Dados (EDPB) e a Autoridade Europeia para a Proteção de Dados (EDPS), apresentaram opinião conjunta que sugere o banimento do reconhecimento de pessoas em espaços públicos.

Tarcízio recentemente participou do podcast Tecnopolítica em que conversou com Sueli Carneiro (e Sérgio Amadeu, âncora do podcast) sobre o tema, resgatando inclusive o questionamento à neutralidade da ciência moderna – Sueli lembrou de como a ciência tem origem racista, tendo por base um pensamento universal europeu colonizador que excluía os povos africanos e as diversas cosmologias ameríndias e asiáticas. 

O pesquisador também escreveu em seu blog sobre 10 razões para as tecnologias de reconhecimento facial serem banidas. Estão entre eles o reconhecimento facial e visão computacional são técnicas altamente imprecisas, em especial sobre pessoas racializadas; de como as tecnologias digitais vistas como “neutras” ou “objetivas” favorecem ainda mais excessos de policiais, e no espaço público pressupõe e fortalecem uma sociedade vigilantista. Também é fator para defender o banimento o fato de que não podemos pressupor boa-fé de corporações de tecnologia, como exemplifica casos como o impacto do Facebook no Brexit e nas eleições americanas, do extremismo digital no YouTube e do lobby da Google no Conselho Administrativo de Defesa Econômica, entre muitos outros. 

No aspecto econômico, mesmo o custo-benefício para captura de condenados não justifica a coleta massiva, como exemplifica a milionária implementação de reconhecimento facial em Londres, onde bases reuniam fotos de mais de 2.400 suspeitos que geraram apenas 8 prisões. Dados proporcionais ainda piores foram reportados no Brasil, onde gigantesca infraestrutura de reconhecimento facial foi implementada na Micareta de Feira de Santana, Bahia, coletando e vulnerabilizando 1,3 milhões de rostos para o cumprimento de apenas 18 mandados.

Para debater o livro e os temas citados, Leonardo Foletto e Tatiana Balistieri, do BaixaCultura, conversam com Tarcízio Silva no dia 22 de julho, às 19h, no canal do Youtube do BaixaCultura, onde as outras charlas já estão disponíveis. Nas próximas semanas ela também vira podcast, que pode ser escutado aqui e nas principais plataformas de streaming. Essa é a última charla do ciclo de 2021 que discutiu diferentes perspectivas dos estudos das tecnologias de comunicação no Brasil e no mundo. 

*

Você pode assistir aqui, em áudio e vídeo (YouTube).

A ideologia do solucionismo tecnológico

Ilustração: Ben Jennings/The Guardian

Desde meados de março, o novo coronavírus tem chacoalhado o sistema e mandado o capitalismo para a unidade de cuidados intensivos. Muitos pensadores têm manifestado sua esperança de que isso nos leve a um sistema econômico mais humano; outros alertam que a pandemia anuncia um futuro sombrio de vigilância estatal tecno-totalitária. O bierolorusso Evgeny Morozov, habitante frequente por aqui, avisa para um “policial bonzinho” nessa novela distópica apocalíptica de encruzilhada que vivemos hoje: a ideologia do “solucionismo”.

De origem no Vale do Silício, como bem apontado (e criticado) em “A Ideologia Californiana” (ainda temos o zine em estoque e enviamos na quarentena, procure saber), o solucionismo tem feito a cabeça de muita gente, sobretudo as elites dominantes. Ele se manifesta, por exemplo, numa questão como levantada por Morozov no texto, publicado em inglês no The Guardian e traduzido para o Outras Palavras (mais trechos abaixo): por que um governo investiria na reconstrução dos arruinados sistemas de transporte público, tendo a opção de simplesmente usar Big Data para criar incentivos personalizados para cada passageiro, a fim de desencorajá-los a fazer viagens em horários de pico?

O solucionismo tecnológico está intimamente ligado com o neoliberalismo. “Se o neoliberalismo é uma ideologia proativa, o solucionismo é reativo: ele desarma, desativa e descarta toda alternativa política. O neoliberalismo encolhe os orçamentos públicos; o solucionismo encolhe a imaginação coletiva. O maior objetivo do solucionismo é convencer o público de que a forma legítima de uso das tecnologias digitais é perturbar e revolucionar tudo — com exceção da instituição central da vida moderna: o mercado.”

O mundo está fascinado pela tecnologia solucionista; desde um aplicativo polonês, que exige que os pacientes com coronavírus tirem selfies regularmente para provar que estão dentro de casa, até o app chinês de avaliação da saúde em cores e códigos, que rastreia quem pode sair de casa. Governos têm procurado companhias como a Amazon e a Palantir para obter infraestrutura e modelagem de dados, enquanto Google e Apple unem suas forças para habilitar soluções de “preservação da privacidade” no rastreamento de dados.”

Em “Big Tech – A Ascensão dos Dados e a Morte da Política”, Morozov alerta que “o Vale do Silício destruiu a nossa capacidade de imaginar outros modelos de gestão e de organização da infraestrutura da comunicação. Podemos esquecemos os modelos que não se baseiam em publicidade e que não contribuem para a centralização de dados em servidores particulares instalados nos Estados Unidos. Quem sugerir a necessidade de considerar outras opções – talvez até mesmo modelos já publicamente disponíveis – corre o risco de ser acusado de querer “quebrar a internet”.

Ilustração: Sarah Grillo/Axios

[Estamos cegos pela ideia de que não há opção. Por todos os lados, a lógica do serviço mais cômodo faz com que os usuários comuns busquem cada vez menos dificuldades, e a famoso conceito da inclusão digital passa a ser deturpado: a inclusão é junto as Big Techs, e não ao digital. Falamos disso no BaixaCultura nesse pequeno tutorial de “Como compartilhar conteúdo e fazer backup por torrent”, uma opção que, además de técnica, é também política]

Uma das funções do estado solucionista é desencorajar programadores, hackers e aspirantes a empreendedores a experimentar formas alternativas de organização social. Que o futuro seja das startups não é um fato natural, mas um resultado político. Nessa perspectiva, empreendimentos baseados em tecnologia mais subversivos, que poderiam impulsionar economias solidárias, não baseadas no mercado, morrem no estágio de protótipo. Há uma razão por trás do fato de não termos visto surgir nenhuma outra Wikipedia nos últimos vinte anos.

Uma política “pós-solucionista”, conclui Morozov, deveria começar acabando com o binário artificial entre a ágil startup e o ineficiente governo que limita nossos horizontes políticos. A questão não deveria ser qual ideologia consegue aproveitar e domesticar melhor as forças da concorrência, mas de que instituições precisamos para aproveitar as novas formas de coordenação social e inovação oferecidas pelas tecnologias digitais. “Nossa primeira meta deve ser a de traçar um caminho pós-solucionista, que nos dê soberania pública sobre as plataformas digitais. Caso contrário, nos queixarmos sobre a resposta autoritária, porém eficaz, da China ao Covid-19, não será só patético, como também hipócrita”. Se escolher um modo de vida (?) digital entre a versão neoliberal Made in Syllicon Valley ou a tecno-autoritária do Extremo Oriente são nosso únicos caminhos hoje, taí um sinal urgente de que precisamos ampliar nossos horizontes.

[Seguimos nossa campanha de financiamento contínuo no Apoia.se. Buscamos recursos mensais para manter o BaixaCultura e seguir propagando a cultura livre & cobrindo tecnopolítica e cultura livre. A partir de R$5 mensais você já apoia nossa continuidade, colabora para a manutenção de uma das mais antigas iniciativas desse tema no Brasil (vamos completar 12 anos em setembro de 2020) e recebe recompensas diversas, de zines à adesivos, livros e oficinas.]

A internet sob ataque cada vez mais forte

Estamos sendo todos vigiados, a internet é uma máquina de controle quase perfeita, nossos dados são o “novo petróleo” para empresas digitais, o Marco Civil foi desfigurado no congresso e na prática: a internet está sob ataque, e você sabe disso. A ideia improvável que uniu hackers, hippies, acadêmicos, militares e empresas nos anos 1960, e que se tornou uma realidade mundial na década de 1990, não é mais o que prometia ser. E ninguém sabe ao certo o que ela poderá se tornar, mas pelo menos ter um panorama do que está sendo feito hoje, neste quase final da segunda década dos anos 2000.

Todos os temas do parágrafo acima estão de alguma forma debatidos na mini-série “XPLOIT – Internet sob Ataque“, produção da TVDrone em parceria com a Actantes, TVT e Henrich Böll Stiftung, em 2017. Os seis episódios da série abordam “uma guerra silenciosa que acontece longe dos PCs, laptops e dispositivos móveis mas cujo o resultado interfere diretamente em nossas vidas online e offline”, como diz o texto de apresentação. Contou com a fala de um grupo de entrevistados que vai de Richard Stallman ao jornalista James Bamford, passando pela advogada Flávia Lefèvre, a jornalista Bia Barbosa (do Intervozes), a cientista social Esther Solano e o sociólogo e ciberativista Sérgio Amadeu da Silveira, e tem o mérito de introduzir qualquer pessoa em alguns meandros das disputas políticas políticas e econômicas que trazem consequências diretas em nossos diretos essenciais, dentro e fora do mundo digital. A direção de XPLOIT é de Fabrício Lima e a produção Executiva de André Takahashi. Vale destacar também que, no finald e 2017, receberam o prêmio de “Melhor Série de Documentário” no festival Rio WebFest.

Confira aqui abaixo (e na nossa BaixaTV) os 6 episódios da série

EPISÓDIO 1: Democracia Hackeada

O “Hackeamento” do Marco civil pelos poderes que deveriam zelar pelo estado democrático de direito e suas consequências direito uma democracia é o foco central do episódio. Há entrevistas com Sérgio Amadeu, Veridiana Alimonti, Bia Barbosa, Cristiana Gonzalez e Flávia Lefévre.

EPISÓDIO 2: Força Bruta

Neste episódio, fala-se da perseguição aos ativistas a partir das plataformas digitais, “23 do Rio”, o caso Balta Nunes e os ataques nos espaços periféricos. Entrevistas com Camila Marques, Esther Solano, Guilherme Boulos, Leonardo Sakamoto, de novo Sérgio Amadeu e Silvio Rhatto.

EPISÓDIO 3: Colonialismo 2.0

Como a concentração da infraestrutura da internet nas mãos de alguns países e empresas e a monocultura das grandes aplicações acaba desenhando contornos que lembram o período colonial entre os séculos XVI e XX, impondo uma dependência para seu funcionamento e restringindo a pluralidade sonhada pelos seus pioneiros. Com Carla Jancz, Rodolfo Avelino, Marina Pitta e Carlos Cecconi.

EPISÓDIO 4: Big Brother Big Data

Informações pessoais são o novo commoditie. E para desfrutar desse mercado valioso, empresas em todos os setores realizam uma caça indiscriminada de dados particulares em todo o mundo com consequências reais nas vidas das pessoas mesmo fora do ambiente digital. Planos de saúde recusados, crédito pessoal negado e produtos mais caros estão diretamente ligados à “listas de risco” baseada em uso de aplicativos ou bancos de dados de serviços e a compra e venda de bancos de dados – inclusive de serviços públicos. Diante disso, o congresso nacional vai cedendo ao lobby das corporações e protelando há quase 10 anos uma lei fundamental de proteção de dados pessoais. Falas de Rafael Zanatta, Sérgio Amadeu e Marina Pitta.

EPISÓDIO 5: Da liberdade ao controle

No seu início a internet era um universo de possibilidades. O navegador era uma janela para múltiplos espaços, pensamentos e invenções. Mas o mundo que conhecemos antes da rede mundial de computadores ser criada, não pode permitir que nada exista sem controle. E para um mundo de regras rígidas e relações de poder constituídas inflexíveis não pode permitir que um outro mundo espelhado nele possa existir de uma forma diferente. Assim, tanto corporações quanto Estados nacionais foram se apropriando, amarrando, restringindo e moldando a Internet. Mas nem sempre a Internet esteve sob controle. Houve uma outra internet que muitos já nem se lembram. Neste episódio tem Richard Stallman, Leo Germani, Pegs, Carlos Cecconi e Sacha Costanza-Chock.

EPISÓDIO 6: Resistência

A internet de hoje consegue agregar os piores pesadelos dos Estados totalitários com o ultra-liberalismo econômico. Controle da inovação, restrição do fluxo de ideias, guerra cibernética e caça aos dados pessoais dos usuários. Mas diante desse panorama, é possível resistir? Como e porquê vamos resistir? Entrevistas com Richard Stallman, Pegs, Leo Germani, James Bamford e Sacha Costanza-Chock.