A oitava BaixaCharla ao vivo, quinta de 2021, vai falar sobre racismo algorítmico a partir de  “Comunidades, Algoritmos e Ativismos Digitais: Olhares Afrodiaspóricos“, organizado pelo nosso convidado da conversa, Tarcízio Silva, que é pesquisador, produtor cultural e mestre em Comunicação e Cultura Contemporâneas pela UFBA, doutorando em Ciências Humanas e Sociais na UFABC, onde estuda imaginários sociotécnicos de resistência, e Tech + Society Fellow pela Fundação Mozilla, atuando em promoção de segurança digital e defesa contra danos algorítmicos. Também atua como curador na Desvelar, entre outras atividades que podem ser conferidas em seu currículo.

Editado em 2020 pela Literarua, “Comunidades, Algoritmos e Ativismos Digitais: Olhares Afrodiaspóricos” busca relacionar raça, racismo, negritude e branquitude com os estudos de tecnologias digitais, especialmente algoritmos, mídias sociais e comunidades online. Reúne 14 artigos de pesquisadores/as provenientes do Brasil, países da Afrodiáspora e África, como Congo, Etiópia, Gana, Nigéria, Colômbia, Estados Unidos e Reino Unido. É uma publicação que, com sua diversidade de perspectivas, tenta suprir uma lacuna nos estudos acadêmicos brasileiros na área. 

No prefácio, Emicida escreve que “se a essência das redes sociais é a conectividade, está para nascer uma que cumpra seu papel com mais eficácia do que um tambor”. É importante  desnaturalizar a ideia de que “tecnologia, storytelling, minimalismo e ideias que visam ampliar a percepção do que significa ser humano sejam apenas invenções do vale do silício”, diz o rapper, que cita Paulina Chiziane, “às vezes sinto que nos oferecem algo que já era nosso antes deles chegarem”. 

O capítulo de abertura é de Ruha Benjamin, autora de “Race After Technology: Abolitionist Tools for the New Jim Code” (2019), ativista e professora da Universidade de Princeton, nos Estados Unidos. Nesse texto, Ruha incentiva um compromisso de incorporar abordagens raciais críticas no campoos Estudos de Ciência e Tecnologia – Science and Technology Studies (STS), no inglês.  Como ela escreve: “seja na arquitetura de máquinas (…) ou na arquitetura de  tecnologias legais, os pesquisadores de STS devem treinar nossas ferramentas analíticas sobre as diferentes formas de “correção racial” que sustentam uma forma perniciosa de construção do conhecimento”. A tecnologia é um dos muitos meios pelos quais as formas anteriores de desigualdade são atualizadas, por isso, ela explica, a necessidade vital de se fazer um balanço rotineiro também das ferramentas conceituais que são usadas para entender a dominação racial.

Nos outros 12 textos, o livro colabora com a crescente complexificação do pensamento sobre a comunicação digital e internet resultante da diversificação dos olhares e falas nos espaços acadêmicos. “Da matemática na divinação Ifá ao ativismo político, os temas e objetos dos capítulos passam por transição capilar, blackfishing, afroempreendedorismo, Black Twitter, contra-narrativas ao racismo e métodos digitais de pesquisa apropriados à complexidade das plataformas, algoritmos e relações de poder incorporadas nas materialidades digitais racializadas”, como escreve Tarcízio na apresentação.

É do nosso convidado da BaixaCharla o artigo no livro que complexifica o tema em voga no debate: “Racismo Algorítmico em plataformas digitais: microagressões e discriminações em código”. Para ele, o racismo online é um “sistema de práticas contra pessoas racializadas que privilegiam e mantém poder político, econômico e cultural para os brancos no espaço digital” (citando Tynes, Lozada, Smith & Stewart, 2019). Nos ambientes digitais, especialmente plataformas de publicidade (Facebook), de nuvem e computação (Amazon Web Services, Microsoft Azure, etc), de produto (como Zipcar etc), plataformas lean (Uber, AirBnB), o desafio se torna mais profundo na medida em que o racismo adentra os processos automatizados “invisíveis” como recomendação de conteúdo, reconhecimento facial e processamento de imagens. 

Nesse cenário em que a tecnologia cada vez mais é tanto mediação das atividades humanas quanto interação interpessoal e negociação de serviços e comércio, os casos de identificação de racismo algorítmico passam a ser somados por diversas pesquisadoras, ativistas e desenvolvedores – entre eles o próprio Tarcízio, com sua Linha do tempo do racismo algorítmico, projeto paralelo de sua pesquisa no doutorado (intitulado provisoriamente de “Dados, Algoritmos e Racialização em Plataformas Digitais”) que incorpora casos de 2010 a partir da pergunta: “Como as plataformas digitais, mídias sociais, aplicativos e inteligência artificial reproduzem (e intensificam) o racismo nas sociedades?”

O artigo também fala de chamadas “microagressões”,  “ofensas verbais, comportamentais e ambientais comuns, sejam intencionais ou não intencionais, que comunicam desrespeito e insultos hostis, depreciativos ou negativos contra pessoas de cor” (Sue, 2010a, p. 29). São expressões, consciente ou não, usadas para manter “aqueles à margem racial em seus lugares” e que mostram como o racismo é sistemático em nossa sociedade. No texto, o pesquisador identifica sete tipos dessas microagressões: Suposição de Criminalidade; Negação de Realidades Raciais/Democracia Racial; Suposição de Inferioridade Intelectual; Patologização de Valores Culturais; Exotização; Estrangeiro na Própria Terra / Negação de Cidadania; Exclusão ou Isolamento.

Outro tema em voga na discussão sobre racismo e plataformas digitais são as tecnologias baseadas em inteligência artificial para ordenação e vigilância de cidadãos no espaço público. Conhecidas como “tecnologias de reconhecimento facial”, elas ganharam mercado nos últimos anos tanto a partir do lobby das big techs quanto pelo avanço de ideologias de extrema-direita. Por conta disso, têm sido usadas (ou contratadas para serem) em polícias de diversos lugares, entre eles o Brasil; um estudo do Intervozes afirma que “dentre os 26 prefeitos de capitais empossados em janeiro de 2021, 17 apresentaram propostas que, de algum modo, preveem o uso das tecnologias de informação e comunicação na segurança pública”. Publicamos em nossas redes uma notícia da Folha de S. Paulo nesta semana que conta que 20 estados brasileiros, das cinco regiões do Brasil, utilizam ou estão implementando a tecnologia de reconhecimento facial na segurança pública local. 

Na Linha do Tempo citada há diversos casos de erros dessas tecnologias. Há, por exemplo, situações em que os sistemas de reconhecimento facial da Amazon e da IBM erram mais em imagens de mulheres negras, assim como sistemas de biometria visual costumam falhar de 10 a 100 vezes mais com imagens de pessoas negras ou asiáticas. Por conta dessas falhas que ajudam a perpetuar o racismo algorítmico, pesquisadores têm defendido o seu banimento; nos Estados Unidos, há decisões como a de Minneapolis, cidade onde Geroge Floy foi morto, onde Câmara Municipal vetou o uso da tecnologia pela polícia, por sinais de que a I.A. é tendenciosa contra negros e outros grupos raciais. Na Europa, o Comitê Europeu de Proteção de Dados (EDPB) e a Autoridade Europeia para a Proteção de Dados (EDPS), apresentaram opinião conjunta que sugere o banimento do reconhecimento de pessoas em espaços públicos.

Tarcízio recentemente participou do podcast Tecnopolítica em que conversou com Sueli Carneiro (e Sérgio Amadeu, âncora do podcast) sobre o tema, resgatando inclusive o questionamento à neutralidade da ciência moderna – Sueli lembrou de como a ciência tem origem racista, tendo por base um pensamento universal europeu colonizador que excluía os povos africanos e as diversas cosmologias ameríndias e asiáticas. 

O pesquisador também escreveu em seu blog sobre 10 razões para as tecnologias de reconhecimento facial serem banidas. Estão entre eles o reconhecimento facial e visão computacional são técnicas altamente imprecisas, em especial sobre pessoas racializadas; de como as tecnologias digitais vistas como “neutras” ou “objetivas” favorecem ainda mais excessos de policiais, e no espaço público pressupõe e fortalecem uma sociedade vigilantista. Também é fator para defender o banimento o fato de que não podemos pressupor boa-fé de corporações de tecnologia, como exemplifica casos como o impacto do Facebook no Brexit e nas eleições americanas, do extremismo digital no YouTube e do lobby da Google no Conselho Administrativo de Defesa Econômica, entre muitos outros. 

No aspecto econômico, mesmo o custo-benefício para captura de condenados não justifica a coleta massiva, como exemplifica a milionária implementação de reconhecimento facial em Londres, onde bases reuniam fotos de mais de 2.400 suspeitos que geraram apenas 8 prisões. Dados proporcionais ainda piores foram reportados no Brasil, onde gigantesca infraestrutura de reconhecimento facial foi implementada na Micareta de Feira de Santana, Bahia, coletando e vulnerabilizando 1,3 milhões de rostos para o cumprimento de apenas 18 mandados.

Para debater o livro e os temas citados, Leonardo Foletto e Tatiana Balistieri, do BaixaCultura, conversam com Tarcízio Silva no dia 22 de julho, às 19h, no canal do Youtube do BaixaCultura, onde as outras charlas já estão disponíveis. Nas próximas semanas ela também vira podcast, que pode ser escutado aqui e nas principais plataformas de streaming. Essa é a última charla do ciclo de 2021 que discutiu diferentes perspectivas dos estudos das tecnologias de comunicação no Brasil e no mundo. 

*

Você pode assistir aqui, em áudio e vídeo (YouTube).

]]> https://baixacultura.org/2021/07/14/baixacharla-8-racismo-algoritmico/feed/ 0 https://baixacultura.org/2018/09/13/internet-hangover-spirit-of-time/ https://baixacultura.org/2018/09/13/internet-hangover-spirit-of-time/#respond Fri, 14 Sep 2018 01:34:48 +0000 https://baixacultura.org/?p=15270 Originally published in Portuguese in September 2018

I write and follow the discussions, advances and setbacks of the internet and of what is conventionally called digital culture since 2008, when BaixaCultura was born. It has been 10 years and so much has changed in this period that I can point out not only specific issues, but a whole spirit of the time (as the Germans say, zeitgeist) that is different today. Which can be summarized in an expression that I have been using for some months now: “Internet hangover” (Ressaca da internet). We have deposited so many possibilities of freedom (independent information from major media groups, freedom to speak what we want, to create new technologies and worlds) that we have neglected, or failed, to pay attention to the rise of monopolies of technology companies, the construction of information bubbles that confirm points of view, and the increasingly real possibility of the Internet becoming cable TV, with the already proclaimed end of net neutrality. We have taken a extra-dose of optimism. And now – or rather, since at least 2016 – we are in the hangover phase, hostage to internet monopolies, the commercialization of any data left on the net, fake news arriving from all sides. Pure dystopia.

The curtailment of the internet by private companies like Google, Facebook, Amazon, and Apple is one of the main elements in building this spirit. What is left of the internet today if not the platforms, software and devices of these companies? For the majority of the Brazilian and world population, not much. About 70% of Brazilians access the web through their cell phones, and not infrequently, they only access services such as Facebook, WhatsApp, and Instagram when connected, all from the same company. There are other options from search engines to Google, for example (DuckDuck is the main one), and from smartphone operating systems to Android and Apple’s IoS, but look aside and see how many people actually use these alternatives? The internet is already today what many of us free internet activists feared it would be: a big walled garden, where increasingly the ones calling the shots on what and how to access it are large private companies based in the US.

I remember, at the end of 2011, when I wrote a report on the fight for the defense of internet principles, such as net neutrality, based on Yochai Benkler’s speech at the opening of the Festival Cultura Digital.br this year. Even at that time, the questioning about the end of net neutrality and the growth of large monopolies was a current issue, although not with as much presence as today. At the time, I started the text with the question: “is it utopian to think of a democratic and free internet, without privileges of access and data traffic for any side, just as it was defined in the principles of the development of the internet?” From there, I told a story that I witnessed in class, in one of the many times I spoke about culture and free licenses for communication students, when a student asked if keeping the Internet free was not a utopia, or naivety. I answered, at the time, no: “The internet was created this way, as a decentralized and autonomous network. And we are not talking about a utopia, but a reality; the Internet today works this way”. Years later, was the student right?

In 2011, the fight for a free internet was less thankless than it is today, and I myself believed that we would be able, as a civil society, to keep the internet as it was created, or at least guaranteeing some of its basic principles such as neutrality. After almost seven years, I do a mea culpa.  I didn’t know – or didn’t want to believe, or didn’t want to write or speak publicly that I didn’t believe – that the big internet players would turn the internet into what it is today, a closed space where we are trapped in private algorithmic bubbles of which we know little or nothing about how it works. And only since a year ago, with Trump and Brexit, have we started to see the potentially harmful for politics of this arrangement between people and technical systems like Facebook and Google. Like many, I doubted and did not want to see that capitalism reinvents itself and appropriates everything it sees in front of it, including a network that was born a libertarian part like the Internet.

TED, that famous format of quick lectures recorded on video that has spread around the world, had one last major edition in April 2018 in Canada. Two speeches manifested this internet hangover zeitgeist. Jaron Lanier, one of the creators of the idea of virtual reality, musician and computer scientist. “We made a particular mistake in the beginning. The nascent digital culture believed that everything on the Internet should be public, free. At the same time, we loved our tech entrepreneurs. We loved this Nietzchian myth of the tech man who transforms the universe. How to celebrate entrepreneurship if everything is free? A model based on advertising. Google was born free, Facebook was born free. The ads in the beginning were for your local dentist or something. But the algorithms get better. And what started as advertising can no longer be called advertising. Today it is behavior modification. I don’t call these things social networks anymore. They are behavior modification empires. This is a global tragedy born of a gigantic mistake. And let me add another layer. In behaviorism, you offer a creature, a rat or a person, small gifts or punishments depending on what they do. In networks, social punishment and social rewards fill this role. You get all happy – ‘someone liked my stuff’. Consumers of these behavior modification empires get feedback on everything they do, they realize what works, they do more of it. And they respond more to negative emotions, because these trigger faster reactions. So even the most well-meaning people feed negativity: the paranoiacs, the cynics, the nihilists. These are the voices amplified by the system. And you can’t pay these companies to make the world better or to fix democracy because it is easier to destroy than to build. This is the dilemma in which we find ourselves.

The greatest danger facing democracy is that the revolution in information technology will make dictatorships more efficient than democracies. This was the statement that Folha de S. Paulo decided to highlight in the TED talk given by Israeli historian Yuval Noah Harari. To prevent the rise of fascism and avoid new dictatorships, the historian proposed that engineers find ways to prevent information from being concentrated in the hands of a few and make sure that distributed information processing is as efficient as centralized. “That will be the main safeguard of democracy,” he says.

You may not be new to Harari’s call to action. The question is the how-to or if it is possible to do it. In what practical ways can computer engineers make information processing more decentralized? Do they want to do this? Is it still possible to tackle the big information hubs of the social networks from small decentralized initiatives? Or should we focus our efforts – we and all those who are not engineers – on not allowing ourselves to be manipulated by those who control information? I bring here more questions than answers because, of course, everything is happening now; while we are trying to come out of the hangover, we keep asking questions and groping for principles of certainty in order to act soon. Or to act with more clarity, since many are already acting around the world.

[Leonardo Foletto]

É exercício natural de toda e qualquer pessoa tentar prever o futuro. Uns acertam, outros erram, alguns juntam coincidências e conseguem “ver o futuro” com certa habilidade, se tornando inesquecíveis (Nostradamus, por exemplo) ou esquecíveis (lembra da Mãe Dinah?). Em geral, as pessoas se esquecem (ou nunca conseguem) prever aquilo que é mais importante – por que ninguém conseguiu prever lááá atrás algo sequer parecido com a internet?, disse Luis Fernando Veríssimo (ou algum dos tantos que se passam por ele na rede) certa vez.

O fato é que esse “nariz de cera” (termo jornalístico para definir uma introdução de matéria floreada e que nada de importante diz) todo do parágrafo acima é para dizer que a Baixa TV ganha dois vídeos “premonitórios”. A começar por “Prometeus -The Media Revolution“, curta produzido em 2007 pela “Casaleggio Associati“, empresa de consultoria e estratégia de rede com sede na Itália, que faz uma projeção de como seria a indústria da mídia e os seus efeitos sobre a sociedade em um futuro próximo.

A brincadeira premonitória do curta vai “construindo” um mundo ao longo dos próximos anos (2020, 2027, 2050…) onde:

_ Google adquiriu a Microsoft e o Amazon a Yahoo: ambos “controlam” o mundo;

_ O Flickr torna-se o maior repositório de fotos online da história e o Youtube, de vídeos;

_ Jornais e revistas são financiados pelo Estado e o mais importante torna-se o jornal “participativo” OhMyNews;

_ Download “ilegais” são punidos com prisão e o papel eletrônico (e-readers) substitui o papel normal como produto de massa;

_ Televisões e rádios desaparecem de onde estão hoje e migram para a internet;

_ Anúncios são escolhidos pelos autores e criadores de conteúdo;

_ Lawrence Lessig, o pai do Creative Commons, torna-se Secretário de Justiça dos EUA e declara ilegais os direitos autorais;

_ Dispositivos que copiam os cinco sentidos estão disponíveis nos mundos virtuais, e toda a realidade pode ser replicada no Second Life;

Dentre outras previsões, estapafúrdias ou não.

A produção tem bons insights: Lawrence Lessig acabar com os direitos autorais tem um pouco a ver com o texto do professor e ativista holandês Joost Smiers (em companhia de Marieke Van Schijndel) publicado no NY Times e traduzido pelo Cultura & Mercado, “Imagine um mundo sem Copyright“. E, claro, algumas falhas: OhMyNews, símbolo do chamado “jornalismo colaborativo”, está em franca decadência finaceira por culpa de um modelo de negócio sustentável, o “santo graal” do jornalismo na internet.

De resto, a brincadeira dá a sensação de que poderia render mais do que os 5min16s. Assim se diferenciaria mais do docficção “Epic 2014“, que veio antes (2004), também apocalíptico em suas previsões de fim da imprensa como conhecemos hoje (“As fortunas do Quarto Poder estão se acabando”, diz a voz suave em off, a trilha éterea dando um clima de futuro de filme asséptico de Hollywood).

“2014” tem a vantagem de fazer um balanço dos “inventos” da rede dos últimos anos (internet, Google, Amazon, blog, gmail, etc), o que dá um caráter mais educativo ao filmezinho – a produção é como se fosse uma “aula” passada um fictício Museu of Media History, em 2014.

Dirigida pelos jornalistas Robin Sloan e Matt Thompson, o curta traz, como Prometeus, bons insights em seus 8min55s. Mas dá a mesma impressão de um futuro imaginado por escritores de ficção científica das décadas de 1960 e 1970. Ou seja: de que o homem é muito mais criativo para criar o futuro do que para prevê-lo.

Por via das dúvidas, tirem suas próprias conclusões aqui abaixo e no BaixaTV:

[youtube=http://www.youtube.com/watch?v=PJmuT7bQu_M]

[youtube=http://www.youtube.com/watch?v=4OZ-ANCEchM]