{"id":13947,"date":"2022-03-31T20:50:27","date_gmt":"2022-03-31T20:50:27","guid":{"rendered":"https:\/\/baixacultura.org\/?p=13947"},"modified":"2022-09-14T01:49:03","modified_gmt":"2022-09-14T04:49:03","slug":"the-cleaners-enxugando-gelo-na-caixa-de-pandora","status":"publish","type":"post","link":"https:\/\/baixacultura.org\/2022\/03\/31\/the-cleaners-enxugando-gelo-na-caixa-de-pandora\/","title":{"rendered":"The Cleaners – Enxugando gelo na Caixa de Pandora"},"content":{"rendered":"

Escrevi esse texto abaixo a partir do document\u00e1rio “The Cleaners<\/em>“, dirigido por Hans Block e Moritz Riesewieck (2018) para uma mostra de filmes alem\u00e3es do Instituto Goethe de Porto Alegr<\/a>e, em 2021. Cada vez mais atual, o document\u00e1rio aborda quest\u00f5es de vigil\u00e2ncia, liberdade de express\u00e3o, monop\u00f3lios de comunica\u00e7\u00e3o e uso de dados a partir do trabalho das pessoas respons\u00e1veis por filtrarem e apagarem conte\u00fados de sites de busca e redes sociais. O filme n\u00e3o est\u00e1 mais dispon\u00edvel na mesma mostra, mas pode ser encontrado via torrent e em outros lugares. O trailer est\u00e1 no YouTube<\/a>. H\u00e1 tamb\u00e9m um TED sobre e a partir dele<\/a>, com os mesmos diretores. Recomendo tudo.<\/p>\n

[Leonardo Foletto]<\/strong><\/p>\n

\u200bEnxugando gelo na Caixa da Pandora<\/h2>\n

Em On Technical Mediation<\/i>, um texto de 1994 hoje cl\u00e1ssico dos estudos de ci\u00eancia e tecnologia, o fil\u00f3sofo Bruno Latour apresenta uma ideia de media\u00e7\u00e3o tecnol\u00f3gica que ilustra como se d\u00e1 a rela\u00e7\u00e3o entre ser humano e tecnologia. Ele faz isso ao analisar dois slogans relacionados a associa\u00e7\u00f5es favor\u00e1veis e contr\u00e1rias \u00e0 venda de armas: Guns kill people<\/i>\u00a0e People kill people, not guns<\/i>. O primeiro seria, a grosso modo, materialista<\/i>, pois considera que as armas de fogo (objetos) matam pessoas, enquanto o segundo seria humanista<\/i>, ao dizer que pessoas \u2013 e n\u00e3o armas – matam pessoas, considerando a arma como neutra, apenas um meio para um fim. Latour, ent\u00e3o, vai dizer que nem arma nem cidad\u00e3o s\u00e3o respons\u00e1veis pelo ato de matar: a responsabilidade \u00e9 dividida entre os v\u00e1rios atores envolvidos na a\u00e7\u00e3o.<\/p>\n

\n

“Voc\u00ea \u00e9 diferente com uma arma na m\u00e3o; a arma \u00e9 diferente com voc\u00ea segurando-a. Voc\u00ea \u00e9 um outro sujeito porque segurou a arma; a arma \u00e9 outro objeto porque ela entrou em uma rela\u00e7\u00e3o com voc\u00ea \u201d. (LATOUR, 1994, p.33)<\/p>\n<\/blockquote>\n

Desde a ascens\u00e3o das redes sociais como principal meio<\/i> onde as pessoas agem e interagem na internet, a perspectiva de media\u00e7\u00e3o como algo em movimento entre o ser humano e um objeto t\u00e9cnico tem ganhado for\u00e7a para explicar um outro fen\u00f4meno caro aos estudos de ci\u00eancia e tecnologia, a ag\u00eancia de uma dada tecnologia na a\u00e7\u00e3o humana. O quanto uma rede social como o Facebook, uma assistente pessoal como a Alexa ou as c\u00e2meras do VAR fazem os seres humanos fazerem coisas? Seria uma rede social respons\u00e1vel<\/i> pela persegui\u00e7\u00e3o a uma minoria \u00e9tnica num pa\u00eds como Mianmar, ou s\u00e3o as pessoas do pa\u00eds (especialmente o clero budista) que perseguem os mu\u00e7ulmanos orohingyas<\/i> h\u00e1 d\u00e9cadas e que agora, alimentados por mentiras espalhadas na rede social, tiveram as condi\u00e7\u00f5es ideais para aumentar essa persegui\u00e7\u00e3o a ponto de desencadear assassinatos? Qual o limite de responsabilidade de uma tecnologia e do ser humano? Podemos \u201cjogar a culpa\u201d pela morte de algu\u00e9m – ou pela queda de um regime democr\u00e1tico, ou pela elei\u00e7\u00e3o de um pol\u00edtico fascista – em uma rede social?<\/p>\n

*<\/p>\n

\u201cThe Cleaners\u201d, document\u00e1rio dirigido pelos alem\u00e3es Moritz Riesewieck e Hans Block, \u00e9 um exemplo contundente de como um sistema t\u00e9cnico pode fazer outros fazerem coisas – terr\u00edveis, neste caso. O filme, lan\u00e7ado em festivais em 2018, mostra como empresas de tecnologia dos Estados Unidos (especialmente Facebook) contratam empresas filipinas para excluir da rede casos de explora\u00e7\u00e3o infantil e apologia ao terrorismo. O pa\u00eds asi\u00e1tico \u00e9 um polo dos chamados moderadores de conte\u00fado, um ex\u00e9rcito de quase 150 mil pessoas espalhadas pelo mundo contratados pela rede social criada por Mark Zuckerberg para \u201cfaxinar\u201d, 24 horas por dia, 7 dias por semana, as p\u00e1ginas da rede social e excluir conte\u00fado que n\u00e3o estaria de acordo com as diretrizes da comunidade da empresa.<\/p>\n

\u00c9 um trabalho torturante, marcado por horas di\u00e1rias assistindo milhares de cenas violentas – suic\u00eddios, estupros, cabe\u00e7as decepadas, explos\u00f5es, entre muitas outras formas de viol\u00eancia expl\u00edcita, discurso de \u00f3dio, pedofilia, propaganda terrorista e bullying<\/i> diversos. Como um Tinder <\/i>da viol\u00eancia extrema, um moderador assiste uma imagem (foto ou v\u00eddeo, principalmente) e, em 9 segundos, precisa marcar \u201cDelete\u201d ou \u201cIgnore\u201d num software; s\u00e3o cerca de 25 mil imagens por dia. Sistemas de intelig\u00eancia artificial ajudam, mas n\u00e3o detectam tudo, e a\u00ed que entra o trabalho dos moderadores, que passam por treinamentos prec\u00e1rios por funcion\u00e1rios mais experientes da empresa – como se pudesse haver algum tipo de treinamento psicol\u00f3gico para um ser humano dar conta de digerir a vis\u00e3o di\u00e1ria de imagens torturantes como as que s\u00e3o categorizadas pelos cleaners<\/i>.<\/p>\n

O document\u00e1rio tamb\u00e9m mostra imagens da vida cotidiana dos moderadores de conte\u00fado da Filipinas, os caminhos tortuosos que fazem nos lotados transportes coletivos do pa\u00eds asi\u00e1tico para irem de suas casas a at\u00e9 sede da empresa, uma parte de seu trabalho (dos que se dispuseram a mostrar), algo de suas vidas como pessoas \u201cnormais\u201d. H\u00e1 uma moderadora que, religiosa fervorosa, v\u00ea seu trabalho como uma miss\u00e3o para livrar os pecados do mundo – enquanto sonha com os diferentes formatos e cores de p\u00eanis que se acostumou a ver no trabalho. Outro gosta de ir a shows sexy<\/i> de um grupo de dan\u00e7arinas apoiadoras do atual presidente, o ditador Rodrigo Duterte – que, em uma cena mostrada no filme, fala do assassinato em massa dos judeus pelo Nazismo de Hitler como inspira\u00e7\u00e3o ao que ele quer fazer com os usu\u00e1rios de drogas em seu pa\u00eds. O document\u00e1rio contrap\u00f5e cenas da realidade dos moderadores em Filipinas com depoimentos de pessoas que trabalham ou trabalharam nas Big Techs dos Estados Unidos, como Google e Facebook. \u00c0 realidade crua da vida de pessoas de um sul global empobrecido, o filme contrap\u00f5e as imagens an\u00f3dinas dos Senadores estadunidenses em sabatina com executivos destas empresas no Congresso – que tergiversam e n\u00e3o respondem diretamente sobre a responsabilidade de suas empresas na propaga\u00e7\u00e3o de discursos de \u00f3dio em seus complexos sistemas algor\u00edtmicos.<\/p>\n

\"\"

Reprodu\u00e7\u00e3o filme<\/p><\/div>\n

**<\/p>\n

Algumas perguntas s\u00e3o inevit\u00e1veis: o Facebook faz as pessoas fazerem coisas, como cometer assassinatos? O sistema de recomenda\u00e7\u00e3o dos canais relacionados do YouTube, ao estimular o \u201cmergulho\u201d em determinados assuntos segregados, est\u00e1 formando um ex\u00e9rcito de neo-fascistas? \u00c9 o espalhador de informa\u00e7\u00e3o falsa ou o respons\u00e1vel pelo sistema t\u00e9cnico (o \u201cmeio\u201d) que deveria ser punido quando seus atos t\u00eam consequ\u00eancias diretas na realidade? Voltando a Latour: voc\u00ea \u00e9 diferente com um computador e uma conta de Facebook \u00e0 disposi\u00e7\u00e3o para publicar qualquer informa\u00e7\u00e3o? O Facebook \u00e9 diferente com voc\u00ea a tornando uma m\u00e1quina de desinforma\u00e7\u00e3o e discurso de \u00f3dio?<\/p>\n

Nos estudos que consideram a media\u00e7\u00e3o como um ato dividido entre os v\u00e1rios atores envolvidos na a\u00e7\u00e3o, sejam eles humanos ou n\u00e3o, h\u00e1 um lema corrente: siga os rastros. A aten\u00e7\u00e3o para o movimento, para o que est\u00e1 circulando, determina que n\u00e3o \u00e9 poss\u00edvel saber, a priori, o que est\u00e1 importando em uma dada a\u00e7\u00e3o. Todo movimento deve ent\u00e3o ser analisado com a mais farta documenta\u00e7\u00e3o poss\u00edvel. Assim \u00e9 que se cria a chance de determinar quem age modificando o comportamento dos outros atores, fazendo eles fazerem coisas<\/i>, e quem age sem modificar – ou modificando de forma a n\u00e3o deixar rastros vis\u00edveis.<\/p>\n

H\u00e1 cada vez mais pesquisas que mostram que sistemas t\u00e9cnicos como o Facebook e o Google n\u00e3o apenas modificam a a\u00e7\u00e3o dos atores humanos no processo \u2013 como modificam muito<\/i>. O espalhamento de informa\u00e7\u00f5es falsas, por exemplo, hoje chamadas fake news<\/i>, existe desde que o primeiro homem mentiu para sua tribo sobre o sucesso (ou n\u00e3o) da ca\u00e7a de um animal. Mas ganha um escala at\u00e9 ent\u00e3o in\u00e9dita na hist\u00f3ria com sistemas de circula\u00e7\u00e3o de informa\u00e7\u00e3o r\u00e1pidos, ponto a ponto, privados e pessoais, sem possibilidades de filtragem de conte\u00fados, que atingem milhares de pessoas em quest\u00e3o de minutos, como \u00e9 o caso que ocorre num sistema de troca de mensagens instant\u00e2neas como o WhatsApp<\/i>. O discurso de \u00f3dio e a viol\u00eancia expl\u00edcita de um ser humano contra outro por motivos religiosos existe desde que se inventou a religi\u00e3o, h\u00e1 milhares de anos. Mas a possibilidade dessa mesma viol\u00eancia ganhar circula\u00e7\u00e3o imediata para milhares de pessoas, e ao se espalhar motivar ainda mais viol\u00eancias, sem possibilidades de filtragem \u00e0 tempo de serem evitadas, tem ocorrido de forma in\u00e9dita na hist\u00f3ria da humanidade a partir da ascens\u00e3o das redes sociais como o principal canal de circula\u00e7\u00e3o de informa\u00e7\u00f5es do mundo. O que diferencia um momento do outro, a escala de antes para a de hoje? Entre outros fatores, principalmente a a\u00e7\u00e3o das tecnologias.<\/p>\n

Poderia citar tamb\u00e9m diversos outros casos em que a a\u00e7\u00e3o das tecnologias sobre comportamentos humanos trouxe resultados amplamente ben\u00e9ficos, como os rem\u00e9dios, as vacinas, os tratamentos contra doen\u00e7as at\u00e9 ent\u00e3o incur\u00e1veis – para ficar apenas no campo mais evidente da sa\u00fade. Mas \u00e9 certo que as tecnologias digitais das \u00faltimas d\u00e9cadas, criadas por pessoas em suas bolhas ricas de pa\u00edses de Primeiro Mundo, trouxeram mudan\u00e7as comportamentais profundas. Um empreendedor branco do Vale do Sil\u00edcio como Zuckerberg jamais imaginaria que o uso massivo de uma rede social que ele criou para \u201cclassificar mulheres\u201d de sua Universidade poderia provocar um linchamento em Mianmar, caso tratado em \u201cThe Cleaners\u201d. O advento de algumas tecnologias n\u00e3o criam sozinhas problemas, mas tal qual uma Pandora contempor\u00e2nea, est\u00e3o abrindo a caixa de males e amplificando-os at\u00e9 limites que ainda n\u00e3o sabemos.<\/p>\n

Hoje, somos todos outros<\/i> porque usamos redes sociais como o Facebook e o YouTube; e estas tecnologias s\u00e3o cada vez mais outras<\/i> quando entram em contato com mais e mais humanos sedentos por comunicar. Que outros seremos quando informa\u00e7\u00f5es falsas e discursos de \u00f3dio podem circular em sistemas t\u00e9cnicos da mesma forma, de igual para igual, que verdades checadas e apuradas por diversas fontes? Que outras<\/i> tecnologias est\u00e3o se desenvolvendo quando estas mostram ter cada vez mais a\u00e7\u00e3o comprovada sobre atos de viol\u00eancia e exterm\u00ednio de seres humanos e de todo o ecossistema ambiental? Como tomar medidas para regular a ag\u00eancia das tecnologias sobre a vida humana\u00a0e o planeta que n\u00e3o pare\u00e7am que estamos a enxugar<\/i> o gelo – ou seja, a\u00e7\u00f5es que na superf\u00edcie podem parecer funcionar, mas que a m\u00e9dio prazo se tornam apenas paliativos porque n\u00e3o mexem de forma substancial no sistema econ\u00f4mico que lucra com a afirma\u00e7\u00e3o e a propaga\u00e7\u00e3o da viol\u00eancia da mesma maneira<\/i> que com verdades e informa\u00e7\u00f5es verdadeiras e que respeitam e cuidam da vida humana?<\/p>\n

Estamos diante do maior dilema da nossa gera\u00e7\u00e3o.<\/p>\n","protected":false},"excerpt":{"rendered":"

Escrevi esse texto abaixo a partir do document\u00e1rio “The Cleaners“, dirigido por Hans Block e Moritz Riesewieck (2018) para uma mostra de filmes alem\u00e3es do Instituto Goethe de Porto Alegre, em 2021. Cada vez mais atual, o document\u00e1rio aborda quest\u00f5es de vigil\u00e2ncia, liberdade de express\u00e3o, monop\u00f3lios de comunica\u00e7\u00e3o e uso de dados a partir do […]<\/p>\n","protected":false},"author":2,"featured_media":14564,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[122],"tags":[2172,1868,123,492,2173,202,2174,2175,2176],"post_folder":[],"jetpack_featured_media_url":"https:\/\/baixacultura.org\/wp-content\/uploads\/2022\/03\/cleaners_the_foto_02-gebrueder-beetz-filmproduktion-formatkey-jpg-w983.jpeg","_links":{"self":[{"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/posts\/13947"}],"collection":[{"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/comments?post=13947"}],"version-history":[{"count":1,"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/posts\/13947\/revisions"}],"predecessor-version":[{"id":14565,"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/posts\/13947\/revisions\/14565"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/media\/14564"}],"wp:attachment":[{"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/media?parent=13947"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/categories?post=13947"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/tags?post=13947"},{"taxonomy":"post_folder","embeddable":true,"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/post_folder?post=13947"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}