Comunicação, cultura livre e cópia na era da Inteligência Artificial

3 de abril de 2023

Comunicação, cultura livre e cópia na era da Inteligência Artificial

“Olá pessoal, uma alegria estar aqui com vocês*, exatos 6 anos depois de ter defendido minha tese, neste mesmo PPGCOM, especialmente com Alê Primo, que acompanhou meu doutorado e fez parte da minha banca de qualificação e defesa, e Laura Wöttrich, amiga e colega de comunicação há mais de uma década. A tese, a princípio, não tem muito a ver com o que vou falar hoje: trata de uma pesquisa sobre a mediação na Mídia Ninja, especialmente a partir da cobertura das manifestações de junho (julho, agosto) de 2013. Estudei, a partir de uma pesquisa etnográfica, como os actantes, humanos e não humanos (naquela época, sobretudo o software Twittcasting) agiram nas transmissões ao vivo, quem fez o outro fazer o quê, como e o que essa ação influenciou no resultado final dos vídeos e o que isso significou para o midiativismo, o jornalismo e as próprias jornadas de junho de 2013. Digo que a princípio a tese (disponível aqui) não tem a ver com o que vou falar hoje porque sempre há algo de inexplicável que permanece nos interesses de nossas pesquisas durante anos. Se há uma conexão mais visível da tese pra aula de hoje, ela diz respeito ao interesse na ação das tecnologias e nos “híbridos” que elas formam com a ação humana em algumas situações.

Há dois anos atrás, eu lançava, durante a pandemia, o livro “A Cultura é Livre: uma história da resistência antipropriedade”, fruto de um trabalho de quase 10 anos de pesquisa junto ao BaixaCultura – laboratório online, coletivo, blog. O livro nasceu como uma tentativa de conceituar, situar e contextualizar a cultura livre, uma ideia que se propagou a partir do software livre, nos anos 1990, e ganhou destaque com as discussões em torno do livre compartilhamento de arquivos (“pirataria”) na internet dos anos 2000. Para isso, o trabalho realizado foi o de uma genealogia que resgata uma parte da circulação dos bens culturais na Antiguidade, a grande transformação da invenção da Imprensa de Gutemberg na Idade Média e a posterior ascensão do Capitalismo com o modo de produção, tendo a propriedade como sua base. Daí se originou a noção de propriedade intelectual, que resultou na consolidação dos bens culturais como mercadoria e do direito autoral como o sistema a regular estes bens, a partir do século XIX. Também daí nasceram algumas das resistências a este sistema, sobretudo no campo artístico e político de vanguarda do século XX, primeiro em termos mais conceituais, como os trabalhos do Dada, dos situacionistas franceses da década de 1950 e 60, depois também em termos práticos, sobretudo no punk rock e na cultura do fanzine e da arte postal nos anos 1970. O que seria do hip-hop e do rap se não fosse o desrespeito à propriedade intelectual na criação dos samplers? Esses movimentos do século XX também acompanharam a notável proliferação de meios tecnológicos de reprodução – da fotocopiadora ao videocassete, das vitrolas às fitas-cassetes – e ascensão dos chamados meios de Comunicação de massa, com o cinema, o rádio e a TV passando a fazer parte no cotidiano de bilhões de pessoas. Retrato um pouco desse período e das tecnologias de reprodução do início do século XX até o computador no capítulo 4 do livro, não por acaso chamado de “Cultura Recombinante”.

Próximo da metade, o livro enfim chega aos anos 1970, à criação do computador pessoal, do software livre, e duas décadas depois, da internet. A partir daí, foca nas discussões em torno da cultura livre a partir do conceito de copyleft, um dos grandes hacks no sistema de propriedade intelectual criado no século XIX. Escrevi na página 149: “Como trocadilho ou de forma literal, o copyleft foi o conceito, expresso na licença GPL e outras ligadas ao Projeto GNU que a seguem até hoje, de requerer a posse legal para, na prática, renunciar a esta ao autorizar que todos façam o uso que desejarem da obra, desde que transmitam suas mesmas liberdades a outros. A exigência formal da posse significa que nenhuma outra pessoa poderá colocar um copyright em cima de uma obra copyleft e tentar limitar o seu uso”.

Do copyleft se origina, no início dos anos 2000, os Creative Commons, conjunto de licenças (e depois uma ONG) que vai ajudar a expandir a ideia da cultura e do conhecimento livre para o mundo inteiro, dando também origem aos movimentos da Educação Aberta (aqui no Brasil chamado de REA, Recursos Educacionais Abertos), Ciência Aberta e OpenGlam (“galerias, bibliotecas, arquivos e museus abertos”), ainda hoje ativos. À discussão (e também às críticas) sobre cultura livre se segue as transformações na internet e na comunicação digital, em que a curadoria “humana” – aleatória e solta, exemplificadas pelo hábito de flanar pelos blogs e sites, prática comum dos usuários da internet dos anos 2000 – passa a ser gradativamente substituída pela curadoria algorítmica. O que pode ser visto principalmente a partir da consolidação das redes sociais – sobretudo com o modelo “Timeline” do Facebook (que vai influenciar as outras redes a partir dos anos 2010), como conta o Willian Araújo na tese de doutorado defendida neste mesmo programa – e do streaming como sistemas algorítmicos de seleção e recomendação de informação e conteúdo de predomínio na internet.

[Lembrando: sistemas algorítmicos de recomendação, por exemplo, são IAs?]

Ao final, “A Cultura é Livre” traz a perspectiva sobre a questão da cultura e do conhecimento livre para outros modos de existência que não o hegemônico ocidental, vendo como os ameríndios e povos do extremo oriente (como os chineses) têm até hoje noções historicamente muito distintas sobre o que é propriedade intelectual, cópia e original, conhecimento aberto e coletivo. Com estas perspectivas tento lembrar que existem modos de ver o mundo, presentes em muitos lugares e comunidades tradicionais, que entram em conflito com certas ideias e modos de agir ocidentais noção de propriedade intelectual se erigiu.

Por exemplo, na China, eu falo no livro do “Shanzai”, um neologismo chinês criado nos anos 2000 para dizer o que é falso, fake. Abarca de literatura a prêmios Nobel, deputados, parques de diversões, tênis, músicas, filmes, histórias das mais diversas. No princípio, o termo se referia só aos telefones (smartphones) ou à falsificação de produtos de marcas como Nokia ou Samsung e que se comercializam com o nome de Nokir, Samsing ou Anycat. Logo, porém, se expandiram para todas as áreas, em jogos que, à maneira do Dada, usavam da criatividade e de efeitos paródicos e subversivos com as marcas “originais” para criar outros nomes – Adidas, por exemplo, se converte em Adidos, Adadas, Adis, Dasida… São, porém, mais que meras falsificações: seus desenhos e funcionalidades não devem nada aos originais e as modificações técnicas ou estéticas realizadas lhes conferem uma identidade própria.

Uma parte desse modo de ver o processo de criação como algo mais coletivo que individual, que também origina o shanzai, remete ao confucionismo, um conjunto de ideias que foi dominante na China durante mais de 1000 anos, só perdendo força no início do século XX. A influência do confucionismo na cultura chinesa fez a perspectiva do direito autoral na região ser voltada, durante muito tempo, mais à defesa de uma base de informação pública, de livre acesso e reuso – o que no Ocidente foi chamado de domínio público. Como escrevi na p.220 do livro, “a demora da China em assinar tratados internacionais de propriedade intelectual (a partir da década de 1980, quando também o país passa a ser parte da World Intellectual Property Organization) tem relação com uma cultura coletiva e de defesa do domínio público enraizada desde muito tempo em sua sociedade. E também se associa com a propagação da cultura shanzai já citada, que tem a cópia como base para a recriação de diferentes produtos e marcas a partir de uma prática criativa compiladora enraizada no dia a dia do povo da região”.

O sistema da mercadoria conhecido no Ocidente é, como se sabe, diferente para as perspectivas dos povos tradicionais – não é por acaso que Davi Kopenawa chama nós, os brancos, do “povo da mercadoria”, no monumental “A Queda do Céu”. Nas palavras da antropóloga Marilyn Strathern (1984), é a oposição da economia da commodity, na qual as pessoas e coisas assumem a forma social de coisas, com a economia da dádiva (gift), na qual pessoas e coisas assumem a forma social das pessoas. Como escrevi na p.216 do livro, “É nesse sentido que, em sociedades originárias de diversos locais do mundo, o modelo de propriedade (particularmente o de propriedade intelectual), calcado na relação da obra de arte como mercadoria de consumo, se torna insuficiente para lidar com uma relação mais duradoura e complexa da circulação de objetos. No sistema cultural das sociedades originárias, é perceptível, por exemplo, a centralidade dos valores coletivos, ligados à pluralidade e à sobrevivência da comunidade, em relação aos valores individuais, de uso exclusivo e escolha individual. O que, por sua vez, faz com que os bens culturais e de conhecimento nesse contexto sejam mais difíceis de se tornar apenas mais uma commodity vendida como mercadoria, pois há princípios e responsabilidades de reciprocidade e solidariedade que buscam valorizar a substância moral própria – que poderíamos também nomear como “alma” – dos objetos em suas relações com as pessoas e o mundo”.

A partir desse breve panorama, enfim podemos nos perguntar: como podemos falar em original e cópia se uma cultura de dois milênios do Extremo Oriente incentiva a reprodução e trata como mais importante do que a origem de uma ideia o seu conteúdo e a sua permanência, mesmo que modificada e reinventada a cada contexto? Ou como dizer que há um único humano dono de ideias quando para muitos povos originários, entre eles alguns ameríndios, não existe a separação entre sujeito e objeto como conhecemos no Ocidente, e a subjetividade criadora, a quem se deveria atribuir a “autoria” ou a “posse” dos bens, é distribuída em uma vasta rede que inclui pessoas e objetos, natureza e sociedade de modo praticamente simétrico?

Imagem criada por Giselle Beiguelman a partir dos processos text-to-image e image-to-image, como ela detalha em Ensaio Máquinas Companheiras, 2023.

CHEGAMOS ENFIM ÀS IAS

É na discussão sobre cópia e original que, enfim, chegamos à discussão mais quente do momento, as inteligências artificiais. Com a crescente popularização dos sistemas de Inteligência Artificial GENERATIVAS (que são capazes de gerar textos e imagens de forma autônoma), como o ChatGPT e o MidJourney, parece que estamos nos encaminhando para um outro momento histórico para discutir tanto a comunicação digital quanto a cultura e o conhecimento livre, o direito autoral e a propriedade intelectual. Alguns pesquisadores da área computacional indicam que, em breve, a quantidade de texto/imagem gerada por IAs tende a superar toda produção humana. Não é difícil de imaginar: baseado no aprendizado de máquina, o potencial é tendencialmente infinito de criação de obras. Mas dado que estes sistemas funcionam principalmente com novas apresentações de ideias que já foram geradas (e registradas em computadores), será possível reconhecer as fontes e identificar a autoria de uma informação trazida por estas IAs? Os sistemas “artificiais” – e também os “humanos”, ou seria melhor dizer para ambos “híbridos”? – de controle da informação poderão impor limites a esta proliferação e checar a veracidade daquilo que é informado? Como poderemos falar de cópia e original num mundo cada vez mais dominado por múltiplas cópias reproduzidas ad infinitum por sistemas algorítmicos “inteligentes”?

Proponho, claro, mais perguntas do que dou respostas. Tanto porque ainda é uma pesquisa inicial, que está começando enquanto, digamos, pesquisa formal acadêmica, estruturada a partir da FGV ECMI, onde hoje trabalho como pesquisador e professor. Mas principalmente porque ninguém sabe ainda responder estas e outras questões sobre IAs; as próprias empresas que estão na ponta de lança dessa discussão em 2023, como a Open IA, estão aprendendo sobre os impactos dos sistemas que criam com o feedback dos milhões de usuários. As respostas e os diferentes usos inventados pelas pessoas trazem novas respostas e novas “alucinações” dos sistemas, que estão tendo que ser corrigidos em tempo quase real.

Há, claro, um risco muito grande em experimentar ao vivo com uma tecnologia de impacto tão transformador na produção de informação, e não à toa a discussão sobre ética em IA é um dos grandes temas em debate já faz alguns anos (ou décadas). A ONU já deu recomendações, em 2021, para a suspensão do uso de IAs em sistemas de reconhecimento facial até que haja regulação sobre a utilização da tecnologia, assim como recentemente saiu uma carta assinada por mais de mil especialistas e personalidades, como Steve Wozniak, co-criador da Apple, Yuval Noah Harari, famoso historiador, além do bilionário sem escrúpulos Elon Musk, pedindo uma moratória, uma “parada obrigatória pra pensar” sobre as consequências do desenvolvimento desenfreado das IAs, especialmente as generativas como o ChatGPT.

Para entender um pouco sobre o que falamos quando tratamos de IAs generativas como o ChatGPT, gosto da imagem criada por um dos melhores textos dos muitos que publicados sobre o tema entre janeiro de 2023 pra cá. Ele se chama “ChatGPT is a blurry JPEG of the Web” e foi escrito por Ted Chiang para a New Yorker de fevereiro de 2023.

“Pense no ChatGPT como um jpeg borrado de todo o texto na Web. Ele retém grande parte das informações da Web, da mesma forma que um jpeg retém grande parte das informações de uma imagem de alta resolução. Mas se você estiver procurando por uma sequência exata de bits, não a encontrará; tudo o que você obterá é uma aproximação. Mas, como a aproximação é apresentada na forma de texto gramatical, que o ChatGPT se destaca na criação, geralmente é aceitável. Você ainda está olhando para um jpeg embaçado, mas o desfoque ocorre de uma forma que não torna a imagem como um todo menos nítida”.

A imagem do JPEG borrado nos ajuda a entender que o sistema criado pela Open IA “engole” (quase) toda a internet e regurgita reformulando o que engoliu, não palavra por palavra. Que apesar de inventar referências e outras informações erradas (quem usou certamente já foi surpreendido com um livro, um artigo inexistente), ele não “mente”, mas escreve respostas “prováveis” – ou “borradas”, seguindo na metáfora – baseada nos pesos e cálculos feitos a partir de cada token (entrada) gerado, como mostra esse infográfico produzido pela Super Interessante. São milhares de recombinações de ideias que já foram geradas pela mente humana, mostradas a partir de uma análise estatística de uma gigantesca base de dados. Base que, gigante que já é (e não sabemos bem o quão gigante é, outro grande problema ocasionado pela falta de transparência), tende a crescer cada vez mais, alimentadas por informações coletadas na rede sem autorização. Será que precisam ter autorização para isso? Será que a coleta de dados não reforça ainda mais o datacolonialismo, a extração (e a exploração) de dados de maneira desigual do sul global?

Outras perguntas que trago aqui hoje dão uma amostra das potencialidades transformadoras, para “bem ou mal”, das IAs generativas também para a discussão em comunicação e circulação de informação e bens culturais:

_ Se por um lado o crescente uso de sistemas de IA em trabalhos cotidianos favorece os usuários (inclusive na criação de novas “ocupações”, como design ou engenheiro de prompt), de outro é um problema concorrencial para os criadores intelectuais, especialmente para aqueles tipos de criação ditas instrumentais, como um cartaz de um evento, um “card” de rede social, uma trilha para um vídeo, uma ilustração para um trabalho qualquer;

_ O problema da concentração de mercado, tal qual as big techs hoje. Empresas de IA necessitam um investimento inicial alto, mas um custo de manutenção baixo para continuar produzindo obras e aumentando a oferta, o que é feito sem ser acompanhado por um aumento proporcional de demanda (esta questão trago do livro de Pedro Lana, advogado e doutorando em Direito na UFPR, chamado: “Inteligência Artificial e Autoria: Questões de Direito de Autor e Domínio Público”, lançado neste 2023).

_ A “apropriação” do espaço comum (domínio público) das ideias. Um número muito grande de obras produzidas pode exaurir a quantidade de expressões possíveis de uma ideia em um certo meio – música, por exemplo, onde já há casos de IAs, como a do Google Assistente, que reconhece os samplers de uma música, trechos de até menos de 1s. Identificar pode significar também controlar e restringir; quem já subiu um vídeo com uma música protegida por copyright no Youtube, Instagram ou outra plataforma sabe como, pela justificativa de “defender a propriedade”, as empresas de tecnologia já identificam e barram rapidamente a circulação de informações. Teria nascido o hip hop se todos os samplers usados fossem identificados, controlados e restringidos? O rapper brasileiro DOn L sacou esse perigo e escreveu assim no Twitter: “o capitalismo vai acabar com a arte do sample. sou totalmente contra ter que pagar por samples irreconhecíveis por um humano. se for por essa lógica, deveria ter direito autoral pros instrumentos. pagar pra yamaha, korg etc em toda musica kk”.

_ Os vieses, as alucinações; e as fontes? Novamente: cadê a transparência?

Aqui talvez estejam alguns dos maiores problemas hoje. Envolvem, por exemplo, os vieses, “alucinações”, erros cometidos pelo ChatGPT e exploração de trabalhadores para “corrigir” manualmente as IAs, que nos fazem vislumbrar um cenário cada vez mais próximo de uma “Dark Digital Age”.O histórico de alucinação de cunho fascista das últimas IAs não é dos melhores; será diferente agora? Se sim, como? Quais as medidas regulatórias possíveis para que estas máquinas não virem monstros racistas, misóginos e propagadores de fake news? Há muita discussão no tema, especialmente sobre legislações possíveis – algumas delas trouxe nesse texto do BaixaCultura. Vale acompanhar o trabalho da Coalizão Direitos na Rede, que está nessa e em outras pautas importantes em defesa dos direitos digitais.

No aspecto jurídico, vale lembrar também do fair use, o uso justo e suas limitações e exceções que tornaram-se um dos pilares legais dos quais os aplicativos de IA dependem. Sua defesa e ampliação, como diz Lukas Ruthes Gonçalves nesse texto, “são primordiais para que criadores e inventores possam continuar a recombinar conhecimentos existentes para criar novas e excitantes possibilidades, como faziam anteriormente com a câmera e programas de edição de imagens como o photoshop”.

Por fim, lembro Benjamin para remixar uma questão já clássica: como se identifica uma obra de arte na era de sua “reprodutibilidade algorítmica”? Se, como disse Hal Foster em “O que vem depois da Farsa?”, a força negativa da automação é menos a perda da “aura”, como acreditava Benjamin, e mais a perda do “risco individual” e da “participação comunal”, o que diríamos de processos não só automatizados quanto autônomos? Aliás, quão autônomos são estes sistemas? Outra questão: será que a obra de arte é fruto apenas do espírito humano?, como se pergunta o advogado e professor de Direito Guilherme Carboni. Teria chegado a hora de, como os indígenas fazem a muito tempo, rever o antropocentrismo, dando status de criadores a seres não-humanos, “artificiais” ou “naturais”?

São muitas perguntas, deixo para vocês trazerem mais outras. Obrigado!”

[Leonardo Foletto]

* Esse texto parte da aula do dia 24/3, com o intuito de registrar algumas das conversas do dia. Foi elaborado antes e editado, com alguns acréscimos, até a publicação. A apresentação utilizada na aula está disponível aqui.