A proliferação mundial dos sistemas de inteligências artificiais generativas quebrou um paradigma ao tornar a cópia ainda mais base para a criação. Tudo que está na internet e foi raspado – sem consentimento, aliás – por estes sistemas está sendo a base para a criação de inúmeras coisas, de cards de redes sociais a ilustrações de livros, passando por e-mails, artigos, filmes, textos e músicas. Se já no início do século XX a reprodução técnica, especialmente na fotografia e no cinema, tornava a cópia e o “original” não facilmente distinguíveis, o que dirá a partir de 2023, quando as IAs ampliam a reprodução digital e, cada vez mais, a separam de sua materialidade original, que passa a se transformar em mero dado, padrões de números a alimentarem grandes bancos onde não existe mais singularidade, apenas cópia.

Diante disso, qual é o papel da cópia na era da IA Generativa? O projeto Cópia & Desvio é uma série de conferências experimentais/performances sobre o direito para copiar e reutilizar o conhecimento humano. Organizado em atos, o objetivo é apresentar uma narrativa crítica sobre a cópia e sua relação com a política e a sociedade ao longo do tempo.

A primeira parte se chama “A cópia na era de sua proliferação técnica” e ocorreu ao vivo em 24 de outubro, às 19h (UTC-3). Nela, Rafael Bresciani e Leonardo Foletto remixaram artefatos sonoros e visuais em live-coding (no sistema Hydra, com a interface do Flok) para compor a narração da conferência, centrada nesta primeira parte nas práticas e reflexões de cópia no início do século XX. Teve participação nas vozes (e textos) de Walter Benjamin, Marcel Duchamp, Conde de Lautréamont e Tommaso Marinetti. Na música, Neu!, Talking Heads e Kaisoku Tokyo. Nas imagens, Pablo Picasso, Okumura Masanobu, Kunisada, J Borges, Louis Daguerre, Hugo Ball, Kurt Schwitters, Man Ray, Niepce, Abraham Salm, Marinetti, entre outros. As vozes de Duchamp, Benjamin e Lautréamont foram criadas a partir do treinamento do sistema de IA Generativa chamado Eleven Labs. 

O vídeo é parte de uma investigação que estamos fazendo desde 2023 sobre o papel da cópia ao longo dos últimos séculos na história da arte, o que passa pela questão histórica do desvio. Como se sabe, a arte é marcada pelo plágio, o roubo, o desvio, a cópia e apropriação. A segunda parte irá centrar na sgunda metade do século XX, período essencial da proliferação técnica das cópias a partir dos gravadores, samplers, fitas, fotocopiadoras, televisão, vídeos, computadores.

Assista abaixo. Após, um trecho do texto falado por Benjamin no vídeo:

“Tanto a poesia sonora, as colagens e o cinema são artes que foram potencializadas nessa primeira metade do século XX com a expansão da reprodução técnica. Os aparatos técnicos são protagonistas tanto como método de produção (caso das collages) quanto de gravação e apresentação ao público (poesia sonora e o cinema).

Eu não vou explicar hoje o que é Inteligência Artificial Generativa pois, como falei para vocês, ainda não sei bem. Intuo que elas ampliam a reprodução digital e, cada vez mais, a separam de sua materialidade original, que passa a se transformar em mero dado, padrões de números a alimentarem grandes bancos onde não existe mais singularidade.

Eu intuo também que as tecnologias digitais de reprodução tornam mais difícil a negação e a escolha. É como um loop da desintegração: o meio é abstraído na hiperconexão do e e e e e e e e e e e e e e, com menos possibilidade de ou ou ou ou. Às máquinas de reprodução técnica digital não é facultado a possibilidade de fim, mas sim a reprodução contínua e infinita de presente. Tudo passa a ser conectado ao propósito da reprodução contínua de cópias. Nada mais é criado, tudo passa a ser apenas repetição sem diferença. Todas as obras já existentes remixam as anteriores: tudo é cópia.” 

Walter Benjamin (Benja), remixado no vídeo

É normal que o debate tenha o foco na recepção das informações digitalizadas. As práticas de consumo e circulação de informação dizem respeito a toda a sociedade, enquanto que as práticas criativas dizem respeito a um grupo mais seleto de pessoas que, de forma assumida, afirma que cria – embora saibamos que a criação está em muito mais lugares do que imaginamos. As mesmas tecnologias que nos levam a conversar sobre novos modos de consumir e compartilhar informação colocam, também, em relevo práticas criativas ligadas ao roubo. Identificamos um sampler em menos de 3 s, uma imagem através de uma busca simples de comparação num buscador da web; usamos qualquer obra para criar outras.

As práticas de (re) criação ligadas à abundância de informação potencializada nos últimos 30 anos por objetos técnicos não fazem outra coisa que não coletar, armazenar, processar e difundir dados. Estes objetos, que você reconhece em todos os hábitos cotidianos de uma pessoa do século XXI, tem por essência a cópia. Isso significa dizer que eles só existem porque copiam; não há ação no uso da internet e de objetos digitais que não seja, em essência, uma combinação gigantesca de números copiados. São os 0 e 1 recombinados a exaustão que fazem brotar, às vezes como mágica, imagens, sons, textos, que vão ser captados pelos nossos sentidos e fruídos como arte, jornalismo, entretenimento – ou simplesmente mentira.

A proliferação mundial dos sistemas de inteligências artificiais generativas (ChatGPT, MidJourney, Stable Diffusion, Gemini, etc) em 2023 quebra um paradigma ao tornar a cópia ainda mais base para a criação. Tudo que está na internet e foi raspado – sem consentimento, aliás – por estes sistemas está sendo a base para a criação de inúmeras coisas, de cards de redes sociais a ilustrações de livros, passando por e-mails, artigos, filmes, textos e músicas. Se já no início do século XX a reprodução técnica, especialmente na fotografia e no cinema, tornava a cópia e o “original” não facilmente distinguíveis, o que dirá a partir de 2023, quando as IAs ampliam a reprodução digital e, cada vez mais, a separam de sua materialidade original, que passa a se transformar em mero dado, padrões de números a alimentarem grandes bancos onde não existe mais singularidade, apenas cópia – a hiperconexão do E E E E E em vez do OU OU, já que às máquinas não é facultado a possibilidade de fim, mas sim a reprodução contínua e infinita de presente. 

Diante disso, qual será o papel da cópia na criação artística na era da Inteligência Artificial Generativa? Estamos em uma investigação, desde 2023, para entendermos o papel da cópia ao longo dos últimos séculos na história da arte, o que passa pela questão histórica do desvio: como se sabe – e nós já tratamos um pouco aqui, nos “momentos da história da recombinação” – a arte é marcada pelo plágio, o roubo, o desvio, a cópia e apropriação. Estamos nos encaminhando para o encerramento desse processo, que vai resultar num livro a ser publicado pela SobInfluencia em 2025.

Em paralelo e complementar ao processo de produção do livro, nasceu o projeto Cópia & Desvio. É uma série de conferências experimentais/performances/lives sobre o direito para copiar e reutilizar o conhecimento humano. Organizado em quatro atos, o objetivo é apresentar uma narrativa crítica sobre a cópia e sua relação com a política e a sociedade ao longo do tempo. Em diálogo com o processo de escrita do livro, as quatro sessões vão abordar temas, pessoas, grupos e movimentos históricos onde a cópia ganhou destaque, sempre em diálogo com a história das tecnologias que permitiram transformações na reprodução técnica. 

Vamos examinar momentos como a criação do rádio e da arte sonora do surrealismo e do dadaísmo; o détournement situacionista e o cut-up dos 1960; a arte xerox e a mail art dos anos 1970 e 1980; os samplers e a cultura hip-hop, os remixes e os memes potencializados na internet; até chegar, por fim, a criação na era da IAs generativas.

As conferências/performances se desenvolvem em um formato experimental, ao vivo, como lives, em que a narração irá acompanhar um live coding com elementos visuais e sonoros, além de outras intervenções ao vivo. Serão gravadas e transmitidas, via canal do Youtube do BaixaCultura.

A primeira destas conferências será chamada de “A cópia na era de sua proliferação técnica” e vai ocorrer no 24 de outubro, às 19h (Brasil, UTC-3). Rafael Bresciani e Leonardo Foletto vão criar artefatos sonoros e visuais para compor a narração da conferência, centrada nas práticas e reflexões de cópia no século XX, de Walter Benjamin a Lev Manovich, passando por Marcel Duchamp, Guy Debord, William Burroughs, Hugo Pontes, Paulo Bruczky, Moholy-Nagy, Rosalind Krauss, Yoko Ono, Andy Warhol, Sherrie Levine, Devo, Talking Heads, Neu!, entre outros.

PARTE 1: Alguém quer pensar nas pessoas usuárias?

A partir da disponibilidade de ferramentas como DALL-E, Stable Diffusion ou Midjourney para geração de imagens, e do ChatGPT, Bard, Open Assistant ou as centenas de bots de conversação baseados em LLaMA, milhões de pessoas começaram a fazer experimentos com a criação de textos e imagens assistidos por IA generativa. As motivações para o uso das ferramentas são variadas: vão desde a geração de ilustrações e pôsteres amadores para ilustrar postagens (como esta) até a experimentação de novas possibilidades na arte digital, a alimentação de ideias para escritas criativas e a exploração lúdica das respostas paradoxais que surgem quando se pergunta ao software sobre seus sentimentos ou intenções.

Também houve debates sobre supostos “riscos existenciais” e supostas violações de direitos autorais. Esses debates foram, em parte, alimentados pelas próprias empresas que desenvolvem essas ferramentas, cuja estratégia retórica tem sido inflar tanto as virtudes quanto os riscos dos modelos que desenvolvem – duas formas complementares de exagerar seu poder. Menos visíveis, na maioria das vezes, são os vieses, as falhas e as limitações significativas que permanecem nessas ferramentas, muitas vezes lançadas às pressas.

A ameaça para a humanidade

Começamos mencionando brevemente o discurso da “ameaça à humanidade“. O risco real desse discurso é que ele funciona para a mistificação e o sigilo em torno de uma tecnologia cujo conhecimento e desenvolvimento deveriam, ao contrário, ser democratizados o máximo possível. Projetos de código aberto, como o ChaosGPT, um bot de conversação que recebeu ordens para “conquistar o mundo” e “destruir a humanidade”, destacam de forma criativa o ridículo das afirmações mais exageradas sobre IA.

Por outro lado, há uma pressa em censurar solicitações e conteúdos “inadequados” ou “violentos”, que geralmente são definidos de acordo com uma moral rígida e ideologia de ordem. No entanto, as pesquisas sobre os verdadeiros vieses e falhas desses programas costumam ser menos divulgadas. É por meio da pesquisa participativa que podem ser criados modelos e conjuntos de dados que representem melhor a diversidade real do mundo. Para isso, é fundamental que os conjuntos de dados sejam abertos e os modelos sejam software livre. Quanto mais pessoas puderem aprender como essas tecnologias são feitas, pesquisar com elas, testá-las e desenvolvê-las, mais olhos e mãos haverá para criar ferramentas melhores, que ajudarão em tarefas mais úteis e promoverão a criatividade em vez de reproduzir preconceitos. Um exemplo na América Latina é o EDIA, um conjunto de ferramentas desenvolvido pela Fundación Vía Libre para identificar estereótipos e discriminação em modelos de linguagem.

Plágio massivo

Na discussão sobre direitos autorais, felizmente já parece estabelecido que os trabalhos resultantes da IA generativa são de domínio público, especialmente desde o recente parecer do escritório de direitos autorais dos EUA. Essa é uma boa notícia, pois, caso contrário, as empresas que desenvolvem os modelos poderiam ter imenso poder sobre o conteúdo gerado a partir da interação entre usuários, ferramentas de IA e o conjunto comum de dados e conteúdo cultural.

Entretanto, o que gera mais debate atualmente é se a coleta de conteúdo para criar os conjuntos de dados, bem como o processamento computadorizado desses dados por modelos de inteligência artificial, são usos justos (fair use) ou, ao contrário, infringem os direitos autorais.

Recentemente, houve uma proliferação de artigos e manifestos pedindo maiores controles e restrições à IA generativa para proteger a propriedade intelectual. Um exemplo de tais manifestos no mundo de língua espanhola é o chamado “Arte es Ética”. Esse manifesto afirma, entre outras coisas, que o que as tecnologias de IA generativa geram são “derivados não consensuais e parasitários”, “plágio maciço” e “automatizado”, “pilhagem” e “roubo”; pede a implementação de ferramentas de filtragem de conteúdo; a proibição de prompts que incluam nomes de pessoas e até mesmo nomes de movimentos estéticos inteiros; pede marca d’água obrigatória e identificação compulsória de usuários que inserem prompts; e aponta contra a criação de novas exceções de direitos autorais para mineração de dados – mesmo que tais exceções hoje sejam fundamentais para o progresso de muitos campos científicos. As demandas mencionadas acima estão misturadas de forma desordenada com outras que são dignas de atenção genuína, como a criação de fundos para a promoção da cultura ou a proteção de trabalhadores contra demissões em massa injustificadas. Mas o impulso geral das demandas não é direcionado a reivindicações trabalhistas ou à promoção da arte, mas sim a uma expansão direta da propriedade intelectual. Isso é visto, por exemplo, no apoio a ações judiciais como a do banco de imagens Getty contra a Stability AI; na caracterização negativa e grosseira da IA como uma tecnologia somente de pilhagem; e, em geral, no fato de que o principal alvo dos ataques são os projetos de código aberto, ou seja, aqueles com maior probabilidade de democratizar o uso da tecnologia.

Lamentavelmente, abordagens semelhantes surgiram de pessoas que, há alguns anos, participaram do movimento de cultura livre. Marta Peirano , jornalista e escritora, publicou recentemente um artigo no El País que identifica modelos de inteligência artificial como “máquina automática de plágio em massa”, que serve para “roubar (…) o conteúdo de outras pessoas”. Peirano também faz eco à ação judicial da Getty contra a Stability AI e a apresenta como parte da reação supostamente legítima a esse roubo em grande escala, tomando partido da empresa de conteúdo (Getty) contra a empresa de tecnologia (Stability AI). O artigo parece negar a militância anterior da autora em favor do acesso ao conhecimento; os argumentos de Peirano nesse período de militância teriam sido usados por empresas de tecnologia para roubar propriedade intelectual.

Há um ponto real no que Peirano diz: na sociedade atual, as empresas capitalistas sempre serão as que melhor podem explorar o conhecimento livre em seu benefício. Isso não é novidade; há muitos outros exemplos análogos, como a educação pública e a infraestrutura de transporte. Na sociedade capitalista, as enormes somas de dinheiro gastas em educação pública treinam trabalhadores que, inevitavelmente, passam a ocupar cargos assalariados em empresas capitalistas. O fato de as empresas capitalistas se apropriarem dos lucros da educação pública não deve ser um argumento contra a educação pública, que é um direito do povo. Pelo contrário: deve nos fazer refletir sobre que outra sociedade precisamos para que a educação pública esteja a serviço de uma produção não capitalista exploradora.

O mesmo ocorre com o conhecimento livre. É preciso ressaltar sempre que a ampla disponibilidade de cultura e conhecimento é um avanço para os direitos culturais das pessoas, possibilitado pelo desenvolvimento das forças produtivas. O conhecimento humano é um patrimônio construído coletivamente que deve servir à toda sociedade. Qualquer retrocesso nesse sentido é reacionário. É claro que, em nossa sociedade, as empresas de tecnologia têm uma enorme vantagem quando se trata de aproveitar o conhecimento livre. Esse fato deve nos levar a aprofundar a crítica iniciada com o questionamento da propriedade do conhecimento para transformá-la em uma crítica do sistema social como um todo. Para Peirano parece impossível dar esse passo, o que a leva a optar por uma espécie de mea culpa e recuar para a típica defesa da propriedade intelectual. Talvez não seja irônico que o artigo de Peirano esteja protegido por um paywall.

Uma necessária mudança de enfoque

Visto em perspectiva, os discursos inflamados contra a IA generativa parecem um renascimento das campanhas contrárias à Internet no final dos anos 90 e início dos anos 2000, com prognósticos apocalípticos parecidos sobre a morte da arte, o empobrecimento da vida cultural e o declínio cognitivo das novas gerações expostas a essas tecnologias imediatistas. Mais atrás, discursos da mesma natureza podem ser encontrados no nascimento da música gravada, da fotografia e até mesmo da imprensa.

De um lado, estariam os detentores de direitos autorais supostamente saqueados, que incluem artistas, editoras e empresas de conteúdo de todos os tipos. Por outro lado, as corporações de tecnologia. A oposição, como se vê, não seria entre os artistas que trabalham e seus empregadores nas empresas de conteúdo, mas entre dois setores industriais: o criativo e o tecnológico. Portanto, não seria uma reivindicação baseada em classe, mas intersetorial.

Contra essa visão que enquadra o problema como uma disputa entre dois setores industriais, vale a pena complexificar o cenário apontando a existência de outros atores sociais. Um deles é a comunidade educacional, científica e acadêmica que pesquisa usando técnicas de inteligência artificial. Sobre a importância das exceções de direitos autorais para a mineração de textos e dados para fins de pesquisa, vale ler o relatório “Políticas de Inteligência Artificial e Direitos Autorais na América Latina“, publicado pela Aliança Latino-Americana para o Acesso Justo ao Conhecimento.

Outro ator esquecido são as pessoas que usam ferramentas de IA generativas. Muitas pessoas começaram a usar essas ferramentas como uma forma de expressão: artistas digitais que usam prompts para gerar imagens, escritores ou amadores que usam chatbots para obter ideias de textos, pessoas comuns que simplesmente querem se divertir ou se expressar com essas IAs e interagir com os resultados. Talvez seja hora de o direito das pessoas de participar da vida cultural ser também considerado na discussão.

O direito de participar da vida cultural tem certos requisitos. De acordo com Lea Shaver, esses requisitos incluem:

_ A liberdade de acesso a materiais culturais, ou seja, obras, ideias, idiomas e mídias existentes.

_ A liberdade de acesso a ferramentas e tecnologias indispensáveis para desfrutar e usar esses materiais e obras, bem como para criar novos materiais.

_ A liberdade de usar esses materiais e obras, transformá-los, fazê-los circular e colocá-los em diferentes contextos.

Seguindo essa ideia, a possibilidade de usar ferramentas de IA generativas sem censura pode ser entendida como parte do direito de acessar ferramentas e tecnologias para se expressar de forma criativa. Assim como o acesso a instrumentos musicais é fundamental para a criação de música, ou os computadores e outros dispositivos digitais são importantes para a fotografia, o vídeo e outras formas de expressão visual, as ferramentas generativas de IA podem ser uma ferramenta essencial para a expressão criativa e estética. Esse princípio não envolve apenas artistas e seus procedimentos, ferramentas e materiais profissionais, mas todos os usuários dessas tecnologias, que, por meio da arte e de outros conteúdos gerados por IA, acessam e participam de uma experiência estética peculiar e pessoal.

Mas os direitos dos usuários são ameaçados de diferentes maneiras. Por um lado, as empresas que prestam serviços de IA generativa criam expectativas enganosas sobre as ferramentas que oferecem; manipulam arbitrariamente os resultados e censuram o conteúdo; violam a privacidade de seus usuários; impõem barreiras econômicas abusivas; e investem pouco para lidar com os vieses das ferramentas.

Por outro lado, os setores de conteúdo e os detentores de direitos autorais, alegando que essas ferramentas facilitam a violação de direitos autorais por aqueles que as utilizam, promovem regulamentações draconianas que incluem controle e filtragem de conteúdo; estigmatizam o uso de IA generativa como antiético ou até mesmo criminoso; e, por meio de seu ataque a projetos de código aberto, contribuem para a concentração de poder das grandes corporações de tecnologia. As restrições e os controles que esses setores exigem para a IA generativa não podem ser implementados sem limitar severamente a capacidade das pessoas usuárias de fazer uso expressivo legítimo das ferramentas.

Uma coisa podemos ter certeza: não haverá saída progressiva para esse debate se os direitos das pessoas que usam inteligência artificial generativa não começarem a ser levados em conta. E ninguém levará esses direitos em consideração se os próprios usuários não se manifestarem.

PARTE 2: Quatro mitos e algumas reflexões sobre a liberdade artística

Gerado no Stable Diffusion com o prompt inspirado no do post de Artica: Uma dadaísta digital imaginando mundo possiveis ao estilo dadaísta europeu dos anos 1920

Nas conversas atuais sobre arte e inteligência artificial generativa, é comum que esses dois termos sejam colocados como opostos polares. Mas essa polaridade é limitante, por isso aqui vamos tornar a conversa mais complexa. Se em nosso post anterior apontamos que restringir a IA generativa de acordo com os desejos de determinados setores de conteúdo pode afetar gravemente os direitos dos usuários, nesta parte falaremos sobre como essas restrições acabariam afetando práticas artísticas emergentes que não são prejudiciais. Mas, pelo contrário, representam novas explorações criativas que não devem ser censuradas.

A ideia de que o uso de ferramentas de IA generativas precisa ser restringido para proteger os direitos dos artistas talvez seja produto de uma leitura equivocada dos “riscos” que essas ferramentas representam para o trabalho artístico. Como dissemos na primeira postagem desta série, não é nosso objetivo falar sobre os “riscos” da IA em geral, nem sobre sua aplicação em campos em que ela pode ser particularmente problemática (como na segurança pública e na justiça). No campo da arte e da criatividade, vemos mais aspectos interessantes do que perigosos, mas há maneiras sensacionalistas de falar sobre esse debate que incentivam a falsa dicotomia “Artista X IA” e que gostaríamos de ajudar a desmistificar.

MITO 1: A IA VAI TORNAR OBSOLETA A CRIATIVIDADE HUMANA

Um primeiro mito é o da capacidade da IA geradora de potencialmente “alcançar” a criatividade humana e torná-la obsoleta. Ele engloba a ideia simplista e enganosa de que a IA e o artista são entidades comparáveis e que a IA é, portanto, uma séria concorrente dos artistas. Em primeiro lugar, entendemos a IA generativa como uma ferramenta que não “faz arte”, mas que a arte pode ser feita com ela. Ela não é uma entidade com capacidade criativa própria e, portanto, seus resultados não devem ser cobertos por direitos autorais.

Apesar das manchetes da mídia que dizem “uma inteligência artificial cria uma obra exibida em um grande museu”, “uma inteligência artificial vence uma competição de arte” etc., não há de fato nenhuma atividade autoral da inteligência artificial, porque não há criação como conhecemos em seus produtos estéticos. Eventualmente, quando os artistas desenvolvem seu próprio trabalho usando essas ferramentas, são eles que criam coisas com a inteligência artificial.

Nas palavras do escritor de ficção científica Bruce Sterling na conferência “AI for All, From the Dark Side to the Light”, essas IAs “não têm senso comum… Elas não têm imagens. Elas não têm imagens. Elas têm uma relação estatística entre texto e grupos de pixels. E há uma beleza nisso. Não é uma beleza humana. É uma imagem incrível com a qual nenhum ser humano jamais poderia ter sonhado. Ela realmente tem presença, é surreal!”.

Essa posição cética e fascinada nos permite escapar de noções estereotipadas e dicotomias enganosas. Nos leva também a perguntar quais coisas concretas os artistas estão fazendo com as inteligências artificiais generativa. Como eles estão trabalhando com essa “relação estatística entre textos e grupos de pixels” que abre as portas para a exploração criativa de um imaginário não humano e surreal. Quais processos e procedimentos artísticos estão surgindo dessa exploração.

Os artistas sempre usaram novas tecnologias. Tanto de forma “correta”, aprendendo a técnica e seguindo o cânone, quanto de forma subversiva, desafiando a tendência dominante e invadindo as formas comuns de fazer. Isso não é diferente com a inteligência artificial generativa. Para pensar em práticas artísticas com IA, é preciso analisar suas potencialidades e limitações, entendendo que os artistas trabalham em ambos os campos: no reino do possível e de suas limitações. E que eles não apenas tomam os desenvolvimentos da tecnologia como dados, mas também modificam esses termos – o que é possível, quais são os limites, quais estratégias artísticas podem resistir e desafiar a ordem tecnosocial.

Para entender melhor isso, vale trazer o exemplo da prática de uma artista, Kira Xonorica, que trabalha com base na geração de imagens que desafiam as noções binárias de gênero e os limites entre natureza, humanidade e tecnologia, para criar visões feministas futuristas e utópicas.

Obra digital de Kira Xonorica realizada com processos generativos

Em uma entrevista para o site expanded.art, Kira diz que o potencial da IA generativa está justamente na capacidade de visualizar e explorar perspectivas do mundo por meio de dados de uma forma que talvez não fosse possível sem essas ferramentas computacionais, já que a IA generativa se baseia na análise de milhões de imagens, descrições e rótulos. Mas também há limitações para as imagens visuais que essas tecnologias nos permitem explorar, devido aos vieses introduzidos nos modelos e nos dados de treinamento. Kira acredita que “a tendência inerente aos conjuntos de dados não é surpreendente. Ao fim e ao cabo, o banco de imagens no qual eles se baseiam se baseia em séculos de história da arte e em outras disciplinas que produzem e moldam nossa imaginação visual coletiva”.

As visões alarmistas e proibicionistas, que ignoram esses processos de exploração de limites e possibilidades, são perigosas porque censuram e inibem as buscas criativas. Os vieses e outros problemas sérios com essas ferramentas não devem nos levar ao pânico, mas a uma análise crítica que leve em conta os contextos de criação e uso de imagens geradas por IA, incluindo os conjuntos de dados de treinamento nos quais as várias ferramentas se baseiam, bem como as maneiras pelas quais essas ferramentas são projetadas e desenvolvidas. A análise também deve incorporar os custos ambientais e as condições de trabalho nas empresas de IA, sobre os quais não vamos discorrer nesta postagem.

MITO 2: CRIAR IMAGENS DE PESSOAS REAIS É INERENTEMENTE PERIGOSO

A geração de imagens com pessoas reais reconhecíveis é uma prática considerada uma das mais arriscadas, pois pode ser usada para ataques à honra e à dignidade dessas pessoas. Entretanto, essa prática também pode ser uma maneira de explorar histórias alternativas de forma imaginativa, sem ser confundida com uma imagem da realidade ou necessariamente causar danos a qualquer pessoa. Esse é o caso, por exemplo, de @arteficialismo, que fez uma série que nos faz imaginar como seriam as pessoas famosas se, depois de perderem tudo, fossem morar em uma favela brasileira.

MITO 3: AS OBRAS GERADAS POR IA SÃO SEMPRE IMITAÇÕES

E o que dizer do uso de obras artísticas já existentes para criar novas obras com inteligência artificial? Esse talvez seja um dos maiores debates atuais. A questão é dividida em duas dimensões.

A primeira é se uma nova criação de IA generativa, baseada em obras ou estilos preexistentes, pode infringir o direito dos criadores dessas obras ou dos artistas de referência desses estilos. Embora estas infrações de fato possam ocorrer, elas não podem ser dadas a priori; tudo depende do caso específico. O que deve ficar claro é que os estilos artísticos em si não são protegidos por direitos autorais e que a grande maioria das obras geradas em um determinado estilo ou com determinados criadores de referência não são necessariamente obras derivadas. Elas podem ou não ser – assim como muitas obras não geradas com inteligência artificial também podem ser. Acreditamos que, em grande parte, nossa análise de vários anos atrás sobre a cultura remix e a necessidade de distinguir, em cada caso, o conceito de plágio, trabalho derivado e usos transformadores pode enquadrar muito bem essa discussão.

A segunda dimensão é se a criação de ferramentas de IA generativas infringe os copyrights de obras de direitos reservados que são parte de coleções de dados de treinamento. Para responder a essa pergunta, é importante saber que o treinamento de modelos de IA generativa não envolve a cópia dos aspectos expressivos das obras, mas sim a análise e a sistematização de dados sobre essas obras, com base em um grande número de parâmetros que vão novas imagens, textos ou outros conteúdos. O modelo nem sequer mantém cópias das imagens de treinamento, como explica o analista de políticas de propriedade intelectual Matthew Lane: “Depois que cada imagem é incorporada ao modelo, ela é basicamente lixo. Ela não é armazenada no modelo, apenas os conceitos [são armazenados]. E, idealmente, esses conceitos não devem ser vinculados a uma única imagem”. Em outras palavras: a expressão autoral das obras não é armazenada, copiada, redistribuída ou comunicada, mas analisada em grandes quantidades para estabelecer conceitos a partir dos quais gerar imagens.

É por isso que não se pode presumir a priori que os modelos serão usados apenas para gerar imitações, mas que cada caso deverá ser avaliado a posteriori e de modo concreto. Nem aqueles que desenvolvem a ferramenta nem aqueles que a utilizam devem, em nenhum caso, ser impedidos de se basear em referências culturais e artísticas anteriores. Caso contrário, o patrimônio cultural e estético seria privatizado de uma forma sem precedentes, prejudicando a liberdade criativa atual e futura. E, já que estamos falando disso, não devemos nos esquecer de que, muitas vezes, são os próprios artistas que trabalham com ferramentas de IA, treinando modelos com coleções de dados específicas ou até mesmo participando do desenvolvimento e da adaptação de ferramentas de IA a partir de ferramentas de IA de código aberto.

MITO 4: NÃO SE PODE CRIAR GENUINAMENTE USANDO IA

Por fim, se estivermos falando de liberdade criativa, podemos perguntar até que ponto os artistas estão realmente criando algo novo com a IA generativa. Dissemos anteriormente que a IA não tem agência nem capacidade criativa própria, mas onde fica o processo criativo das pessoas que usam essas ferramentas? Até que ponto podemos ir além da geração automática de imagens para desenvolver algo que possa ser chamado de “obra” e o criador de “artista”? A resposta, mais uma vez, depende do uso e do contexto da criação, e de como cada pessoa que cria com IA generativa define sua atividade.

Em outro trabalho compartilhado por @arteficialismo no Instagram, no qual retratos famosos da história da arte são representados como pessoas de carne e osso, alguém pergunta: “como você pode se considerar um artista? Ao que @arteficialismo responde: “Nunca me considerei… durante toda a minha vida fiz desenhos, photoshop, etc… e as pessoas sempre tentaram me rotular como artista e eu sempre rejeitei esse ‘título’. Agora eu só faço essas imagens de IA e as pessoas tentam dizer que eu não sou um artista, como se isso significasse alguma coisa para mim ou me fizesse parar de fazer as imagens por algum motivo.”

Por sua vez, Kira Xonorica, na entrevista citada acima, disse: “O que eu adoro na IA é que ela envolve um processo de contar histórias. Quando você cria, é como assistir a um filme ou escrever seu próprio romance. Você nunca sabe aonde isso vai levá-lo, você só tem ideias generativas e as sobrepõe umas às outras, essa é a beleza do jogo”.

Em última análise, a criação por meio de métodos generativos abrange uma variedade de processos que não podemos determinar a priori como artísticos ou não artísticos. Muitas vezes, esses processos envolvem longas horas de aprendizado e experimentos com e a partir de resultados gerados por IA. Mas não são nem as horas nem o esforço que dão significado artístico a esses trabalhos; muito menos uma IA. Argumentamos, por fim, que a arte pode ser feita com IA generativa e que isso ainda depende, como sempre, do contexto da criação pessoal e da recepção cultural. A análise diante da massificação da IA generativa deve ser crítica, matizada e situada, não moldada nem pelas empresas que vendem essas tecnologias e nem guiada por mensagens de pânico que apenas impedirão os artistas de participar do debate sobre seu desenvolvimento e de se apropriar criativamente dessas ferramentas.

O próximo encontro do Processo de Pesquisa, projeto da editora/livraria/espaço cultural SobInfluência na Galeria Metrópole (centro de SP), será o “Arte/Desvio – colagens, samples e ressignificações contra a propriedade intelectual”, com a participação minha (Leonardo) e de Tiago Frúgoli para apresentar nossas respectivas pesquisas e a pertinência do uso das técnicas de recombinação, sampling e colagem em um mundo cada vez mais vigiado e pautado por condições algorítmicas.

Um trecho do texto de divulgação:

A arte, em sua história, é marcada pelo plágio, o roubo, o desvio, a cópia e apropriação. Alguns movimentos históricos, artísticos e musicais, deram conta de elaborar essas práticas, que ocorrem a partir de resíduos visuais e sonoros já existentes, para desenvolver e criar algo novo. O Dadaísmo, o Surrealismo, os Situacionistas, com o desvio de símbolos e reutilização de imagens e textos, a música eletrônica e o hip hop, com uso de samples, são expressões que nos colocam para pensar sobre o que significa lidar com a arte, o insconsciente, seus desvios simbólicos e a propriedade privada que envolve esses territórios.

Leonardo Foletto é jornalista, pesquisador e doutor em comunicação (UFRGS). Desde 2008 edita o BaixaCultura, laboratório online de cultura livre e (contra) cultura digital. Seu último livro é “A Cultura é Livre: uma história da resistência antipropriedade”, de 2021.

Tiago Frúgoli é músico e educador de São Paulo. No seu trabalho, transita entre os beats, jazz, experimentalismo e música brasileira. Seu álbum “Casa” foi lançado pela YB Music, Fresh Selects (EUA) e King Records (Japão). É responsável pela curadoria do selo Ukiyo Beat Tapes.

O evento é gratuito e, se possível, inscreva-se pelo formulário. Os eventos da Sobinfluencia são gratuitos, mas para que eles continuem com a realização desse trabalho, apoiar mensalmente é muito importante.
Dia 17/05, às 19 horas, na Galeria Metrópole – Rua São Luis, 187 – sala 12, primeiro andar – República, São Paulo

LEMBRANDO QUE: desde 2018 buscamos recursos para seguirmos nosso trabalho de discussão, propagação e documentação em cultura livre, (contra) cultura digital e tecnopolítica no BaixaCultura, que em setembro de 2023 completa 15 anos de vida.

Não temos patrocinadores; o pouco que recebemos vem de pessoas que acreditam no nosso trabalho e querem que ele continue. Você pode ser um deles fácil, basta apoiar a partir de R$5 mensais em https://apoia.se/baixacultura ou doar qualquer quantia via PIX: info@baixacultura.org. O dinheiro que recebemos vai para custear nosso servidor (site e e-mail), pagar gastos com impressões do selo editorial e remunerar algumas (das muitas) horas necessárias para fazer o BaixaCultura seguir adiante.

Faz umas quatro semanas que parei para começar a escrever sobre os diversos links que todo dia chegavam (e continuam chegando) pra mim sobre IAs e o ChatGPT. Quando parava pra ler um chegava outro texto, e outro, outro, cada um mais “definitivo” do que outro, apocalípticos e desdenhosos, otimistas e proféticos, de perspectivas diferentes . Enquanto o tempo necessário para acompanhar as discussões diminuía, a coleção de links só aumentava. Passou o carnaval e fevereiro e nada de conseguir ler tudo ou escrever sobre.

Mas eis que chegou março e, bem, os links vão continuar aumentando, como sugere o meme logo acima. Mas pelo menos aqui está um pequeno resumo/panorama do que consegui parar e ler. Até o final do ano teremos muitas mudanças nesse tópico, mas neste início de março de 2023 creio ser um bom panorama.

[Leonardo Foletto]

*

O que é o Chat GPT? Esbocei, junto com duas colegas de trabalho, uma pequena definição neste texto: ele é, tecnicamente, um chatbot, um programa que tenta simular a conversação de um ser humano a partir de um modelo de Processamento de Linguagem Natural (PLN). Esse modelo é um conjunto de técnicas e princípios que permitem que uma máquina se comunique com um humano do modo mais “natural” possível. As assistentes de voz Alexa (Amazon) e Siri (Apple), por exemplo, também funcionam a partir do PLN. Contudo, o ChatGPT traz uma capacidade de simular a comunicação humana de uma forma MUITO mais sofisticada do que às encontradas nas assistentes virtuais, e aí é que começa a discussão – e as “espetaculares promessas”, como diz esse texto na Discourse Magazine, um dos primeiros de uma leva cotidiana que está debruçado a entender as promessas, transformações e revoluções possíveis a partir do sistema da OpenIA.

Aliás, começamos nessa linha: promessas, revoluções e transformações no mundo a partir do ChatGPT. Ana Busch, na Exame, faz um resgate da internet (saudosa) de outros tempos para dizer que “não adianta criticar, dizer que o bot erra, que está desatualizado, que ainda precisa caminhar muito (tudo verdade). O futuro vai se impondo dessa forma, e você tem que mergulhar antes de tomar um caldo”. Jesús Díaz, no El Confidencial da Espanha, faz uma boa análise na mesma linha: “Los analistas del Bank of America afirman que la inteligencia artificial es una revolución comparable a la electricidad. Energía, armas, medicinas o naves espaciales, todas las industrias están ya siendo transformadas por una tecnología, aseguran, que en sólo siete años aportará 15,7 billones de dólares a la economía mundial, más que el producto interior bruto anual de toda la zona euro en 2022”. Seria exagero? O tempo dirá. Porém, Jesús não deixa de apontar problemas: “En algún momento del futuro cercano, perderemos nuestra capacidad para distinguir entre los hechos y la ficción creada por las máquinas, sin importar cuántas herramientas forenses podamos idear. Resulta que, después de hablar con algunos de los principales expertos en el campo, ese “futuro cercano” ocurrirá en los próximos 10 años”.

Aqui entra um alerta para uma discussão que particularmente nos interessa: o que é cópia e original na era das IAs? Alguns pesquisadores da área computacional indicam que, em breve, a quantidade de texto/imagem gerada por IAs tende a superar toda produção humana. Dado que estes sistemas funcionam principalmente com novas apresentações de ideias que já foram geradas (e registradas em computadores), será possível reconhecer as fontes e identificar a autoria de uma informação trazida por estas IAs? Os sistemas “artificiais” – e também os “humanos”, ou seria melhor dizer para ambos “híbridos”? – de controle da informação poderão impor limites a esta proliferação e checar a veracidade daquilo que é informado? Já há casos de IAs, como a do Google Assistente, que reconhece os samplers de uma música, trechos de até menos de 1s, e essa tecnologia está apenas em sua infância. Como poderemos falar de cópia e original num mundo cada vez mais dominado por múltiplas cópias reproduzidas ad infinitum por sistemas algorítmicos “inteligentes”? Quais os riscos da reprodução e do aumento de vieses (racistas, machistas, liberais, xenofóbicos) presentes na sociedade no transporte para estes sistemas de processamento de linguagem natural (PLN) como o GPT-3?

A discussão em torno da cópia, plágio e direito autoral a partir do ChatGPT e outros sistemas de IA é uma das que mais tem rendido debate. Neste ótimo texto, Lukas Ruthes Gonçalves, doutorando pela UFPR e membro do Grupo de Estudos em Direito Autoral e Industrial (GEDAI/UFPR), retrata os casos em que artistas processaram IAs por infringir copyrights, caso dos apps Stability.ai e Midjourney, e do como outros casos ainda estão surgindo – caso da Getty Images, que está processando a Stability.ai por supostamente usar imagens da empresa. Ele afirma que a doutrina de uso justo (fair use) e suas limitações e exceções tornaram-se um dos pilares legais dos quais os aplicativos de IA dependem. E que sua “defesa e ampliação são primordiais para que criadores e inventores possam continuar a recombinar conhecimentos existentes para criar novas e excitantes possibilidades, como faziam anteriormente com a câmera e programas de edição de imagens como o photoshop”.

Sobre usos possíveis, há também bastante gente falando. Márcio Telles, pesquisador e professor de comunicação da Tuiuti do Paraná, fez um compilado de usos possíveis (e comentários sobre) dentro da criação e edição de um texto acadêmico. “Tenho a impressão de que a IA democratiza a figura do “assistente de pesquisa” para o “Sul Global” e fura o entrave erguido entre Norte/Sul pela barreira da língua”, escreve Márcio, que vem experimentando com o sistema e postando em suas redes com alguma frequência. O que também vem fazendo o pesquisador Mushtaq Bilal em seu Twitter, em inglês, mas com uma abertura ao ptbr em uma boa thread de “Como usar o ChatGPT em dois tipos de abordagem, minimalista e maximalista”.  O pessoal do Núcleo.Jor também deu boas dicas (24 usos). Nessa editoria, mas com abertura para decorrências do uso do sistema, também entra o cientista cognitivo, pesquisador e professor brasileiro Diogo Cortiz. Dele, destaco dois posts: um sobre um primeiro artigo estruturado (segundo ele) sobre impacto do ChatGPT em tarefas de escrita, em que os pesquisadores fizeram um experimento com profissionais de qualificação média e encontraram aumento da produtividade, da qualidade da entrega e da satisfação dos profissionais. E outro sobre como o ChatGPT pode literalmente alucinar – alucinação maquínica é um termo usado na área técnica para indicar quando a máquina dá uma resposta confiante, mas sem qualquer justificativa nos dados de treinamentos. Quem já usou o ChatGPT sabe que ele inventa informações e sobretudo referências bibliográficas; mente convicto de que está certo.

No tema “problematização do uso no ensino”, vale conferir as colunas de Ronaldo Lemos na Folha de S.Paulo, especialmente esta. “Na minha aula no Schwarzman College o uso do ChatGPT é obrigatório. Todos os trabalhos DEVEM ser feitos por ele. No entanto, a nota vai ser dada pela qualidade dos “prompts” que os alunos fizeram para chegar no resultado. Em outras palavras, vou dar a nota pela qualidade das perguntas, e não da resposta”. Em contrapartida, escolas públicas de Nova York proibiram o uso do ChatGPT. Escolas e Universidades dos Estados Unidos estão começando a repensar por completo seus métodos de ensino. “Antony Aumann, professor de filosofia na Universidade Northern Michigan, pensa em talvez abrir mão de redações em semestres subsequentes. Também pretende incluir o ChatGPT em suas aulas, pedindo aos estudantes que avaliem as respostas dadas pelo chatbot. “O que vai acontecer em sala de aula não será mais ‘aqui estão algumas perguntas –vamos discutir isso entre nós, seres humanos’”, disse ele, mas “alguma coisa como ‘e o que esse robô alienígena pensa sobre a questão?'”, como conta nesse texto do NY Times traduzido pela Folha de S.Paulo. No Brasil, o professor Márcio Carneiro, do LabCom da UFMA, está fazendo vários testes com o ChatGPT – um livro, gerado de modo experimental com o apoio do sistema da Open IA, chamado “Inteligência Artificial Generativa”, disponível pra download; e um curso, o primeiro do Brasil, de “Introdução ao Prompt Design”, onde se ensina do zero a gerar textos para várias finalidades e imagens usando ferramentas de IA, sobretudo MidJourney e o ChatGPT. Engenheiro de Prompt é a nova profissão do futuro – até que o futuro mude outra vez.

O Sciences Po, renomada universidade e centro de pesquisa francês, que teve Bruno Latour como criador de seu MediaLab, baniu o uso do ChatGPT sem evidenciar as fontes. Disse o comunicado da Instituição: “Sem referenciar de modo transparente, os alunos estão proibidos de usar o software para a produção de qualquer trabalho escrito ou apresentações, exceto para fins específicos do curso, com a supervisão de um líder do curso”. Mais do que banir, porém, o Sciences Po abriu a discussão sobre o Chat e outros sistemas de IA e determinou regras para seus usos baseados em três princípios:

_ Repensar com os professores os critérios de avaliação em prol da avaliação de competências – perante uma situação complexa, desenvolvendo um trabalho reflexivo pessoal e uma análise crítica aprofundada – em vez de uma verificação de conhecimentos.

_ Incluir ferramentas de IA nos exercícios propostos. Por exemplo, pedindo aos alunos que testem os limites da ferramenta corrigindo seus erros, verificando sua bibliografia ou examinando criticamente sua contribuição.

_ Oferecer cursos dedicados a estas ferramentas, para que os alunos tenham consciência das suas potencialidades e limitações.

Há também a discussão, claro, de mercado e concorrência. Diante da ameaça do ChatGPT, e dos testes que a Microsoft vem fazendo com o chat acoplado ao seu buscador (o Bing), o Google acelerou suas pesquisas na área e apresentou o Bard em Janeiro. A iniciativa  veio de uma diretriz geral do Google em focar seus investimentos em IA para concorrer com a Open IA e a Microsoft. O Bard é basicamente um chatbot alimentado por IA que foi projetado para ser usado em pesquisas – uma cópia do ChatGPT + Bing, portanto. Ou pelo menos era: diante dos erros em sua apresentação, que dizem especialistas custou R$100 bilhões de prejuízo em valor de mercado, a empresa tratou de desmentir que seria um buscador, mas na verdade uma outra coisa – que ninguém sabe bem o quê.

Rodrigo Ghedin, em sua coluna de 3 de março no Manual do Usuário: “O ChatGPT pode até se provar apenas uma moda passageira daqui a alguns meses, mas hoje é tido como o futuro, o que torna ameaça bastante real: trata-se do produto digital que mais rápido atingiu 100 milhões de usuários (em apenas dois meses) e, em paralelo, está chegando às pessoas de outras formas, em produtos de parceiros diversos, alguns de peso como a Microsoft e a Snap. Age como toda boa disrupção: mudando o campo de batalha. É difícil superar o Google no ato de devolver dez links relevantes e alguns anúncios numa página web após uma pesquisa. O ChatGPT troca esse paradigma por uma conversa, uma espécie de WhatsApp em que seu interlocutor é uma inteligência artificial em overdose após consumir boa parte do conhecimento já produzido pela humanidade — até meados de 2021, pelo menos”.

Há, por fim (e por hora), as questões mais problemáticas envolvendo as IAs. Elas envolvem, por exemplo, os vieses, “alucinações”, erros cometidos pelo ChatGPT e exploração de trabalhadores para “corrigir” manualmente as IAs, que nos fazem vislumbrar um cenário cada vez mais próximo de uma “Dark Digital Age”.O histórico de alucinação de cunho fascista das últimas IAs não é dos melhores; será diferente agora? Se sim, como? Quais as medidas regulatórias possíveis para que estas máquinas não virem monstros racistas, misóginos e propagadores de fake news? Há muita discussão no tema, especialmente sobre legislações possíveis. Na Europa está em discussão um projeto de lei de regulação dos sistemas de inteligência artificial (“AI Act”), proposto pela Comissão Europeia. Nos EUA, o governo Biden publicou o “Blueprint for an AI Bill of Rights”, um conjunto de princípios éticos sobre inteligência artificial. Há também um projeto de lei em andamento no Congresso americano, que busca regular as decisões automatizadas tomadas por meio de algoritmos. No Brasil, houve a aprovação do Projeto de Lei 21/20 e a criação de uma comissão de Juristas para discutir o tema e propor subsídios para um substitutivo, o que ocorreu após 9 meses de trabalho, em que foram ouvidos mais de 50 especialistas em audiências públicas multisetoriais e seminários internacionais. O resultado é um robusto relatório de 900 páginas pouco lido – mas que mereceria mais atenção. Laura Schertel Mendes, professora de Direito na UNB, comenta sobre ele e o processo de regulação nesse bom texto em O Globo.

Encaminho mais alguns links soltos de bons textos, revistas, que saíram nesses últimos meses sobre o tema:

_ Dossiê  Comunicação na Era da Inteligência Artificial: da ideologia neoliberal ao colonialismo de dados. Revista Fronteiras, Unisinos.

_ Nem Humanas Nem Artificiais: 10 pontos para entender a Chat GPT e as qualidades conectivas das hiper Inteligências Castells, Massimo De Felice.

_ André Lemos em sua newsletter no Substack: “O que fazemos, nos processos educativos é sugerir livros acadêmicos, artigos, romances para ler e pedir que se produza juízo crítico, reflexão, debate. Devemos fazer o mesmo com os sistemas de IA. Ninguém pensa hoje em banir os livros por poderem ser copiados, ou pela possibilidade de uma biblioteca substituir um professor. (…) Você conhece algum professor no seu dia-a-dia que não use o dispositivo informacional livro?”

_ Matéria de capa de fevereiro da Super Interessante: O futuro da Inteligência Artificial e o que vem depois do ChatGPT (com paywall).

No final de 2022 conversei no Podcast Tecnopolítica com Sérgio Amadeu – professor da UFABC, ciberativista histórico e parceiro de várias frentes de batalha – sobre o que esperar no cenário da tecnologia em 2023.

O papo buscou responder a pergunta: o que esperar de 2023 no cenário digital? Listei alguns pontos de atenção, que foram discutidos no programa junto com outros pontos trazidos por Sérgio. Segue abaixo o vídeo completo, no Youtube, mas dá também para escutar direto no site do Podcast.

À época, fiz um texto sistematizando alguns destes pontos, com diversos trechos que não falei no podcast (como do trecho de “O Capital Está Morto”, de McKenzie Wark), outros que abordei de forma diferente e algumas anotações a partir das falas de Sérgio. Há, claro, como em toda boa conversa, outros temas abordados na 1h do vídeo, como a questão do 5G, as tecnologias para a sustentabilidade socioambiental, as tensões nas disputas geoestratégicas dos semicondutores. Como gosto do bruto, segue abaixo o texto, que, penso, tem vários insights para acompanhar neste 2023.

 

1. REGULAÇÃO DAS PLATAFORMAS & CAPITALISMO DE VIGILÂNCIA

Há um “Zeitgeist”, espírito do tempo, sobre regulação, que é mundial.

Não basta defender “direitos” nas plataformas. É preciso redefinir sua lógica, buscar transparência para os algoritmos.

A organização das informações em torno da timeline, que prioriza não a ordem cronológica das postagens, padrão das redes até então, mas diversos outros fatores (localização, interesses, interação em outros posts, além de publicidade) embutidos no algoritmo, potencializou erros na comunicação digital. Isso começou ali por 2012, com o Facebook, e depois se espalhou por outras redes. Agora, com tudo que vem acontecendo, é como se agora a gente tivesse isso mais claro e começasse a reagir para reverter isso.

Como muitos de nós ativistas do conhecimento livre, que acreditavam numa tecnoutopia de uma internet totalmente livre e na criação de uma sociedade melhor a partir da internet, eu inicialmente não pensava que seria necessário regular a internet e as redes sociais; acreditava que “daríamos um jeito”, que a possibilidade de ter onde e como falar, a partir da “liberação do pólo emissor da informação”, era muito importante para contrapor as narrativas viciadas das mídias tradicionais.

Escrevi um texto no BaixaCultura, em 2018, que fala de uma ressaca da internet e que pensa bastante sobre isso. Eu conto no texto que lembro bem, no final de 2011, quando escrevi um relato sobre a luta pela defesa dos princípios da internet, como a neutralidade da rede, a partir da fala de Yochai Benkler na abertura do Festival Cultura Digital.br. Já naquela época o questionamento sobre o fim da neutralidade da rede e o crescimento dos grandes monopólios era assunto corrente, embora não com tanta presença quanto hoje. Na época, comecei o texto com a pergunta: “é utopia pensar em uma internet democrática e livre, sem privilégios de acesso e tráfego de dados para nenhum lado, assim como foi definido nos princípios do desenvolvimento da rede?”

Bom, esquecemos todos os poderes do capitalismo se reinventar, talvez de um modo ainda pior, como diz o “O Capital Está Morto”, de McKenzie Wark, recém lançado no Brasil pela Sob Influencia e a Funilaria. Acabei de escrever um texto sobre o livro (logo publicamos aqui), que fala de um novo modo de produção, não mais capitalista, mas pior, que não se baseia mais seu poder na propriedade privada dos meios de produção, mas sim no controle do “vetor de informação”, formado por aquelas tecnologias que coletam grandes quantidades de dados e os ordenam, gerenciam e processam para extrair seu valor. A tese central do livro é de que a ascensão deste modo de produção tem criado uma contradição no centro daqueles que detém o poder: se antes as classes dominantes controlavam algum tipo de bem escasso (a propriedade, os meios de produção), agora essa classe necessita controlar algo que é extremamente abundante: a informação. Esta contradição, hoje sem resolução, encaminharia para um novo meio de produção ainda mais selvagem que o capitalismo, em que o domínio se daria na posse e no controle da informação. O que, por sua vez, não implica que os modos de produção anteriores tenham sido apagados: eles coexistem e se sobrepõem, mas agora há uma classe emergente que, dominando a informação, controla também o trabalho e o capital – pelo menos do jeito que tradicionalmente o entendemos.

O modelo de negócio das plataformas é tão nocivo como o do tabaco. Para deter a desinformação, talvez a gente devesse responsabilizar o produtor em escala industrial, no atacado, não no varejo; não o cara que vende baseado na esquina, mas quem produz em larga escala, o grande traficante, se quisermos seguir na metáfora.

Anatel, agência reguladora que é refém do regulado;

Como disse o Rafael Evangelista recentemente, num texto publicado no Outras Palavras, o poder das plataformas precisa ser combatido tendo em vista o modelo de negócios que operam e o gigantismo que adquiriram. Não dá para uma poucas empresas internacionais serem proprietárias ocultas de tudo e fazerem todas as funções, de hospedagem de dados e conteúdos a recomendações de consumo; de publicidade programática a financiamento da produção cultural; de intermediação de serviços de transporte a gerenciamento urbano.

Dito isso, hoje eu não tenho dúvida que a regulação é um caminho. Sobram muitas questões sobre isso que muita gente está pensando hoje em dia, inclusive o Governo Lula: de que forma fazer a regulação com transparência, participação da sociedade civil, com soberania digital, tendo em conta a questão do comum, do que precisa ser comum. O problema é de natureza transversal e creio que hoje tem muita gente se preocupando com isso. E o “inimigo” aqui é difícil, poderoso, compra tudo e todos, então é um problema gigante.

Mas é um “espírito do tempo” da regulação. Os limites das plataformas talvez vão ser dados nos próximos anos.

2. COOPERATIVISMO DE PLATAFORMA

Eu gosto de falar, se me permite, também em alternativas. Uma delas é o cooperativismo de plataforma, uma ideia que tenho acompanhado faz tempo, desde 2017 no Brasil, quando da publicação do livro “Cooperativismo de Plataforma”, do Trebor Scholz, pela Elefante com apoio da Fundação Rosa Luxemburgo.

Recentemente, participei de um documento que faz sugestões a partir de uma preocupação sobre como as grandes plataformas têm se colocado como intermediárias do trabalho, digital ou não, gerenciando e extraindo valor das atividades. Foi produzido a partir de um seminário sobre cooperativismo de plataforma e políticas públicas, em Porto Alegre, organizado pelo Digilabour, do parceiro Rafael Grohmann. O foco aqui é a apropriação dessas estruturas de intermediação pelos trabalhadores organizados.

Linhas para Políticas Públicas

_ Estado como catalisador de relações de trabalho mais dignas e inclusivas a partir do cooperativismo de plataforma no marco da economia solidária, fomentando iniciativas “de baixo para cima”;

_ Desenvolvimento de uma política nacional para o cooperativismo de plataforma, incluindo fomento a projetos locais, regionais e nacionais em diversos setores;
_ Políticas para o desenvolvimento de plataformas cooperativas baseadas em tecnologias livres de modo a favorecer a auto-organização de trabalhadoras e trabalhadores;

É um caminho que dialoga com o movimento do software livre, da qual você é parte importante Sérgio, e com a cultura e o conhecimento livre, que fala em mais acesso, mas também autonomia sobre as tecnologias, pautando por por uma perspectiva de desalienação, de revolta das pessoas contra processos de apropriação de meios de produção e extração de valor.

De modo geral, tudo é menos tecnológico do que se imagina. É mais organização dos trabalhadores do que uma tecnologia que vai resolver.

 

3. COPYRIGHT TROLLS

Em paralelo a isso, para seguir no ponto da cultura livre, continua ocorrendo a criminalização de quem baixa arquivos, tão comum nos anos 2000. Em 2021 e 2022 a gente teve diversas ações dos Copyright Trolls,  pessoas ou organizações que realizam ameaças de processo judicial, ou outras atitudes particularmente agressivas, para obter remuneração a partir de questões ligadas à proteção dos direitos autorais. Atuam a despeito de um real embasamento jurídico para sua reivindicação nesses casos, e a notificação se presta a causar terror psicológico pela ameaça de ação judicial que dificilmente resultaria em vitória para quem a ajuizasse.

Continuam intimidando pessoas que baixaram determinados filmes com avisos ameaçadores por email, como títulos como “Notificação extrajudicial pela infração a direitos autorais” ou “Alerta sobre infração a direitos autorais”, como mostra a nota publicada no Partido Pirata.

Eles explicam como obtiveram os dados cadastrais, via provedor (Claro), a conexão estava ligada a uma rede wifi, registrada em nome da pessoa que recebeu a carta. Agora eis a questão: como eles podem afirmar que a pessoa, que fez o suposto download, estava conectada a uma rede wifi, e não usando uma conexão por cabo de rede? Com base nas “provas” apresentadas, não há como. É puro achismo e especulação por parte deles.

Ainda há esse entendimento hoje, da equiparação do arquivo digital ao arquivo físico, do bem material ao bem imaterial, da criminalização do download. A indústria cultural não parou e vai continuar se a gente não propor novas legislações e, principalmente, entendimentos sobre o que é um bem comum, que não é necessariamente rival de um bem material, etc. Até mesmo editoras de esquerda criminalizam pessoas que baixaram seus livros! No Brasil precisamos pensar com cuidado a questão de acesso antes de sair criminalizando ou incitando o ódio a quem baixa arquivos de bens culturais como livros. Precisamos pensar também no paradigma da abundância, não da escassez. Maximização social cultural pode tornar sustentável a maximização econômica. A produção social vem antes da maximização dos lucros.

 

4. INTELIGÊNCIA ARTIFICIAL 

Padronização e classificação de dados. Aplicativos como Lensa, GPT-3, etc.

A velocidade com que esses sistemas generativos estão se complexificando é assustadora. E não há sinais claros de que estamos perto do limite.

Já é plenamente possível gerar textos e imagens críveis de maneira automatizada. Vozes, Vídeos e Modelos 3D estão logo ali. Já tem alguns resultados e provas de conceito. Em todos os casos, o custo maior – tanto de processamento quanto de coleta e organização de informação – é treinar o ‘modelo’.

Tem todo um debate sobre privacidade, propriedade intelectual e direitos autorais que se reacende nesse novo mundo. De quem é a “propriedade” de um desenho gerado por IA? De quem a treinou? É plágio? Como vamos lidar com obras de arte feitas inteiramente em IA ganhando concursos artísticos?

O designer Jason M. Allen recorreu ao Midjourney, programa que usa algoritmos treinados com fotos da web para gerar novas imagens, para fazer uma imagem que ganhou um concurso de arte doméstico no Colorado, Estados Unidos (logo abaixo). Ele precisou apenas descrever que tipo de obra de arte desejava para que o software realizasse o trabalho, em segundos.

 

5. MODELOS DE NEGÓCIO / MONETIZAÇÃO DOS DADOS PESSOAIS

Meus dados, minhas regras. Tem gente que diz que a monetização de dados pessoais diminuirá a desigualdade social. Defendem que será possível ampliar a renda das pessoas se elas tiverem autonomia sobre as próprias informações, como financeiras, de saúde, de comportamento e outras. O mundo estaria próximo de passar por uma revolução na economia, baseada na propriedade dos dados até 2025. Será?

 

Théâtre d’Opéra Spatial, Jason M. Allen (e Midjourney?)

[Leonardo Foletto]

Sumário: Revalorizar o Plágio na Criação – Notas Inéditas sobre copyright e copyleft – Insensato – A literatura sampleada do MixLit – O falso problema da escrita não-criativa.

R$ 15 (com envelope carimbado e adesivo) + frete.

Interessou? Envie um e-mail para info@baixacultura.org que organizamos a compra toda por lá.

Mais informações aqui.

R$ 15 (com envelope carimbado) + frete – ESGOTADO

O zine nº2 do BaixaCultura fala de um dos nossos grandes temas contemporâneos: La Remezcla. Remix. Remistura. Desvio. Plágio. Cópia. (re) criação. (re) combinação. Várias palavras para tratar de um mesmo assunto, sempre presente nestes quase oito anos de BaixaCultura e na vida de todo mundo que tem a internet como habitat. A edição de “La Remezcla” é de Leonardo Foletto e o design de Tereza Bettinardi, que já fez trabalhos pra Cosac Naify, Companhia das Letras e hoje é uma das responsáveis por “A Escola Livre”, espaço de discussão sobre novas formas de fazer e ensinar design. Mais infos sobre o zine

Sumário: Revalorizar o Plágio na Criação – Notas Inéditas sobre copyright e copyleft – Insensato – A literatura sampleada do MixLit – O falso problema da escrita não-criativa.

R$ 20 (com envelope carimbado e adesivo) + frete – ESGOTADO

Envie um e-mail para info@baixacultura.org que organizamos a compra toda por lá.

De Nova York, o diretor canadense Kirby Ferguson tem revelado desde 2010 os segredos criativos da cultura pop através de uma série de vídeos chamada “Everything is a Remix” (Tudo é Remix). Muito popular na internet (ou em uma certa parte da internet) dos anos 2010, os vídeos ganharam em 2015 uma versão remasterizada e, ano passado, uma nova versão em quatro capítulos – não por acaso, remixada das anteriores.

O primeiro episódio dessa “nova temporada” (pode ser visto acima) foi lançado em setembro de 2021 e foca justamente no conceito de remix, com destaque para a música.

O segundo, apresentado no Youtube em dezembro de 2021, trata do principal símbolo da vitória do remix na produção e circulação cultural massiva hoje: os memes, estas bombas semióticas recombinantes que captam nossa atenção, nos fazem rir, sofrer, chorar. Em uma edição ágil, cheia de referências pop e uma narração informativa em off, Ferguson argumenta que tudo o que você faz e compartilha com o mundo na internet hoje é meme: roupas, tweets, sons, vídeos, tiktokers, gamers. No início do vídeo, a voz em off comenta: “mesmo que não se entenda exatamente o que se quer dizer com um meme, ele são profundos”, para logo contar a conhecida origem da popularização do termo no livro “The Selfish Gene” (“O Gene Egoísta”, 1976), do biólogo Richard Dawkins.

[Meme é uma palavra que designa “coisas imitadas”, originária do grego “mīmēma” (μίμημα), por sua vez vinda de “mimeisthai” (μιμεῖσθαι, ‘imitar’), que foi usada por Dawkins para conceituar meme como a unidade básica da memória ou do conhecimento, aquilo que o ser humano transfere conscientemente para os seus descendentes – o equivalente cultural do gene da biologia, um segmento de uma molécula de DNA responsável pelas características herdadas de um ser humano.]

Depois, o vídeo fala de como hoje o cinema hollywoodiano está tomado de remakes, boa parte delas baseada na consagrada “jornada do Herói”, por sua vez inspirada pelas narrativas mitológicas antigas e recontadas para o século XX principalmente a partir de “O Poder do Mito”, de Joseph Campbell, influência na narrativa de 10 entre os 10 filmes mais vistos hoje. Afinal, por que isso ocorre? No fim das contas, porque buscamos o familiar, personagens e histórias que de algum modo já conhecemos; usamos elementos “velhos” para entender os “novos” – a começar pelas próprias palavras, tradicionalmente formadas a partir de outras já existentes (entender a origem a história das palavras ajuda a entender o mundo, sério). Copiamos, depois criamos; a imitação precede a criação, como há milênios os povos do extremo oriente (especialmente os chineses) sabem com mais clareza do que os ocidentais, como contei em detalhes no último capítulo de “A Cultura é Livre” ao falar da influência do confucionismo na cultura chinesa. Um trecho do livro:

“Nessa filosofia, desde muito pequenas as crianças eram ensinadas a pensar a partir da memorização e da cópia dos clássicos, procedimento que, segundo seus mestres, incutiria nos jovens valores familiares, piedade filial e respeito ancestral (…). Quando essas crianças cresciam, elas se tornavam mais compiladores que compositores. Memorizavam tantas histórias clássicas que passavam a construir suas narrativas a partir de um extenso processo de copiar e colar (cut-and-paste) frases, trechos e passagens desses textos antigos. Se aos olhos de um ocidental, especialmente do século XX e XXI, isso seria visto como plágio, para os chineses da época era visto como um traço distintivo de intelectualidade e conhecimento cultural. “Quando autores chineses tradicionais tomam emprestado trechos de um texto preexistente e, principalmente, de um clássico, espera-se que o leitor reconheça a fonte do material emprestado instantaneamente. Se um leitor é infeliz o suficiente para deixar de reconhecer esse material citado, é culpa dele, não do autor”. (..). O pensamento de Confúcio manifestaria uma visão de que “a capacidade de fazer uso transformador de obras preexistentes pode demonstrar a compreensão e a devoção ao núcleo da cultura chinesa, bem como a capacidade de distinguir o presente do passado através de pensamentos originais” (p.209-210, “A Cultura é Livre”)

 

Vale a pena assistir a série, mesmo pra quem já viu muitas vezes a primeira versão de “Tudo é remix” como eu (escrevemos sobre ela aqui no BaixaCultura, lá em 2011, e usei inúmeras vezes em sala de aula para falar de remix e criação). Assim como o assunto que trata, essa segunda versão do filme também não tem nada de “original”, mas a nova combinação de referências faz com que ele seja fresh e educativo para todos aqueles que querem entender os mecanismos da criação – ou simplesmente criar. Mostra novamente, agora para a Geração Tik Tok, que desde sempre novas ideias só surgem ao se copiar de antigas. O terceiro episódio dessa nova série está prometido para março de 2022.

[Leonado Foletto]