Doctorow destaca que muitas editoras e grandes players da mídia usam táticas como essa para maximizar lucros, enquanto os trabalhadores criativos raramente se beneficiam diretamente dessas mudanças. Mesmo com a nova política da PRH – que provavelmente servirá de base para outras editoras mundo afora – é improvável que os escritores recebam qualquer compensação adicional se a PRH cobrar pelo uso das obras em treinamentos de IA.

Doctorow aponta também que a concentração do mercado editorial reduz as chances de negociação para autores. Hoje, com apenas cinco grandes editoras dominando o setor, os escritores perdem força de negociação e encontram dificuldades para exigir melhores condições, algo que era mais viável em um mercado menos concentrado.

O ensaio também sugere que em vez de focar exclusivamente em garantir mais direitos autorais, escritores e outros trabalhadores criativos poderiam se mobilizar para conquistar maior autonomia financeira e melhores condições em negociações com as editoras. Movimentos como, por exemplo, o direito de reaver suas obras após alguns anos – 14 anos, como era no sistema original de copyright dos EUA, e não 35 ou após a morte do autor – e revendê-las por mais dinheiro, poderiam dar mais controle aos autores sobre suas criações, garantindo uma renda justa e estável.

Penguin, Inteligência Artificial e os direitos dos escritores

Cory Doctorow

Publicado originalmente no Pluralistic em 19/10/24
Tradução: Leonardo Foletto

Minha amiga Teresa Nielsen Hayden é uma fonte de ditados sábios, como “você não é responsável pelo que faz nos sonhos de outras pessoas” e o meu favorito de todos os tempos, da época do Napster: “Só porque você está do lado deles, não significa que eles estejam do seu lado”.

As gravadoras odiavam o Napster, assim como muitos músicos, e quando esses músicos ficaram do lado de suas gravadoras nas campanhas legais e de relações públicas contra o compartilhamento de arquivos, eles deram legitimidade legal e pública à causa das gravadoras, que acabou prevalecendo.

Mas as gravadoras não estavam do lado dos músicos. O fim do Napster e, com ele, a ideia de um sistema de licença geral para distribuição de música pela Internet (semelhante aos sistemas de rádio, apresentações ao vivo e música enlatada) em locais e lojas) estabeleceu firmemente que os novos serviços *devem* obter permissão das gravadoras para operar.

A era atual é muito boa para as gravadoras. O cartel das “Big Three”- Universal, Warner e Sony – ditou os termos com o Spotify, que em contrapartida entregou bilhões de dólares em ações e permitiu que as três grandes co-projetassem o esquema de royalties sob o qual o Spotify opera hoje.

Se você ouviu alguma coisa sobre os pagamentos do Spotify, provavelmente sabe que eles são extremamente desfavoráveis aos artistas. Isso é verdade, mas não significa que seja desfavorável para as três grandes gravadoras. As “Big Three” têm seus pagamentos mensais assegurados, grande parte registrada como “royalties não atribuíveis” –  dinheiro que as gravadoras podem distribuir entre os artistas ou usarem como bem entenderem. Também tem outras vantagens, como por exemplo poder incluir gratuitamente músicas de seus artistas nas principais listas de reprodução. Além disso, os pagamentos ultra baixos aos artistas aumentam o valor das ações das gravadoras no Spotify, pois quanto menos o Spotify tiver que pagar pela música, melhor será sua imagem para os investidores. Assim, as Big Three – que detêm 70% de todas as músicas já gravadas no mundo, graças a uma orgia de fusões – compensam o déficit dessas baixas taxas por fluxo com pagamentos garantidos e promoções.

Mas as gravadoras independentes e os músicos, que representam os 30% restantes, ficam de fora dessa conta. Eles estão presos ao mesmo esquema de royalties fracionários de centavo por streaming que as  Big Three, mas não recebem garantias gigantescas de dinheiro mensal, além de precisarem pagar pela colocação de músicas em playlists – o que as Big Three fazem de graça.

Só porque você está do lado deles, não significa que eles estejam do seu lado. [Leia o que escrevi sobre como o Spotify rouba dos artistas] 

Em um sentido muito concreto e importante, os trabalhadores criativos – escritores, cineastas, fotógrafos, ilustradores, pintores e músicos – não estão do mesmo lado que as gravadoras, agências, estúdios e editoras que colocam nosso trabalho no mercado. Essas empresas não são instituições de caridade; elas são motivadas a maximizar os lucros e uma maneira importante de fazer isso é reduzir os custos, inclusive e principalmente o custo de nos pagar pelo nosso trabalho.

É fácil não perceber esse fato porque os trabalhadores dessas gigantescas empresas de entretenimento são nossos aliados de classe. O mesmo impulso que restringe os pagamentos aos escritores é usado quando as empresas de entretenimento pensam em quanto pagam aos editores, assistentes, publicitários e à equipe da logística. Essas são as pessoas com as quais os trabalhadores criativos lidam no dia a dia; elas, em geral, estão sim do nosso lado, e é fácil confundir essas pessoas com seus empregadores.

Essa guerra de classes não precisa ser o fato central do relacionamento dos trabalhadores criativos com nossas editoras, gravadoras, estúdios, etc. Quando há muitas dessas empresas de entretenimento, elas competem umas com as outras pelo nosso trabalho (e pelo trabalho dos funcionários que levam esse trabalho ao mercado), o que aumenta nossa participação no lucro que nosso trabalho produz.

Mas vivemos em uma era de extrema concentração de mercado em todos os setores, inclusive no de entretenimento, onde lidamos com cinco editoras, quatro estúdios, três gravadoras, duas empresas de tecnologia de publicidade e uma única empresa que controla todos os e-books e audiolivros na América do Norte. Essa concentração faz com que seja muito mais difícil para os artistas negociarem de forma eficaz com as empresas de entretenimento, o que significa que é possível – e até provável – que as empresas de entretenimento obtenham vantagens de mercado que não são compartilhadas com os trabalhadores criativos. Em outras palavras: quando seu campo é dominado por um cartel, você pode estar do lado deles, mas é quase certo que eles não estão do seu lado.

Esta semana, a Penguin Random House (PRH), a maior editora “da história da raça humana”, ganhou as manchetes quando alterou o aviso de copyrights de seus livros para proibir o treinamento de IA.

A página de copyright agora inclui esta frase:

Nenhuma parte deste livro pode ser usada ou reproduzida de qualquer maneira para fins de treinamento de tecnologias ou sistemas de inteligência artificial.

Muitos escritores estão comemorando essa mudança como uma vitória dos direitos dos trabalhadores criativos sobre as empresas de IA, que arrecadaram centenas de bilhões de dólares, em parte prometendo aos nossos chefes que podem nos demitir e nos substituir por algoritmos.

Mas esses escritores estão presumindo que, só porque estão do lado da Penguin Random House, a PRH está do lado deles. Eles estão presumindo que, se a PRH lutar contra as empresas de IA que treinam bots com seu trabalho gratuitamente, isso significa que a PRH não permitirá que bots sejam treinados com seu trabalho de forma alguma.

Essa é uma visão bastante ingênua. O que é muito mais provável é que a PRH use todos os direitos legais que possui para insistir que as empresas de IA paguem pelo direito de treinar chatbots com os livros que escrevemos. É muito improvável que a PRH compartilhe o dinheiro da licença com os escritores cujos livros são então jogados no funil de treinamento do bot. Também é extremamente provável que a PRH tente usar a produção dos chatbots para reduzir nossos salários ou nos demitir e substituir nosso trabalho por uma IA lixo.

Isso é especulação de minha parte, mas é uma especulação informada. Observe que a PRH não anunciou que permitiria aos autores reivindicar o direito contratual de impedir que seu trabalho fosse usado para treinar um chatbot. Ou que estava oferecendo aos autores uma parte de qualquer uma das taxas de licença de treinamento, ou uma parte da renda de qualquer coisa produzida por bots treinados com o nosso trabalho.

De fato, à medida que o mercado editorial se transformou das trinta e poucas editoras de médio porte que floresciam quando eu era um escritor novato para as Cinco Grandes que dominam o campo atualmente, seus contratos ficaram notavelmente e materialmente piores para os escritores.

Isso não tem nada de surpreendente. Em qualquer leilão, quanto mais licitantes sérios houver, mais alto será o preço final. Quando havia trinta possíveis licitantes para nosso trabalho, conseguíamos em média um acordo melhor do que agora, quando há no máximo cinco licitantes.

Embora isso seja evidente, a Penguin Random House insiste em dizer que não é verdade. Na época em que a PRH estava tentando comprar a Simon & Schuster (reduzindo assim as cinco grandes editoras para quatro), eles insistiram que continuariam a fazer lances contra eles mesmos: editores da Simon & Schuster (que seria uma divisão da PRH) fariam lances contra editores da Penguin (outra divisão da PRH) e da Random House (mais uma divisão da PRH).

Isso é um absurdo óbvio, como disse [o escritor] Stephen King quando testemunhou contra a fusão (que foi posteriormente bloqueada pelo tribunal): “Você poderia muito bem dizer que terá marido e mulher concorrendo um contra o outro pela mesma casa. Seria muito cavalheiresco e tipo, ‘Depois de você’ e ‘Depois de você’, disse ele, gesticulando com um movimento educado do braço”.

A Penguin Random House não se tornou a maior editora da história publicando livros melhores ou fazendo um marketing melhor. Eles atingiram sua escala comprando seus rivais. A empresa é, na verdade, uma espécie de organismo colônia formado por dezenas de editoras que antes eram independentes. Cada uma dessas aquisições reduziu o poder de barganha dos escritores, mesmo dos escritores que não escrevem para a PRH, porque o desaparecimento de um licitante confiável para o nosso trabalho no portfólio corporativo da PRH reduz os possíveis licitantes para o nosso trabalho, independentemente de para quem o estamos vendendo.

Prevejo que a PRH não permitirá que seus escritores incluam uma cláusula em seus contratos proibindo a PRH de usar seu trabalho para treinar uma IA. Essa previsão se baseia em minha experiência direta com duas das outras cinco grandes editoras, onde sei com certeza que elas se recusaram terminantemente a fazer isso e disseram ao escritor que qualquer insistência em incluir esse contrato levaria à rescisão da oferta.

As Big Five têm termos de contrato marcadamente semelhantes. Ou melhor, contratos incrivelmente semelhantes, uma vez que os setores concentrados tendem a convergir em seu comportamento operacional. As Big Five são semelhantes o suficiente para que se entenda que um escritor que processe uma delas provavelmente será excluído das demais.

Meu próprio agente me deu esse conselho quando uma das Big Fives me roubou mais de US$ 10.000 – cancelou um projeto do qual eu fazia parte porque outra pessoa envolvida com ele desistiu e, em seguida, retirou cinco dígitos da taxa de inscrição especificada em meu contrato, só porque podia. Meu agente me disse que, embora eu certamente ganhasse o processo, isso custaria a minha carreira, pois me colocaria em má situação com todos as Big Five.

Os escritores que estão aplaudindo o novo aviso de direitos autorais da Penguin Random House estão operando sob a crença equivocada de que isso tornará menos provável que nossos chefes comprem uma IA na esperança de nos substituir por ela. Isso não é verdade. Conceder à Penguin Random House o direito de exigir taxas de licença para treinamento em IA não fará nada para reduzir a probabilidade de que a Penguin Random House opte por comprar uma IA na esperança de reduzir nossos salários ou nos demitir.

Mas outra coisa fará! O Escritório de Direitos Autorais dos EUA emitiu uma série de decisões, confirmadas pelos tribunais, afirmando que nada feito por uma IA pode ser protegido por direitos autorais. Por estatuto e tratado internacional, o direito autoral é um direito reservado para obras de criatividade humana (é por isso que a “selfie do macaco” não pode ser protegida por direitos autorais).

Cryteria/CC BY 3.0, modificado

Se todas as outras coisas forem iguais, as empresas de entretenimento vão preferir pagar aos trabalhadores criativos o mínimo possível (ou nada) pelo nosso trabalho. Mas, por mais forte que seja sua preferência por reduzir os pagamentos aos artistas, elas estão muito mais comprometidas em poder controlar quem pode copiar, vender e distribuir os trabalhos que lançam.

Em outras palavras, quando confrontadas com a escolha entre “Não precisamos mais pagar aos artistas” e “Qualquer pessoa pode vender ou distribuir nossos produtos e não receberemos um centavo por isso”, as empresas de entretenimento pagarão aos artistas todo o dia.

Lembra-se daquele idiota de quem todos riram porque ele conseguiu ganhar um concurso de arte com uma porcaria de IA e depois ficou com raiva porque as pessoas estavam copiando a “sua” imagem? A insistência desse cara de que sua porcaria deveria ter direito a direitos autorais é muito mais perigosa do que o golpe original de fingir que ele pintou a porcaria em primeiro lugar.

Se a PRH estivesse intervindo nesses casos de direitos autorais de IA do Copyright Office para dizer que os trabalhos de IA não podem ser protegidos por direitos autorais, isso seria um caso em que estaríamos do lado deles – e eles estariam do nosso lado. No dia em que eles apresentarem uma petição de amicus curiae ou um comentário de regulamentação apoiando a ausência de direitos autorais para IA, eu os louvarei aos céus.

Mas essa alteração no aviso de direitos autorais do PRH não vai melhorar o saldo bancário dos escritores. Dar aos escritores a capacidade de controlar o treinamento de IA não impedirá a PRH e outras empresas gigantes de entretenimento de treinar IAs com nosso trabalho. Elas simplesmente dirão: “Se você não assinar o direito de treinar uma IA com seu trabalho, não o publicaremos”.

O maior indicador de quanto dinheiro um artista ganha com a exploração de seu trabalho não é a quantidade de direitos exclusivos que temos, mas sim o poder de negociação que temos. Quando você negocia com cinco editoras, quatro estúdios ou três gravadoras, todos os novos direitos que você obtém do Congresso ou dos tribunais são simplesmente transferidos para eles na próxima vez que você negociar um contrato.

Como Rebecca Giblin e eu escrevemos em nosso livro de 2022 “Chokepoint Capitalism”:

Dar mais direitos autorais a um trabalhador criativo é como dar mais dinheiro para o lanche de um aluno que sofre bullying. Não importa o quanto você dê a ele, os valentões ficarão com tudo. Dê a seu filho dinheiro suficiente para o lanche e os valentões poderão subornar o diretor da escola para que faça vista grossa. Continue dando dinheiro para o lanche da criança e os agressores poderão lançar um apelo global exigindo mais dinheiro para o lanche de crianças famintas!

Como a sorte dos trabalhadores criativos diminuiu durante a era neoliberal de fusões e consolidações, nós nos distraímos com campanhas para obter mais direitos autorais, em vez de mais poder de negociação.

Existem políticas de direitos autorais que nos dão mais poder de negociaçao. Proibir que trabalhos de IA obtenham direitos autorais nos dá mais poder de negociação. Afinal, só porque a IA não pode fazer nosso trabalho, não significa que os vendedores de IA não possam convencer nossos chefes a nos demitir e nos substituir por uma IA incompetente.

Depois, há a “rescisão de direitos autorais”. De acordo com o Copyright Act de 1976, nos Estados Unidos os trabalhadores criativos podem reaver os direitos autorais de suas obras após 35 anos, mesmo que assinem um contrato abrindo mão dos direitos autorais por toda a sua duração.

Trabalhadores criativos, de George Clinton a Stephen King e Stan Lee, converteram esse direito em dinheiro – ao contrário, por exemplo, de termos mais longos de direitos autorais, que são simplesmente transferidos para empresas de entretenimento por meio de cláusulas contratuais não negociáveis. Em vez de nos juntarmos aos nossos editores na luta por termos mais longos de direitos autorais, poderíamos exigir termos mais curtos para a rescisão de direitos autorais. Por exemplo, o direito de retomar um livro, música, filme ou ilustração popular após 14 anos (como era o caso no sistema original de direitos autorais dos EUA) e revendê-lo por mais dinheiro como um sucesso comprovado e sem riscos.

Até lá, lembre-se: “só porque você está do lado deles, isso não significa que eles estejam do seu lado”. A PRH não quer evitar que o conteúdo de baixa qualidade feito por IA reduza os nossos salários como escritores; eles só querem ter certeza de que é a produção da IA deles que vai fazer isso, e não outra de fora.

PARTE 1: Alguém quer pensar nas pessoas usuárias?

A partir da disponibilidade de ferramentas como DALL-E, Stable Diffusion ou Midjourney para geração de imagens, e do ChatGPT, Bard, Open Assistant ou as centenas de bots de conversação baseados em LLaMA, milhões de pessoas começaram a fazer experimentos com a criação de textos e imagens assistidos por IA generativa. As motivações para o uso das ferramentas são variadas: vão desde a geração de ilustrações e pôsteres amadores para ilustrar postagens (como esta) até a experimentação de novas possibilidades na arte digital, a alimentação de ideias para escritas criativas e a exploração lúdica das respostas paradoxais que surgem quando se pergunta ao software sobre seus sentimentos ou intenções.

Também houve debates sobre supostos “riscos existenciais” e supostas violações de direitos autorais. Esses debates foram, em parte, alimentados pelas próprias empresas que desenvolvem essas ferramentas, cuja estratégia retórica tem sido inflar tanto as virtudes quanto os riscos dos modelos que desenvolvem – duas formas complementares de exagerar seu poder. Menos visíveis, na maioria das vezes, são os vieses, as falhas e as limitações significativas que permanecem nessas ferramentas, muitas vezes lançadas às pressas.

A ameaça para a humanidade

Começamos mencionando brevemente o discurso da “ameaça à humanidade“. O risco real desse discurso é que ele funciona para a mistificação e o sigilo em torno de uma tecnologia cujo conhecimento e desenvolvimento deveriam, ao contrário, ser democratizados o máximo possível. Projetos de código aberto, como o ChaosGPT, um bot de conversação que recebeu ordens para “conquistar o mundo” e “destruir a humanidade”, destacam de forma criativa o ridículo das afirmações mais exageradas sobre IA.

Por outro lado, há uma pressa em censurar solicitações e conteúdos “inadequados” ou “violentos”, que geralmente são definidos de acordo com uma moral rígida e ideologia de ordem. No entanto, as pesquisas sobre os verdadeiros vieses e falhas desses programas costumam ser menos divulgadas. É por meio da pesquisa participativa que podem ser criados modelos e conjuntos de dados que representem melhor a diversidade real do mundo. Para isso, é fundamental que os conjuntos de dados sejam abertos e os modelos sejam software livre. Quanto mais pessoas puderem aprender como essas tecnologias são feitas, pesquisar com elas, testá-las e desenvolvê-las, mais olhos e mãos haverá para criar ferramentas melhores, que ajudarão em tarefas mais úteis e promoverão a criatividade em vez de reproduzir preconceitos. Um exemplo na América Latina é o EDIA, um conjunto de ferramentas desenvolvido pela Fundación Vía Libre para identificar estereótipos e discriminação em modelos de linguagem.

Plágio massivo

Na discussão sobre direitos autorais, felizmente já parece estabelecido que os trabalhos resultantes da IA generativa são de domínio público, especialmente desde o recente parecer do escritório de direitos autorais dos EUA. Essa é uma boa notícia, pois, caso contrário, as empresas que desenvolvem os modelos poderiam ter imenso poder sobre o conteúdo gerado a partir da interação entre usuários, ferramentas de IA e o conjunto comum de dados e conteúdo cultural.

Entretanto, o que gera mais debate atualmente é se a coleta de conteúdo para criar os conjuntos de dados, bem como o processamento computadorizado desses dados por modelos de inteligência artificial, são usos justos (fair use) ou, ao contrário, infringem os direitos autorais.

Recentemente, houve uma proliferação de artigos e manifestos pedindo maiores controles e restrições à IA generativa para proteger a propriedade intelectual. Um exemplo de tais manifestos no mundo de língua espanhola é o chamado “Arte es Ética”. Esse manifesto afirma, entre outras coisas, que o que as tecnologias de IA generativa geram são “derivados não consensuais e parasitários”, “plágio maciço” e “automatizado”, “pilhagem” e “roubo”; pede a implementação de ferramentas de filtragem de conteúdo; a proibição de prompts que incluam nomes de pessoas e até mesmo nomes de movimentos estéticos inteiros; pede marca d’água obrigatória e identificação compulsória de usuários que inserem prompts; e aponta contra a criação de novas exceções de direitos autorais para mineração de dados – mesmo que tais exceções hoje sejam fundamentais para o progresso de muitos campos científicos. As demandas mencionadas acima estão misturadas de forma desordenada com outras que são dignas de atenção genuína, como a criação de fundos para a promoção da cultura ou a proteção de trabalhadores contra demissões em massa injustificadas. Mas o impulso geral das demandas não é direcionado a reivindicações trabalhistas ou à promoção da arte, mas sim a uma expansão direta da propriedade intelectual. Isso é visto, por exemplo, no apoio a ações judiciais como a do banco de imagens Getty contra a Stability AI; na caracterização negativa e grosseira da IA como uma tecnologia somente de pilhagem; e, em geral, no fato de que o principal alvo dos ataques são os projetos de código aberto, ou seja, aqueles com maior probabilidade de democratizar o uso da tecnologia.

Lamentavelmente, abordagens semelhantes surgiram de pessoas que, há alguns anos, participaram do movimento de cultura livre. Marta Peirano , jornalista e escritora, publicou recentemente um artigo no El País que identifica modelos de inteligência artificial como “máquina automática de plágio em massa”, que serve para “roubar (…) o conteúdo de outras pessoas”. Peirano também faz eco à ação judicial da Getty contra a Stability AI e a apresenta como parte da reação supostamente legítima a esse roubo em grande escala, tomando partido da empresa de conteúdo (Getty) contra a empresa de tecnologia (Stability AI). O artigo parece negar a militância anterior da autora em favor do acesso ao conhecimento; os argumentos de Peirano nesse período de militância teriam sido usados por empresas de tecnologia para roubar propriedade intelectual.

Há um ponto real no que Peirano diz: na sociedade atual, as empresas capitalistas sempre serão as que melhor podem explorar o conhecimento livre em seu benefício. Isso não é novidade; há muitos outros exemplos análogos, como a educação pública e a infraestrutura de transporte. Na sociedade capitalista, as enormes somas de dinheiro gastas em educação pública treinam trabalhadores que, inevitavelmente, passam a ocupar cargos assalariados em empresas capitalistas. O fato de as empresas capitalistas se apropriarem dos lucros da educação pública não deve ser um argumento contra a educação pública, que é um direito do povo. Pelo contrário: deve nos fazer refletir sobre que outra sociedade precisamos para que a educação pública esteja a serviço de uma produção não capitalista exploradora.

O mesmo ocorre com o conhecimento livre. É preciso ressaltar sempre que a ampla disponibilidade de cultura e conhecimento é um avanço para os direitos culturais das pessoas, possibilitado pelo desenvolvimento das forças produtivas. O conhecimento humano é um patrimônio construído coletivamente que deve servir à toda sociedade. Qualquer retrocesso nesse sentido é reacionário. É claro que, em nossa sociedade, as empresas de tecnologia têm uma enorme vantagem quando se trata de aproveitar o conhecimento livre. Esse fato deve nos levar a aprofundar a crítica iniciada com o questionamento da propriedade do conhecimento para transformá-la em uma crítica do sistema social como um todo. Para Peirano parece impossível dar esse passo, o que a leva a optar por uma espécie de mea culpa e recuar para a típica defesa da propriedade intelectual. Talvez não seja irônico que o artigo de Peirano esteja protegido por um paywall.

Uma necessária mudança de enfoque

Visto em perspectiva, os discursos inflamados contra a IA generativa parecem um renascimento das campanhas contrárias à Internet no final dos anos 90 e início dos anos 2000, com prognósticos apocalípticos parecidos sobre a morte da arte, o empobrecimento da vida cultural e o declínio cognitivo das novas gerações expostas a essas tecnologias imediatistas. Mais atrás, discursos da mesma natureza podem ser encontrados no nascimento da música gravada, da fotografia e até mesmo da imprensa.

De um lado, estariam os detentores de direitos autorais supostamente saqueados, que incluem artistas, editoras e empresas de conteúdo de todos os tipos. Por outro lado, as corporações de tecnologia. A oposição, como se vê, não seria entre os artistas que trabalham e seus empregadores nas empresas de conteúdo, mas entre dois setores industriais: o criativo e o tecnológico. Portanto, não seria uma reivindicação baseada em classe, mas intersetorial.

Contra essa visão que enquadra o problema como uma disputa entre dois setores industriais, vale a pena complexificar o cenário apontando a existência de outros atores sociais. Um deles é a comunidade educacional, científica e acadêmica que pesquisa usando técnicas de inteligência artificial. Sobre a importância das exceções de direitos autorais para a mineração de textos e dados para fins de pesquisa, vale ler o relatório “Políticas de Inteligência Artificial e Direitos Autorais na América Latina“, publicado pela Aliança Latino-Americana para o Acesso Justo ao Conhecimento.

Outro ator esquecido são as pessoas que usam ferramentas de IA generativas. Muitas pessoas começaram a usar essas ferramentas como uma forma de expressão: artistas digitais que usam prompts para gerar imagens, escritores ou amadores que usam chatbots para obter ideias de textos, pessoas comuns que simplesmente querem se divertir ou se expressar com essas IAs e interagir com os resultados. Talvez seja hora de o direito das pessoas de participar da vida cultural ser também considerado na discussão.

O direito de participar da vida cultural tem certos requisitos. De acordo com Lea Shaver, esses requisitos incluem:

_ A liberdade de acesso a materiais culturais, ou seja, obras, ideias, idiomas e mídias existentes.

_ A liberdade de acesso a ferramentas e tecnologias indispensáveis para desfrutar e usar esses materiais e obras, bem como para criar novos materiais.

_ A liberdade de usar esses materiais e obras, transformá-los, fazê-los circular e colocá-los em diferentes contextos.

Seguindo essa ideia, a possibilidade de usar ferramentas de IA generativas sem censura pode ser entendida como parte do direito de acessar ferramentas e tecnologias para se expressar de forma criativa. Assim como o acesso a instrumentos musicais é fundamental para a criação de música, ou os computadores e outros dispositivos digitais são importantes para a fotografia, o vídeo e outras formas de expressão visual, as ferramentas generativas de IA podem ser uma ferramenta essencial para a expressão criativa e estética. Esse princípio não envolve apenas artistas e seus procedimentos, ferramentas e materiais profissionais, mas todos os usuários dessas tecnologias, que, por meio da arte e de outros conteúdos gerados por IA, acessam e participam de uma experiência estética peculiar e pessoal.

Mas os direitos dos usuários são ameaçados de diferentes maneiras. Por um lado, as empresas que prestam serviços de IA generativa criam expectativas enganosas sobre as ferramentas que oferecem; manipulam arbitrariamente os resultados e censuram o conteúdo; violam a privacidade de seus usuários; impõem barreiras econômicas abusivas; e investem pouco para lidar com os vieses das ferramentas.

Por outro lado, os setores de conteúdo e os detentores de direitos autorais, alegando que essas ferramentas facilitam a violação de direitos autorais por aqueles que as utilizam, promovem regulamentações draconianas que incluem controle e filtragem de conteúdo; estigmatizam o uso de IA generativa como antiético ou até mesmo criminoso; e, por meio de seu ataque a projetos de código aberto, contribuem para a concentração de poder das grandes corporações de tecnologia. As restrições e os controles que esses setores exigem para a IA generativa não podem ser implementados sem limitar severamente a capacidade das pessoas usuárias de fazer uso expressivo legítimo das ferramentas.

Uma coisa podemos ter certeza: não haverá saída progressiva para esse debate se os direitos das pessoas que usam inteligência artificial generativa não começarem a ser levados em conta. E ninguém levará esses direitos em consideração se os próprios usuários não se manifestarem.

PARTE 2: Quatro mitos e algumas reflexões sobre a liberdade artística

Gerado no Stable Diffusion com o prompt inspirado no do post de Artica: Uma dadaísta digital imaginando mundo possiveis ao estilo dadaísta europeu dos anos 1920

Nas conversas atuais sobre arte e inteligência artificial generativa, é comum que esses dois termos sejam colocados como opostos polares. Mas essa polaridade é limitante, por isso aqui vamos tornar a conversa mais complexa. Se em nosso post anterior apontamos que restringir a IA generativa de acordo com os desejos de determinados setores de conteúdo pode afetar gravemente os direitos dos usuários, nesta parte falaremos sobre como essas restrições acabariam afetando práticas artísticas emergentes que não são prejudiciais. Mas, pelo contrário, representam novas explorações criativas que não devem ser censuradas.

A ideia de que o uso de ferramentas de IA generativas precisa ser restringido para proteger os direitos dos artistas talvez seja produto de uma leitura equivocada dos “riscos” que essas ferramentas representam para o trabalho artístico. Como dissemos na primeira postagem desta série, não é nosso objetivo falar sobre os “riscos” da IA em geral, nem sobre sua aplicação em campos em que ela pode ser particularmente problemática (como na segurança pública e na justiça). No campo da arte e da criatividade, vemos mais aspectos interessantes do que perigosos, mas há maneiras sensacionalistas de falar sobre esse debate que incentivam a falsa dicotomia “Artista X IA” e que gostaríamos de ajudar a desmistificar.

MITO 1: A IA VAI TORNAR OBSOLETA A CRIATIVIDADE HUMANA

Um primeiro mito é o da capacidade da IA geradora de potencialmente “alcançar” a criatividade humana e torná-la obsoleta. Ele engloba a ideia simplista e enganosa de que a IA e o artista são entidades comparáveis e que a IA é, portanto, uma séria concorrente dos artistas. Em primeiro lugar, entendemos a IA generativa como uma ferramenta que não “faz arte”, mas que a arte pode ser feita com ela. Ela não é uma entidade com capacidade criativa própria e, portanto, seus resultados não devem ser cobertos por direitos autorais.

Apesar das manchetes da mídia que dizem “uma inteligência artificial cria uma obra exibida em um grande museu”, “uma inteligência artificial vence uma competição de arte” etc., não há de fato nenhuma atividade autoral da inteligência artificial, porque não há criação como conhecemos em seus produtos estéticos. Eventualmente, quando os artistas desenvolvem seu próprio trabalho usando essas ferramentas, são eles que criam coisas com a inteligência artificial.

Nas palavras do escritor de ficção científica Bruce Sterling na conferência “AI for All, From the Dark Side to the Light”, essas IAs “não têm senso comum… Elas não têm imagens. Elas não têm imagens. Elas têm uma relação estatística entre texto e grupos de pixels. E há uma beleza nisso. Não é uma beleza humana. É uma imagem incrível com a qual nenhum ser humano jamais poderia ter sonhado. Ela realmente tem presença, é surreal!”.

Essa posição cética e fascinada nos permite escapar de noções estereotipadas e dicotomias enganosas. Nos leva também a perguntar quais coisas concretas os artistas estão fazendo com as inteligências artificiais generativa. Como eles estão trabalhando com essa “relação estatística entre textos e grupos de pixels” que abre as portas para a exploração criativa de um imaginário não humano e surreal. Quais processos e procedimentos artísticos estão surgindo dessa exploração.

Os artistas sempre usaram novas tecnologias. Tanto de forma “correta”, aprendendo a técnica e seguindo o cânone, quanto de forma subversiva, desafiando a tendência dominante e invadindo as formas comuns de fazer. Isso não é diferente com a inteligência artificial generativa. Para pensar em práticas artísticas com IA, é preciso analisar suas potencialidades e limitações, entendendo que os artistas trabalham em ambos os campos: no reino do possível e de suas limitações. E que eles não apenas tomam os desenvolvimentos da tecnologia como dados, mas também modificam esses termos – o que é possível, quais são os limites, quais estratégias artísticas podem resistir e desafiar a ordem tecnosocial.

Para entender melhor isso, vale trazer o exemplo da prática de uma artista, Kira Xonorica, que trabalha com base na geração de imagens que desafiam as noções binárias de gênero e os limites entre natureza, humanidade e tecnologia, para criar visões feministas futuristas e utópicas.

Obra digital de Kira Xonorica realizada com processos generativos

Em uma entrevista para o site expanded.art, Kira diz que o potencial da IA generativa está justamente na capacidade de visualizar e explorar perspectivas do mundo por meio de dados de uma forma que talvez não fosse possível sem essas ferramentas computacionais, já que a IA generativa se baseia na análise de milhões de imagens, descrições e rótulos. Mas também há limitações para as imagens visuais que essas tecnologias nos permitem explorar, devido aos vieses introduzidos nos modelos e nos dados de treinamento. Kira acredita que “a tendência inerente aos conjuntos de dados não é surpreendente. Ao fim e ao cabo, o banco de imagens no qual eles se baseiam se baseia em séculos de história da arte e em outras disciplinas que produzem e moldam nossa imaginação visual coletiva”.

As visões alarmistas e proibicionistas, que ignoram esses processos de exploração de limites e possibilidades, são perigosas porque censuram e inibem as buscas criativas. Os vieses e outros problemas sérios com essas ferramentas não devem nos levar ao pânico, mas a uma análise crítica que leve em conta os contextos de criação e uso de imagens geradas por IA, incluindo os conjuntos de dados de treinamento nos quais as várias ferramentas se baseiam, bem como as maneiras pelas quais essas ferramentas são projetadas e desenvolvidas. A análise também deve incorporar os custos ambientais e as condições de trabalho nas empresas de IA, sobre os quais não vamos discorrer nesta postagem.

MITO 2: CRIAR IMAGENS DE PESSOAS REAIS É INERENTEMENTE PERIGOSO

A geração de imagens com pessoas reais reconhecíveis é uma prática considerada uma das mais arriscadas, pois pode ser usada para ataques à honra e à dignidade dessas pessoas. Entretanto, essa prática também pode ser uma maneira de explorar histórias alternativas de forma imaginativa, sem ser confundida com uma imagem da realidade ou necessariamente causar danos a qualquer pessoa. Esse é o caso, por exemplo, de @arteficialismo, que fez uma série que nos faz imaginar como seriam as pessoas famosas se, depois de perderem tudo, fossem morar em uma favela brasileira.

MITO 3: AS OBRAS GERADAS POR IA SÃO SEMPRE IMITAÇÕES

E o que dizer do uso de obras artísticas já existentes para criar novas obras com inteligência artificial? Esse talvez seja um dos maiores debates atuais. A questão é dividida em duas dimensões.

A primeira é se uma nova criação de IA generativa, baseada em obras ou estilos preexistentes, pode infringir o direito dos criadores dessas obras ou dos artistas de referência desses estilos. Embora estas infrações de fato possam ocorrer, elas não podem ser dadas a priori; tudo depende do caso específico. O que deve ficar claro é que os estilos artísticos em si não são protegidos por direitos autorais e que a grande maioria das obras geradas em um determinado estilo ou com determinados criadores de referência não são necessariamente obras derivadas. Elas podem ou não ser – assim como muitas obras não geradas com inteligência artificial também podem ser. Acreditamos que, em grande parte, nossa análise de vários anos atrás sobre a cultura remix e a necessidade de distinguir, em cada caso, o conceito de plágio, trabalho derivado e usos transformadores pode enquadrar muito bem essa discussão.

A segunda dimensão é se a criação de ferramentas de IA generativas infringe os copyrights de obras de direitos reservados que são parte de coleções de dados de treinamento. Para responder a essa pergunta, é importante saber que o treinamento de modelos de IA generativa não envolve a cópia dos aspectos expressivos das obras, mas sim a análise e a sistematização de dados sobre essas obras, com base em um grande número de parâmetros que vão novas imagens, textos ou outros conteúdos. O modelo nem sequer mantém cópias das imagens de treinamento, como explica o analista de políticas de propriedade intelectual Matthew Lane: “Depois que cada imagem é incorporada ao modelo, ela é basicamente lixo. Ela não é armazenada no modelo, apenas os conceitos [são armazenados]. E, idealmente, esses conceitos não devem ser vinculados a uma única imagem”. Em outras palavras: a expressão autoral das obras não é armazenada, copiada, redistribuída ou comunicada, mas analisada em grandes quantidades para estabelecer conceitos a partir dos quais gerar imagens.

É por isso que não se pode presumir a priori que os modelos serão usados apenas para gerar imitações, mas que cada caso deverá ser avaliado a posteriori e de modo concreto. Nem aqueles que desenvolvem a ferramenta nem aqueles que a utilizam devem, em nenhum caso, ser impedidos de se basear em referências culturais e artísticas anteriores. Caso contrário, o patrimônio cultural e estético seria privatizado de uma forma sem precedentes, prejudicando a liberdade criativa atual e futura. E, já que estamos falando disso, não devemos nos esquecer de que, muitas vezes, são os próprios artistas que trabalham com ferramentas de IA, treinando modelos com coleções de dados específicas ou até mesmo participando do desenvolvimento e da adaptação de ferramentas de IA a partir de ferramentas de IA de código aberto.

MITO 4: NÃO SE PODE CRIAR GENUINAMENTE USANDO IA

Por fim, se estivermos falando de liberdade criativa, podemos perguntar até que ponto os artistas estão realmente criando algo novo com a IA generativa. Dissemos anteriormente que a IA não tem agência nem capacidade criativa própria, mas onde fica o processo criativo das pessoas que usam essas ferramentas? Até que ponto podemos ir além da geração automática de imagens para desenvolver algo que possa ser chamado de “obra” e o criador de “artista”? A resposta, mais uma vez, depende do uso e do contexto da criação, e de como cada pessoa que cria com IA generativa define sua atividade.

Em outro trabalho compartilhado por @arteficialismo no Instagram, no qual retratos famosos da história da arte são representados como pessoas de carne e osso, alguém pergunta: “como você pode se considerar um artista? Ao que @arteficialismo responde: “Nunca me considerei… durante toda a minha vida fiz desenhos, photoshop, etc… e as pessoas sempre tentaram me rotular como artista e eu sempre rejeitei esse ‘título’. Agora eu só faço essas imagens de IA e as pessoas tentam dizer que eu não sou um artista, como se isso significasse alguma coisa para mim ou me fizesse parar de fazer as imagens por algum motivo.”

Por sua vez, Kira Xonorica, na entrevista citada acima, disse: “O que eu adoro na IA é que ela envolve um processo de contar histórias. Quando você cria, é como assistir a um filme ou escrever seu próprio romance. Você nunca sabe aonde isso vai levá-lo, você só tem ideias generativas e as sobrepõe umas às outras, essa é a beleza do jogo”.

Em última análise, a criação por meio de métodos generativos abrange uma variedade de processos que não podemos determinar a priori como artísticos ou não artísticos. Muitas vezes, esses processos envolvem longas horas de aprendizado e experimentos com e a partir de resultados gerados por IA. Mas não são nem as horas nem o esforço que dão significado artístico a esses trabalhos; muito menos uma IA. Argumentamos, por fim, que a arte pode ser feita com IA generativa e que isso ainda depende, como sempre, do contexto da criação pessoal e da recepção cultural. A análise diante da massificação da IA generativa deve ser crítica, matizada e situada, não moldada nem pelas empresas que vendem essas tecnologias e nem guiada por mensagens de pânico que apenas impedirão os artistas de participar do debate sobre seu desenvolvimento e de se apropriar criativamente dessas ferramentas.

Two years ago I launched, during the pandemic, the book “The Culture is Free: a history of anti-proprietary resistance,” the result of almost 10 years of research with BaixaCultura – online laboratory, collective, blog. The book was born as an attempt to conceptualize, situate and contextualize free culture, an idea that spread from free software in the 1990s and gained prominence with the discussions around the free sharing of files (“piracy”) on the Internet in the 2000s. For this, the work done was that of a genealogy that recovers part of the circulation of cultural goods in antiquity, the great transformation of the invention of Gutenberg’s printing press in the Middle Ages, and the subsequent rise of Capitalism with the mode of production having property as its basis. From this originated the notion of intellectual property, which resulted in the consolidation of cultural goods as merchandise and copyright as the system to regulate these goods, starting in the 19th century. It also gave birth to some of the resistances to this system, especially in the artistic and political avant-garde field of the 20th century, first in more conceptual terms, such as the works of Dada, the French situationists of the 1950s and 1960s, then also in practical terms, especially in punk rock and the fanzine and mail art culture of the 1970s. What would hip-hop and rap be if it were not for the disrespect of intellectual property in the creation of samplers?

These 20th century movements also accompanied the remarkable proliferation of technological means of reproduction – from the photocopier to the VCR, from record players to cassette tapes – and the rise of the so-called mass media, with film, radio, and TV becoming part of the daily lives of billions of people. I portray some of this period and the reproduction technologies from the beginning of the 20th century until the computer in chapter 4 of the book, not by chance called “Recombinant Culture”.

Near the halfway point, the book finally reaches the 1970s, the creation of the personal computer, free software, and two decades later, the internet. From there it focuses on the discussions around free culture starting from the concept of copyleft, one of the great hacks in the intellectual property system created in the 19th century. I wrote on page 149: “As a pun or literally, copyleft was the concept, expressed in the GPL license and others linked to the GNU Project that follow it to this day, of requiring legal ownership in order, in practice, to relinquish it by allowing everyone to make whatever use they want of the work, as long as they pass on their same freedoms to others. The formal requirement of ownership means that no one else can put a copyright on a copyleft work and try to limit its use”.

From copyleft originates, in the early 2000s, Creative Commons, a set of licenses (and an NGO) that will help expand the idea of free culture and free knowledge worldwide, also giving rise to the Open Education, Open Science and OpenGlam (“open galleries, libraries, archives and museums”) movements, still active today. The discussion (and also the criticism) about free culture is followed by the transformations in Internet and digital communication, in which the “human” curatorship – random and loose, exemplified by the habit of flanking through blogs and websites, common practice of Internet users in the 2000s – is gradually being replaced by algorithmic curatorship. What can be seen mainly from the consolidation of social networks – especially with Facebook’s “Timeline” model (which will influence other networks from the 2010s on) and streaming as algorithmic systems of selection and recommendation of information and content of predominance on the Internet.

In the end, “Culture is Free” brings the perspective on the question of free culture and knowledge to other modes of existence than the hegemonic Western one, seeing how Amerindians and peoples from the far east (like the Chinese) have to this day historically very distinct notions about what is intellectual property, copy and original, open and collective knowledge. With these perspectives I try to remember that there are ways of seeing the world, present in many traditional places and communities, that who oppose with certain Western ideas and ways of acting notion that created intellectual property.

For example, in China, I talk in the book about “Shanzai,” a Chinese neologism created in the 2000s to say what is fake. It ranges from literature to Nobel prizes, MPs, amusement parks, tennis, music, movies, stories of the most diverse kind. At first, the term referred only to smartphones or counterfeit products made by brands such as Nokia or Samsung and sold under the name Nokir, Samsing or Anycat. Soon, however, they expanded to all areas, in plays that, in the manner of Dada, used creativity and parodic and subversive effects with the “original” brands to create other names – Adidas, for example, becomes Adidos, Adadas, Adis, Dasida… They are, however, more than mere fakes: their designs and functionalities owe nothing to the originals, and the technical or aesthetic modifications made give them an identity of their own.

The commodity system known in the West is, as is well known, different for the perspectives of traditional peoples – it is no accident that Davi Kopenawa calls us white people the “commodity people” in the monumental “The Falling Sky“. In the words of anthropologist Marilyn Strathern (1984), it is the opposition of the commodity economy, in which people and things take the social form of things, with the gift economy, in which people and things take the social form of people. As I wrote on p.216 of the book, “It is in this sense that, in originary societies in various parts of the world, the model of property (particularly intellectual property), based on the relation of the work of art as a commodity of consumption, becomes insufficient to deal with the more durable and complex relation of the circulation of objects. In the cultural system of the original societies, it is perceptible, for example, the centrality of collective values, linked to the plurality and survival of the community, in relation to individual values, of exclusive use and individual choice. This, in turn, makes it more difficult for cultural and knowledge goods in this context to become just another commodity sold as merchandise, because there are principles and responsibilities of reciprocity and solidarity that seek to value the moral substance itself – which we could also call “soul” – of the objects in their relations with people and the world.

From this brief panorama, we can finally ask ourselves: how can we talk about original and copy if a two-thousand-year-old culture from the Far East encourages reproduction and treats its content and permanence as more important than the origin of an idea, even if modified and reinvented in each context? Or how can we say that there is only one human owner of ideas when for many native peoples, among them some Amerindians, there is no separation between subject and object as we know it in the West, and the creative subjectivity, to whom one should attribute the “authorship” or the “ownership” of goods, is distributed in a vast network that includes people and objects, nature and society in an almost symmetrical way?

AND WE FINALLY GET TO AI

It is in the discussion about copy and original that we finally get to the hottest discussion of the moment, artificial intelligence. With the growing popularization of generative Artificial Intelligence systems (which are able to generate text and images autonomously), such as ChatGPT and MidJourney, it seems that we are heading for another historical moment to discuss both digital communication and free culture and knowledge, copyright and intellectual property. Some computational researchers indicate that soon the amount of text/image generated by AIs tends to surpass all human production. It’s not hard to imagine: based on machine learning, the potential is tending to be infinite for creating works. But given that these systems work primarily with new presentations of ideas that have already been generated (and recorded on computers), is it possible to recognize the sources and identify the authorship of an information brought by these AIs? Will “artificial” systems – and also “human” systems, or would it be better to say for both “hybrids”? – of information control will be able to impose limits to this proliferation and check the veracity of what is reported? How can we speak of copy and original in a world increasingly dominated by multiple copies reproduced ad infinitum by “intelligent” algorithmic systems?

I propose, of course, more questions than answers. Both because it is still an initial research, which is starting as, say, formal academic research, structured from FGV ECMI, where I work today as a researcher and professor. But mostly because nobody knows yet how to answer these and other questions about AIs; the very companies that are at the leading edge of this discussion in 2023, like Open AI, are learning about the impacts of the systems they create from feedback from millions of users. The responses and different uses invented by people bring new responses and new hallucinations from the systems, which are having to be corrected in almost real time.

There is, of course, a great risk in experimenting live with a technology that has such a transformative impact on information production, and it is no wonder that the discussion about AI ethics has been one of the big issues in debate for some years (or decades) now. The ONU has already given recommendations, in 2021, to suspend the use of AI in facial recognition systems until there is regulation on the use of the technology, just as recently a letter signed by over a thousand experts and personalities, such as Steve Wozniak, co-creator of Apple, Yuval Noah Harari, famous historian, and the unscrupulous billionaire Elon Musk, called for a moratorium, a “mandatory stop to think” about the consequences of the unbridled development of AI, especially generative ones like ChatGPT.

I like the image created by one of the best texts of the many that have been published on the subject between January 2023 and now. It is called “ChatGPT is a blurry JPEG of the Web” and was written by Ted Chiang for the February 2023 New Yorker.

“Think of ChatGPT as a blurry JPEG of all the text on the Web. It retains much of the information on the Web, in the same way that a JPEG retains much of the information of a higher-resolution image, but, if you’re looking for an exact sequence of bits, you won’t find it; all you will ever get is an approximation. But, because the approximation is presented in the form of grammatical text, which ChatGPT excels at creating, it’s usually acceptable. You’re still looking at a blurry JPEG, but the blurriness occurs in a way that doesn’t make the picture as a whole look less sharp.”

The image of the blurred JPEG helps us understand that the system created by Open IA “swallows” (almost) the entire internet and regurgitates by rephrasing what it has swallowed, not word for word. That despite inventing references and other wrong information (those who have used it have certainly been surprised with a book, a non-existent article), it does not “lie”, but writes “probable” answers – or “blurbs”, following the metaphor – based on the weights and calculations made from each token (input) generated. There are thousands of recombinations of ideas that have already been generated by the human mind, shown from a statistical analysis of a gigantic database. A database that, giant as it already is (and we are not sure how giant it is, another big problem caused by the lack of transparency), tends to grow more and more, fed by information collected on the web without authorization. Do they need to have authorization for this? Doesn’t data collection further reinforce datacolonialism, the unequal extraction (and exploitation) of data from the global south?

Other questions I bring here today give a taste of the transformative potentialities, for “good or bad,” of generative AIs also for the discussion in communication and circulation of information and cultural goods:
If on the one hand the increasing use of generative AI systems in everyday work favors users (including in the creation of new “occupations” such as design or prompt engineer), on the other hand it is a competitive problem for intellectual creators, especially for those kinds of so-called functional creations, such as a poster for an event, a “card” for a social network, a track for a short advertising video, an illustration for some work;

The problem of market concentration, just like big tech today. AI companies need a high initial investment, but a low maintenance cost to keep producing works and increasing supply, which is done without being accompanied by a proportional increase in demand (this issue I bring from the book by Pedro Lana called: “Artificial Intelligence and Authorship: Issues of Copyright and Public Domain“, released this 2023)

_ The “appropriation” of the common space (public domain) of ideas. A very large number of works produced can exhaust the amount of possible expressions of an idea in a certain medium – music, for example, where there are already cases of AIs, such as Google Assistant, which recognizes the samplers of a song, excerpts of even less than 1s. Identifying can also mean controlling and restricting; anyone who has ever uploaded a video with a song protected by copyright on Youtube, Instagram or any other platform knows how, for the justification of “defending property”, technology companies already identify and quickly bar the circulation of information. Would hip hop have been born if all samplers used were identified, controlled and restricted? Brazilian rapper Don L saw this danger and wrote on Twitter: “capitalism will end up with the art of the sample. i am totally against having to pay for samples unrecognizable by a human. if you go by this logic, there should be copyrights for instruments. pay for yamaha, korg etc in every song kk”.

_ The biases, the hallucinations; and the sources? Again: where is the transparency?

Here are perhaps some of the biggest problems today. They involve, for example, the biases, hallucinations, mistakes made by ChatGPT and exploitation of workers to manually “correct” the AIs, which make us glimpse a scenario closer and closer to a “Dark Digital Age”.The history of fascist hallucination of the last AIs is not the best; will it be different now? If so, how? What regulatory measures are possible to prevent these machines from turning into racist, misogynistic, and fake news propagating monsters? There is a lot of discussion on the subject, especially about possible legislation – some of which I brought up in this text from BaixaCultura. It is worth following the work of the Rights in Network Coalition, which is involved in this and other important issues in defense of digital rights.

On the legal side, it is also worth remembering fair use, fair use and its limitations and exceptions that have become one of the legal pillars on which AI applications depend. Its defense and amplification, as Lukas Ruthes Gonçalves says in this text, “are paramount so that creators and inventors can continue to recombine existing knowledge to create new and exciting possibilities, as they did before with the camera and image editing programs like photoshop.

Finally, I recall Benjamin to remix an already classic question: how does one identify a work of art in the age of its “algorithmic reproducibility”? If, as Hal Foster wrote in “What Comes After Farce?“, the negative force of automation is less the loss of “aura,” as Benjamin believed, and more the loss of “individual risk” and “communal participation,” what would we say of processes that are not only automated but autonomous? For that matter, how autonomous are these systems? Another question: is the work of art only the fruit of the human spirit? Has the time come, as the indigenous people have been doing for a long time, to review anthropocentrism, giving the status of creators to non-human, “artificial” or “natural” beings? Would reviewing the anthropocentrism in intellectual property be the end of copyright as we know it today?

That’s a lot of questions, I leave it to you to bring more others. Thank you!”

[Leonardo Foletto]

*Image created in Stable Diffusion from the prompt: An androgynous cyborg hybrid of machines and living organisms, with lots of plants, animals and insects, tending to a digital orchid, in 19th century Italian naturalist style

As tecnologias de IA atingiram um nível de popularidade nunca antes visto. Como essa nova onipresença afeta o uso justo e a criação de novas obras?

Por Lukas Ruthes Gonçalves*

O primeiro inverno da IA ​​aconteceu em 1974, depois que um relatório encomendado pelo Conselho de Pesquisa Científica do Reino Unido criticou como a IA não conseguiu atingir seus objetivos na época e observou que “em nenhuma parte do campo as descobertas feitas até agora produziram o grande impacto que então se prometia**.”O que se seguiu foi uma queda na popularidade das tecnologias relacionadas ao campo que durou até 1980, após uma empolgação inicial com criações feitas pelo próprio computador.

Voltando aos conceitos fundamentais: um aplicativo de IA, não diferente de qualquer computador, precisa de 3 elementos-chave para funcionar corretamente: hardware, que roda um software que depende de dados para produzir resultados. A principal diferença é que a inteligência artificial executa “tarefas que normalmente exigiriam inteligência humana, como percepção visual, reconhecimento de fala, tomada de decisão e tradução de idiomas”. Essa é uma definição de John McCarthy, um dos principais pesquisadores da área, durante a Conferência de Dartmouth de 1956, que buscava unificar os diversos esforços de pesquisa da época sob uma única bandeira. Até Alan Turing faria a pergunta se as máquinas podem pensar em sua obra seminal “Computing Machinery and Intelligence”, de 1950.

A principal razão para aquele primeiro inverno de IA foi a falta de capacidade de processamento do hardware na época. Pesquisadores de IA durante a década de 1970 perceberam que era muito mais fácil ensinar um aplicativo a jogar xadrez do que levantar uma caneta, em um fenômeno apelidado de Paradoxo de Moravec. Habilidades mentais que são tidas como certas (como andar ou reconhecer um rosto) acabam exigindo um poder computacional muito maior do que calcular o pi, por exemplo. Isso torna os problemas difíceis fáceis e os fáceis difíceis. É por isso que a pesquisa em visão computacional e robótica fez pouco progresso durante a década de 1970.

Na década de 1980, o hardware havia melhorado, com sistemas como máquinas LISP se tornando mais populares e sendo anunciados como capazes de simular as capacidades de tomada de decisão dos humanos. No entanto, computadores pessoais menores de empresas como Apple e IBM começaram a ganhar força entre a população, pois hardware especializado como as máquinas LISP eram muito caros para manter e incapazes de lidar adequadamente com entradas incomuns. Isso trouxe o segundo inverno de IA em 1993, com a popularidade na área atingindo um novo ponto baixo.

Desde então muita coisa mudou. O hardware continuou a melhorar (de acordo com a Lei de Moore), com os computadores ficando menores e mais potentes a cada geração. E com o crescimento da internet toda a capacidade computacional não precisava mais estar localizada em um único lugar. Em vez disso, para empresas como o Google, ele pode ser distribuído em todo o mundo. Além disso, o aumento da popularidade da internet com o público em geral criou a oportunidade para mais pontos de dados do que nunca. Os aplicativos de IA mais recentes começaram a utilizar o hardware em rápido desenvolvimento, o software em evolução e o aumento dos dados para florescer.

Em uma nova primavera para aplicativos de IA, podemos encontrar hoje aqueles que podem gerar arte (Dall-E 2), criar textos de vários tipos (ChatGPT) e traduzir com mais precisão, entre outros inúmeros usos. No entanto, a rápida implantação dessas ferramentas de IA está atraindo novos desafios. Existem preocupações sobre o uso de obras protegidas por direitos autorais para treinar IA; nem todo mundo está feliz com o fato de que esses aplicativos podem repentinamente escrever livros infantis ou ganhar competições de arte. Com o escrutínio dessas aplicações cada vez maiores, os legisladores e o público em todo o mundo começaram a olhar para essas caixas misteriosas com maior interesse.

Gerado usando ChatGPT com o seguinte prompt: “Como você escreveria ‘A Dream of Spring for AI Copyright’ no estilo de George R. R. Martin?”

Enquanto alguns recepcionam com entusiasmo esses desenvolvimentos de IA, outros vêem isso com ceticismo, já entrando com ações judiciais contra aplicações de IA de geração de obras de arte nos EUA e no Reino Unido. O cerne da questão é se esses sistemas infringiram os direitos autorais dos artistas para gerar suas criações. Um caso iniciado em solo americano tem como autores três artistas que iniciaram uma ação coletiva contra os aplicativos de IA Stability.ai e Midjourney, e contra o repositório de imagens DeviantArt alegando violação direta e indireta de direitos autorais, violações de DMCA e concorrência desleal. A denúncia pode ser encontrada aqui. Especificamente, os artistas afirmam que os réus “pegaram bilhões de imagens de treinamento extraídas de sites públicos” e as usaram “para produzir imagens aparentemente novas por meio de um processo de software matemático”.

O caso do Reino Unido segue na mesma linha, com a Getty Images processando a Stability.ai alegando que esta “violou direitos de propriedade intelectual, incluindo direitos autorais em conteúdo de propriedade ou representado pela Getty Images”. O argumento é semelhante ao caso dos EUA, em que o réu “copiou e processou ilegalmente milhões de imagens protegidas por direitos autorais e os metadados associados pertencentes ou representados pela Getty Images, sem uma licença, para beneficiar os interesses comerciais da Stability AI e em detrimento dos criadores de conteúdo”.

Deixando de lado os aspectos técnicos de como é feito o treinamento de uma aplicação de IA (veja aqui uma ótima explicação sobre o assunto), o cerne não só dessas duas ações, mas do funcionamento dos aplicativos de IA como um todo, é se a extração de conteúdo de terceiros para ser utilizado como dados de treinamento de uma aplicação do tipo pode ser considerada fair use (uso justo). Conceitualmente, a mineração de dados é a digitalização de grandes quantidades de dados para uso em um software com o objetivo de analisar e extrair informações dessas bases.

Nos EUA, este tópico é regulado pelo §107 da Lei de Direitos Autorais, que estabelece como uso justo de uma obra protegida por direitos autorais – portanto, não violação – a reprodução para fins como crítica, comentário, notícias, ensino, bolsa de estudos ou pesquisa. A lei estabelece quatro fatores para determinar se um uso seria considerado “justo”: a finalidade e o caráter do uso; a natureza da obra protegida por direitos autorais; a quantidade que foi copiada; e seu efeito potencial no mercado dessa obra. Esse tipo de exceção flexível estabelecida pelo fair use tem sido a interpretação usada pelos tribunais dos Estados Unidos para permitir alguns usos de mineração de textos e dados (em inglês, TDM) necessários para aplicativos de IA poderem gerar imagens, como aponta Jonathan Band.

Um caso marcante para o tópico, Authors Guild, Inc. v. Google, Inc., ouvido pelo Tribunal de Apelações do Segundo Circuito (Court of Appeals for the Second Circuit) entre 2005 e 2015, chegou à conclusão de que a tentativa do Google de digitalizar livros para uso em seu buscador foi vista como um passo transformador para as bibliotecas – mesmo que a empresa não tenha solicitado autorização para este uso. Com este julgamento, que considerou tais práticas de TDM como uso justo, abriu-se um precedente chave que atualmente é invocado pelos fabricantes de aplicativos de IA para apoiar legalmente suas práticas.

No entanto, essa decisão é cada vez mais questionada, com os veículos de notícia agora mais cautelosos com a “dieta de mídia” dos chatbots do Bing e o governo do Reino Unido restringindo a expansão das exceções do TDM. Os casos mencionados acima desafiarão esse entendimento? O entendimento de como essa tecnologia funciona é incipiente e levará tempo até que os advogados consigam entender completamente o conceito para considerar propostas que não freiam o avanço de tecnologias inovadoras como a IA.

Este é apenas mais um exemplo de como o uso justo e as limitações e exceções são importantes para o avanço de novas tecnologias. A doutrina de uso justo tornou-se um dos pilares legais dos quais os aplicativos de IA dependem. Sua defesa e ampliação são primordiais para que criadores e inventores possam continuar a recombinar conhecimentos existentes para criar novas e excitantes possibilidades, como faziam anteriormente com a câmera e programas de edição de imagens como o Photoshop. Isso garantirá uma longa primavera para as ferramentas de IA e as novas obras de arte e inovações que artistas, músicos, pesquisadores e o público em geral criarão utilizando-as.

*: Lukas Ruthes Gonçalves é Mestre em Direito pela Universidade Federal do Paraná (UFPR), apresentando dissertação sobre Autoria de IA orientada pelo Professor Marcos Wachowicz e é agora Doutorando pela mesma instituição. É também membro do Grupo de Estudos em Direito Autoral e Industrial (GEDAI/UFPR), liderado pelo Professor Marcos Wachowicz e LLM em Propriedade Intelectual e Tecnologia pela American University Washington College of Law.  Texto originalmente publicado em inglês no Projeto Disco. Tradução: Leonardo Foletto

**: Lighthill, J. (1973), “Artificial intelligence: a general survey”, Artificial intelligence: a paper symposium

A imagem de capa do post foi gerada usando DALL-E com o seguinte prompt: “Um desenho realista de uma paisagem de primavera com um pequeno robô no meio olhando para o horizonte”.

Faz umas quatro semanas que parei para começar a escrever sobre os diversos links que todo dia chegavam (e continuam chegando) pra mim sobre IAs e o ChatGPT. Quando parava pra ler um chegava outro texto, e outro, outro, cada um mais “definitivo” do que outro, apocalípticos e desdenhosos, otimistas e proféticos, de perspectivas diferentes . Enquanto o tempo necessário para acompanhar as discussões diminuía, a coleção de links só aumentava. Passou o carnaval e fevereiro e nada de conseguir ler tudo ou escrever sobre.

Mas eis que chegou março e, bem, os links vão continuar aumentando, como sugere o meme logo acima. Mas pelo menos aqui está um pequeno resumo/panorama do que consegui parar e ler. Até o final do ano teremos muitas mudanças nesse tópico, mas neste início de março de 2023 creio ser um bom panorama.

[Leonardo Foletto]

*

O que é o Chat GPT? Esbocei, junto com duas colegas de trabalho, uma pequena definição neste texto: ele é, tecnicamente, um chatbot, um programa que tenta simular a conversação de um ser humano a partir de um modelo de Processamento de Linguagem Natural (PLN). Esse modelo é um conjunto de técnicas e princípios que permitem que uma máquina se comunique com um humano do modo mais “natural” possível. As assistentes de voz Alexa (Amazon) e Siri (Apple), por exemplo, também funcionam a partir do PLN. Contudo, o ChatGPT traz uma capacidade de simular a comunicação humana de uma forma MUITO mais sofisticada do que às encontradas nas assistentes virtuais, e aí é que começa a discussão – e as “espetaculares promessas”, como diz esse texto na Discourse Magazine, um dos primeiros de uma leva cotidiana que está debruçado a entender as promessas, transformações e revoluções possíveis a partir do sistema da OpenIA.

Aliás, começamos nessa linha: promessas, revoluções e transformações no mundo a partir do ChatGPT. Ana Busch, na Exame, faz um resgate da internet (saudosa) de outros tempos para dizer que “não adianta criticar, dizer que o bot erra, que está desatualizado, que ainda precisa caminhar muito (tudo verdade). O futuro vai se impondo dessa forma, e você tem que mergulhar antes de tomar um caldo”. Jesús Díaz, no El Confidencial da Espanha, faz uma boa análise na mesma linha: “Los analistas del Bank of America afirman que la inteligencia artificial es una revolución comparable a la electricidad. Energía, armas, medicinas o naves espaciales, todas las industrias están ya siendo transformadas por una tecnología, aseguran, que en sólo siete años aportará 15,7 billones de dólares a la economía mundial, más que el producto interior bruto anual de toda la zona euro en 2022”. Seria exagero? O tempo dirá. Porém, Jesús não deixa de apontar problemas: “En algún momento del futuro cercano, perderemos nuestra capacidad para distinguir entre los hechos y la ficción creada por las máquinas, sin importar cuántas herramientas forenses podamos idear. Resulta que, después de hablar con algunos de los principales expertos en el campo, ese “futuro cercano” ocurrirá en los próximos 10 años”.

Aqui entra um alerta para uma discussão que particularmente nos interessa: o que é cópia e original na era das IAs? Alguns pesquisadores da área computacional indicam que, em breve, a quantidade de texto/imagem gerada por IAs tende a superar toda produção humana. Dado que estes sistemas funcionam principalmente com novas apresentações de ideias que já foram geradas (e registradas em computadores), será possível reconhecer as fontes e identificar a autoria de uma informação trazida por estas IAs? Os sistemas “artificiais” – e também os “humanos”, ou seria melhor dizer para ambos “híbridos”? – de controle da informação poderão impor limites a esta proliferação e checar a veracidade daquilo que é informado? Já há casos de IAs, como a do Google Assistente, que reconhece os samplers de uma música, trechos de até menos de 1s, e essa tecnologia está apenas em sua infância. Como poderemos falar de cópia e original num mundo cada vez mais dominado por múltiplas cópias reproduzidas ad infinitum por sistemas algorítmicos “inteligentes”? Quais os riscos da reprodução e do aumento de vieses (racistas, machistas, liberais, xenofóbicos) presentes na sociedade no transporte para estes sistemas de processamento de linguagem natural (PLN) como o GPT-3?

A discussão em torno da cópia, plágio e direito autoral a partir do ChatGPT e outros sistemas de IA é uma das que mais tem rendido debate. Neste ótimo texto, Lukas Ruthes Gonçalves, doutorando pela UFPR e membro do Grupo de Estudos em Direito Autoral e Industrial (GEDAI/UFPR), retrata os casos em que artistas processaram IAs por infringir copyrights, caso dos apps Stability.ai e Midjourney, e do como outros casos ainda estão surgindo – caso da Getty Images, que está processando a Stability.ai por supostamente usar imagens da empresa. Ele afirma que a doutrina de uso justo (fair use) e suas limitações e exceções tornaram-se um dos pilares legais dos quais os aplicativos de IA dependem. E que sua “defesa e ampliação são primordiais para que criadores e inventores possam continuar a recombinar conhecimentos existentes para criar novas e excitantes possibilidades, como faziam anteriormente com a câmera e programas de edição de imagens como o photoshop”.

Sobre usos possíveis, há também bastante gente falando. Márcio Telles, pesquisador e professor de comunicação da Tuiuti do Paraná, fez um compilado de usos possíveis (e comentários sobre) dentro da criação e edição de um texto acadêmico. “Tenho a impressão de que a IA democratiza a figura do “assistente de pesquisa” para o “Sul Global” e fura o entrave erguido entre Norte/Sul pela barreira da língua”, escreve Márcio, que vem experimentando com o sistema e postando em suas redes com alguma frequência. O que também vem fazendo o pesquisador Mushtaq Bilal em seu Twitter, em inglês, mas com uma abertura ao ptbr em uma boa thread de “Como usar o ChatGPT em dois tipos de abordagem, minimalista e maximalista”.  O pessoal do Núcleo.Jor também deu boas dicas (24 usos). Nessa editoria, mas com abertura para decorrências do uso do sistema, também entra o cientista cognitivo, pesquisador e professor brasileiro Diogo Cortiz. Dele, destaco dois posts: um sobre um primeiro artigo estruturado (segundo ele) sobre impacto do ChatGPT em tarefas de escrita, em que os pesquisadores fizeram um experimento com profissionais de qualificação média e encontraram aumento da produtividade, da qualidade da entrega e da satisfação dos profissionais. E outro sobre como o ChatGPT pode literalmente alucinar – alucinação maquínica é um termo usado na área técnica para indicar quando a máquina dá uma resposta confiante, mas sem qualquer justificativa nos dados de treinamentos. Quem já usou o ChatGPT sabe que ele inventa informações e sobretudo referências bibliográficas; mente convicto de que está certo.

No tema “problematização do uso no ensino”, vale conferir as colunas de Ronaldo Lemos na Folha de S.Paulo, especialmente esta. “Na minha aula no Schwarzman College o uso do ChatGPT é obrigatório. Todos os trabalhos DEVEM ser feitos por ele. No entanto, a nota vai ser dada pela qualidade dos “prompts” que os alunos fizeram para chegar no resultado. Em outras palavras, vou dar a nota pela qualidade das perguntas, e não da resposta”. Em contrapartida, escolas públicas de Nova York proibiram o uso do ChatGPT. Escolas e Universidades dos Estados Unidos estão começando a repensar por completo seus métodos de ensino. “Antony Aumann, professor de filosofia na Universidade Northern Michigan, pensa em talvez abrir mão de redações em semestres subsequentes. Também pretende incluir o ChatGPT em suas aulas, pedindo aos estudantes que avaliem as respostas dadas pelo chatbot. “O que vai acontecer em sala de aula não será mais ‘aqui estão algumas perguntas –vamos discutir isso entre nós, seres humanos’”, disse ele, mas “alguma coisa como ‘e o que esse robô alienígena pensa sobre a questão?'”, como conta nesse texto do NY Times traduzido pela Folha de S.Paulo. No Brasil, o professor Márcio Carneiro, do LabCom da UFMA, está fazendo vários testes com o ChatGPT – um livro, gerado de modo experimental com o apoio do sistema da Open IA, chamado “Inteligência Artificial Generativa”, disponível pra download; e um curso, o primeiro do Brasil, de “Introdução ao Prompt Design”, onde se ensina do zero a gerar textos para várias finalidades e imagens usando ferramentas de IA, sobretudo MidJourney e o ChatGPT. Engenheiro de Prompt é a nova profissão do futuro – até que o futuro mude outra vez.

O Sciences Po, renomada universidade e centro de pesquisa francês, que teve Bruno Latour como criador de seu MediaLab, baniu o uso do ChatGPT sem evidenciar as fontes. Disse o comunicado da Instituição: “Sem referenciar de modo transparente, os alunos estão proibidos de usar o software para a produção de qualquer trabalho escrito ou apresentações, exceto para fins específicos do curso, com a supervisão de um líder do curso”. Mais do que banir, porém, o Sciences Po abriu a discussão sobre o Chat e outros sistemas de IA e determinou regras para seus usos baseados em três princípios:

_ Repensar com os professores os critérios de avaliação em prol da avaliação de competências – perante uma situação complexa, desenvolvendo um trabalho reflexivo pessoal e uma análise crítica aprofundada – em vez de uma verificação de conhecimentos.

_ Incluir ferramentas de IA nos exercícios propostos. Por exemplo, pedindo aos alunos que testem os limites da ferramenta corrigindo seus erros, verificando sua bibliografia ou examinando criticamente sua contribuição.

_ Oferecer cursos dedicados a estas ferramentas, para que os alunos tenham consciência das suas potencialidades e limitações.

Há também a discussão, claro, de mercado e concorrência. Diante da ameaça do ChatGPT, e dos testes que a Microsoft vem fazendo com o chat acoplado ao seu buscador (o Bing), o Google acelerou suas pesquisas na área e apresentou o Bard em Janeiro. A iniciativa  veio de uma diretriz geral do Google em focar seus investimentos em IA para concorrer com a Open IA e a Microsoft. O Bard é basicamente um chatbot alimentado por IA que foi projetado para ser usado em pesquisas – uma cópia do ChatGPT + Bing, portanto. Ou pelo menos era: diante dos erros em sua apresentação, que dizem especialistas custou R$100 bilhões de prejuízo em valor de mercado, a empresa tratou de desmentir que seria um buscador, mas na verdade uma outra coisa – que ninguém sabe bem o quê.

Rodrigo Ghedin, em sua coluna de 3 de março no Manual do Usuário: “O ChatGPT pode até se provar apenas uma moda passageira daqui a alguns meses, mas hoje é tido como o futuro, o que torna ameaça bastante real: trata-se do produto digital que mais rápido atingiu 100 milhões de usuários (em apenas dois meses) e, em paralelo, está chegando às pessoas de outras formas, em produtos de parceiros diversos, alguns de peso como a Microsoft e a Snap. Age como toda boa disrupção: mudando o campo de batalha. É difícil superar o Google no ato de devolver dez links relevantes e alguns anúncios numa página web após uma pesquisa. O ChatGPT troca esse paradigma por uma conversa, uma espécie de WhatsApp em que seu interlocutor é uma inteligência artificial em overdose após consumir boa parte do conhecimento já produzido pela humanidade — até meados de 2021, pelo menos”.

Há, por fim (e por hora), as questões mais problemáticas envolvendo as IAs. Elas envolvem, por exemplo, os vieses, “alucinações”, erros cometidos pelo ChatGPT e exploração de trabalhadores para “corrigir” manualmente as IAs, que nos fazem vislumbrar um cenário cada vez mais próximo de uma “Dark Digital Age”.O histórico de alucinação de cunho fascista das últimas IAs não é dos melhores; será diferente agora? Se sim, como? Quais as medidas regulatórias possíveis para que estas máquinas não virem monstros racistas, misóginos e propagadores de fake news? Há muita discussão no tema, especialmente sobre legislações possíveis. Na Europa está em discussão um projeto de lei de regulação dos sistemas de inteligência artificial (“AI Act”), proposto pela Comissão Europeia. Nos EUA, o governo Biden publicou o “Blueprint for an AI Bill of Rights”, um conjunto de princípios éticos sobre inteligência artificial. Há também um projeto de lei em andamento no Congresso americano, que busca regular as decisões automatizadas tomadas por meio de algoritmos. No Brasil, houve a aprovação do Projeto de Lei 21/20 e a criação de uma comissão de Juristas para discutir o tema e propor subsídios para um substitutivo, o que ocorreu após 9 meses de trabalho, em que foram ouvidos mais de 50 especialistas em audiências públicas multisetoriais e seminários internacionais. O resultado é um robusto relatório de 900 páginas pouco lido – mas que mereceria mais atenção. Laura Schertel Mendes, professora de Direito na UNB, comenta sobre ele e o processo de regulação nesse bom texto em O Globo.

Encaminho mais alguns links soltos de bons textos, revistas, que saíram nesses últimos meses sobre o tema:

_ Dossiê  Comunicação na Era da Inteligência Artificial: da ideologia neoliberal ao colonialismo de dados. Revista Fronteiras, Unisinos.

_ Nem Humanas Nem Artificiais: 10 pontos para entender a Chat GPT e as qualidades conectivas das hiper Inteligências Castells, Massimo De Felice.

_ André Lemos em sua newsletter no Substack: “O que fazemos, nos processos educativos é sugerir livros acadêmicos, artigos, romances para ler e pedir que se produza juízo crítico, reflexão, debate. Devemos fazer o mesmo com os sistemas de IA. Ninguém pensa hoje em banir os livros por poderem ser copiados, ou pela possibilidade de uma biblioteca substituir um professor. (…) Você conhece algum professor no seu dia-a-dia que não use o dispositivo informacional livro?”

_ Matéria de capa de fevereiro da Super Interessante: O futuro da Inteligência Artificial e o que vem depois do ChatGPT (com paywall).

Com ajuda de alguns amigues que me estimularam a estruturar essa ideia, nasceu então o curso, que em sua primeira edição (em formato mini) foi realizado dias 6, 7 e 8/12 no CPF SESC, o centro de pesquisa e formação da rede Sesc em São Paulo. A proposta foi expandir o livro, trazer outros causos, imagens, ideias que não couberam na publicação impressa, com foco no debate contemporâneo sobre a cultura livre na internet e com diferentes perspectivas sobre o tema que não a hegemônica ocidental – depois do livro tenho me debruçado mais nas visões orientais e ameríndias sobre a propriedade Intelectual, seguindo o meu próprio caminho pincelado no último capítulo.

O curso foi online e enxuto, para um público bem diverso. Aqui as apresentações utilizadas como guia para as aulas.

[Leonardo Foletto]

Na sexta doze de novembro de 2021, das 19h às 20h e pouco, o “A Cultura é Livre” foi tópico de uma conversa online na APPH POA dentro do projeto Biblioteca APPH. A proposta foi fazer uma conversa sobre alguns tópicos do livro, em especial as discussões contemporâneas sobre compartilhamento na internet e a partir de outras perspectivas que não a vinda da Europa-Estados Unidos, como as visões ameríndias e chinesa, para pensar e questionar a propriedade Intelectual e a produção e fruição da cultura. Participaram nosso editor e autor do livro, Leonardo Foletto (@leofoletto), a jornalista e pesquisadora Lívia Ascava, com mediação de André Araujo, pesquisador da APPH. O livro, prefaciado por Gilberto Gil, foi publicado em 2021 pela Autonomia Literária, com apoio da Fundação Rosa Luxemburgo, e discute questões em torno da propriedade intelectual, traçando um caminho desde a circulação cultural na Grécia Antiga até o advento da Internet fissurando a dinâmica de posse dos bens culturais.

A APPH é uma associação autônoma, horizontal e sem fins lucrativos em atividade desde 2013 oferecendo uma vasta gama de atividades voltadas à produção e compartilhamento de conhecimentos em humanidades.

Assista:

asdahagha

Você sabia que existe uma escola de audiovisual pública com vários cursos gratuitos de formação na área, entre eles um de cineclubistas? Também não sabíamos, até conhecer a Vila das Artes, ligado à Secretaria de Cultura de Fortaleza, no Ceará. Ainda ano passado, fomos convidados a participar de um evento aberto ao público realizado pela escola, mas devido a diversos contratempos não conseguimos.

Nesse ano, com a pandemia a nos mostrar as possibilidades expandidas de participação remotas, conseguimos estar presente no curso de Formação de Cineclubistas e Exibidores Independentes. Foram seis horas de um curso/disciplina que, com a sugestão da secretaria da escola, chamamos de “Insurreição Popular: Tecnopolítica e ContraCultura Digital para Cineclubes“. Nela, fizemos um resgate da cultura livre e de uma certa contracultura tecnopolítica para discutir desde a propriedade intelectual e a história de alguns aparatos técnicos de exibição de cinema e vídeo até as formas livres de produção e circulação de bens culturais. Com um público muito diverso, gente de Fortaleza mas também do interior do Ceará, Bahia e Santa Catarina – possibilidades que o online permite.

Na primeira aula, o percurso foi guiado pela pergunta: “Como chegamos até aqui?”. Depois da apresentação de todxs e da disciplina, tentamos responder a esta pergunta nos debruçando sobre a história dos aparatos tecnopolíticos de acesso, produção, distribuição e exibição de filmes: cinema, vídeos, televisão; até chegar a internet. Aqui está a apresentação que guiou essa fala.

Na segunda, chegamos nos softwares e nos computadores para falar de software e cultura livre. Voltamos ao século XVII para falar das origens capitalistas e liberais da propriedade intelectual (copyright e direito do autor), para então comentar sobre práticas anti-copyright no século XX – Dada, Detournament, Rap, sampler, etc – chegando ao copyleft e as licenças livres, Creative Commons, ArteLibre e outras licenças, comentadas a partir dessa apresentação.

Por fim, falamos de Cultura P2P e Contracultura digital a partir da internet: formas de circulação e distribuição de filmes na internet, compartilhamento de arquivos, download livre e pirataria, tecnopolítica e ciberativismo do conhecimento livre, entre outros temas correlatos que dizem respeito à questões de hoje e que tiveram como guia essa apresentação.

Os vídeos das três aulas estão logo abaixo. Foram editados para ressaltar a parte do conteúdo, cortando algumas apresentações e pausas comuns em um processo dialógico de sala de aula (mesmo online). Logo abaixo estão algumas das referências básicas usadas, todas elas disponíveis na Biblioteca do Comum, projeto que mantemos junto com o Instituto Intersaber para a disponibilização livre para download de obras ligadas à cultura livre, agroecologia, bens comuns, tecnopolítica, ciência cidadã, educação expandida, tecnologias sociais, entre outros temas.

REFERÊNCIAS (principais)

BELISÁRIO, A; TARIN, B (Org.). Copyfight: Pirataria & Cultura Livre. Rio de Janeiro: Beco do Azougue, 2012. Disponível em: http://www.bibliotecadocomum.org/items/show/39

COHN, Sérgio. SAVAZONI, Rodrigo (org.). Cultura Digital.br. Rio de Janeiro; Azougue, 2009. Disponível em: http://www.bibliotecadocomum.org/items/show/40

FCFORUM. Cultura libre digital. Nociones básicas para defender lo que es de todxs. Barcelona; Icaria Editorial, 2012. Disponível em: http://www.bibliotecadocomum.org/items/show/47

STALLMAN, Richard. Software libre para una sociedad livre (trad. principal aron Rowan, Diego Sanz Paratcha y Laura Trinidad). Madrid; Traficante de Sueños, 2004. Disponível em: http://www.bibliotecadocomum.org/items/show/48

GARCÍA GAGO, Santiago (org.) 10 Mitos sobre la cultura libre y el acceso abierto al conocimiento. Guatemala; Radialistas.net, 2014. Disponível em: http://www.bibliotecadocomum.org/items/show/45

LESSIG, Lawrence. Cultura livre: Como a grande mídia usa a tecnologia e a lei para bloquear a cultura e controlar a criatividade. São Paulo, Editora Trama Universitário, 2005. Disponível em: http://www.bibliotecadocomum.org/items/show/47

VVAA. Copyleft: manual de uso. Madrid; Traficante de Sueños, 2006. http://www.bibliotecadocomum.org/items/show/2

Em 1997, uma banda chamada The Verve lançou a música “Bittersweet Symphony“, hit dos anos noventa indicado e vencedor de vários prêmios de música pop. Um extremo sucesso, tanto que é executada em rádios do mundo até hoje. A música começa com uma orquestra tocando um riff que está na cabeça de todo mundo que já ouviu pelo menos uma vez.

Este riff foi feito pelos Rolling Stones em 1965, em uma música qualquer deles, chamada “The Last Time“. O The Verve usou um sample de uma versão orquestrada da música, feita em outra ocasião para um songbook dos Stones. A gravadora da banda, sabendo que usariam um sample na música, pediu e recebeu a autorização para usar o trecho da original no seu sucesso. No entanto, tendo em vista o desempenho comercial estrondoso do single, um executivo cresceu o olho.

O ex-empresário dos Stones, detentor dos direitos das músicas da banda (percebam, o cara não é nenhum artista) processou o The Verve, alegando que o sucesso do hit era devido aos Rolling Stones, e que a banda tinha usado “mais que o autorizado” na música. O empresário ganhou e todos os direitos sobre a música, independente de ela ser completamente nova, passaram a ser dos Rolling Stones. Somente em 2019 Richard Ascroft (foto acima), co-fundador e vocalista do Verve, teve o direito pela música recuperado.

A indústria da música, talvez por ser o meio artístico mais popular da sociedade, é terreno da maioria dos casos de processo por direito autoral que conhecemos. As limitações criativas que o próprio meio da arte impõe em melodia também propiciam argumentos: são doze notas na música, sete tons e cinco semitons, e a partir disso podemos imaginar que existe uma quantidade limitada de coisas novas que se pode criar em termos de canção e melodia. Por maiores que sejam as possibilidades, elas têm um limite – menor que na literatura, por exemplo, onde as letras e palavras permitem mais combinações.

Poderíamos estender essa argumentação por mais parágrafos. Parece meio estranho, pra dizer o mínimo, que um artista diga “ei, eu inventei este pedaço de sons nesta sequência e por isso ele é meu”, ou “ei, esta frequência e timbre são exatamente da minha guitarra e por isso esta música é toda minha”, mas é o que acontece.

Apesar de artistas buscarem expandir as barreiras impostas pela melodia através de novos recortes, ritmos e arranjos, mesmo assim a indústria consegue fechar novas criações em velhos modelos, como já reportamos em casos de “plágio” por aqui, o que incitou também rebeldia musical, caso da plunderfonia, um dos momentos ilustrados da história da recombinação trouxemos aqui.

E é uma luta unicamente econômica. Se eu tivesse feito uma música, ano passado, exatamente igual ao novo hit da Anitta desta semana, eu poderia processá-la? Sim, se eu fosse capaz de arcar com as despesas. Eu ganharia? Provavelmente não. Ou se sim, em uns 30 anos. Agora, se experimentarmos o contrário pra ver o que acontece: lançamos uma música que se parece com algum hit da Anitta. Em três minutos recebemos uma intimação da Sony Music, ou Disney, ou sei lá qual gravadora, mandando tirar do ar ou pagar os royalties, além da difamação por ter copiado outro artista.

Acontece que, por mais que algum dia quisermos ser originais em se tratando de música, esbarraríamos no número de notas limitado, no número de frequências audíveis limitado e nas regras harmônicas, que nos conduzem por caminhos pré determinados. Cientistas estudam sequências de acordes e por que algumas nos dão a sensação de inacabadas ou acabadas; por que uma nota menor parece triste, e outra maior parece alegre. A coisa é tão reativa para nossos sentidos que boa parte da música pop foi escrita a partir das mesmas sequências e nem por isso nós comparamos “In the Airplane Over the Sea” do Neutral Milk Hotel com Friday da Rebecca Black.

Foi pensando nestas limitações e neste cenário mercadológico predatório que dois programadores resolveram propor uma solução para evitar que qualquer músico seja inibido a compor pela possibilidade de ser processado por alguma gravadora ou artista oportunista. Damien Riehl e Noah Rubin se uniram para gerar um código que registrasse todas as possibildades de melodias. Eles tomaram as oito notas dentro de uma oitava (um intervalo de frequência definido) e todos os doze intervalos possíveis (a cada trecho do intervalo é marcado um tom ou semitom) para compô-las, e registraram estas melodias em arquivos .midi – um formato que registra todas as características das músicas (mas não como áudio), o equivalente digital a uma partitura.

Depois de gravar todos os arquivos em um HD externo, as músicas foram registradas pelos autores como sua propriedade sobre licença Creative Commons Zero – o que significa que elas estão em domínio público, e ninguém pode reinvidicar direitos patrimoniais (de exploração comercial) sobre a obra – e disponibilizadas no site All the Music.

Qualquer artista agora pode escrever qualquer música, e se for processado, alegar que na verdade estava sendo influenciado por Damien e Noah. É uma defesa válida. Ao mesmo tempo, a partir da data em que as melodias foram registradas, os dois passam a ser detentoras destas, e nenhuma música nova pode ser plagiada por outra mais nova ainda.

Juristas estão se perguntando se isso funcionaria em um caso real, mas a verdade é que o que os dois criadores do All the Music demonstraram é que não faz sentido nenhum alegar propriedade sobre uma sequência de sons. O projeto já está sendo expandido para uma quantidade maior de oitavas, até eventualmente zerar o problema.

Quantas músicas podem ser feitas sem uma lembrar a outra? Que artista pode escrever uma música sem ter ouvido outra antes? Como não se influenciar, nem mesmo de forma inconsciente? Registrar todas as músicas possíveis e caçar artistas de qualquer porte para coletar royalties só interessa a quem tem dinheiro para acessar um tribunal em cada caso destes. Música nenhuma é de alguém mais do que as fronteiras dela própria, e talvez nem neste caso, porque ela veio de alguma ideia antes disso.

O que Damien e Noah fizeram é uma provocação contra um mercado predatório e fadado a saturação. Esperamos que a reflexão se estenda para toda criação, e que a sua reprodução não seja tratada além da sua própria existência. Reprodução é obra nova, recombinação que o diga.

Ou você acha que esta música é responsável pelo sucesso desta música?

[Victor Wolffenbüttel]

[Continua nossa campanha de financiamento contínuo no Apoia.se. Buscamos recursos mensais para manter o BaixaCultura e seguir propagando a cultura livre & cobrindo tecnopolítica e cultura livre. A partir de R$5 mensais você garante a continuidade do nosso trabalho e recebe recompensas que vão de zines a cursos e oficinas. É fácil e rápido, aceita boleto também para quem não quer ter seus dados do cartão rastreados.]

O ENCONTRO

A cultura livre é jeito /maneira de produzir cultura que promove o compartilhamento e a continuidade de obras culturais como bens comuns da humanidade. Como ideia, existe desde que a cultura existe, mas, como proposta prática mais organizada, nasce inspirada no movimento do software livre e nas 4 liberdades por ele fundamentadas, ainda nos anos 1980 e 1990, e se espalha pelo mundo a partir da luta anticopyright do início dos 2000 e das licenças livres, das quais as mais conhecidas e bem sucedidas hoje são o Creative Commons (CC).

Com a transformação da internet nos últimos anos, como, em 2018, a ideia da cultura livre permanece? quais são as atuais discussões que envolvem a temática no sul global? Quais iniciativas, pessoas, projetos, coletivos, instituições que hoje defendem e atuam na cultura livre? Quais os desafios de sustentabilidade postos em iniciativas de cultura livre num mundo onde a internet está cada vez mais centralizada? Passados mais de 15 anos da criação das licenças CC, um marco na história recente da cultura livre, como está a discussão sobre as leis de direitos autorais hoje? Quais os bens culturais (publicações, filmes, músicas, artes visuais, tecnologias, sítios) produzidos em diálogo com a cultura livre?

Com essas provocações em mente, queremos realizar um encontro 100 % online para unirmos nós, xs autorxs, produtorxs e ativistas da cultura livre, com outras pessoas que buscam conhecer o movimento e se aproximar, informando-nos do “estado da arte” no sul global. Será nos dias 21, 22 e 23 de novembro de 2018, na internet, em diversos nós e páginas da internet que explicamos melhor mais abaixo.

A chamada para o encontro é aberta para todas aquelas pessoas que se identifiquem como pertencentes ao sul global. Sul aqui não é utilizado como estritamente geográfico, por isso não há impeditivo de país de origem. Para fins desse encontro entendemos sul como uma identificação cultural e geopolítica de vozes, territórios e corpos que historicamente foram calados, explorados, oprimidos, colonizados e/ou subjugados.

OBJETIVOS

_ Fomentar a discussão e a prática da cultura livre a partir da perspectiva do sul global; do planeta/terra;

_ Mapear e fortalecer as iniciativas de cultura livre do sul global, nesta edição em especial da Ibero América;

_ Dar a conhecer e divulgar as bases da cultura livre para públicos que ainda não a conhecem;

_ Criar canais, ferramentas e redes que facilitem o encontro de pessoas que trabalham com a cultura livre no sul global;

_ Discutir a sustentabilidade de projetos de cultura livre e articulações possíveis para fortalecimento de uma rede de apoio entre iniciativas.

PARTICIPANTES

Ativistas de cultura livre, artistas, professores, estudantes, pessoas dedicadas à gestão, mediação e articulação cultural.

COLETIVOS QUE ORGANIZAM O ENCONTRO

• Baixa Cultura
• Ártica
• Nodo Común
• Em Rede
• Rede das Produtoras Culturais Colaborativas
• Ediciones de la Terraza

Mesa 1: Políticas públicas e reformas legais

O movimento da cultura livre nasceu em resposta ao avanço das leis de propriedade intelectual em todo o mundo. Desde então, ele questiona fortemente o papel do Estado em colocar barreiras e reprimir a livre circulação do conhecimento. Mas o movimento da cultura livre também propõe marcos normativos e políticas públicas para proteger os bens comuns, com o objetivo de socializar a produção e o acesso à cultura. Nesta mesa falaremos sobre as lutas atuais na região: reformas do direito autoral, leis de software livre e de repositórios institucionais abertos, políticas de digitalização do patrimônio e de produção cultural livre, e muitas outras propostas que vão desde a solução de problemas específicos até a mudança radical do sistema.

Coordena Ártica.

Mesa 2: Digitalização e acesso ao patrimônio cultural

Esta mesa de trabalho procura dar visibilidade às possibilidades de acesso às diversas manifestações culturais, nos mais variados formatos, através de plataformas livres e que consigam lograr o alcance do público-alvo interessado em cultura, bem como ser uma ferramenta de livre acesso para o público em geral. Na ocasião pretende-se também incluir a relação desses produtos com as licenças livres disponíveis e como reverberá os conteúdos e maneiras de salvaguardar o banco de dados para acessos futuros.

Coordena Rede das Produtoras Culturais Colaborativas.

Mesa 3: Laboratórios, hackerspaces e outros espaços de comunidades locais

Nas últimas décadas foram criados vários tipos de espaços comunitários, como laboratórios cidadãos e hackerspaces, por todo o planeta e também no sul global. Com diferentes formatos e objetivos, seus participantes em geral compartilham os valores da produção colaborativa e do uso de tecnologias livres. Inseridos em diferentes contextos, mais carentes ou mais abundantes, esses espaços têm sido polos irradiadores dos valores do conhecimento livre e da cultura livre. Mas como tem sido essa experiência? Quais suas potencialidades, limites e desafios? Essas são algumas das questões que esta mesa pretende abordar.

Coordenam Nodo Común e Em Rede.

Mesa 4: Redes internacionais. Como nos inserimos em um movimento global?

Para fazer e propagar a cultura livre, precisamos colaborar e tecer redes. Se somos um movimento que é contra o status quo capitalista patriarcal, de que forma podemos nos unir e tentar pequenos “hackeamentos” nesse sistema? Quem são nossos parceiros institucionais ao redor do mundo e, principalmente, no sul global? quais as principais redes que lutam no dia a dia pela cultura livre e o conhecimento aberto? Como fazemos para juntarmos forças e cuidarmos de nossos trabalhos, esforços e redes? Nesta mesa discutiremos como a cultura livre se insere num movimento global, quais os desafios para tecer e sustentar redes locais e globais e quem podemos contar como parceiros, institucionais e pessoais, no para nossa atuação no sul global.

Coordena Baixa Cultura.

Mesa 5: Produção cultural livre

Cada vez mais projetos culturais decidem apostar no paradigma da cultura livre e começam, por exemplo, a usar licenças livres e casas culturais de trabalho comum, entre outras metodologias colaborativas. um desenvolvimento conceitual muito elaborado, enquanto outros projetos têm uma sensibilidade ligada à cultura livre, mas desconhecem muitos detalhes importantes. A idéia desta mesa é mostrar diversas experiências de diferentes disciplinas culturais, aproveitando para falar sobre seus problemas relativos ao licenciamento livre, à propriedade intelectual, a constituição de catálogos ou pesquisas regionais de projetos culturais e coletivos culturais que trabalhem dentro do paradigma livre, entre outras questões. Um eixo transversal é como os diferentes projetos preveem a sustentabilidade.

Coordena Ediciones de la Terraza.

Mesa 6: Educação aberta e cultura livre

Talvez uma das áreas mais importantes em que a cultura livre é vital para o sul global seja a educação, onde a necessidade de materiais educacionais acessíveis, adaptáveis e reutilizáveis é um assunto urgente para uma educação verdadeiramente democrática e equitativa. O movimento de educação aberta e recursos educacionais abertos é, paradoxalmente, muito importante no norte, mas ainda não tem apoio e recursos suficientes nos países do sul. Nesta mesa, discutiremos as práticas educacionais abertas e as políticas que foram promovidas e que devemos promover para apoiá-las, na perspectiva do sul global.

Coordena Ártica.

METODOLOGIA

Modo 100% online: a participação será feita através da Internet, utilizando videoconferências ao vivo, publicações na web, documentos de texto, mapeamentos, curadorias e coberturas colaborativas, além de fóruns e chats.

Textos desencadeadores: para cada mesa, pediremos a uma pessoa que encaminhe um texto com provocações para pensar criticamente no marco da cultura livre. Essa pessoa também participará da moderação da mesa.

Chamada aberta: o encontro irá incorporar a possibilidade de participar com histórias de experiências, posts nos blogs dos participantes, bibliografia recomendada e mapeamento de experiências.

Videoconferências: durante cada um dos três dias do encontro, duas videoconferências serão realizadas por dia, de 1 hora a 1 hora e meia, com base nos textos de provocação. Em cada videoconferência, haverá pessoas convidadas a comentar e refletir, a partir de sua experiência ou perspectiva, o conteúdo dos materiais.

Espaços para debate: os textos serão publicados em espaços de debate online onde qualquer participante poderá fazer contribuições, perguntas e comentários. Esses espaços estarão abertos durante um período antes e depois das videoconferências, para dar tempo à participação. As ferramentas incluirão fóruns e chats, além de documentos com comentários e anotações.

Relatorias: cada mesa será documentada com um relatório que sintetizará os pontos discutidos, os acordos, desacordos, problemas pendentes e novos debates que permanecerão abertos.

Mapeamento: durante todo o encontro vamos mapear experiências e projetos atuais de cultura livre.

Curadorias da produção cultural livre: para acompanhar o debate na mesa de produção cultural, vamos fazer uma curar uma curadoria de produção editorial e artística recente, baseada em licenças livres.

Cobertura colaborativa: faremos uma chamada aberta para blogs para cobrir o encontro online de cultura livre do sul, através de posts relacionados às mesas do encontro.

PLATAFORMAS / ESPAÇOS

As mesas do encontro serão desenvolvidas nos sites dos coletivos que coordenam cada mesa. As videoconferências serão transmitidas ao vivo no YouTube. Nas redes sociais, vamos usar a hashtag #CulturaLS18.

IDIOMAS

Durante o encontro, nos comunicaremos indiscriminadamente em espanhol e português, promovendo o melhor entendimento possível entre os falantes das duas línguas.

DATA

As inscrições estão abertas até 31 de outubro de 2018.

O encontro dura 3 dias, de 21 a 23 de novembro de 2018, com instâncias anteriores e posteriores para considerar os tempos de participação online.

HORÁRIO

Dia 1: 21 de novembro

– 14 hs GMT | 11 hs AR/UY | 12 hs BR | 15 hs ES – Conferência de abertura

– 16 hs GMT | 13 hs AR/UY | 14 hs BR | 17 hs ES – Mesa 1: Políticas públicas e reformas legais

– 19 hs GMT | 16 hs AR/UY | 17 hs BR | 20 hs ES – Mesa 2: Digitalização e acesso ao patrimônio cultural

Dia 2: 22 de novembro

– 16 hs GMT | 13 hs AR/UY | 14 hs BR | 17 hs ES – Mesa 3: Laboratórios, hackerspaces e outros espaços de comunidades locais

– 19 hs GMT | 16 hs AR/UY | 17 hs BR | 20 hs ES – Mesa 4: Redes internacionais. Como nos inserimos em um movimento global?

Dia 3: 23 de novembro

– 16 hs GMT | 13 hs AR/UY | 14 hs BR | 17 hs ES – Mesa 5: Produção cultural livre

– 19 hs GMT | 16 hs AR/UY | 17 hs BR | 20 hs ES – Mesa 6: Educação aberta e cultura livre + final do encontro

INSCREVA-SE

O encontro é aberto e gratuito. Inscreva-se até 31 de outubro de 2018.

COMPLETE O FORMULÁRIO DE INSCRIÇÃO