{"id":15282,"date":"2023-06-23T17:29:01","date_gmt":"2023-06-23T20:29:01","guid":{"rendered":"https:\/\/baixacultura.org\/?p=15282"},"modified":"2023-07-05T17:30:36","modified_gmt":"2023-07-05T20:30:36","slug":"inteligencia-artificial-generativa-e-direitos-culturais","status":"publish","type":"post","link":"https:\/\/baixacultura.org\/2023\/06\/23\/inteligencia-artificial-generativa-e-direitos-culturais\/","title":{"rendered":"Intelig\u00eancia artificial generativa e direitos culturais"},"content":{"rendered":"

Publicado originalmente em Artica por Jorge Gemetto e Mariana Fossati em duas partes: <\/i>1\u00ba em 28\/5\/2023<\/i><\/a> e <\/i>2\u00ba em 5 de junho de 2023<\/i><\/a>. Traduzido e adaptado do espanhol por Leonardo Foletto.<\/i><\/p>\n

 <\/p>\n

PARTE 1: <\/b>Algu\u00e9m quer pensar nas pessoas usu\u00e1rias?<\/b><\/p>\n

A partir da disponibilidade de ferramentas como DALL-E, Stable Diffusion ou Midjourney para gera\u00e7\u00e3o de imagens, e do ChatGPT, Bard, Open Assistant ou as centenas de bots de conversa\u00e7\u00e3o baseados em LLaMA, milh\u00f5es de pessoas come\u00e7aram a fazer experimentos com a cria\u00e7\u00e3o de textos e imagens assistidos por IA generativa. As motiva\u00e7\u00f5es para o uso das ferramentas s\u00e3o variadas: v\u00e3o desde a gera\u00e7\u00e3o de ilustra\u00e7\u00f5es e p\u00f4steres amadores para ilustrar postagens (como esta) at\u00e9 a experimenta\u00e7\u00e3o de novas possibilidades na arte digital, a alimenta\u00e7\u00e3o de ideias para escritas criativas e a explora\u00e7\u00e3o l\u00fadica das respostas paradoxais que surgem quando se pergunta ao software sobre seus sentimentos ou inten\u00e7\u00f5es.<\/p>\n

Tamb\u00e9m houve debates sobre supostos “riscos existenciais” e supostas viola\u00e7\u00f5es de direitos autorais. Esses debates foram, em parte, alimentados pelas pr\u00f3prias empresas que desenvolvem essas ferramentas, cuja estrat\u00e9gia ret\u00f3rica tem sido inflar tanto as virtudes quanto os riscos dos modelos que desenvolvem – duas formas complementares de exagerar seu poder. Menos vis\u00edveis, na maioria das vezes, s\u00e3o os vieses, as falhas e as limita\u00e7\u00f5es significativas que permanecem nessas ferramentas, muitas vezes lan\u00e7adas \u00e0s pressas.<\/p>\n

 <\/p>\n

A amea\u00e7a para a humanidade<\/b><\/p>\n

Come\u00e7amos mencionando brevemente o discurso da “amea\u00e7a \u00e0 humanidade<\/a>“. O risco real desse discurso \u00e9 que ele funciona para a mistifica\u00e7\u00e3o e o sigilo em torno de uma tecnologia cujo conhecimento e desenvolvimento deveriam, ao contr\u00e1rio, ser democratizados o m\u00e1ximo poss\u00edvel. Projetos de c\u00f3digo aberto, como o ChaosGPT<\/a>, um bot de conversa\u00e7\u00e3o que recebeu ordens para “conquistar o mundo” e “destruir a humanidade”, destacam de forma criativa o rid\u00edculo das afirma\u00e7\u00f5es mais exageradas sobre IA.<\/p>\n

Por outro lado, h\u00e1 uma pressa em censurar solicita\u00e7\u00f5es e conte\u00fados “inadequados” ou “violentos”, que geralmente s\u00e3o definidos de acordo com uma moral r\u00edgida e ideologia de ordem. No entanto, as pesquisas sobre os verdadeiros vieses e falhas desses programas costumam ser menos divulgadas. \u00c9 por meio da pesquisa participativa que podem ser criados modelos e conjuntos de dados que representem melhor a diversidade real do mundo. Para isso, \u00e9 fundamental que os conjuntos de dados sejam abertos e os modelos sejam software livre. Quanto mais pessoas puderem aprender como essas tecnologias s\u00e3o feitas, pesquisar com elas, test\u00e1-las e desenvolv\u00ea-las, mais olhos e m\u00e3os haver\u00e1 para criar ferramentas melhores, que ajudar\u00e3o em tarefas mais \u00fateis e promover\u00e3o a criatividade em vez de reproduzir preconceitos. Um exemplo na Am\u00e9rica Latina \u00e9 o EDIA<\/a>, um conjunto de ferramentas desenvolvido pela Fundaci\u00f3n V\u00eda Libre para identificar estere\u00f3tipos e discrimina\u00e7\u00e3o em modelos de linguagem.<\/p>\n


\nPl\u00e1gio massivo<\/b><\/p>\n

Na discuss\u00e3o sobre direitos autorais, felizmente j\u00e1 parece estabelecido que os trabalhos resultantes da IA generativa s\u00e3o de dom\u00ednio p\u00fablico, especialmente desde o recente parecer do escrit\u00f3rio de direitos autorais dos EUA<\/a>. Essa \u00e9 uma boa not\u00edcia, pois, caso contr\u00e1rio, as empresas que desenvolvem os modelos poderiam ter imenso poder sobre o conte\u00fado gerado a partir da intera\u00e7\u00e3o entre usu\u00e1rios, ferramentas de IA e o conjunto comum de dados e conte\u00fado cultural.<\/p>\n

Entretanto, o que gera mais debate atualmente \u00e9 se a coleta de conte\u00fado para criar os conjuntos de dados, bem como o processamento computadorizado desses dados por modelos de intelig\u00eancia artificial, s\u00e3o usos justos<\/a> (fair use<\/i>) ou, ao contr\u00e1rio, infringem os direitos autorais.<\/p>\n

Recentemente, houve uma prolifera\u00e7\u00e3o de artigos e manifestos pedindo maiores controles e restri\u00e7\u00f5es \u00e0 IA generativa para proteger a propriedade intelectual. Um exemplo de tais manifestos no mundo de l\u00edngua espanhola \u00e9 o chamado \u201cArte es \u00c9tica<\/a>\u201d. Esse manifesto afirma, entre outras coisas, que o que as tecnologias de IA generativa geram s\u00e3o “derivados n\u00e3o consensuais e parasit\u00e1rios”, “pl\u00e1gio maci\u00e7o” e “automatizado”, “pilhagem” e “roubo”; pede a implementa\u00e7\u00e3o de ferramentas de filtragem de conte\u00fado; a proibi\u00e7\u00e3o de prompts que incluam nomes de pessoas e at\u00e9 mesmo nomes de movimentos est\u00e9ticos inteiros; pede marca d’\u00e1gua obrigat\u00f3ria e identifica\u00e7\u00e3o compuls\u00f3ria de usu\u00e1rios que inserem prompts; e aponta contra a cria\u00e7\u00e3o de novas exce\u00e7\u00f5es de direitos autorais para minera\u00e7\u00e3o de dados – mesmo que tais exce\u00e7\u00f5es hoje sejam fundamentais para o progresso de muitos campos cient\u00edficos. As demandas mencionadas acima est\u00e3o misturadas de forma desordenada com outras que s\u00e3o dignas de aten\u00e7\u00e3o genu\u00edna, como a cria\u00e7\u00e3o de fundos para a promo\u00e7\u00e3o da cultura ou a prote\u00e7\u00e3o de trabalhadores contra demiss\u00f5es em massa injustificadas. Mas o impulso geral das demandas n\u00e3o \u00e9 direcionado a reivindica\u00e7\u00f5es trabalhistas ou \u00e0 promo\u00e7\u00e3o da arte, mas sim a uma expans\u00e3o direta da propriedade intelectual. Isso \u00e9 visto, por exemplo, no apoio a a\u00e7\u00f5es judiciais como a do banco de imagens Getty contra a Stability AI; na caracteriza\u00e7\u00e3o negativa e grosseira da IA como uma tecnologia somente de pilhagem; e, em geral, no fato de que o principal alvo dos ataques s\u00e3o os projetos de c\u00f3digo aberto, ou seja, aqueles com maior probabilidade de democratizar o uso da tecnologia.<\/p>\n

Lamentavelmente, abordagens semelhantes surgiram de pessoas que, h\u00e1 alguns anos, participaram do movimento de cultura livre. Marta Peirano , jornalista e escritora, publicou recentemente um artigo no El Pa\u00eds<\/a> que identifica modelos de intelig\u00eancia artificial como “m\u00e1quina autom\u00e1tica de pl\u00e1gio em massa”, que serve para “roubar (…) o conte\u00fado de outras pessoas”. Peirano tamb\u00e9m faz eco \u00e0 a\u00e7\u00e3o judicial da Getty contra a Stability AI e a apresenta como parte da rea\u00e7\u00e3o supostamente leg\u00edtima a esse roubo em grande escala, tomando partido da empresa de conte\u00fado (Getty) contra a empresa de tecnologia (Stability AI). O artigo parece negar a milit\u00e2ncia anterior da autora em favor do acesso ao conhecimento; os argumentos de Peirano nesse per\u00edodo de milit\u00e2ncia teriam sido usados por empresas de tecnologia para roubar propriedade intelectual.<\/p>\n

H\u00e1 um ponto real no que Peirano diz: na sociedade atual, as empresas capitalistas sempre ser\u00e3o as que melhor podem explorar o conhecimento livre em seu benef\u00edcio. Isso n\u00e3o \u00e9 novidade; h\u00e1 muitos outros exemplos an\u00e1logos, como a educa\u00e7\u00e3o p\u00fablica e a infraestrutura de transporte. Na sociedade capitalista, as enormes somas de dinheiro gastas em educa\u00e7\u00e3o p\u00fablica treinam trabalhadores que, inevitavelmente, passam a ocupar cargos assalariados em empresas capitalistas. O fato de as empresas capitalistas se apropriarem dos lucros da educa\u00e7\u00e3o p\u00fablica n\u00e3o deve ser um argumento contra a educa\u00e7\u00e3o p\u00fablica, que \u00e9 um direito do povo. Pelo contr\u00e1rio: deve nos fazer refletir sobre que outra sociedade precisamos para que a educa\u00e7\u00e3o p\u00fablica esteja a servi\u00e7o de uma produ\u00e7\u00e3o n\u00e3o capitalista exploradora.<\/p>\n

O mesmo ocorre com o conhecimento livre. \u00c9 preciso ressaltar sempre que a ampla disponibilidade de cultura e conhecimento \u00e9 um avan\u00e7o para os direitos culturais das pessoas, possibilitado pelo desenvolvimento das for\u00e7as produtivas. O conhecimento humano \u00e9 um patrim\u00f4nio constru\u00eddo coletivamente que deve servir \u00e0 toda sociedade. Qualquer retrocesso nesse sentido \u00e9 reacion\u00e1rio. \u00c9 claro que, em nossa sociedade, as empresas de tecnologia t\u00eam uma enorme vantagem quando se trata de aproveitar o conhecimento livre. Esse fato deve nos levar a aprofundar a cr\u00edtica iniciada com o questionamento da propriedade do conhecimento para transform\u00e1-la em uma cr\u00edtica do sistema social como um todo. Para Peirano parece imposs\u00edvel dar esse passo, o que a leva a optar por uma esp\u00e9cie de mea culpa e recuar para a t\u00edpica defesa da propriedade intelectual. Talvez n\u00e3o seja ir\u00f4nico que o artigo de Peirano esteja protegido por um paywall.<\/p>\n


\nUma necess\u00e1ria mudan\u00e7a de enfoque<\/b><\/p>\n

Visto em perspectiva, os discursos inflamados contra a IA generativa parecem um renascimento das campanhas contr\u00e1rias \u00e0 Internet no final dos anos 90 e in\u00edcio dos anos 2000, com progn\u00f3sticos apocal\u00edpticos parecidos sobre a morte da arte, o empobrecimento da vida cultural e o decl\u00ednio cognitivo das novas gera\u00e7\u00f5es expostas a essas tecnologias imediatistas. Mais atr\u00e1s, discursos da mesma natureza podem ser encontrados no nascimento da m\u00fasica gravada, da fotografia e at\u00e9 mesmo da imprensa.<\/p>\n

De um lado, estariam os detentores de direitos autorais supostamente saqueados, que incluem artistas, editoras e empresas de conte\u00fado de todos os tipos. Por outro lado, as corpora\u00e7\u00f5es de tecnologia. A oposi\u00e7\u00e3o, como se v\u00ea, n\u00e3o seria entre os artistas que trabalham e seus empregadores nas empresas de conte\u00fado, mas entre dois setores industriais: o criativo e o tecnol\u00f3gico. Portanto, n\u00e3o seria uma reivindica\u00e7\u00e3o baseada em classe, mas intersetorial.<\/p>\n

Contra essa vis\u00e3o que enquadra o problema como uma disputa entre dois setores industriais, vale a pena complexificar o cen\u00e1rio apontando a exist\u00eancia de outros atores sociais. Um deles \u00e9 a comunidade educacional, cient\u00edfica e acad\u00eamica que pesquisa usando t\u00e9cnicas de intelig\u00eancia artificial. Sobre a import\u00e2ncia das exce\u00e7\u00f5es de direitos autorais para a minera\u00e7\u00e3o de textos e dados para fins de pesquisa, vale ler o relat\u00f3rio “Pol\u00edticas de Intelig\u00eancia Artificial e Direitos Autorais na Am\u00e9rica Latina<\/a>“, publicado pela Alian\u00e7a Latino-Americana para o Acesso Justo ao Conhecimento.<\/p>\n

Outro ator esquecido s\u00e3o as pessoas que usam ferramentas de IA generativas. Muitas pessoas come\u00e7aram a usar essas ferramentas como uma forma de express\u00e3o: artistas digitais que usam prompts para gerar imagens, escritores ou amadores que usam chatbots para obter ideias de textos, pessoas comuns que simplesmente querem se divertir ou se expressar com essas IAs e interagir com os resultados. Talvez seja hora de o direito das pessoas de participar da vida cultural ser tamb\u00e9m considerado na discuss\u00e3o.<\/p>\n

O direito de participar da vida cultural tem certos requisitos. De acordo com Lea Shaver<\/a>, esses requisitos incluem:<\/p>\n

_ A liberdade de acesso a materiais culturais, ou seja, obras, ideias, idiomas e m\u00eddias existentes.<\/p>\n

_ A liberdade de acesso a ferramentas e tecnologias indispens\u00e1veis para desfrutar e usar esses materiais e obras, bem como para criar novos materiais.<\/p>\n

_ A liberdade de usar esses materiais e obras, transform\u00e1-los, faz\u00ea-los circular e coloc\u00e1-los em diferentes contextos.<\/p>\n

Seguindo essa ideia, a possibilidade de usar ferramentas de IA generativas sem censura pode ser entendida como parte do direito de acessar ferramentas e tecnologias para se expressar de forma criativa. Assim como o acesso a instrumentos musicais \u00e9 fundamental para a cria\u00e7\u00e3o de m\u00fasica, ou os computadores e outros dispositivos digitais s\u00e3o importantes para a fotografia, o v\u00eddeo e outras formas de express\u00e3o visual, as ferramentas generativas de IA podem ser uma ferramenta essencial para a express\u00e3o criativa e est\u00e9tica. Esse princ\u00edpio n\u00e3o envolve apenas artistas e seus procedimentos, ferramentas e materiais profissionais, mas todos os usu\u00e1rios dessas tecnologias, que, por meio da arte e de outros conte\u00fados gerados por IA, acessam e participam de uma experi\u00eancia est\u00e9tica peculiar e pessoal.<\/p>\n

Mas os direitos dos usu\u00e1rios s\u00e3o amea\u00e7ados de diferentes maneiras. Por um lado, as empresas que prestam servi\u00e7os de IA generativa criam expectativas enganosas sobre as ferramentas que oferecem; manipulam arbitrariamente os resultados e censuram o conte\u00fado; violam a privacidade de seus usu\u00e1rios; imp\u00f5em barreiras econ\u00f4micas abusivas; e investem pouco para lidar com os vieses das ferramentas.<\/p>\n

Por outro lado, os setores de conte\u00fado e os detentores de direitos autorais, alegando que essas ferramentas facilitam a viola\u00e7\u00e3o de direitos autorais por aqueles que as utilizam, promovem regulamenta\u00e7\u00f5es draconianas que incluem controle e filtragem de conte\u00fado; estigmatizam o uso de IA generativa como anti\u00e9tico ou at\u00e9 mesmo criminoso; e, por meio de seu ataque a projetos de c\u00f3digo aberto, contribuem para a concentra\u00e7\u00e3o de poder das grandes corpora\u00e7\u00f5es de tecnologia. As restri\u00e7\u00f5es e os controles que esses setores exigem para a IA generativa n\u00e3o podem ser implementados sem limitar severamente a capacidade das pessoas usu\u00e1rias<\/a> de fazer uso expressivo leg\u00edtimo das ferramentas.<\/p>\n

Uma coisa podemos ter certeza: n\u00e3o haver\u00e1 sa\u00edda progressiva para esse debate se os direitos das pessoas que usam intelig\u00eancia artificial generativa n\u00e3o come\u00e7arem a ser levados em conta. E ningu\u00e9m levar\u00e1 esses direitos em considera\u00e7\u00e3o se os pr\u00f3prios usu\u00e1rios n\u00e3o se manifestarem.<\/p>\n

 <\/p>\n

PARTE 2: <\/b>Quatro mitos e algumas reflex\u00f5es sobre a liberdade art\u00edstica<\/b><\/p>\n

 <\/p>\n

\"\"

Gerado no Stable Diffusion com o prompt inspirado no do post de Artica: Uma dada\u00edsta digital imaginando mundo possiveis ao estilo dada\u00edsta europeu dos anos 1920<\/p><\/div>\n

Nas conversas atuais sobre arte e intelig\u00eancia artificial generativa, \u00e9 comum que esses dois termos sejam colocados como opostos polares. Mas essa polaridade \u00e9 limitante, por isso aqui vamos tornar a conversa mais complexa. Se em nosso post anterior apontamos que restringir a IA generativa de acordo com os desejos de determinados setores de conte\u00fado pode afetar gravemente os direitos dos usu\u00e1rios, nesta parte falaremos sobre como essas restri\u00e7\u00f5es acabariam afetando pr\u00e1ticas art\u00edsticas emergentes que n\u00e3o s\u00e3o prejudiciais. Mas, pelo contr\u00e1rio, representam novas explora\u00e7\u00f5es criativas que n\u00e3o devem ser censuradas.<\/p>\n

A ideia de que o uso de ferramentas de IA generativas precisa ser restringido para proteger os direitos dos artistas talvez seja produto de uma leitura equivocada dos “riscos” que essas ferramentas representam para o trabalho art\u00edstico. Como dissemos na primeira postagem desta s\u00e9rie, n\u00e3o \u00e9 nosso objetivo falar sobre os “riscos” da IA em geral, nem sobre sua aplica\u00e7\u00e3o em campos em que ela pode ser particularmente problem\u00e1tica (como na seguran\u00e7a p\u00fablica e na justi\u00e7a). No campo da arte e da criatividade, vemos mais aspectos interessantes do que perigosos, mas h\u00e1 maneiras sensacionalistas de falar sobre esse debate que incentivam a falsa dicotomia “Artista X IA” e que gostar\u00edamos de ajudar a desmistificar.<\/p>\n

MITO 1: A IA VAI TORNAR OBSOLETA A CRIATIVIDADE HUMANA<\/b><\/p>\n

Um primeiro mito \u00e9 o da capacidade da IA geradora de potencialmente “alcan\u00e7ar” a criatividade humana e torn\u00e1-la obsoleta. Ele engloba a ideia simplista e enganosa de que a IA e o artista s\u00e3o entidades compar\u00e1veis e que a IA \u00e9, portanto, uma s\u00e9ria concorrente dos artistas. Em primeiro lugar, entendemos a IA generativa como uma ferramenta que n\u00e3o “faz arte”, mas que a arte pode ser feita com ela. Ela n\u00e3o \u00e9 uma entidade com capacidade criativa pr\u00f3pria e, portanto, seus resultados n\u00e3o devem ser cobertos por direitos autorais<\/b>.<\/p>\n

Apesar das manchetes da m\u00eddia que dizem “uma intelig\u00eancia artificial cria uma obra exibida em um grande museu”, “uma intelig\u00eancia artificial vence uma competi\u00e7\u00e3o de arte” etc., n\u00e3o h\u00e1 de fato nenhuma atividade autoral da intelig\u00eancia artificial, porque n\u00e3o h\u00e1 cria\u00e7\u00e3o como conhecemos em seus produtos est\u00e9ticos. Eventualmente, quando os artistas desenvolvem seu pr\u00f3prio trabalho usando essas ferramentas, s\u00e3o eles que criam coisas com a intelig\u00eancia artificial.<\/p>\n

Nas palavras do escritor de fic\u00e7\u00e3o cient\u00edfica Bruce Sterling na confer\u00eancia \u201cAI for All, From the Dark Side to the Light<\/a>\u201d, essas IAs “n\u00e3o t\u00eam senso comum… Elas n\u00e3o t\u00eam imagens. Elas n\u00e3o t\u00eam imagens. Elas t\u00eam uma rela\u00e7\u00e3o estat\u00edstica entre texto e grupos de pixels. E h\u00e1 uma beleza nisso. N\u00e3o \u00e9 uma beleza humana. \u00c9 uma imagem incr\u00edvel com a qual nenhum ser humano jamais poderia ter sonhado. Ela realmente tem presen\u00e7a, \u00e9 surreal!”.<\/p>\n

Essa posi\u00e7\u00e3o c\u00e9tica e fascinada nos permite escapar de no\u00e7\u00f5es estereotipadas e dicotomias enganosas. Nos leva tamb\u00e9m a perguntar quais coisas concretas os artistas est\u00e3o fazendo com as intelig\u00eancias artificiais generativa. Como eles est\u00e3o trabalhando com essa “rela\u00e7\u00e3o estat\u00edstica entre textos e grupos de pixels” que abre as portas para a explora\u00e7\u00e3o criativa de um imagin\u00e1rio n\u00e3o humano e surreal. Quais processos e procedimentos art\u00edsticos est\u00e3o surgindo dessa explora\u00e7\u00e3o.<\/p>\n

Os artistas sempre usaram novas tecnologias. Tanto de forma “correta”, aprendendo a t\u00e9cnica e seguindo o c\u00e2none, quanto de forma subversiva, desafiando a tend\u00eancia dominante e invadindo as formas comuns de fazer. Isso n\u00e3o \u00e9 diferente com a intelig\u00eancia artificial generativa. Para pensar em pr\u00e1ticas art\u00edsticas com IA, \u00e9 preciso analisar suas potencialidades e limita\u00e7\u00f5es, entendendo que os artistas trabalham em ambos os campos: no reino do poss\u00edvel e de suas limita\u00e7\u00f5es. E que eles n\u00e3o apenas tomam os desenvolvimentos da tecnologia como dados, mas tamb\u00e9m modificam esses termos – o que \u00e9 poss\u00edvel, quais s\u00e3o os limites, quais estrat\u00e9gias art\u00edsticas podem resistir e desafiar a ordem tecnosocial.<\/p>\n

Para entender melhor isso, vale trazer o exemplo da pr\u00e1tica de uma artista, Kira Xonorica<\/a>, que trabalha com base na gera\u00e7\u00e3o de imagens que desafiam as no\u00e7\u00f5es bin\u00e1rias de g\u00eanero e os limites entre natureza, humanidade e tecnologia, para criar vis\u00f5es feministas futuristas e ut\u00f3picas.<\/p>\n

\"\"

Obra digital de Kira Xonorica realizada com processos generativos<\/p><\/div>\n

Em uma entrevista para o site expanded.art<\/a>, Kira diz que o potencial da IA generativa est\u00e1 justamente na capacidade de visualizar e explorar perspectivas do mundo por meio de dados de uma forma que talvez n\u00e3o fosse poss\u00edvel sem essas ferramentas computacionais, j\u00e1 que a IA generativa se baseia na an\u00e1lise de milh\u00f5es de imagens, descri\u00e7\u00f5es e r\u00f3tulos. Mas tamb\u00e9m h\u00e1 limita\u00e7\u00f5es para as imagens visuais que essas tecnologias nos permitem explorar, devido aos vieses introduzidos nos modelos e nos dados de treinamento. Kira acredita que “a tend\u00eancia inerente aos conjuntos de dados n\u00e3o \u00e9 surpreendente. Ao fim e ao cabo, o banco de imagens no qual eles se baseiam se baseia em s\u00e9culos de hist\u00f3ria da arte e em outras disciplinas que produzem e moldam nossa imagina\u00e7\u00e3o visual coletiva”.<\/p>\n

As vis\u00f5es alarmistas e proibicionistas, que ignoram esses processos de explora\u00e7\u00e3o de limites e possibilidades, s\u00e3o perigosas porque censuram e inibem as buscas criativas. Os vieses e outros problemas s\u00e9rios com essas ferramentas n\u00e3o devem nos levar ao p\u00e2nico, mas a uma an\u00e1lise cr\u00edtica que leve em conta os contextos de cria\u00e7\u00e3o e uso de imagens geradas por IA, incluindo os conjuntos de dados de treinamento nos quais as v\u00e1rias ferramentas se baseiam, bem como as maneiras pelas quais essas ferramentas s\u00e3o projetadas e desenvolvidas. A an\u00e1lise tamb\u00e9m deve incorporar os custos ambientais e as condi\u00e7\u00f5es de trabalho nas empresas de IA, sobre os quais n\u00e3o vamos discorrer nesta postagem.<\/p>\n

 <\/p>\n

MITO 2: CRIAR IMAGENS DE PESSOAS REAIS \u00c9 INERENTEMENTE PERIGOSO<\/strong><\/p>\n

A gera\u00e7\u00e3o de imagens com pessoas reais reconhec\u00edveis \u00e9 uma pr\u00e1tica considerada uma das mais arriscadas, pois pode ser usada para ataques \u00e0 honra e \u00e0 dignidade dessas pessoas. Entretanto, essa pr\u00e1tica tamb\u00e9m pode ser uma maneira de explorar hist\u00f3rias alternativas de forma imaginativa, sem ser confundida com uma imagem da realidade ou necessariamente causar danos a qualquer pessoa. Esse \u00e9 o caso, por exemplo, de @arteficialismo<\/a>, que fez uma s\u00e9rie que nos faz imaginar como seriam as pessoas famosas se, depois de perderem tudo, fossem morar em uma favela brasileira.<\/p>\n

\"\"<\/p>\n

 <\/p>\n

MITO 3: AS OBRAS GERADAS POR IA S\u00c3O SEMPRE IMITA\u00c7\u00d5ES<\/strong><\/p>\n

E o que dizer do uso de obras art\u00edsticas j\u00e1 existentes para criar novas obras com intelig\u00eancia artificial? Esse talvez seja um dos maiores debates atuais. A quest\u00e3o \u00e9 dividida em duas dimens\u00f5es.<\/p>\n

A primeira \u00e9 se uma nova cria\u00e7\u00e3o de IA generativa, baseada em obras ou estilos preexistentes, pode infringir o direito dos criadores dessas obras ou dos artistas de refer\u00eancia desses estilos<\/b>. Embora estas infra\u00e7\u00f5es de fato possam ocorrer, elas n\u00e3o podem ser dadas a priori; tudo depende do caso espec\u00edfico. O que deve ficar claro \u00e9 que os estilos art\u00edsticos em si n\u00e3o s\u00e3o protegidos por direitos autorais<\/a> e que a grande maioria das obras geradas em um determinado estilo ou com determinados criadores de refer\u00eancia n\u00e3o s\u00e3o necessariamente<\/i> obras derivadas. Elas podem ou n\u00e3o ser – assim como muitas obras n\u00e3o geradas com intelig\u00eancia artificial tamb\u00e9m podem ser. Acreditamos que, em grande parte, nossa an\u00e1lise de v\u00e1rios anos atr\u00e1s sobre a cultura remix<\/a> e a necessidade de distinguir, em cada caso, o conceito de pl\u00e1gio, trabalho derivado e usos transformadores pode enquadrar muito bem essa discuss\u00e3o.<\/p>\n

A segunda dimens\u00e3o \u00e9 se a cria\u00e7\u00e3o de ferramentas de IA generativas infringe os copyrights de obras de direitos reservados que s\u00e3o parte de cole\u00e7\u00f5es de dados de treinamento<\/b>. Para responder a essa pergunta, \u00e9 importante saber que o treinamento de modelos de IA generativa n\u00e3o envolve a c\u00f3pia dos aspectos expressivos das obras, mas sim a an\u00e1lise e a sistematiza\u00e7\u00e3o de dados sobre essas obras, com base em um grande n\u00famero de par\u00e2metros que v\u00e3o novas imagens, textos ou outros conte\u00fados. O modelo nem sequer mant\u00e9m c\u00f3pias das imagens de treinamento, como explica o analista de pol\u00edticas de propriedade intelectual Matthew Lane<\/a>: “Depois que cada imagem \u00e9 incorporada ao modelo, ela \u00e9 basicamente lixo. Ela n\u00e3o \u00e9 armazenada no modelo, apenas os conceitos [s\u00e3o armazenados]. E, idealmente, esses conceitos n\u00e3o devem ser vinculados a uma \u00fanica imagem”. Em outras palavras: a express\u00e3o autoral das obras n\u00e3o \u00e9 armazenada, copiada, redistribu\u00edda ou comunicada, mas analisada em grandes quantidades para estabelecer conceitos a partir dos quais gerar imagens.<\/p>\n

\u00c9 por isso que n\u00e3o se pode presumir a priori que os modelos ser\u00e3o usados apenas para gerar imita\u00e7\u00f5es, mas que cada caso dever\u00e1 ser avaliado a posteriori e de modo concreto. Nem aqueles que desenvolvem a ferramenta nem aqueles que a utilizam devem, em nenhum caso, ser impedidos de se basear em refer\u00eancias culturais e art\u00edsticas anteriores. Caso contr\u00e1rio, o patrim\u00f4nio cultural e est\u00e9tico seria privatizado de uma forma sem precedentes, prejudicando a liberdade criativa atual e futura. E, j\u00e1 que estamos falando disso, n\u00e3o devemos nos esquecer de que, muitas vezes, s\u00e3o os pr\u00f3prios artistas que trabalham com ferramentas de IA<\/a>, treinando modelos com cole\u00e7\u00f5es de dados espec\u00edficas ou at\u00e9 mesmo participando do desenvolvimento e da adapta\u00e7\u00e3o de ferramentas de IA a partir de ferramentas de IA de c\u00f3digo aberto.<\/p>\n

 <\/p>\n

MITO 4: N\u00c3O SE PODE CRIAR GENUINAMENTE USANDO IA<\/strong><\/p>\n

Por fim, se estivermos falando de liberdade criativa, podemos perguntar at\u00e9 que ponto os artistas est\u00e3o realmente criando algo novo com a IA generativa. Dissemos anteriormente que a IA n\u00e3o tem ag\u00eancia nem capacidade criativa pr\u00f3pria, mas onde fica o processo criativo das pessoas que usam essas ferramentas? At\u00e9 que ponto podemos ir al\u00e9m da gera\u00e7\u00e3o autom\u00e1tica de imagens para desenvolver algo que possa ser chamado de “obra” e o criador de “artista”? A resposta, mais uma vez, depende do uso e do contexto da cria\u00e7\u00e3o, e de como cada pessoa que cria com IA generativa define sua atividade.<\/p>\n

Em outro trabalho compartilhado por @arteficialismo no Instagram<\/a>, no qual retratos famosos da hist\u00f3ria da arte s\u00e3o representados como pessoas de carne e osso, algu\u00e9m pergunta: “como voc\u00ea pode se considerar um artista? Ao que @arteficialismo responde: “Nunca me considerei… durante toda a minha vida fiz desenhos, photoshop, etc… e as pessoas sempre tentaram me rotular como artista e eu sempre rejeitei esse ‘t\u00edtulo’. Agora eu s\u00f3 fa\u00e7o essas imagens de IA e as pessoas tentam dizer que eu n\u00e3o sou um artista, como se isso significasse alguma coisa para mim ou me fizesse parar de fazer as imagens por algum motivo.”<\/p>\n

 <\/p>\n

\"\"<\/p>\n

Por sua vez, Kira Xonorica, na entrevista citada acima, disse: “O que eu adoro na IA \u00e9 que ela envolve um processo de contar hist\u00f3rias. Quando voc\u00ea cria, \u00e9 como assistir a um filme ou escrever seu pr\u00f3prio romance. Voc\u00ea nunca sabe aonde isso vai lev\u00e1-lo, voc\u00ea s\u00f3 tem ideias generativas e as sobrep\u00f5e umas \u00e0s outras, essa \u00e9 a beleza do jogo”.<\/p>\n

Em \u00faltima an\u00e1lise, a cria\u00e7\u00e3o por meio de m\u00e9todos generativos abrange uma variedade de processos que n\u00e3o podemos determinar a priori como art\u00edsticos ou n\u00e3o art\u00edsticos. Muitas vezes, esses processos envolvem longas horas de aprendizado e experimentos com e a partir de resultados gerados por IA. Mas n\u00e3o s\u00e3o nem as horas nem o esfor\u00e7o que d\u00e3o significado art\u00edstico a esses trabalhos; muito menos uma IA. Argumentamos, por fim, que a arte pode ser feita com IA generativa e que isso ainda depende, como sempre, do contexto da cria\u00e7\u00e3o pessoal e da recep\u00e7\u00e3o cultural. A an\u00e1lise diante da massifica\u00e7\u00e3o da IA generativa deve ser cr\u00edtica, matizada e situada, n\u00e3o moldada nem pelas empresas que vendem essas tecnologias e nem guiada por mensagens de p\u00e2nico que apenas impedir\u00e3o os artistas de participar do debate sobre seu desenvolvimento e de se apropriar criativamente dessas ferramentas.<\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

Publicado originalmente em Artica por Jorge Gemetto e Mariana Fossati em duas partes: 1\u00ba em 28\/5\/2023 e 2\u00ba em 5 de junho de 2023. Traduzido e adaptado do espanhol por Leonardo Foletto.   PARTE 1: Algu\u00e9m quer pensar nas pessoas usu\u00e1rias? A partir da disponibilidade de ferramentas como DALL-E, Stable Diffusion ou Midjourney para gera\u00e7\u00e3o […]<\/p>\n","protected":false},"author":2,"featured_media":15284,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[203],"tags":[2238,146,147,1651,2260,1837],"post_folder":[],"jetpack_featured_media_url":"https:\/\/baixacultura.org\/wp-content\/uploads\/2023\/06\/dadaista-digital-imaginando-mundos-posibles-edited.jpeg","_links":{"self":[{"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/posts\/15282"}],"collection":[{"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/comments?post=15282"}],"version-history":[{"count":4,"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/posts\/15282\/revisions"}],"predecessor-version":[{"id":15309,"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/posts\/15282\/revisions\/15309"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/media\/15284"}],"wp:attachment":[{"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/media?parent=15282"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/categories?post=15282"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/tags?post=15282"},{"taxonomy":"post_folder","embeddable":true,"href":"https:\/\/baixacultura.org\/wp-json\/wp\/v2\/post_folder?post=15282"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}