Segundo porque Pasquinelli, professor de filosofia da ci\u00eancia na Universidade Foscari, em Veneza, tem, ele pr\u00f3prio, um <\/span>belo hist\u00f3rico<\/a><\/strong> em se debru\u00e7ar nos estudos da filosofia da t\u00e9cnica. Eu o conheci pela primeira vez h\u00e1 cerca de 10 anos atr\u00e1s, quando o artigo \u201cA ideologia da cultura livre e a gram\u00e1tica da sabotagem\u201d saiu como cap\u00edtulo do Copyfight<\/strong><\/a>, importante livro organizado por Bruno Tarin e Adriano Belis\u00e1rio. Depois, outros textos de Pasquinelli foram publicados em portugu\u00eas pelo coletivo Universidade N\u00f4made; um deles, \u201c<\/span>O algoritmo do PageRank do Google: Um diagrama do capitalismo cognitivo e da explora\u00e7\u00e3o da intelig\u00eancia social geral<\/span><\/a>\u201d, j\u00e1 em 2012 apontava para a explora\u00e7\u00e3o da “intelig\u00eancia social geral\u201d por algoritmos das big techs – o que hoje, com IAs generativas, virou um consenso global.<\/span><\/p>\n Ainda estou digerindo a leitura da obra e me debru\u00e7ando sobre alguns t\u00f3picos e refer\u00eancias citados, enquanto espero minha c\u00f3pia impressa do original chegar para rabiscar e estudar com mais calma. Encharcado de uma saborosa empolga\u00e7\u00e3o intelectual, daquelas que nos deixam ao mesmo tempo animado pelas descobertas e ansioso em compartilhar esses achados, fui ao texto que Pasquinelli publicou no E-Flux, em dezembro de 2023, \u201c<\/span>The Automation of General Intelligence<\/a><\/strong>\u201d e traduzi para o portugu\u00eas. O texto publicado \u00e9 uma vers\u00e3o do posf\u00e1cio do livro, onde o italiano sintetiza alguns pontos da obra e aponta caminhos tanto para a discuss\u00e3o te\u00f3rica quanto para a disputa ativista. Com a ajuda do amigo Leonardo Palma, busquei traduzir cotejando e adaptando alguns conceitos para o portugu\u00eas brasileiro, tentando quando poss\u00edvel trazer refer\u00eancias \u00e0s obras j\u00e1 publicadas por aqui.\u00a0<\/span><\/p>\n Para acompanhar o texto, trouxe as imagens que ilustram a publica\u00e7\u00e3o no E-Flux. Disponibilizo tamb\u00e9m o livro inteiro em ingl\u00eas, publicado pela <\/span>Verso Books<\/span><\/a> (edi\u00e7\u00f5es em outros idiomas est\u00e3o vindo) – \u201c<\/span>The Eye of the Master: A Social History of Artificial Intelligence<\/b>\u201d – para baixar – mas voc\u00ea sabe, n\u00e3o \u00e9 para espalhar<\/a>.<\/strong><\/span><\/p>\n [Leonardo Foletto]<\/strong><\/p>\n Queremos fazer as perguntas certas. Como as ferramentas funcionam? Quem as financia e as constroi, e como s\u00e3o usadas? A quem elas enriquecem e a quem elas empobrecem? Que futuros elas tornam vi\u00e1veis e quais excluem? N\u00e3o estamos procurando respostas. Estamos procurando por l\u00f3gica. Vivemos na era dos dados digitais e, nessa era, a matem\u00e1tica se tornou o parlamento da pol\u00edtica. A lei social se entrela\u00e7ou com modelos, teoremas e algoritmos. Com os dados digitais, a matem\u00e1tica se tornou o meio dominante pelo qual os seres humanos se coordenam com a tecnologia… Afinal, a matem\u00e1tica \u00e9 uma atividade humana. Como qualquer outra atividade humana, ela traz consigo as possibilidades tanto de emancipa\u00e7\u00e3o quanto de opress\u00e3o. “A mesma import\u00e2ncia que as rel\u00edquias de ossos t\u00eam para o conhecimento da organiza\u00e7\u00e3o das esp\u00e9cies de animais extintas t\u00eam <\/span><\/i>tamb\u00e9m as rel\u00edquias de meios de trabalho para a compreens\u00e3o de forma\u00e7\u00f5es socioecon\u00f4micas extintas. O que diferencia as \u00e9pocas econ\u00f4micas n\u00e3o \u00e9 \u201co que\u201d \u00e9 produzido, mas \u201ccomo\u201d, \u201ccom que meios de trabalho\u201d. Estes n\u00e3o apenas fornecem uma medida do grau de desenvolvimento da for\u00e7a de trabalho, mas tamb\u00e9m indicam as condi\u00e7\u00f5es sociais nas quais se trabalha\u201d. <\/p>\n <\/p>\n Este livro [\u201c <\/span>O Olho do Mestre\u201d<\/span><\/i>] come\u00e7ou com uma pergunta simples: Que rela\u00e7\u00e3o existe entre o trabalho, as regras e a automa\u00e7\u00e3o, ou seja, a inven\u00e7\u00e3o de novas tecnologias? Para responder a esta quest\u00e3o, iluminou pr\u00e1ticas, m\u00e1quinas e algoritmos a partir de diferentes perspectivas – da dimens\u00e3o “concreta” da produ\u00e7\u00e3o e da dimens\u00e3o “abstrata” de disciplinas como a matem\u00e1tica e a inform\u00e1tica. A preocupa\u00e7\u00e3o, no entanto, n\u00e3o tem sido repetir a separa\u00e7\u00e3o dos dom\u00ednios concreto e abstrato, mas ver a sua coevolu\u00e7\u00e3o ao longo da hist\u00f3ria: eventualmente, investigar o trabalho, as regras e a automa\u00e7\u00e3o, dialeticamente, como abstra\u00e7\u00f5es materiais. O cap\u00edtulo inicial sublinha este aspecto, destacando como os rituais antigos, os instrumentos de contagem e os “algoritmos sociais” contribu\u00edram para a elabora\u00e7\u00e3o das ideias matem\u00e1ticas. Afirmar, como o fez a introdu\u00e7\u00e3o, que o trabalho \u00e9 uma atividade l\u00f3gica n\u00e3o \u00e9 uma forma de abdicar da mentalidade das <\/span>m\u00e1quinas industriais e dos algoritmos empresariais, mas antes reconhecer que a pr\u00e1xis humana exprime a sua pr\u00f3pria l\u00f3gica (uma anti-l\u00f3gica, poderia se dizer) – um poder de especula\u00e7\u00e3o e inven\u00e7\u00e3o, antes de a tecnoci\u00eancia o capturar e alienar [4]<\/span>.<\/span><\/p>\n A tese de que o trabalho tem de se tornar “mec\u00e2nico” por si s\u00f3, antes que a maquinaria o substitua, \u00e9 um velho princ\u00edpio fundamental que foi simplesmente esquecido. Remonta, pelo menos, \u00e0 exposi\u00e7\u00e3o de Adam Smith em \u201cA Riqueza das Na\u00e7\u00f5es\u201d (1776), que Hegel tamb\u00e9m comentou j\u00e1 nas suas confer\u00eancias de Jena (1805-6). A no\u00e7\u00e3o de Hegel de “trabalho abstrato” como o trabalho que d\u00e1 “forma” \u00e0 maquinaria j\u00e1 estava em d\u00edvida para com a economia pol\u00edtica brit\u00e2nica antes de Marx contribuir com a sua pr\u00f3pria cr\u00edtica radical ao conceito. Coube a Charles Babbage sistematizar a vis\u00e3o de Adam Smith numa consistente “teoria do trabalho da automa\u00e7\u00e3o”. Babbage complementou esta teoria com o “princ\u00edpio do c\u00e1lculo do trabalho” (conhecido desde ent\u00e3o como o “princ\u00edpio de Babbage”) para indicar que a divis\u00e3o do trabalho tamb\u00e9m permite o c\u00e1lculo exato dos custos do trabalho. Este livro pode ser considerado uma exegese dos dois “princ\u00edpios de an\u00e1lise do trabalho” de Babbage e da sua influ\u00eancia na hist\u00f3ria comum da economia pol\u00edtica, da computa\u00e7\u00e3o automatizada e da intelig\u00eancia das m\u00e1quinas. Embora possa parecer anacr\u00f4nico, a teoria da automatiza\u00e7\u00e3o e da extra\u00e7\u00e3o de mais-valia relativa de Marx partilha postulados comuns com os primeiros projetos de intelig\u00eancia artificial.<\/span><\/p>\n Marx derrubou a perspetiva industrialista – “o olho do mestre” – que era inerente aos princ\u00edpios de Babbage. Em \u201cO Capital\u201d, argumentou que as “rela\u00e7\u00f5es sociais de produ\u00e7\u00e3o” (a divis\u00e3o do trabalho no sistema salarial) impulsionam o desenvolvimento dos “meios de produ\u00e7\u00e3o” (m\u00e1quinas-ferramentas, motores a vapor, etc.) e n\u00e3o o contr\u00e1rio, como as leituras tecno-deterministas t\u00eam vindo a afirmar, centrando a revolu\u00e7\u00e3o industrial apenas na inova\u00e7\u00e3o tecnol\u00f3gica. Destes princ\u00edpios de an\u00e1lise do trabalho, Marx fez ainda outra coisa: considerou a coopera\u00e7\u00e3o do trabalho n\u00e3o s\u00f3 como um princ\u00edpio para explicar o design das m\u00e1quinas, mas tamb\u00e9m para definir a centralidade pol\u00edtica daquilo a <\/span>que chamou o “<\/span>Gesamtarbeiter<\/span><\/i>“, o “trabalhador geral”. A figura do trabalhador geral era uma forma de reconhecer a dimens\u00e3o maqu\u00ednica do trabalho vivo e de confrontar o “vasto aut\u00f4mato” da f\u00e1brica industrial com a mesma escala de complexidade. Eventualmente, foi tamb\u00e9m uma figura necess\u00e1ria para fundamentar, numa pol\u00edtica mais s\u00f3lida, a ideia ambivalente do “intelecto geral” (<\/span>general intellect)<\/span><\/i> que os socialistas ricardianos, como William Thompson e Thomas Hodgskin, perseguiam.<\/span><\/p>\n Este livro apresentou uma hist\u00f3ria alargada da divis\u00e3o do trabalho e das suas m\u00e9tricas como forma de identificar o princ\u00edpio operativo da IA a longo prazo. Como vimos, na virada do s\u00e9culo XIX, quanto mais a divis\u00e3o do trabalho se estendia a um mundo globalizado, mais problem\u00e1tica se tornava a sua gest\u00e3o, exigindo novas t\u00e9cnicas de comunica\u00e7\u00e3o, controle e “intelig\u00eancia”. Se, no interior da f\u00e1brica a gest\u00e3o do trabalho podia ainda ser esbo\u00e7ada num simples fluxograma e medida por um rel\u00f3gio, era muito complicado visualizar e quantificar aquilo que \u00c9mile Durkheim, j\u00e1 em 1893, definia como “a divis\u00e3o do trabalho social<\/span>“[5]. A “intelig\u00eancia” do patr\u00e3o da f\u00e1brica j\u00e1 n\u00e3o podia vigiar todo o processo de produ\u00e7\u00e3o num \u00fanico olhar; agora, s\u00f3 as infra-estruturas de comunica\u00e7\u00e3o podiam desempenhar esse papel de supervis\u00e3o e quantifica\u00e7\u00e3o. Os novos meios de comunica\u00e7\u00e3o de massas, como o tel\u00e9grafo, o telefone, a r\u00e1dio e as redes de televis\u00e3o, tornaram poss\u00edvel a comunica\u00e7\u00e3o entre pa\u00edses e continentes, mas tamb\u00e9m abriram novas perspectivas sobre a sociedade e os comportamentos coletivos. James Beniger descreveu corretamente a ascens\u00e3o das tecnologias da informa\u00e7\u00e3o como uma “revolu\u00e7\u00e3o do controle” que se revelou necess\u00e1ria nesse per\u00edodo para governar o boom econ\u00f4mico e o excedente comercial do Norte Global.\u00a0 Ap\u00f3s a Segunda Guerra Mundial, o controle desta log\u00edstica alargada passou a ser preocupa\u00e7\u00e3o de uma nova disciplina militar que fazia a ponte entre a matem\u00e1tica e a gest\u00e3o: a pesquisa operacional (<\/span>Operations Research<\/span><\/i>). No entanto, h\u00e1 que ter em conta que as transforma\u00e7\u00f5es da classe trabalhadora no interior de cada pa\u00eds e entre pa\u00edses, marcadas por ciclos de conflitos urbanos e lutas descoloniais, foram tamb\u00e9m um dos fatores que levaram ao aparecimento destas novas tecnologias de controle.<\/span><\/p>\n A mudan\u00e7a de escala da composi\u00e7\u00e3o do trabalho do s\u00e9culo XIX para o s\u00e9culo XX tamb\u00e9m afetou a<\/span> l\u00f3gica da automatiza\u00e7\u00e3o<\/span><\/i>, ou seja, os paradigmas cient\u00edficos envolvidos nesta transforma\u00e7\u00e3o. A divis\u00e3o industrial do trabalho relativamente simples e as suas linhas de montagem aparentemente retil\u00edneas podem ser facilmente comparadas a um simples algoritmo, um procedimento baseado em regras com uma estrutura “se\/ent\u00e3o<\/em>“(<\/span>if\/then<\/span><\/i>) que tem o seu equivalente na forma l\u00f3gica da <\/span>dedu\u00e7\u00e3o<\/span><\/i>. A dedu\u00e7\u00e3o, n\u00e3o por coincid\u00eancia, \u00e9 a forma l\u00f3gica que, atrav\u00e9s de Leibniz, Babbage, Shannon e Turing,<\/span> se inervou na computa\u00e7\u00e3o eletromec\u00e2nica e, eventualmente, na IA simb\u00f3lica. A l\u00f3gica dedutiva \u00e9 \u00fatil para modelar processos simples, mas n\u00e3o sistemas com uma multiplicidade de agentes aut\u00f4nomos, como a sociedade, o mercado ou o c\u00e9rebro. Nestes casos, a l\u00f3gica dedutiva \u00e9 inadequada porque explodiria qualquer procedimento, m\u00e1quina ou algoritmo num n\u00famero exponencial de instru\u00e7\u00f5es. A partir de preocupa\u00e7\u00f5es semelhantes, a cibern\u00e9tica come\u00e7ou a investigar a auto-organiza\u00e7\u00e3o em seres vivos e m\u00e1quinas para simular a ordem em sistemas de alta complexidade que n\u00e3o podiam ser facilmente organizados de acordo com m\u00e9todos hier\u00e1rquicos e centralizados. Esta foi fundamentalmente a raz\u00e3o de ser do conexionismo e das redes neurais artificiais, bem como da investiga\u00e7\u00e3o inicial sobre redes de comunica\u00e7\u00e3o distribu\u00eddas, como a Arpanet (a progenitora da Internet).<\/span><\/p>\n Ao longo do s\u00e9culo XX, muitas outras disciplinas registaram a crescente complexidade das rela\u00e7\u00f5es sociais. Os conceitos g\u00eameos de “<\/span>Gestalt<\/span><\/i>” e “padr\u00e3o” (<\/span>\u201cpattern<\/span><\/i>\u201d), por exemplo, utilizados respectivamente por Kurt Lewin e Friedrich Hayek, foram um exemplo da forma como a psicologia e a economia responderam a uma nova composi\u00e7\u00e3o da sociedade. Lewin introduziu no\u00e7\u00f5es hol\u00edsticas como “campo de for\u00e7as”(<\/span>\u201cforce field<\/span><\/i>\u201d) e “espa\u00e7o hodol\u00f3gico” (\u201c<\/span>hodological space\u201d<\/span><\/i>) para mapear a din\u00e2mica de grupo a diferentes escalas entre o indiv\u00edduo e a sociedade de massas[6]<\/span>.<\/span><\/p>\n O pensamento franc\u00eas tem sido particularmente f\u00e9rtil e progressivo nesta dire\u00e7\u00e3o. Os fil\u00f3sofos Gaston Bachelard e Henri Lefebvre propuseram, por exemplo, o m\u00e9todo da<\/span> “ritman\u00e1lise” (\u201c<\/span>rhythmanalysis<\/span><\/i>\u201d) como estudo dos ritmos sociais no espa\u00e7o urbano (que Lefebvre descreveu de acordo com as quatro tipologias de arritmia, polirritmia, eurritmia e isorritmia [7]<\/span>). De forma semelhante, a arqueologia francesa dedicou-se ao estudo de formas alargadas de comportamento social nas civiliza\u00e7\u00f5es antigas. Por exemplo, o paleoantrop\u00f3logo Andr\u00e9 Leroi-Gourhan, juntamente com outros, introduziu a ideia de cadeia operacional (\u201c<\/span>cha\u00eene op\u00e9ratoire<\/span><\/i>\u201d) para explicar a forma como os humanos pr\u00e9-hist\u00f3ricos produziam utens\u00edlios [8]<\/span>. No culminar desta longa tradi\u00e7\u00e3o de “diagramatiza\u00e7\u00e3o” dos comportamentos sociais no pensamento franc\u00eas, Gilles Deleuze escreveu o seu c\u00e9lebre “P\u00f3s-escrito sobre a Sociedade de Controle”, no qual afirmava que o poder j\u00e1 n\u00e3o se preocupava com a disciplina dos indiv\u00edduos, mas com o controle dos “dividuais”, ou seja, dos fragmentos de um corpo alargado e desconstru\u00eddo [9]<\/span>.<\/span><\/p>\n Os campos de for\u00e7a de Lewin, os ritmos urbanos de Lefebvre e os dividuais de Deleuze podem ser vistos como previs\u00f5es dos princ\u00edpios de “governa\u00e7\u00e3o algor\u00edtmica” que se estabeleceram com a sociedade em rede e os seus vastos centros de dados desde o final da d\u00e9cada de 1990. O lan\u00e7amento em 1998 do algoritmo PageRank da Google – um m\u00e9todo para organizar e pesquisar o hipertexto ca\u00f3tico da Web – \u00e9 considerado, por conven\u00e7\u00e3o, a primeira elabora\u00e7\u00e3o em grande escala de “grandes dados” das redes digitais [10]<\/span>. Atualmente, estas t\u00e9cnicas de mapeamento de redes tornaram-se onipresentes: O Facebook, por exemplo, utiliza o protocolo <\/span>Open Graph<\/span><\/i> para quantificar as redes de rela\u00e7\u00f5es humanas que alimentam a economia da aten\u00e7\u00e3o da sua plataforma [11]<\/span>. O ex\u00e9rcito dos EUA tem utilizado as suas pr\u00f3prias t\u00e9cnicas controversas de “an\u00e1lise de padr\u00f5es de vida” para mapear redes sociais em zonas de guerra e identificar alvos de ataques de drones que, como \u00e9 sabido, mataram civis inocentes [12]<\/span>. Mais recentemente, as plataformas da gig economy (\u201cEconomia do Bico\u201d) e os gigantes da log\u00edstica, como a Uber, a Deliveroo, a Wolt e a Amazon, come\u00e7aram a localizar a sua frota de passageiros e condutores atrav\u00e9s de aplica\u00e7\u00f5es de geolocaliza\u00e7\u00e3o [13]<\/span>. Todas estas t\u00e9cnicas fazem parte do novo dom\u00ednio da “an\u00e1lise de pessoas” (tamb\u00e9m conhecida como “f\u00edsica social” ou “psicografia”), que \u00e9 a aplica\u00e7\u00e3o da estat\u00edstica, da an\u00e1lise de dados e da aprendizagem autom\u00e1tica ao problema da for\u00e7a de trabalho na sociedade p\u00f3s-industrial [14]<\/span>.<\/span><\/p>\n \u00a0<\/span><\/p>\n A automa\u00e7\u00e3o da psicometria, ou intelig\u00eancia geral (<\/b>general intellect<\/i><\/b>)<\/b><\/p>\n A divis\u00e3o do trabalho, tal como o design das m\u00e1quinas e dos algoritmos, n\u00e3o \u00e9 uma forma abstrata em si, mas um meio de medir o trabalho e os comportamentos sociais e de diferenciar as pessoas em fun\u00e7\u00e3o da sua capacidade produtiva. Tal como os princ\u00edpios de Babbage indicam, qualquer divis\u00e3o do trabalho implica uma m\u00e9trica: uma medi\u00e7\u00e3o da performatividade e da efici\u00eancia dos trabalhadores, mas tamb\u00e9m um ju\u00edzo sobre as classes de compet\u00eancias, o que implica uma hierarquia social impl\u00edcita. A m\u00e9trica do trabalho foi introduzida para avaliar o que \u00e9 e o que n\u00e3o \u00e9 produtivo, para manipular uma assimetria social e, ao mesmo tempo, declarar uma equival\u00eancia ao sistema monet\u00e1rio. Durante a era moderna, as f\u00e1bricas, os quart\u00e9is e os hospitais t\u00eam procurado disciplinar e organizar os corpos e as mentes com m\u00e9todos semelhantes, tal como Michel Foucault, entre outros, pressentiu.<\/span><\/p>\n No final do s\u00e9culo XIX, a metrologia do trabalho e dos comportamentos encontrou um aliado num novo campo da estat\u00edstica: a <\/span>psicometria<\/span><\/a>. A psicometria tinha como objetivo medir as compet\u00eancias da popula\u00e7\u00e3o na resolu\u00e7\u00e3o de tarefas b\u00e1sicas, fazendo compara\u00e7\u00f5es estat\u00edsticas em testes cognitivos em vez de medir o desempenho f\u00edsico, como no campo anterior da psicof\u00edsica [15]<\/span>. Como parte do legado controverso de Alfred Binet, Charles Spearman e Louis Thurstone, a psicometria pode ser considerada uma das principais genealogias da estat\u00edstica, que nunca foi uma disciplina neutra, mas sim uma disciplina preocupada com a “medida do homem”, a institui\u00e7\u00e3o de normas de comportamento e a repress\u00e3o de anomalias [16]<\/span>. <\/span>A transforma\u00e7\u00e3o da m\u00e9trica do trabalho em psicometria do trabalho \u00e9 uma passagem fundamental tanto para a gest\u00e3o como para o desenvolvimento tecnol\u00f3gico no s\u00e9culo XX<\/span><\/i>. \u00c9 revelador que, ao conceber o primeiro <\/span>perceptron<\/span><\/i> de rede neural artificial, Frank Rosenblatt tenha se inspirado n\u00e3o s\u00f3 nas teorias da neuroplasticidade, mas tamb\u00e9m nas ferramentas de an\u00e1lise multivari\u00e1vel que a psicometria importou para a psicologia norte-americana na d\u00e9cada de 1950.<\/span><\/p>\n Nesta perspetiva, este livro tenta esclarecer como o projeto de IA surgiu, na realidade, da <\/span>automa\u00e7\u00e3o da psicometria do trabalho e dos comportamentos sociais – e n\u00e3o da procura da solu\u00e7\u00e3o do “enigma” da intelig\u00eancia<\/span><\/i>. Num resumo conciso da hist\u00f3ria da IA, pode se dizer que a mecaniza\u00e7\u00e3o do \u201cintelecto geral\u201d (\u201c<\/span>general intellect\u201d<\/span><\/i>) da era industrial na “intelig\u00eancia artificial” do s\u00e9culo XXI foi poss\u00edvel gra\u00e7as \u00e0 medi\u00e7\u00e3o estat\u00edstica da compet\u00eancia, como o fator de “intelig\u00eancia geral” de Spearman, e \u00e0 sua posterior automatiza\u00e7\u00e3o em redes neurais artificiais. Se na era industrial a m\u00e1quina era considerada uma encarna\u00e7\u00e3o da ci\u00eancia, do conhecimento e do “intelecto geral” (\u201c<\/span>general intellect\u201d<\/span><\/i>) dos trabalhadores, na era da informa\u00e7\u00e3o as redes neurais artificiais tornaram-se as primeiras m\u00e1quinas a codificar a “intelig\u00eancia geral” em ferramentas estat\u00edsticas – no in\u00edcio, especificamente, para automatizar o reconhecimento de padr\u00f5es como uma das tarefas-chave da “intelig\u00eancia artificial”. Em suma, a forma atual de IA, a aprendizagem autom\u00e1tica, \u00e9 a automatiza\u00e7\u00e3o das m\u00e9tricas estat\u00edsticas que foram originalmente introduzidas para quantificar as capacidades cognitivas, sociais e relacionadas com o trabalho. A aplica\u00e7\u00e3o da psicometria atrav\u00e9s das tecnologias da informa\u00e7\u00e3o n\u00e3o \u00e9 um fen\u00f4meno exclusivo da aprendizagem autom\u00e1tica. O esc\u00e2ndalo de dados de 2018 entre o Facebook e a Cambridge Analytica, em que a empresa de consultoria conseguiu recolher os dados pessoais de milh\u00f5es de pessoas sem o seu consentimento, \u00e9 um lembrete de como a psicometria em grande escala continua a ser utilizada por empresas e atores estatais numa tentativa de prever e manipular comportamentos coletivos [17]<\/span>.<\/span><\/p>\n Dado o seu legado nas ferramentas estat\u00edsticas da biometria do s\u00e9culo XIX, tamb\u00e9m n\u00e3o \u00e9 surpreendente que as redes neurais artificiais profundas tenham recentemente se desdobrado em t\u00e9cnicas avan\u00e7adas de vigil\u00e2ncia, como o reconhecimento facial e a an\u00e1lise de padr\u00f5es de vida. Acad\u00eamicos cr\u00edticos da IA, como Ruha Benjamin e Wendy Chun, entre outros, expuseram as origens racistas destas t\u00e9cnicas de identifica\u00e7\u00e3o e defini\u00e7\u00e3o de perfis que, tal como a psicometria, quase representam uma prova t\u00e9cnica do vi\u00e9s social (\u201c<\/span>social bias\u201d)<\/span><\/i> da IA [18]<\/span>. Identificaram, com raz\u00e3o, o poder da discrimina\u00e7\u00e3o no cerne da aprendizagem autom\u00e1tica e a forma como esta se alinha com os aparelhos de normatividade da era moderna, incluindo as taxonomias question\u00e1veis da medicina, da psiquiatria e do direito penal [19]<\/span>.<\/span> \u00a0<\/span><\/p>\n A automa\u00e7\u00e3o da automa\u00e7\u00e3o Este livro procurou mostrar que a IA \u00e9 o culminar da longa evolu\u00e7\u00e3o da automa\u00e7\u00e3o do trabalho e da quantifica\u00e7\u00e3o da sociedade. Os modelos estat\u00edsticos da aprendizagem autom\u00e1tica n\u00e3o parecem, de fato, ser radicalmente diferentes da concep\u00e7\u00e3o das m\u00e1quinas industriais, mas antes hom\u00f3logos a elas: s\u00e3o, de fato, constitu\u00eddos pela mesma intelig\u00eancia anal\u00edtica das tarefas e dos comportamentos coletivos, embora com um grau de complexidade mais elevado (isto \u00e9, n\u00famero de par\u00e2metros). Tal como as m\u00e1quinas industriais, cuja concep\u00e7\u00e3o surgiu gradualmente atrav\u00e9s de tarefas de rotina e de ajustes por tentativa e erro, os algoritmos de aprendizagem autom\u00e1tica adaptam o seu modelo interno aos padr\u00f5es dos dados de treino atrav\u00e9s de um processo compar\u00e1vel de tentativa e erro. Pode dizer-se que a concep\u00e7\u00e3o de uma m\u00e1quina, bem como a de um modelo de um algoritmo estat\u00edstico, seguem uma l\u00f3gica semelhante: ambos se baseiam na imita\u00e7\u00e3o de uma configura\u00e7\u00e3o externa de espa\u00e7o, tempo, rela\u00e7\u00f5es e opera\u00e7\u00f5es. Na hist\u00f3ria da IA, isto era t\u00e3o verdadeiro para o<\/span> perceptron de Rosenblatt<\/span><\/a> (que visava registar os movimentos do olhar e as rela\u00e7\u00f5es espaciais do campo visual) como para qualquer outro algoritmo de aprendizagem de m\u00e1quinas atual (por exemplo, m\u00e1quinas de vetores de apoio, redes bayesianas, modelos de transformadores).<\/span><\/p>\n Enquanto a m\u00e1quina industrial incorpora o diagrama da divis\u00e3o do trabalho de uma forma determinada (pensemos nos componentes e nos “graus de liberdade” limitados de um tear t\u00eaxtil, de um torno ou de uma escavadora mineira), os algoritmos de aprendizagem autom\u00e1tica (especialmente os modelos recentes de IA com um vasto n\u00famero de par\u00e2metros) podem imitar atividades humanas complexas [21]<\/span>. Embora com n\u00edveis problem\u00e1ticos de aproxima\u00e7\u00e3o e enviesamento, um modelo de aprendizagem autom\u00e1tica \u00e9 um artefato adaptativo que pode codificar e reproduzir as mais diversas configura\u00e7\u00f5es de tarefas. Por exemplo, um mesmo modelo de aprendizagem autom\u00e1tica pode imitar tanto o movimento de bra\u00e7os rob\u00f3ticos em linhas de montagem como as opera\u00e7\u00f5es do condutor de um autom\u00f3vel aut\u00f4nomo; o mesmo modelo pode tamb\u00e9m traduzir entre l\u00ednguas tanto como descrever imagens com palavras coloquiais.<\/span><\/p>\n O surgimento de grandes modelos de base nos \u00faltimos anos (por exemplo, BERT, GPT, CLIP, Codex) demonstra como um \u00fanico algoritmo de aprendizagem profunda pode ser treinado num vasto conjunto de dados integrado (incluindo texto, imagens, fala, dados estruturados e sinais 3D) e utilizado para automatizar uma vasta gama das chamadas tarefas a jusante (resposta a perguntas, an\u00e1lise de sentimentos, extra\u00e7\u00e3o de informa\u00e7\u00f5es, gera\u00e7\u00e3o de texto, legendagem de imagens, gera\u00e7\u00e3o de imagens, transfer\u00eancia de estilos, reconhecimento de objectos, seguimento de instru\u00e7\u00f5es, etc.) [22]<\/span>. Pela forma como foram constru\u00eddos com base em grandes reposit\u00f3rios de patrim\u00f4nio cultural, conhecimento coletivo e dados sociais, os grandes modelos de base s\u00e3o a aproxima\u00e7\u00e3o mais pr\u00f3xima da mecaniza\u00e7\u00e3o do “intelecto geral” que foi prevista na era industrial. Um aspecto importante da aprendizagem autom\u00e1tica que os modelos de base demonstram \u00e9 que a automa\u00e7\u00e3o de tarefas individuais, a codifica\u00e7\u00e3o do patrim\u00f4nio cultural e a an\u00e1lise de comportamentos sociais n\u00e3o t\u00eam qualquer distin\u00e7\u00e3o t\u00e9cnica: podem ser realizadas por um \u00fanico e mesmo processo de modela\u00e7\u00e3o estat\u00edstica.<\/span><\/p>\n Em conclus\u00e3o, a aprendizagem autom\u00e1tica pode ser vista como o projeto de automatizar o pr\u00f3prio processo de concep\u00e7\u00e3o de m\u00e1quinas e de cria\u00e7\u00e3o de modelos – ou seja, a automa\u00e7\u00e3o da teoria laboral da pr\u00f3pria automa\u00e7\u00e3o. Neste sentido, a aprendizagem autom\u00e1tica e, especificamente, os modelos de grandes funda\u00e7\u00f5es representam uma nova defini\u00e7\u00e3o de M\u00e1quina Universal, pois a sua capacidade n\u00e3o se limita a executar tarefas computacionais, mas a imitar o trabalho e os comportamentos coletivos em geral. O avan\u00e7o que a aprendizagem autom\u00e1tica passou a representar n\u00e3o \u00e9, portanto, apenas a “automa\u00e7\u00e3o da estat\u00edstica”, como a aprendizagem autom\u00e1tica \u00e9 por vezes descrita, mas a automa\u00e7\u00e3o da automa\u00e7\u00e3o, trazendo este processo para a escala do conhecimento coletivo e do patrim\u00f4nio cultural [23]<\/span>. Al\u00e9m disso, a aprendizagem autom\u00e1tica pode ser considerada como a prova t\u00e9cnica da integra\u00e7\u00e3o progressiva da automa\u00e7\u00e3o do trabalho e da governa\u00e7\u00e3o social. Emergindo da imita\u00e7\u00e3o da divis\u00e3o do trabalho e da psicometria, os modelos de aprendizagem autom\u00e1tica evolu\u00edram gradualmente para um paradigma integrado de governan\u00e7a que a an\u00e1lise de dados empresariais e os seus vastos centros de dados bem exemplificam.<\/span><\/p>\n \u00a0<\/span><\/p>\n Desfazendo o Algoritmo Mestre<\/b><\/p>\n Tendo em conta a dimens\u00e3o crescente dos conjuntos de dados, os custos de forma\u00e7\u00e3o dos grandes modelos e o monop\u00f3lio da infraestrutura de computa\u00e7\u00e3o em nuvem que \u00e9 necess\u00e1rio para que algumas empresas como a Amazon, a Google e a Microsoft (e as suas cong\u00e9neres asi\u00e1ticas Alibaba e Tencent) hospedarem esses modelos, tornou-se evidente para todos que a soberania da IA continua a ser um assunto dif\u00edcil \u00e0 escala geopol\u00edtica. Al\u00e9m disso, a conflu\u00eancia de diferentes aparelhos de governan\u00e7a (ci\u00eancia clim\u00e1tica, log\u00edstica global e at\u00e9 cuidados de sa\u00fade) para o mesmo hardware (computa\u00e7\u00e3o em nuvem) e software (aprendizagem de m\u00e1quina) assinala uma tend\u00eancia ainda mais forte para a monopoliza\u00e7\u00e3o. Para al\u00e9m da not\u00f3ria quest\u00e3o da acumula\u00e7\u00e3o de poder, a ascens\u00e3o dos monop\u00f3lios de dados aponta para um fen\u00f4meno de converg\u00eancia t\u00e9cnica que \u00e9 fundamental para este livro: os meios de trabalho tornaram-se os mesmos meios de medi\u00e7\u00e3o e, do mesmo modo, os meios de gest\u00e3o e log\u00edstica tornaram-se os mesmos meios de planejamento econ\u00f4mico.<\/span><\/p>\n Isto tamb\u00e9m se tornou evidente durante a pandemia de Covid-19, quando foi criada uma grande infraestrutura para acompanhar, medir e prever os comportamentos sociais [24]<\/span>. Esta infraestrutura, sem precedentes na hist\u00f3ria dos cuidados de sa\u00fade e da biopol\u00edtica, n\u00e3o foi, no entanto, criada <\/span>ex nihilo<\/span><\/i>, mas constru\u00edda a partir de plataformas digitais existentes que orquestram a maior parte das nossas rela\u00e7\u00f5es sociais. Sobretudo durante os per\u00edodos de confinamento, o mesmo meio digital foi utilizado para trabalhar, fazer compras, comunicar com a fam\u00edlia e os amigos e, eventualmente, para os cuidados de sa\u00fade. As m\u00e9tricas digitais do corpo social, como a geolocaliza\u00e7\u00e3o e outros metadados, foram fundamentais para os modelos preditivos do cont\u00e1gio global, mas elas s\u00e3o usadas h\u00e1 muito tempo para acompanhar o trabalho, a log\u00edstica, o com\u00e9rcio e a educa\u00e7\u00e3o. Fil\u00f3sofos como Giorgio Agamben afirmaram que esta infraestrutura prolongou o estado de emerg\u00eancia da pandemia, quando, na verdade, a sua utiliza\u00e7\u00e3o nos cuidados de sa\u00fade e na biopol\u00edtica d\u00e1 continuidade a d\u00e9cadas de monitoriza\u00e7\u00e3o da produtividade econ\u00f4mica do corpo social, que passou despercebida a muitos [25]<\/span>.<\/span><\/p>\n A converg\u00eancia t\u00e9cnica das infra estruturas de dados revela tamb\u00e9m que a automa\u00e7\u00e3o contempor\u00e2nea n\u00e3o se limita \u00e0 automa\u00e7\u00e3o do trabalhador individual, como na imagem estereotipada do rob\u00f4 humanoide, mas \u00e0 automa\u00e7\u00e3o dos patr\u00f5es e gestores da f\u00e1brica, como acontece nas plataformas da<\/span> gig economy<\/span><\/i>. Dos gigantes de log\u00edstica (Amazon, Alibaba, DHL, UPS, etc.) e da mobilidade (Uber, Share Now, Foodora, Deliveroo) \u00e0s redes sociais (Facebook, TikTok, Twitter),<\/span> o capitalismo de plataforma \u00e9 uma forma de automa\u00e7\u00e3o que, na realidade, n\u00e3o substitui os trabalhadores, mas multiplica-os e governa-os de novo<\/span><\/i>. Desta vez, n\u00e3o se trata tanto da automa\u00e7\u00e3o do trabalho, mas sim da automa\u00e7\u00e3o da gest\u00e3o. Sob esta nova forma de gest\u00e3o algor\u00edtmica, todos n\u00f3s passamos a ser trabalhadores individuais de um vasto aut\u00f4mato composto por utilizadores globais, “<\/span>turkers<\/span><\/i>“, prestadores de cuidados, condutores e cavaleiros de muitos tipos. O debate sobre o receio de que a IA venha a substituir totalmente os empregos \u00e9 err\u00f4neo: na chamada economia das plataformas, os algoritmos substituem a gest\u00e3o e multiplicam os empregos prec\u00e1rios. Embora as receitas da<\/span> gig economy <\/span><\/i>continuem a ser pequenas em rela\u00e7\u00e3o aos setores locais tradicionais, ao utilizarem a mesma infraestrutura a n\u00edvel mundial, estas plataformas estabeleceram posi\u00e7\u00f5es de monop\u00f3lio. O poder do novo “mestre” n\u00e3o est\u00e1 na automatiza\u00e7\u00e3o de tarefas individuais, mas na gest\u00e3o da divis\u00e3o social do trabalho. Contra a previs\u00e3o de Alan Turing, \u00e9 o mestre, e n\u00e3o o trabalhador, que o rob\u00f4 veio substituir em primeiro lugar [26]<\/span>.<\/span><\/p>\n Nos perguntamos qual seria a possibilidade de interven\u00e7\u00e3o pol\u00edtica num espa\u00e7o t\u00e3o tecnologicamente integrado e se o apelo ao “redesign da IA” que as iniciativas populares e institucionais defendem \u00e9 razo\u00e1vel ou pratic\u00e1vel. Este apelo deveria come\u00e7ar por responder a uma quest\u00e3o mais premente: Como \u00e9 que \u00e9 poss\u00edvel “redesenhar” os monop\u00f3lios de dados e conhecimento em grande escala [27]<\/span>? \u00c0 medida que grandes empresas como a Amazon, a Walmart e a Google conquistaram um acesso \u00fanico \u00e0s necessidades e aos problemas de todo o corpo social, um movimento crescente pede n\u00e3o s\u00f3 que estas infra-estruturas se tornem mais transparentes e respons\u00e1veis, mas tamb\u00e9m que sejam coletivizadas como servi\u00e7os p\u00fablicos (como sugeriu Fredric Jameson, entre outros), ou que sejam substitu\u00eddas por alternativas p\u00fablicas (como defendeu Nick Srnicek [28]<\/span>). Mas qual seria uma forma diferente de projetar essas alternativas?<\/span><\/p>\n Tal como a teoria da automa\u00e7\u00e3o deste livro sugere, qualquer aparelho tecnol\u00f3gico e institucional, incluindo a IA, <\/span>\u00e9 uma cristaliza\u00e7\u00e3o de um processo social produtivo<\/span><\/i>.<\/span> Os problemas surgem porque essa cristaliza\u00e7\u00e3o “ossifica”<\/span><\/i> e reitera estruturas, hierarquias e desigualdades do passado. Para criticar e desconstruir artefatos complexos como os monop\u00f3lios de IA, devemos come\u00e7ar por fazer o trabalho meticuloso do desconex\u00e3o (\u201cdeconnectionism\u201d)<\/span><\/i> , desfazendo – passo a passo, arquivo a arquivo, conjunto de dados a conjunto de dados, metadado a metadado, correla\u00e7\u00e3o a correla\u00e7\u00e3o, padr\u00e3o a padr\u00e3o – o tecido social e econ\u00f4mico que os constitui na origem<\/span><\/i>. Este trabalho j\u00e1 est\u00e1 sendo desenvolvido por uma nova gera\u00e7\u00e3o de acad\u00eamicos que est\u00e3o a dissecar a cadeia de produ\u00e7\u00e3o global de IA, especialmente os que utilizam m\u00e9todos de “pesquisa-a\u00e7\u00e3o”. Destacam-se, entre muitos outros, a plataforma <\/span>Turkopticon<\/span><\/a> de Lilly Irani, utilizada para “interromper a invisibilidade do trabalhador” na plataforma de trabalho tempor\u00e1rio Amazon Mechanical Turk; <\/span>a investiga\u00e7\u00e3o de Adam Harvey<\/span><\/a> sobre conjuntos de dados de treino para reconhecimento facial, que exp\u00f4s as viola\u00e7\u00f5es maci\u00e7as da privacidade das empresas de IA e da investiga\u00e7\u00e3o acad\u00eamica; e o trabalho do coletivo <\/span>Politically Mathematics<\/span><\/a> da \u00cdndia, que analisou o impacto econ\u00f4mico dos modelos preditivos da Covid-19 nas popula\u00e7\u00f5es mais pobres e recuperou a matem\u00e1tica como um espa\u00e7o de luta pol\u00edtica (ver o seu manifesto citado no in\u00edcio deste texto).<\/span>A automa\u00e7\u00e3o da Intelig\u00eancia geral (General Intelligence)<\/b><\/h3>\n
Matteo Pasquinelli<\/span><\/em><\/h4>\n
\n<\/span><\/i>\u2014Logic Magazine Manifesto, 2017[\u00b9]<\/span><\/p>\n
\n<\/span><\/i>\u2014Politically Mathematics manifesto, 2019[\u00b2]<\/span><\/p>\n
\n<\/span><\/i>\u2014Karl Marx, Capital, 1867[\u00b3]<\/p>\n
\nH<\/strong>aver\u00e1 um dia no futuro em que a IA atual ser\u00e1 considerada um arca\u00edsmo, um f\u00f3ssil t\u00e9cnico a estudar entre outros<\/span>. Na passagem de \u201cO Capital\u201d citada acima, Marx sugeriu uma analogia semelhante que ressoa nos estudos cient\u00edficos e tecnol\u00f3gicos atuais: da mesma forma que os ossos f\u00f3sseis revelam a natureza das esp\u00e9cies antigas e os ecossistemas em que viviam, os artefatos t\u00e9cnicos revelam a forma da sociedade que os rodeia e gere. A analogia \u00e9 relevante, penso eu, para todas as m\u00e1quinas e tamb\u00e9m para a aprendizagem autom\u00e1tica, cujos modelos abstratos codificam, na realidade, uma concretiza\u00e7\u00e3o de rela\u00e7\u00f5es sociais e comportamentos coletivos, como este livro tentou demonstrar ao reformular a teoria laboral da automa\u00e7\u00e3o do s\u00e9culo XIX para a era da IA.<\/span><\/p>\n![\"\"](\"https:\/\/baixacultura.org\/wp-content\/uploads\/2024\/02\/pasquinelli-2.png\")
<\/p>\n
\nDas linhas de montagem ao reconhecimento de padr\u00f5es<\/b><\/p>\n![\"\"](\"https:\/\/baixacultura.org\/wp-content\/uploads\/2024\/02\/MEYERHOLD.png\")
<\/p>\n![\"\"](\"https:\/\/baixacultura.org\/wp-content\/uploads\/2024\/02\/pasquinelli-3.png\")
<\/p>\n
\n<\/span>
\n<\/span>A metrologia da intelig\u00eancia iniciada nos finais do s\u00e9culo XIX, com a sua agenda impl\u00edcita e expl\u00edcita de segrega\u00e7\u00e3o social e racial, continua a funcionar no cerne da IA para disciplinar o trabalho e reproduzir as hierarquias produtivas do conhecimento. Por conseguinte, a l\u00f3gica da IA n\u00e3o \u00e9 apenas a automa\u00e7\u00e3o do trabalho, mas o refor\u00e7o destas hierarquias sociais de uma forma indireta. Ao declarar implicitamente o que pode ser automatizado e o que n\u00e3o pode, a IA imp\u00f4s uma nova m\u00e9trica da intelig\u00eancia em cada fase do seu desenvolvimento. Mas comparar a intelig\u00eancia humana e a intelig\u00eancia das m\u00e1quinas implica tamb\u00e9m um julgamento sobre que comportamento humano ou grupo social \u00e9 mais inteligente do que outro, que trabalhadores podem ser substitu\u00eddos e quais n\u00e3o podem. Em \u00faltima an\u00e1lise, <\/span>a IA n\u00e3o \u00e9 apenas um instrumento para automatizar o trabalho, mas tamb\u00e9m para impor padr\u00f5es de intelig\u00eancia mec\u00e2nica que propagam, de forma mais ou menos invis\u00edvel, hierarquias sociais de conhecimentos e compet\u00eancias.<\/span><\/i> Tal como acontece com qualquer forma anterior de automatiza\u00e7\u00e3o, a IA n\u00e3o se limita a substituir trabalhadores, mas desloca-os e reestrutura-os numa nova ordem social.<\/span><\/p>\n
\n<\/b>
\n<\/b>Se observarmos atentamente como os instrumentos estat\u00edsticos concebidos para avaliar as compet\u00eancias cognitivas e discriminar a produtividade das pessoas se transformaram em algoritmos, torna-se evidente um aspecto mais profundo da automa\u00e7\u00e3o. De fato, o estudo da metrologia do trabalho e dos comportamentos revela que a automa\u00e7\u00e3o emerge, em alguns casos, da transforma\u00e7\u00e3o dos pr\u00f3prios instrumentos de medi\u00e7\u00e3o em tecnologias cin\u00e9ticas. Os instrumentos de quantifica\u00e7\u00e3o do trabalho e de discrimina\u00e7\u00e3o social tornaram-se “rob\u00f4s” por direito pr\u00f3prio. Antes da psicometria, se poderia referir a forma como o rel\u00f3gio utilizado para medir o tempo de trabalho na f\u00e1brica foi mais tarde implementado por Babbage para a automatiza\u00e7\u00e3o do trabalho mental na <\/span>M\u00e1quina Diferencial<\/span><\/a>. Os cibern\u00e9ticos, como Norbert Wiener, continuaram a considerar o rel\u00f3gio como um modelo-chave tanto para o c\u00e9rebro como para o computador. A este respeito, o historiador da ci\u00eancia Henning Schmidgen observou como a cronometria dos est\u00edmulos nervosos contribuiu para a consolida\u00e7\u00e3o da metrologia cerebral e tamb\u00e9m para o modelo de redes neurais de McCulloch e Pitts [20]<\/span>. A teoria da automa\u00e7\u00e3o que este livro ilustrou n\u00e3o aponta, portanto, apenas para a emerg\u00eancia de m\u00e1quinas a partir da l\u00f3gica da gest\u00e3o do trabalho, mas tamb\u00e9m a partir dos instrumentos e m\u00e9tricas para quantificar a vida humana em geral e torn\u00e1-la produtiva.<\/span><\/p>\n![\"\"](\"https:\/\/baixacultura.org\/wp-content\/uploads\/2024\/02\/pasquinelli-4.png\")
<\/p>\n
\n<\/span>
\n<\/span>A teoria laboral da automa\u00e7\u00e3o \u00e9 um princ\u00edpio anal\u00edtico para estudar o novo “olho do mestre” que os monop\u00f3lios de IA encarnam. No entanto, precisamente devido \u00e0 sua \u00eanfase no processo de trabalho e nas rela\u00e7\u00f5es sociais que constituem os sistemas t\u00e9cnicos, \u00e9 tamb\u00e9m um princ\u00edpio sint\u00e9tico e “sociog\u00eanico” (para utilizar o termo program\u00e1tico de Frantz Fanon e Sylvia Wynter [29])<\/span>. O que est\u00e1 no cerne da teoria laboral da automa\u00e7\u00e3o \u00e9, em \u00faltima an\u00e1lise, uma pr\u00e1tica de autonomia social.<\/span> As tecnologias s\u00f3 podem ser julgadas, contestadas, reapropriadas e reinventadas se se inserirem na matriz das rela\u00e7\u00f5es sociais que originalmente as constitu\u00edram<\/span><\/i>. As tecnologias alternativas devem situar-se nestas rela\u00e7\u00f5es sociais, de uma forma n\u00e3o muito diferente do que os movimentos cooperativos fizeram nos s\u00e9culos passados. Mas construir algoritmos alternativos n\u00e3o significa torn\u00e1-los mais \u00e9ticos. Por exemplo, a proposta de codifica\u00e7\u00e3o de regras \u00e9ticas na IA e nos rob\u00f4s parece altamente insuficiente e incompleta, porque n\u00e3o aborda diretamente a fun\u00e7\u00e3o pol\u00edtica geral da automa\u00e7\u00e3o no seu cerne [30]<\/span>