Capitalismo, tecnologias, nómos e música

Alguns ensaios que foram publicados em 2024/1, que gostaria de compartilhar com vocês:

- Surveillance capitalism and algorithmic struggles, com Giuseppe Cocco, para Matrizes/USP; (Versão em português)

- Moldar e modular: penalidade e abolicionismos nas sociedades de controle, para Passagens/UFF;

- De volta ao ritornelo: nómos e música em Deleuze e Guattari, para Direito e práxis/UERJ; (English version of Back to the refrain: nómos and music in Deleuze and Guattari is coming soon).

Espero que gostem!

A longa trama de Junho

 1 Contra a linguagem

Gostaria de começar dizendo que ando muito incomodado com a primazia que ideias ligadas à linguagem têm tido no enquadramento de problemas políticos contemporâneos. No bojo dessas ideias, tudo se passa como se a ação não apenas estivesse umbilicalmente ligada à linguagem, mas decorresse dela. Como se as ações não passassem de efeitos de performances – e os corpos, efeitos de falas –, e num esgotado esquema no qual pensar é ligar palavras às coisas, as coisas forçosamente se seguiriam das palavras.

Como consequência desse modo de abordar os problemas, parece que tudo que precisaríamos seria inventar um novo vocabulário político para um mundo que já se encontra inteiramente pronto e acabado, com desafios definidos, com tensões já estabelecidas, e que uma nova linguagem política teria que vir resolver (sempre progressivamente, claro). Sinto, no entanto, que é impossível pensar ou viver uma política em que as coisas já estão dadas e apenas os nomes próprios faltariam.

O que geralmente observo, especialmente sob o regime da informação, é o inverso: as palavras se amontoam, intoxicam, excedem, e as coisas e os corpos é que não comparecem. Os eventos faltam. E hoje estamos aqui, falando de Junho, porque foi o último grande evento na agenda política por um outro mundo possível de que nos lembramos em muito tempo – não porque Junho foi capaz de inventar um vocabulário ou um almanaque de palavras adequadas. Pelo contrário, as palavras de Junho evocavam um mundo que faltava. Havíamos inventado o povo que faltava, ele estava nas ruas, mas apenas para descobrir que o que faltava talvez fosse o mundo. Talvez ele tenha existido por um breve instante. Quem saberá?

Nas últimas décadas, é possível que tenhamos dado poder demais às semioses, esquecendo que toda linguagem, toda informação e todo efeito de sentido procedem de agenciamentos tecnossociais e maquinações coletivas muito concretas das quais as palavras participam. De outra maneira, as condições que tornam possíveis os movimentos em um campo social ficam imobilizadas à espera da linguagem.

De modo que me é completamente impossível falar de Junho sob o ponto de vista da linguagem. Assim como Junho não foi, e nem se exaure, em um evento histórico – mas foi, por definição, um devir – inacabado e ainda aberto a prolongamentos ulteriores –, Junho não foi linguagem, mas uma maquinação coletiva de conteúdo-expressão que decorria de um agenciamento coletivo social múltiplo, febril, e em transe.

A esse ponto de incômodo, eu gostaria de acrescentar um outro. Por um lado, não nos cansamos (embora, devo confessar que eu já) de analisar Junho sob o ponto de vista da sua efetividade; isto é, seus fatos, seus eventos, seus empirismos nus de todo tipo. Mas também sob o ponto de vista do que Junho poderia ter sido e não foi (junho como potência, ou como virtualidade).

Esses dois cacoetes de análise muito provavelmente foram ferramentas úteis de decifração para o calor do momento, mas hoje, temo que eles nos afastem metodicamente, e por hábito, das duas únicas questões concretas que, a meu ver, relacionam Junho ao hoje e aos desafios do presente. As duas únicas dimensões que realmente importam, e que de certa forma se inspiram numa retomada da utilidade e desvantagem da história para a vida. Nova volta no parafuso de Nietzsche, que só reconhecia como justa a crueldade do devir que, como Junho, vinha rasgar o firmamento da História e da tradição.

Por um lado, há o que vou chamar de longa trama de Junho. Ela se confunde com a acumulação primitiva de condições de possibilidade, de lutas e de modos de vida múltiplos e contraditórios que confluíram na transversal multitudinária que Junho encarnou. Por outro lado, persiste o desafio verdadeiramente político, na dimensão da ação e da organização dos corpos e dos afetos, de dar linha a essa longa trama de lutas que confluíram e tomaram a transversal de Junho, e que, hoje, precisam procurar pontos de apoio concretos e de desenvolvimento que certamente já são outros. Junho é uma longa trama e uma transversal.

Então, falo das estruturas, que funcionam como meios de tensão da ecologia política de Junho, mas que, justamente ao tensioná-la, ao mesmo tempo acabam designando o conjunto concreto de condições que “possibilitaram os possíveis” de Junho. Em seguida, vou puxando de maneira fragmentária e incompleta alguns dos fios que compõem a meu ver a longa trama de Junho.

A acumulação das singularidades das lutas que encontraram em junho uma transversal que lhes permitia saírem de seus impasses de singularização e aceder a um terreno comum e incompleto de novas lutas. Todo o problema que subjaz à “longa trama de Junho” é o do acoplamento sociotécnico entre estruturas e singularidades; o do evento de composição social de uma “possibilitação dos possíveis”.

2 Estruturas

A longa trama de Junho é feita de duas dimensões: 1) Um complexo de estruturas reais, ao mesmo tempo globais e locais, em que essas lutas se apoiavam conjunturalmente, e de maneira antagonista colocavam as singularidades do campo social em tensão e em movimento; 2) A acumulação primitiva de lutas encampadas pelas singularidades que tentavam fazer bola de neve e multidão; lutas que precederam Junho e que, pouco a pouco, foram forjando uma “possibilitação dos possíveis” que Junho terminou por nomear, e sobretudo por encarnar, como um  efeito de expressão – e isso procede de uma articulação efetiva entre as dimensões do global e do local.

Talvez possamos localizar entre 2008-2009, na crise dos subprime loans americana, um primeiro foco no qual as primaveras globais (e Junho entre elas) puderam se apoiar. A crise de 2008, crise global de crédito e, portanto, também de confiança no sistema financeiro internacional, exprimia um descompasso na articulação entre duas metades do capitalismo global: a sua metade abstrata, financeira e imaterial (seu lado crédito) e a sua metade concreta, “real” e material (seu lado imóvel).

A ampliação e a aceleração na concessão de créditos imobiliários para devedores duvidosos levaram à percepção iminente de um default generalizado, e esta conduziu então a massivas injeções de liquidez nos mercados americano e global para evitar um colapso financeiro que poderia ter se seguido da quebra de bancos médios americanos, espraiando-se por todo o ambiente do mercado financeiro internacional.

Estas políticas ficaram conhecidas como quantitative easing, e não apenas nunca mais desapareceram da cena, irrigando o campo social de moeda sempre nova – seguida de ciclos de contracionismo –, como recentemente conheceram novo fôlego durante a pandemia do Coronavírus.

No caudal das ameaças de quebras e dos salvamentos financeiros (regime de monopolização dos lucros, mas de socialização dos prejuízos), produziu-se o Occupy Wall Street, um movimento contestatório e de massas que, em 2011, questionava a desigualdade de renda e riqueza nos Estados Unidos, e prometia ocupar o coração financeiro do mundo.

Todo esse contexto de crise leva a uma reorganização do próprio capital que, desafiado a crescer nas condições de estagnação ou do decrescimento dos anos 2008-2009, progressivamente se plataformiza (Srniceck, 2017). Neste ponto, estamos nos alvores do chamado capitalismo de plataforma. Enquanto assistimos morrerem as nossas comunidades preferidas no Orkut, um capitalismo de dados massivos vai se formar progressivamente nas enclosures de Big Data de grandes plataformas que ficariam conhecidas nos anos 2010-2012 como as FAANG (Facebook, Apple, Amazon, Netflix, Google). Como seu negócio era data driven – seja na área das redes sociais, produtos e bens de consumo, streaming e entretenimento online, mobilidade urbana etc. –, essas plataformas vão pervasivamente colonizando porções cada vez maiores do nosso tempo, relações, afetos e existências. A tal ponto, que elas se tornam plataformas de circulação e de logística social que subsumem porções cada vez maiores da vida social planetária, vetorializando suas ecologias (Wark, 2015).

Esse rearranjo do Capitalismo Mundial Integrado (CMI) fornece uma nova alavanca, concentracionária e quase-monopolista, da vida em geral. Reorganizando a circulação do crédito, dos fluxos monetários, dos imóveis, elas nos deixam em um novo patamar de abstração e nos impõem um novo ritmo de circulação.

Por outro lado, essa reorganização capitalista não pode ocorrer sem ao mesmo tempo preparar infraestruturas que, nos mais diversos continentes, vão servir para acelerar semioses de composição das lutas. A velha lição de Foucault: não apenas as resistências precedem as relações de poder, como estas fornecem as condições para multiplicação de resistências, e para a reversibilidade estratégica das próprias relações de poder. O impasse dos poderes pode até durar um tempo, mas não é páreo para a imaginação da liberdade.

Não é que o capitalismo prepare as condições de sua própria supressão, mas os rearranjos capitalistas não podem se estruturar sem fornecer brechas e pontos de apoio que permitam um agenciamento inesperado do desejo social de transformação que alimenta as lutas. Foi assim com o OWS, com o BLM (disparado por um tweet em julho de 2013 e alimentado pela sousveillances das câmeras dos celulares), com as primaveras árabes (que conheceram a censura pelas ditaduras) e com Junho. Lutas que se desdobraram de forma quase inconsciente e já em condições imediatamente algorítmicas (Finn, 2017). As redes fornecem algumas das infraestruturas em que as transversais de demandas e de lutas se prolongam umas nas outras. Em que a longa trama de junho, a cujas condicionantes sociais em breve chegaremos, se perfaz.

No Brasil, Junho será deflagrado precisamente por uma incompatibilidade entre o imaterial e o material, o financeiro e a circulação dos corpos – a logística do deslocamento metropolitano cotidiano. Quem formulou essa incompatibilidade e essa tensão em forma de problema político foi o MPL, catapultando o aumento do preço do transporte público (suposta necessidade fiscal do Município) e o impacto na renda e na vida real dos deslocamentos na cidade à condição de tensão política que, por parecer irresolúvel, mobiliza. Vemos aqui, o prolongamento da tensão da crise de 2008, entre fluxos financeiros abstratos (crédito), por um lado, e os imóveis/renda por outro, redefinida na tensão entre financiamento dos serviços públicos e circulação metropolitana – ou, se quisermos, orçamento e corpos.

O gatilho que dispara as transversais de mil outras lutas que compuseram Junho dá-se na tensão corpo-metrópole, e na mediação dessa tensão pelos serviços públicos que permitiriam a circulação das singularidades pelas estruturas urbanas. Mas remontar Junho ao seu disparador é encantar-se pela fagulha enquanto explode o barril de pólvora.

O barril são as lutas que se acumularam no Brasil dos anos que precederam Junho. As singularizações que vão habitar as estruturas da vida, os equipamentos coletivos, num crescendo de tensão antagonista, até levar o sistema do equilíbrio homeostático à metaestabilidade – um tipo de equilíbrio tenso, um estado pré-revolucionário (Simondon, 2020), em que a presença da menor partícula antagonista poderia deflagrar um salto quantitativo no estado do sistema.

3 Singularidades

Olhemos para alguns elementos das lutas que precederam Junho. Seus “antecedentes” que são, também, “a possibilitação dos seus possíveis”. É precisamente entre 2008 e  2012 – entre a crise dos subprime loans e o OWS – que uma série muito heterogênea de lutas agitavam o campo social no Brasil. Rememoro algumas, sem qualquer pretensão de esgotá-las, nem de estabelecer sua cronologia, ou avaliar seu peso contributivo.

Meu argumento é muito mais singelo, a contribuição milionária de todas as lutas. Ou seja, o argumento de que essas lutas, entre muitas outras, funcionaram, nos seus próprios termos, como gérmens que participaram da longa trama de Junho. Longa trama que, aliás, vai além de Junho, explode em novas transversais. O que importa é que essas lutas já eram experimentos singulares que tensionavam porções locais, estruturações parciais. Desçamos a essa usina dos corpos.

De 2009 em diante, o Brasil conheceu um novo momento de uma antiga luta pela memória e pela verdade sobre a ditadura civil–empresarial-militar brasileira. Essa nova vaga será precipitada, por um lado, pela decisão da Comissão Interamericana de Direitos Humanos de processar o Estado Brasileiro junto à CIDH pelo desaparecimento forçado de dezenas de militantes da esquerda armada entre os anos 1960-1970 na Região do Rio Araguaia.

Um segundo desencadeamento se dá pela mobilização em torno do julgamento do STF sobre a constitucionalidade da Lei de Anistia (ADPF 153), para fins de isentar criminalmente agentes de Estado, geralmente militares da reserva das FFAA, responsáveis por graves violações de direitos humanos durante a ditadura.

Esses dois casos jurídicos, um internacional e outro constitucional, são secundados por disputas de sentido tanto nas mídias de massa brasileiras quanto conhecem repercussões e disputas nas redes – especialmente, em blogs e redes sociais nascentes, enquanto se popularizavam as ainda recentes, caras e precárias, conexões ADSLs tupiniquins. Elas nos faziam abandonar o ruído infernal das conexões discadas, e abriam o campo social à possibilidade de acelerar os acoplamentos.

Entre 2008 e 2010, a generalização das estruturas de redes sociais vai permitir uma circulação alternativa das lutas, que ganham novos eixos de organização como o Facebook e o Twitter, que também serviram como infraestruturas comunicativas para revoltas em rede durantes as primaveras – e foram censuradas e combatidas por governos ditatoriais no mundo árabe, enquanto foram amplamente policiadas nas democracias liberais (caso brasileiro).

Mas o Brasil dos anos 2008-2010 conheceu uma série de outras lutas, que se ramificaram internamente, e formaram essa longa trama cujos ecos puderam ser ouvidos, por vezes aos estilhaços, em Junho. Junto aqui apenas um punhado de fios soltos. Era o caso das pautas cosiddetti sobre os costumes.

Caso das pautas sobre a descriminalização da interrupção da gravidez (o direito ao aborto seguro), das marchas contra o estatuto do nascituro, das marchas em favor da descriminalização da maconha (as marchas da maconha). Ainda, era o caso das pautas de gênero, que não raro se imbricaram com as chamadas “pautas de costume”; mas, aqui, tenho em mente as marchas das vadias, inspiradas nas slut walks canadenses, que denunciavam a cultura do estupro e demandavam o direito de se vestir como bem se queira, sem por isso tornar justificável a violência machista.

Especialmente nos grandes centros urbanos, o Brasil destes anos também conheceu marchas pela desmilitarização das polícias, movimentos de mães de vítimas de  violência do Estado; lutas que, no Brasil, são inequivocamente atravessadas pelo antirracismo e pela denúncia da perseguição sistêmica das polícias às classes pobres, e às pessoas pretas e pardas.

Ao mesmo tempo, o Levante Popular da Juventude protagonizava esculachos, inspirados nos escrachos argentinos, denunciando torturadores nas portas das suas casas, renomeando espaços públicos, botando abaixo monumentos que contavam a história “dos que venceram”. E claro que há movimentos, marchas e paradas (como a parada do orgulho LGBTQIAPN+) que têm um curso mais longo na história. Aqui, tento me ater de maneira fragmentária e incompleta aos vetores de lutas que pareciam ser mais candentes naquele bloco histórico pré-Junho – e isso obviamente não invalida outras lutas, nem outras marchas.

Os anos seguintes serão acumulados de novos vetores, que eu reduziria didaticamente a três principais. O primeiro, socioambiental e eco-territorial, que abrange as lutas territoriais e indígenas, lutas anti-especistas e resistências situadas contra remoções; o segundo, ao autonomismo metropolitano e à dinâmica das ocupações urbanas; o terceiro, às lutas mais difusas e ambivalentes contra a corrupção sistêmica e o desencanto com a política de Estado.

Todas essas lutas se acumularam embaixo do tapete da maré rosa – isto é, sob os pés dos governos progressistas latinoamericanos, e em condições de relativa potencialização dos pobres – atingida por meio de políticas de crédito e acesso ao consumo, renda e habitação.

No entanto, essa potencialização dos pobres não apenas é tímida e insuficiente para reverter as miríades de desigualdades do Brasil profundo, como paradoxalmente acontece sob contradições sistêmicas graves desses mesmos governos.

No Brasil, foi o caso dos megaeventos (Copa do Mundo e Olimpíadas), da violência financeira e econômica organizada em consórcio com o Estado contra territórios e populações minoritárias; das remoções e gentrificações de áreas pobres; das questões energéticas e  ambientais que opunham o desenvolvimentismo como política de Estado à preservação ambiental e de modos de vida tradicionais (as usinas de Belo Monte e Jirau, projetos da ditadura desengavetados pela democracia de esquerda…); a contribuição das lutas metropolitanas, das populações indígenas, dos trabalhadores precários e intermitentes etc.

Relembrando essas lutas, não fazemos mais do que desemaranhar os fios mais evidentes de um imenso novelo. Cito essas poucas, e ainda assim muitas!, lutas com a intenção de mostrar-lhes que Junho acontece no caudal de uma longa trama…

Quero dizer, o campo social no Brasil pré-Junho poderia ser descrito como uma estrutura cujos equipamentos coletivos (urbanos, relacionais, semióticos, existenciais) já vinham sendo tensionados por uma multiplicidade dispersa de singularidades e lutas que Junho mais ou menos enfeixou nas suas transversais. Talvez a mais compreensiva de todas, em termos expressivos, tenha sido a plural transversal da sociedade contra o Estado, o grito Não nos representam!, que não apenas recusava partidos, mas exigia democracia real já, inspirado talvez no 15-M espanhol e nos seus indignados, mas também nos movimentos de libertação contra tiranias que explodiram nas ditaduras árabes.

Junho foi um efeito sensível e de percepção que consistia em se dar conta de que a estrutura que conhecíamos já não bastava à exigência múltipla do desejo social. Para sacanear com Lacan, havia um “mais-de-querer” no ar que parecia dizer ao Estado: “tudo isso, o Estado mesmo, essa política de vocês (e pra vocês, de castas), pra nós, é muito pouco”. E esse “nós” eram muitos e talvez incompossíveis nós. Muitos que a política do Estado não pode ser, senão por meio de uma ficção representativa que Junho estilhaçou em mil pedaços. Esse “mais-de-querer” socialmente difuso, circulando entre múltiplos e disparatados objetos nas redes e ruas, dava conta do estado de metaestabilidade, do estado verdadeiramente pré-revolucionário de Junho.

Agora temos, por assim dizer, a fagulha (o MPL) e o barril. As condições infraestruturais, mas também o conjunto das lutas sociais, coletivas e múltiplas, que se deixaram arrastar repentinamente, e sem que ninguém esperasse, na transversal de Junho.

As infraestruturas, mesmo as mais capitalistas, permitiram organizar-se nas redes para lutar nas ruas; franquearam uma dimensão em que essas singularidades conseguiam se recompor: a crítica aos megaeventos envolvia movimentos situados, territoriais, como a Vila Autódromo e a Aldeia Maracanã, e.g.; pautas anticorrupção (eram pautas antagonistas tradicionalmente identificadas com as direitas, mas com potencial de contaminação social, porque as políticas públicas e os serviços são efeitos de fluxos monetários e de investimento); a defasagem entre as promessas e a realidade: os megaeventos prometiam incrementos estruturais, ampliações logísticas, aumento de acesso a direitos e à circulação urbana. E isso contrastava com um sistema político de castas e de privilégios, bem como com práticas de corrupção que hoje sabemos sistêmicas.

As recusas representativas marcaram essa transversal. Uma linha de arrebentação comum a movimentos sociais prévios que tinham, nos seus próprios termos, muitas dificuldades em articular demandas de subjetividade, costumes, gênero, raça e classe, mas que eram atravessados por componentes múltiplos e comuns. Por isso, precisamos ver, sob as palavras de recusa – sua face noturna –, as ações de retomada do político pelo social – sua face diurna e iridescente.

Essa transversalização das singularidades se torna manifesta na fricção entre democracia real e fictícia, a representação; verdadeiro estado de alienação do desejo e do poder sociais à divisão política e representativa. Eis o que gera uma dinâmica de sociedade contra o Estado; uma demanda por dissolução, pelo fim das hierarquias, das  divisões e dos dimorfismos (o que, em Filosofia Black Bloc, chamei de anarquismo profundo de todos os corpos).

4 Dar linha à longa trama

Esta noite, eu quis refazer pelo menos uma breve porção, um minúsculo pedaço da longa trama de Junho, porque me parece que de 2013 para cá estamos num imobilismo generalizado, em que, politicamente, só somos capazes de efetuar falsos-movimentos.

As direitas se tornaram antissistêmicas para, paradoxalmente, conservar; as esquerdas se tornaram reformistas para, paradoxalmente, restaurar. E como efeito dessa dupla miragem em que nossos corpos sonham se mover, ambas tiveram sucesso em recaptar o político para dentro do Estado, involucrando-o. Um tempo em que defender as democracias representativas, salvando-as das castas de militares incompetentes para entregá-las a castas de políticos civis, fisiológicos e profissionais, parece revolucionário. Única alternativa, como  nos disseram.

Então, o meu recado é muito singelo. O que nos falta não é um novo vocabulário. É maquinar em termos concretos uma nova tensão entre estruturas e singularidades. Nosso trabalho tem de ser o de criar transversais e comunicações entre singularidades, a fim de superar os impasses de singularização nos quais boa parte dos movimentos sociais plataformados hoje se encontram, numa pane afetiva e corporal – em que não se consegue passar dos afetos às ações correspondentes – e as derivas linguísticas ou performáticas tampouco parecem estar ajudando a facilitar essa passagem.

Precisamos, então, compor ecologias germinais entre lutas dispersas, não cercadinhos de gentes em tudo iguais a nós mesmos, e também plataformas de organização e sincronização que nos permitam superar o impasse entre afetos e ação em que estamos. Impasse no qual nossos afetos, recaptados pelo there is no alternative dos dois polos magnéticos do possível político do hoje (a direita fascista e a esquerda “comunista demais”, pero no mucho), não conseguem se descarregar em ação. Essa é a dissociação que precisamos vencer de maneira transindividual, dando linha, talvez a algumas das linhas da longa trama de Junho. E então vamos poder encontrar outra trama.

Murilo Duarte Costa Corrêa

* Originalmente publicado em Universidade Nômade Brasil.

Chapação maquínica, alucinação estatística: pensar como o ChatGPT

“Chapação. Droga. Será que se trata de uma mera analogia?”
Félix Guattari

    

>_Prompt: Resuma  o texto a seguir em cinco tópicos

Em A falsa promessa do ChatGPT, que apareceu traduzido na Folha de SP, o linguista e libertário estadunidense Noam Chomsky aproveitou a recente e meteórica celebridade do Chat GPT – um LLM (Large Language Model) – para alavancar a sua crítica geral contra a IA.

No afã de denunciar as suas limitações, diferenças e perigos quando comparado ao raciocínio, à capacidade e ao uso humanos da linguagem, Chomsky nos entrega uma denúncia crítica da IA do ponto de vista da biolinguística e da linguística gerativa, e ao mesmo tempo uma peça que prossegue no que Bruno Cava acertadamente chamou de melodrama tecnofóbico.

Uma estranha ambiguidade percorre o texto de Chomsky. A ambiguidade de quem, por um lado, parece ter entendido inteiramente o que é e como funciona um LLM como o ChatGPT; por outro lado, escreve como se tivéssemos o direito de esperar outra coisa dele.

A ambiguidade está em compreender perfeitamente, como intelectual da linguagem que Chomsky de fato é, que um LLM não pensa como um humano. Não tem cérebro, corpo, nem visceralidade – embora se apoie em conjuntos de agenciamentos sociais, técnicos e maquínicos bastante materiais (explico isso nos itens 2 e 3, abaixo).

Se for capaz de aprender, é por causa das bases de dados de treinamento (training datasets) – um aprendizado diverso do humano. Se puder ser chamado de inteligente, é pela capacidade de vasculhar, correlacionar e gerar induções estatísticas a partir de modelagem matemática complexa — hoje, com trilhões de parâmetros — aplicada sobre uma base de dados e informações bem mais vasta do que cérebros humanos seriam capazes de “processar”.

Sobretudo, começamos a descobrir que o seu algoritmo é treinável para um sem-número de tarefas, em uma multiplicidade de mídias, e que os resultados apresentados dependem da capacidade humana de fornecer comandos específicos, precisos e bem individualizados. Sua epistême e  sua ética são dependentes dos inputs — em sentido amplíssimo.

O fato é que o ChatGPT é uma tecnologia de propósito geral. Isso significa que, na medida que começa a ser integrado a uma série de spin-offs utilitários^[1], ele aumenta o seu potencial de afetar uma miríade de áreas do mercado de trabalho existente. Curiosamente, tende a afetar e deslocar os trabalhos high-end, mais cognitivos e melhor remunerados. É por essa razão que seu advento e popularização semeiam o pânico entre trabalhadores e parecem exigir políticas empresariais e acadêmicas que limitem seu uso e regulem a sua ética.

Embora Chomsky, Roberts e Watmull tenham compreendido tudo isso como ninguém, ainda assim escreveram “A falsa promessa…” como se pudessem esperar da IA coisa diversa — como um aprendizado e uma inteligência talhados de forma antroponômica; isto é, normativamente humana.

Mesmo tendo lido o texto de Chomsky, fiz o exercício de comandar no prompt do ChatGPT: “Resuma o texto a seguir em cinco tópicos”. O output foi o seguinte:

Textualmente:

• A inteligência artificial baseada em aprendizado de máquina é motivo de preocupação e otimismo.
• Programas como o ChatGPT coletam dados, procuram padrões e geram respostas estatisticamente prováveis, mas diferem profundamente do modo como os humanos raciocinam e usam a linguagem.
• A mente humana é um sistema eficiente e elegante que cria explicações e opera com pequenas quantidades de informação.
• A gramática da língua é um sistema estupendamente sofisticado de princípios e parâmetros lógicos.
• Programas de aprendizado de máquina estão presos em uma fase pré-humana ou não-humana da evolução cognitiva e não possuem a capacidade crítica de dizer o que não é o caso e o que poderia e não poderia ser o caso, que são os ingredientes da explicação e da verdadeira inteligência.

Vamos seguir os pontos acima do modo mais inteligente quanto possamos, já que Chomsky nos espreita, e talvez suspeite de que não passemos de um bot irônico e mal-intencionado.

O primeiro ponto exprime uma total platitude. Tudo o que gera otimismo também gera algum grau de preocupação. Nem que seja a preocupação que o otimismo seja frustrado. No caso das tecnologias de IA, o caso é ainda pior. Ninguém está preocupado com um cenário otimista que não se realiza; a preocupação incide sobre as catástrofes ecológica, social e humana que — segundo as antevisões mais cataclísmicas e distópicas — poderiam decorrer da generalização e da pervasividade da IA. A única novidade aqui — notícia velha, aliás — é que podemos até não ter percebido, mas a generalização e a pervasividade da IA já aconteceram. Portanto, zero novidade.

O que há de novo agora são duas coisas. Primeiro, a vertiginosa capacidade de processamento e velocidade na apresentação de resultados progressivamente mais relevantes para os usuários de IA. E segundo, nós estarmos nos dando conta de que tudo isso não é mais do que o resultado do processo de subsunção técnica em curso há anos — qual foi a última vez que você ligou para um SAC qualquer e conseguiu falar com um humano? Caso tenha conseguido não foi sem antes passar por chatbots, não é?

O segundo ponto explica como um LLM funciona em termos simples, e demarca o fundo do argumento chomskyano, que se sustenta em uma diferença e em uma hierarquia. Os modelos de LLM, mesmo de aplicação geral como o ChatGPT, “diferem profundamente do modo como os humanos raciocinam e usam a linguagem”. Pensar e falar não são, portanto, a mesma coisa para humanos ou LLMs. E são atividades evidentemente levadas a cabo de forma mais própria e completa por humanos — ponto em que a distinção entre humano e inumano é colocada em termos de hierarquia.

O terceiro e o quarto pontos explicam exatamente a pretensa superioridade da inteligência humana versus a artificial. A nossa inteligência (mas que pretensão essa de dizer “nossa”!) faz muito com pouco. É extremamente eficiente do ponto de vista informacional. Raciocina por nexos de causalidade e produz explicações e hipóteses ousadas e pouco críveis, mas capazes de revolucionar modelos de explicação gerais; e, por fim, nós somos capazes de juízo moral.

Já o pobre ChatGPT até consegue resenhar um texto de Chomsky com razoável precisão, mas seria ineficiente do ponto de vista informacional. Isto é, para fazer pouco, precisa de muito. Não tem a propensão natural, a plasticidade e a elegância dos cérebros infantis que captam lógicas e modelos gramaticais no vento — só por estarem ao relento na língua. Ainda pior, a inteligência da máquina é incapaz de contrafactualidade: inclusive “pode aprender”, como diz Chomsky, “que a terra é plana”.

Então, a rigor, a IA não pensa nem explica. O que ela faz, então? No interior de uma densa nuvem estatística de correlações e palavras, ela procede por indução, ela induz. E, mal de todos os males, tampouco é capaz de inteligência moral — daí exprimir a banalidade do mal, definida precisamente por essa incapacidade moral. Eis o que, para chegarmos ao ponto cinco, escanteia o ChatGPT para o exterior da humanidade. Para onde? Para a condição de uma inteligência pré-humana, não-humana, e sem condições de evoluir no sentido humano, que dirá de ultrapassá-la.

No valid inputs

O ChatGPT implica um evento de percepção, porque faz com que, de repente, todo mundo se dê conta de uma realidade que já se impôs – e todo pensamento regressivo não é mais do que o esperneio que precede a adaptação a uma subsunção que já está em curso.

Um acontecimento que altera a sensibilidade coletiva com relação à tecnologia. Um dia, isso também ocorreu com os ábacos e as calculadoras, com os desktops e telefones celulares e, depois, com os notebooks, smartphones e tablets. Porém, com a diferença de que as tecnologias de aplicação geral apresentam o potencial de alterar nossa ecologia sociotécnica e relacional de uma só vez, em múltiplas frentes, e em níveis de profundidade variáveis. Elas tornam porosa e maleável a rigidez da divisão social do trabalho, e fazem todo mundo temer pelo seu trabalho – o que, no fundo, é só um disfarce do verdadeiro problema: tememos é pela nossa renda!

Neste ponto, ninguém está em condições de vaticinar a irrelevância do que quer que seja; nem mesmo, preguiçosamente apostar na passagem do humano ao papel de “coadjuvante da história” na medida que a IA agora tagarela e nos destitui do que até então nos fazia humanos: a posse de uma faculdade sensível que Aristóteles chamava de lógos.

As perguntas que esse evento de percepção permite fazer são: que regime de verdade advém com a popularização de um LLM como o ChatGPT? (Não um efeito causal da técnica, mas do seu uso e adoção massificados). Que tipo de inteligência ele deveria manifestar? Que modos de raciocinar? – dos quais também participamos em outros ritmos, e com outra abrangência. E em que consistem esses processos informacionais dos quais não podemos participar inteiramente?

Enfim, o que é isso de que já estamos participando? E como isso participa em nós – derrubando, inclusive, a barreira entre “nós” e “eles”? Como esse advento de percepção poderia ajudar a derrubar outras diferenças que nossa cultura aristotélica traduziu em dimorfismos e hierarquias – cultura/natureza, humano/inumano, homem/máquina, lógos/phoné, cidadão/imigrante, trabalhador/desempregado, entre outras?

Tomar uma inteligência e uma linguagem demasiadamente humanas como modelo e esperar que o ChatGPT seja sua maximização é como martelar inputs inválidos no prompt e esperar que dali saia alguma coisa que não seja decepção ou autoengano.

A crítica de Chomsky martela inputs fora de lugar. É por isso que ela consegue ser, ao mesmo tempo, retrospectiva, logocêntrica, antropomórfica e moral. De um só golpe, ela reúne tudo de mais regressivo que o pensamento crítico ocidental já conseguiu conceber num mesmo pacote.

Ao invés de imaginar o agenciamento de dois ou mais tipos de inteligência (como a ciência pura e a engenharia aplicada) como uma composição produtiva, Chomsky os contrapõe e hierarquiza. E se vale de um raciocínio fundacional para fazê-lo: inputs que remetem a um solo antropomórfico, logocêntrico e moral que recua pelo menos ao século IV a.C. – e, como certa vez cantou Caetano Veloso, “sustenta ainda hoje o Ocidente…”.

É o próprio Chomsky quem descreve a biolinguística, e a escola da gramática gerativa, como atualizações “de abordagens que remontam à tradição filosófica aristotélica” (Chomsky, 2017, p. 04). Sua ideia fundamental é a de que a língua é uma função orgânica inata à natureza do cérebro humano.

Daí porque é esperado que sua crítica se valha dos inputs logocêntricos, antropomórficos e morais do lógos aristotélico. Isto é, não deveria causar espanto algum que sua crítica à IA manifeste a fé num tipo de inteligência ao mesmo tempo humana e natural que, no entanto, nos separaria numa  esfera – política ou cultural – de todo o resto da natureza. Nem que isso gere uma má compreensão sobre a técnica: o silício pertenceria à ordem da natureza ou da cultura? E as palavras que as IAs geram? A pergunta que importa é se esses inputs chomskyanos ainda convém à realidade e ao que estamos nos tornando.

O logocentrismo, o antropomorfismo e o moralismo do lógos aristotélico exerceram precisamente esta função na nossa cultura técnica: apontar uma diferença, proporcionar uma taxonomia e justificar uma hierarquia. Não apenas uma diferença entre natureza e cultura, mas entre o humano e o inumano. A distinção aristotélica opositiva entre lógos e phoné  (a “voz” animal, que indicava posse das capacidades de experimentar e exprimir apenas a sensibilidade para a dor e o prazer, sem ser capaz de desenvolvê-lo na direção de sentimentos morais ou na forma da inteligência) o testemunham suficientemente.

Nesse mar de diferenças que se tornam classificações e hierarquias, num universo regido por partes que se totalizam governando umas às outras, os objetos técnicos só podem aparecer como algo estranho: nem inteiramente naturais, porque são artefatos artificiais; nem inteiramente humanos, porque a natureza está entre as suas componentes. O objeto técnico é como o Alien: o estranho familiar freudiano que nossa inteligência antropomorfiza em filmes como o E.T.

Além disso, Chomsky parece não escolher bem seus argumentos. Causa estupefação atribuir à IA e ao ChatGPT a banalidade do mal, quando esse conceito – concebido por Hannah Arendt em Eichmann em Jerusalém – servia para descrever as ações de um ser humano que, ao contrário do que todos imaginavam, não tinha qualquer traço monstruoso, exceto o fato de ser assustadoramente normal. Um animal demasiado humano com capacidades morais incorporadas e genéticas como qualquer outro.

Ou, ainda, a afirmação irrisória de que o ChatGPT poderia aprender que a terra é plana. Claro que poderia! E quem o ensinaria, a não ser uns bons punhados de animais antrópicos bem-falantes? Seria preciso lembrar uma humanidade pré-científica que por séculos acreditou no geocentrismo com base em uma correlação desprovida de causalidade (a sucessão de dias  e noites)? Não é um tipo de pensamento bem humano que pensa primeiro por correlações, e depois talvez se esforce metodicamente por discriminar em meio a elas as relações de causalidade?

A indução e o erro não são, também, potenciais inatos, assim como a banalidade do mal grassando entre seres pretensamente morais? E uma das mais importantes linhas da evolução – a que Bergson se referiu em A evolução criadora – não é precisamente a capacidade vital de saltar para fora e para além das determinações biológicas? A biologia só existe como inatismo e determinação, ou também como processo evolutivo no qual a vida se prolonga- no caso humano, cercado de artefatualidades? Quais poderiam ser alguns dos antídotos para esse imenso tédio de uma inteligência inata?

Alucinação estatística e chapação maquínica

Visceral Bodies , Claudia Rafael & Mika Kailes

Meses atrás, me lembro de que alguém mandou o link do ChatGPT com indisfarçável excitação, e disse: “olha que loucura isso aqui!”. A palavra loucura para substantivar o ChatGPT talvez não seja uma escolha fortuita. Nem a excitação delirante que a seguia.

A loucura é o que nos permite perceber que a crítica de Chomsky à IA é retrógrada e mal-colocada. Ela se prende ao que Matteo Pasquinelli e Vladan Joler chamaram de “status ideológico da máquina inteligente”. Isto é, a ideologia que existe em pensar a inteligência algorítmica à imagem e semelhança da cerebral e humana.

A IA não é uma máquina inteligente. É um instrumento de percepção. Ela maximiza o conhecimento, ajuda a perceber padrões e correlações em datasets que cérebros humanos jamais poderiam percorrer sem correr o risco da vertigem, do vômito ou do desmaio. E a IA o faz numa velocidade maior do que o cérebro humano poderia (com o perdão da analogia) “processar”.

Ou seja, modelos de IA implicam um novo regime de verdade que Chomsky só pode perceber como mentira, falsa promessa e perigo moral, uma vez que ele o faz retroagir ao inatismo biológico e ao aristotelismo logocêntrico.

Esse novo regime de verdade é o que Pasquinelli e Joler chamaram, numa divergência conceitual de seu uso técnico, de alucinação estatística. Não se trata de chegar a outputs que não decorrem do dataset de treinamento, a erros evidentes ou a respostas contrafáticas. Não é de uma inadequação entre as coisas e o output que se trata. Mas de compreender que essas máquinas não emulam inteligência, mas percepção.Isto é, os prompts são como janelas para os dados, e os outputs, dispositivos que tornam visíveis e legíveis, por intermediação algorítmica, um vasto conjunto de dados e pontos entre os quais se estabelecem correlações.

Neste estágio de desenvolvimento (em estágios futuros, não sabemos), é como se ganhássemos um novo órgão perceptivo, com capacidades inéditas, e que pode alterar não só a percepção de um meio, como também a autocompreensão de um corpo-intelecto, e interferir na ecologia sensível que o constitui. Como um telescópico, um microscópio, um binóculo noturno ou um bom e velho par de óculos alteram um conjunto de percepções, ecologias e relações que um corpo-intelecto mantém com os outros e seu entorno. Eles são próteses de percepção, como um aparelho auditivo torna relativamente audível o que de outra forma seria inaudível.

Não há problema algum em dizer que as IAs não pensam, mas reconhecem padrões. É precisamente isso que não as deixa ser seres oraculares, ou cérebros metafísicos, mas as torna instrumentos de conhecimento – ainda que alucinatórios – porque a imagem que nos dão da  realidade é distorcida, como a que nossos olhos, óculos, microscópios ou telescópicos fornecem também o são.

O grande debate sobre os vieses, em que a política dos algoritmos parece emborcar, ganha novas proporções quando entendemos os algoritmos como instrumentos de percepção e conhecimento – e não como máquinas inteligentes ou criativas.  O que explica a presença algorítmica de vieses não é a falta de aptidão maquínica para a crítica moral, como quer Chomsky. Como a política de Maquiavel e a norma jurídica de Kelsen, um par de óculos ou a IA não são instrumentos morais ou imorais, mas amorais. E isso, por duas  razões, ao menos.

Primeira, porque dados brutos não existem. Eles são extraídos dos funcionamentos das nossas sociedades, das suas divisões, dimorfismos e hierarquias. Os dados marinam nos nossos preconceitos cognitivos. De modo que não são os algoritmos que são racistas, xenófobos ou misóginos, mas os funcionamentos sociais que originaram a vastidão de dados apodrecidos com os quais eles foram treinados. E nós, hipócritas com capacidade moral inata, não gostamos de ver a imagem refletida que os algoritmos tornam visíveis. Detestamos perceber que as polícias sejam racistas, que as empresas sejam misóginas ou que os Estados sejam xenófobos. Mas se forem males banais, nossa hipocrisia de animais aparelhados para a moral dá de ombros e diz: “tudo bem…”.

Segunda, porque existe um imenso trabalho humano (gratuito e periférico, mas também remunerado e metropolitano) que vai ser integrado à modelagem matemática dos algoritmos. Então, não podemos esperar deles mais ou menos moralidade do que nossas formações sociais são capazes.

E isso nada tem a ver com qualquer aptidão inata e biológica à moralidade, mas com o fato de que as sociedades  sempre foram as megamáquinas mais antigas e mais inteligentes em extorquir e habituar comportamentos por repetição, reiteração e sistemas mais ou menos difusos de punição-recompensa. Nós, e os indivíduos que nós pensamos ser, não passamos de adictos sociais.

Mas a alucinação estatística também se liga a uma outra coisa. Uma curtição, um thrill, uma pira. Foi Félix Guattari quem, nos anos 1980, sugeriu o termo chapação maquínica. Disse que com as tecnologias acontecem as mesmas coisas que com os esportes de aventura, shows de música, os primeiros encontros, o sexo, o chocolate, o álcool e outras drogas lícitas e não lícitas (por mero ilegalismo).

Como em tudo na vida, existem good trips e bad trips. E o mais recente texto de Noam Chomsky é, provavelmente, fruto do segundo gênero. Uma bad trip de uma inteligência desperta demais. Não deveria espantar que Chomsky se diga, pessoalmente, um conservador quando o assunto são drogas: o texto de Chomsky mostra que ele não sabe chapar.

A partir de uma definição ampliada da droga, Guattari chamou de chapação maquínica “todos os mecanismos de produção de subjetividade maquínica, tudo o que contribui para o sentimento de pertencer a algo, de ser de algum lugar; e também de se esquecer. […] É o funcionamento do conjunto que é gratificante” (Guattari, 2022, p. 191 [Os anos de inverno, 1980-1985]). As pessoas chapam o tempo todo e por toda a parte: na empresa, na Igreja, na balada, nas suas tribos, fazendo tatuagens, curtindo uma viagem, lendo poesia e filosofia, escrevendo uma tese, assistindo reality shows ou documentários sobre cutelaria moderna.

A chapação atua no sistema dopaminérgico, e a dopamina é um neurotransmissor produzido pelo sistema mesolímbico, ligado aos circuitos de recompensa. Ela é o que produz aquela sensação de prazer e bem-estar que se segue de ter alcançado um objetivo, uma meta ou realizado alguma coisa existencialmente significativa.

O Guattari dos anos 1980 já havia entendido alguma coisa do que estávamos em vias de nos tornar. Ele descrevia a monomania dos videogames dos adolescentes, o zapping televisivo dos trabalhadores esgotados, o esqui alpino dos turistas que desciam colinas verticais, como chapações com efeitos em aspectos existenciais. Tudo estava ligado, ao menos na cultura do Ocidente, a um retorno ao sentimento de individualidade. No seu vocabulário, e no de Deleuze, a uma reterritorialização subjetiva. Uma espécie de compensação pela sensação de estar esquartejado mecanicamente, despedaçado como divíduos ligados p2p numa rede infinita de outras subjetividades.

O que os neurofisiologistas descobririam algumas décadas mais tarde, é que as nossas chapações maquínicas se tornaram mais pesadas. Não apenas as redes sociais atuam no sistema dopaminérgico, mas elas são desenhadas para ativar o sistema de reforço e de recompensa, e assim intensificar as interações.

Esta não é uma economia atencional, mas uma neuroeconomia dopaminérgica: quanto mais presença online, mais posts; quanto mais posts, mais likes e interações; quanto mais likes e interações, mais recompensas; e quanto mais recompensas mais o ciclo é reiniciado, recalibrado, repetido, desviado para novos objetos que proliferam de novos investimentos. O engajamento é a medida de todas as coisas, e as redes são poços virtualmente infinitos de dopamina.

Mas também é o próprio Guattari quem diz que nada disso deve parecer assombroso – embora envolva perigos. As  chapações podem ter valor de  refúgio: “As pessoas se subjetivam, refazem para si territórios existenciais com suas chapações” (Idem, p. 194). E disso não sai muita coisa além do velho sentimento de individualidade que nos aborrece – mas cuja perda nos parece aterradora.

Há a possibilidade de a chapação ir longe demais e dar origem a uma implosão subjetiva: Van Gogh, Artaud, os jovens japoneses que se suicidam no trabalho. A vida vai sendo arrastada por um processo de singularização que não pode estancar, precisa virar processo. Senão, é o beco sem saída, o buraco-negro, um caos destrutivo sem redenção informe. É o “desmoronamento lamentável”, ou a chapação que se revela obsoleta.

E há a criação de universos inauditos: “As formações subjetivas preparadas pelas chapações podem dar um novo impulso ao movimento ou, ao contrário, fazê-lo morrer lentamente. Por trás de tudo isso existem possibilidades de  criação de mudanças de vida, de revoluções científicas, econômicas e até mesmo estéticas. Novos horizontes ou nada. […] promover o reino de singularidades mutantes, novas minorias”(Idem, p. 194-195).

É mais provável que o que nos aguarda seja um envolvimento das três linhas que Guattari descreve: haverá desmoronamentos lamentáveis, buracos-negros, caos destrutivo; mas também ilhas de privilégio cuja moeda será o valor de refúgio, e um impulso em movimentos e grupos de usuários que ainda sequer existem, ou se autocompreendem, como tais.

O complexo é o seu emaranhamento: os desmoronamentos podem servir aos movimentos, enquanto os movimentos podem servir à circulação sacana dos valores de refúgio, dos clubes mais ou menos privados. É dessa constelação esquizo, que nos assombra com suas possibilidades maníaca e paranoide, que precisamos fazer sair um novo mundo, uma nova ecologia de relações baseada nas lutas pela dissolução de todos os dimorfismos hierarquizantes. Essa é a questão política da tecnologia e da ética dos inputs que o Chat-GPT torna pensáveis, a contrapelo dos tecno-otimismos e os tecnopessimismos – que, ao que tudo indica, já têm seus outputs all-figured out de antemão.

^[1] Um deles é o new Bing, da Microsoft, que integra o chatGPT ao buscador e o incorpora no navegador Microsoft Edge. Outro são as extensões para o navegador Google Chrome, oferecidas nas stores por vários desenvolvedores autônomos, que integra o ChatGPT ao buscador Google. Por padrão, o ChatGPT não tem acesso à Internet, e deṕende de atualizações constantes para que novos eventos sejam incorporados à base de dados. As iniciativas da Microsoft e da Alphabet potencializam o chatGPT dando-lhe acesso à Web – o que significa tentar reduzir o delay da espera por atualizações tendencialmente a zero. Mas já há um sem-número de extensões que mobilizam o ChatGPT para as mais diversas tarefas: escrever tweets, e-mails,  mensagens de redes sociais; coleções de modelos de prompts etc. Essas opções estão disponíveis como extensões ou add-ons na maior parte dos navegadores de Internet.

"Artificial whiteness": sobre a política da Inteligência Artificial

 

À primeira impressão, tudo, em Artificial Whiteness, se parece muito com os repetidos discursos críticos das tecnologias digitais e algorítmicas, que as reconhecem como um fenômeno global cercado de perigos e chances. A beleza do gesto que orienta seu livro está em não se render ao aparato crítico prêt-à-porter dos liberais-progressistas americanos, que circulam com facilidade nos salões de Estado, entre os heads das Big Techs, obtêm grants milionários e – sem jamais se perguntarem “o que de fato é” a IA – se metem a tagarelar sobre ela como “uma força posta para mudar tudo, para trazer utopia ou desastre” (Katz, 2020: 03). Outra beleza do livro de Katz está em encontrar o ponto em que a tecnofilia e a tecnofobia se mostram como o que verdadeiramente são: impotência política compartilhada; um ponto de efetivo estrangulamento que deve ser imediatamente dispensado.

Um dos argumentos mais interessantes e centrais de Artificial Whiteness: politics and ideology in Artificial Intelligence (Columbia University Press), livro publicado em 2020 pelo pesquisador do departamento de sistemas biológicos da Harvard Medical School, e doutor em ciências cognitivas pelo MIT, consiste na descrição consequente da IA como uma expressão do poder e como uma ferramenta adaptativa do projeto social e político totalizante da branquitude.

Afirmá-lo só é possível ao reconhecer uma relação ontogenética entre técnica e sociedade: “desenvolvimentos em computação são moldados por, e por sua vez também moldam, condições sociais” (Idem: 04). Isso explicaria, por exemplo, a obsessão dos pesquisadores de IA com modelos de self: numa imbricação entre psicologia e biologia, entender os tipos de seres que somos, nossos limites, nossas capacidades. Derivar loucamente numa ambição de fixar (pindown) o self, tanto para reproduzi-lo quanto para, quem sabe, ultrapassá-lo (e daí, as narrativas enfadonhas sobre o pós-humano), ou mesmo chegar a um ponto neutro da inteligência: desenvolver uma view from nowhere a fim de montar sistemas capazes de aprender, raciocinar e agir independentemente do contexto social.

O problema com esse exercício é que “A view from nowhere acabou sendo uma visão que vinha de um lugar específico, branco e privilegiado”. Ela é uma view from now-here, e também uma visão sobre as condicionantes históricas (somewhere else) que dão forma ao now-here.

Então, seria preciso situar esse mito e esse falso universal em um contexto político de mais amplo espectro, compreendendo que a IA e os sistemas de computadores se desenvolvem “em uma sociedade baseada na supremacia branca que trabalhou por reabastecer seus mitos” (Idem: 07). Assim, o que o livro de Katz oferece é antes uma imensa pergunta do que uma definição – embora as definições tampouco faltem: do que estamos falando precisamente ao dizer IA, e quando consideramos que seu desenvolvimento é inexoravelmente situado?

Katz afirma que existe uma isomorfia entre sociedades baseadas na supremacia branca – ordens raciais, ou de branquitude – e a IA. Assim, IA não é nem um conceito nem uma técnica pronta e acabada, mas “um espelho dos projetos políticos de seus técnicos e poderes investidos”. Isto é, a IA não seria, para Katz, uma tentativa veraz de dar conta do “pensamento humano” ou uma tecnologia para reproduzi-lo em máquinas (a chamada singularidade tecnológica). Sob esse pensamento humano universal demais, insiste na verdade uma tecnologia da branquitude, e esta é a tese de Artificial Whiteness.

Essa afirmação tem pelo menos duas dimensões, em que a isomorfia entre IA e branquitude se desdobra: i) Uma isomorfia morfológica: IA espelha projetos políticos da branquitude, sua ordem social como um todo; portanto, assim como as sociedades baseadas em hierarquias raciais, a IA é instável, possui uma flexibilidade ideológica relativamente incoerente; ii) Uma isomorfia estratégica: assim como as sociedades racializadas, a IA colocaria em funcionamento uma estratégia de “colcha de retalhos improvisada (makeshift patchwork)” que, apesar da mutabilidade e da inconsistência, serviria muito bem a “um conjunto estável de interesses” (Idem: 07).

Então, a relação entre IA e branquitude é a aquela entre um conjunto mutante e adaptável de técnicas computacionais e um conjunto de transformações sociais e de governança globais, isomorficamente flexíveis, relacionados a projetos como o capitalismo, o imperialismo, o patriarcado e a heteronormatividade (Idem: 09). Sua tese, em uma linha, é a de que “[IA] deveria ser vista como uma tecnologia de branquitude: uma ferramenta que não apenas seve aos objetivos da supremacia branca, mas também reflete a forma da branquitude como ideologia” (Idem: loc. cit.).

*

O texto de Katz é muito forte em termos descritivos. Afirmar que a IA é uma ideia, ou um conceito, que não está dado, nem pronto ou acabado, encerra a possibilidade de uma leitura crítica socialmente situada – ligada à branquitude, a sistemas sociais racialmente ordenados, a todas as confluências estratégias que esse tipo de dominação estrutural envolve (capitalismo, imperialismo, colonialismo, machismo, heteronormatividade etc.). Por outro lado, ela franqueia uma dimensão que poderia ser melhor explorada: a IA como uma técnica mutante, ligada a uma estratégia política historicizável, e como uma expressão mutante, isomórfica a uma ideologia.

Outro ponto forte do texto está no uso de uma sócio-tecnopolítica mobilizada em sentido forte. Isso está presente tanto na afirmação de uma circularidade entre IA e estruturas sociais de branquitude (como espelho e como expressão de poder de um regime racial), quanto numa dimensão crítica que vai “além do óbvio”. Isso fica claro quando Katz dirige críticas ponderadas, mas contundentes, à cumplicidade dos teóricos e técnicos da IA, situados em um espectro político liberal ou progressista (em sentido norte-americano), com o capitalismo, o imperialismo, o racismo e ao sexismo.

A preocupação constante deles com os vieses raciais e de gênero, e com a dimensão ética da técnica, não cessa de desviá-los, segundo Katz, do real problema. E o argumento da isomorfia funciona muito bem aqui: a pretexto de impedir que sistemas de reconhecimento facial apresentem vieses de gênero ou raça, as críticas dos liberais progressistas – que muitas vezes se originam de movimentos sociais radicais – forçam os sistemas de IA a chegarem na final frontier para se aperfeiçoarem, identificando pobres, mulheres e negros com precisão, e engajando-se com ainda mais vigor em uma lógica carcerária positiva da qual todos (uns mais, outros menos) participam. Eis o paradoxo (entre ingênuo e hipócrita) em que se envolvem os teóricos e técnicos críticos de IA nos EUA.

A maneira mais positiva de explorar o que Katz escreve, para além de suas próprias premissas e preocupações demonstrativas – que já são boas o bastante –, seria procurar pensar mais profundamente a correlação (muito interessante) entre a natureza mutante da IA e das formações sociais. No fundo, o que Katz está dizendo é que a IA participa de um agenciamento concreto. Veremos que Katz dispensa a ideia de que a IA é uma técnica neutra sujeita a usos diversos como um argumento liberal porque conserva, no fundo, a ideia de que a sociedade, através da sua instabilidade estratégica, consegue se manter estruturalmente estável. A questão verdadeiramente política, a meu ver, é que esse agenciamento que envolve a IA também é mutante em si (e não apenas nos seus termos, isto é: IA e ordem social dada).

Todo o problema é que estamos diante um agenciamento concreto (branco, macho, capitalista, imperial, hétero... – a lista é interminável...) que mobiliza o aspecto mutante da IA como um subproduto e um aliado estratégico de determinados vetores políticos da ordem social. E essa ordem, com seus vetores, mudam para manter-se sempre a mesma (o sistema de privilégios, para falar como Katz).

Um uso novo, portanto, depende de um agenciamento coletivo novo; isto é, da mutação estratégica que confina o potencial mutante da IA à univocidade política de uma formação social dada. Algo com que Gilbert Simondon estaria de inteiro acordo, e Félix Guattari também, seria especular que talvez não se trate de “liberar os homens das máquinas”, mas de liberar as máquinas deste agenciamento (demasiado humano) em que o potencial mutante delas em nos afetar encontra-se desde logo bloqueado pela nossa impotência em afetá-las.

A IA não está substancialmente fadada a ser o desenvolvimento de uma view from nowhere (imaginação branca) ou limitar-se a uma view from now-here (imaginação crítica, que serve, finalmente, à primeira). No fundo, como as próprias sociedades, a IA – assim como todas as tecnologias algorítimicas – precisa implicar uma view from erewhon; imaginação clínica, que assume o ponto de vista do devir e a política de forçar sua emergência.