14 de maio de 2021

"Artificial whiteness": sobre a política da Inteligência Artificial


 

À primeira impressão, tudo, em Artificial Whiteness, se parece muito com os repetidos discursos críticos das tecnologias digitais e algorítmicas, que as reconhecem como um fenômeno global cercado de perigos e chances. A beleza do gesto que orienta seu livro está em não se render ao aparato crítico prêt-à-porter dos liberais-progressistas americanos, que circulam com facilidade nos salões de Estado, entre os heads das Big Techs, obtêm grants milionários e – sem jamais se perguntarem “o que de fato é” a IA – se metem a tagarelar sobre ela como “uma força posta para mudar tudo, para trazer utopia ou desastre” (Katz, 2020: 03). Outra beleza do livro de Katz está em encontrar o ponto em que a tecnofilia e a tecnofobia se mostram como o que verdadeiramente são: impotência política compartilhada; um ponto de efetivo estrangulamento que deve ser imediatamente dispensado.

Um dos argumentos mais interessantes e centrais de Artificial Whiteness: politics and ideology in Artificial Intelligence (Columbia University Press), livro publicado em 2020 pelo pesquisador do departamento de sistemas biológicos da Harvard Medical School, e doutor em ciências cognitivas pelo MIT, consiste na descrição consequente da IA como uma expressão do poder e como uma ferramenta adaptativa do projeto social e político totalizante da branquitude.

Afirmá-lo só é possível ao reconhecer uma relação ontogenética entre técnica e sociedade: “desenvolvimentos em computação são moldados por, e por sua vez também moldam, condições sociais” (Idem: 04). Isso explicaria, por exemplo, a obsessão dos pesquisadores de IA com modelos de self: numa imbricação entre psicologia e biologia, entender os tipos de seres que somos, nossos limites, nossas capacidades. Derivar loucamente numa ambição de fixar (pindown) o self, tanto para reproduzi-lo quanto para, quem sabe, ultrapassá-lo (e daí, as narrativas enfadonhas sobre o pós-humano), ou mesmo chegar a um ponto neutro da inteligência: desenvolver uma view from nowhere a fim de montar sistemas capazes de aprender, raciocinar e agir independentemente do contexto social.

O problema com esse exercício é que “A view from nowhere acabou sendo uma visão que vinha de um lugar específico, branco e privilegiado”. Ela é uma view from now-here, e também uma visão sobre as condicionantes históricas (somewhere else) que dão forma ao now-here.

Então, seria preciso situar esse mito e esse falso universal em um contexto político de mais amplo espectro, compreendendo que a IA e os sistemas de computadores se desenvolvem “em uma sociedade baseada na supremacia branca que trabalhou por reabastecer seus mitos” (Idem: 07). Assim, o que o livro de Katz oferece é antes uma imensa pergunta do que uma definição – embora as definições tampouco faltem: do que estamos falando precisamente ao dizer IA, e quando consideramos que seu desenvolvimento é inexoravelmente situado?

Katz afirma que existe uma isomorfia entre sociedades baseadas na supremacia branca – ordens raciais, ou de branquitude – e a IA. Assim, IA não é nem um conceito nem uma técnica pronta e acabada, mas “um espelho dos projetos políticos de seus técnicos e poderes investidos”. Isto é, a IA não seria, para Katz, uma tentativa veraz de dar conta do “pensamento humano” ou uma tecnologia para reproduzi-lo em máquinas (a chamada singularidade tecnológica). Sob esse pensamento humano universal demais, insiste na verdade uma tecnologia da branquitude, e esta é a tese de Artificial Whiteness.

Essa afirmação tem pelo menos duas dimensões, em que a isomorfia entre IA e branquitude se desdobra: i) Uma isomorfia morfológica: IA espelha projetos políticos da branquitude, sua ordem social como um todo; portanto, assim como as sociedades baseadas em hierarquias raciais, a IA é instável, possui uma flexibilidade ideológica relativamente incoerente; ii) Uma isomorfia estratégica: assim como as sociedades racializadas, a IA colocaria em funcionamento uma estratégia de “colcha de retalhos improvisada (makeshift patchwork)” que, apesar da mutabilidade e da inconsistência, serviria muito bem a “um conjunto estável de interesses” (Idem: 07).

Então, a relação entre IA e branquitude é a aquela entre um conjunto mutante e adaptável de técnicas computacionais e um conjunto de transformações sociais e de governança globais, isomorficamente flexíveis, relacionados a projetos como o capitalismo, o imperialismo, o patriarcado e a heteronormatividade (Idem: 09). Sua tese, em uma linha, é a de que “[IA] deveria ser vista como uma tecnologia de branquitude: uma ferramenta que não apenas seve aos objetivos da supremacia branca, mas também reflete a forma da branquitude como ideologia” (Idem: loc. cit.).

*

O texto de Katz é muito forte em termos descritivos. Afirmar que a IA é uma ideia, ou um conceito, que não está dado, nem pronto ou acabado, encerra a possibilidade de uma leitura crítica socialmente situada – ligada à branquitude, a sistemas sociais racialmente ordenados, a todas as confluências estratégias que esse tipo de dominação estrutural envolve (capitalismo, imperialismo, colonialismo, machismo, heteronormatividade etc.). Por outro lado, ela franqueia uma dimensão que poderia ser melhor explorada: a IA como uma técnica mutante, ligada a uma estratégia política historicizável, e como uma expressão mutante, isomórfica a uma ideologia.

Outro ponto forte do texto está no uso de uma sócio-tecnopolítica mobilizada em sentido forte. Isso está presente tanto na afirmação de uma circularidade entre IA e estruturas sociais de branquitude (como espelho e como expressão de poder de um regime racial), quanto numa dimensão crítica que vai “além do óbvio”. Isso fica claro quando Katz dirige críticas ponderadas, mas contundentes, à cumplicidade dos teóricos e técnicos da IA, situados em um espectro político liberal ou progressista (em sentido norte-americano), com o capitalismo, o imperialismo, o racismo e ao sexismo.

A preocupação constante deles com os vieses raciais e de gênero, e com a dimensão ética da técnica, não cessa de desviá-los, segundo Katz, do real problema. E o argumento da isomorfia funciona muito bem aqui: a pretexto de impedir que sistemas de reconhecimento facial apresentem vieses de gênero ou raça, as críticas dos liberais progressistas – que muitas vezes se originam de movimentos sociais radicais – forçam os sistemas de IA a chegarem na final frontier para se aperfeiçoarem, identificando pobres, mulheres e negros com precisão, e engajando-se com ainda mais vigor em uma lógica carcerária positiva da qual todos (uns mais, outros menos) participam. Eis o paradoxo (entre ingênuo e hipócrita) em que se envolvem os teóricos e técnicos críticos de IA nos EUA.

A maneira mais positiva de explorar o que Katz escreve, para além de suas próprias premissas e preocupações demonstrativas – que já são boas o bastante –, seria procurar pensar mais profundamente a correlação (muito interessante) entre a natureza mutante da IA e das formações sociais. No fundo, o que Katz está dizendo é que a IA participa de um agenciamento concreto. Veremos que Katz dispensa a ideia de que a IA é uma técnica neutra sujeita a usos diversos como um argumento liberal porque conserva, no fundo, a ideia de que a sociedade, através da sua instabilidade estratégica, consegue se manter estruturalmente estável. A questão verdadeiramente política, a meu ver, é que esse agenciamento que envolve a IA também é mutante em si (e não apenas nos seus termos, isto é: IA e ordem social dada).

Todo o problema é que estamos diante um agenciamento concreto (branco, macho, capitalista, imperial, hétero... – a lista é interminável...) que mobiliza o aspecto mutante da IA como um subproduto e um aliado estratégico de determinados vetores políticos da ordem social. E essa ordem, com seus vetores, mudam para manter-se sempre a mesma (o sistema de privilégios, para falar como Katz).

Um uso novo, portanto, depende de um agenciamento coletivo novo; isto é, da mutação estratégica que confina o potencial mutante da IA à univocidade política de uma formação social dada. Algo com que Gilbert Simondon estaria de inteiro acordo, e Félix Guattari também, seria especular que talvez não se trate de “liberar os homens das máquinas”, mas de liberar as máquinas deste agenciamento (demasiado humano) em que o potencial mutante delas em nos afetar encontra-se desde logo bloqueado pela nossa impotência em afetá-las.

A IA não está substancialmente fadada a ser o desenvolvimento de uma view from nowhere (imaginação branca) ou limitar-se a uma view from now-here (imaginação crítica, que serve, finalmente, à primeira). No fundo, como as próprias sociedades, a IA assim como todas as tecnologias algorítimicas precisa implicar uma view from erewhon; imaginação clínica, que assume o ponto de vista do devir e a política de forçar sua emergência.