À primeira impressão, tudo, em
Artificial Whiteness, se
parece muito com os repetidos discursos críticos
das tecnologias digitais e algorítmicas, que as reconhecem como um
fenômeno global cercado de perigos e chances.
A beleza do gesto que orienta seu livro está em não se render ao
aparato crítico
prêt-à-porter dos
liberais-progressistas americanos, que circulam
com facilidade nos salões de Estado, entre os heads
das Big Techs,
obtêm grants milionários
e – sem jamais se perguntarem “o que de fato é” a IA – se
metem
a tagarelar sobre ela como “uma
força posta para mudar tudo, para trazer utopia ou desastre”
(Katz, 2020: 03). Outra
beleza do livro de Katz está
em encontrar o ponto em que a
tecnofilia e a tecnofobia se
mostram como o que verdadeiramente são: impotência política
compartilhada; um ponto de
efetivo estrangulamento que deve ser imediatamente
dispensado.
Um
dos argumentos mais interessantes e
centrais de Artificial
Whiteness: politics
and ideology in Artificial Intelligence
(Columbia University Press),
livro publicado
em 2020 pelo pesquisador do departamento de sistemas biológicos da
Harvard Medical School,
e doutor em ciências cognitivas pelo MIT, consiste na descrição
consequente
da IA como uma expressão do poder e como uma ferramenta adaptativa
do projeto social e político
totalizante da branquitude.
Afirmá-lo
só é possível ao reconhecer uma relação ontogenética entre
técnica e sociedade: “desenvolvimentos
em computação são moldados
por, e por sua vez também moldam, condições sociais” (Idem: 04).
Isso explicaria, por exemplo,
a obsessão dos pesquisadores de IA com modelos de self:
numa imbricação entre psicologia e biologia, entender os tipos de
seres que somos, nossos limites, nossas capacidades. Derivar
loucamente numa ambição de
fixar (pindown) o
self, tanto
para reproduzi-lo quanto para, quem sabe, ultrapassá-lo (e daí, as
narrativas enfadonhas sobre
o pós-humano), ou mesmo
chegar a um ponto neutro da
inteligência: desenvolver uma view from nowhere
a fim de montar sistemas capazes de aprender, raciocinar e agir
independentemente do contexto social.
O
problema com esse exercício é que “A view from nowhere
acabou sendo uma visão que vinha de um lugar específico, branco e
privilegiado”. Ela é uma
view from now-here, e também
uma visão sobre as condicionantes históricas (somewhere else) que dão forma ao
now-here.
Então,
seria preciso situar
esse mito e esse falso
universal em um contexto
político de mais amplo espectro, compreendendo que a IA e os
sistemas de computadores se desenvolvem “em uma sociedade baseada
na supremacia branca que trabalhou por reabastecer seus mitos”
(Idem: 07). Assim, o
que o livro de Katz oferece é antes uma
imensa pergunta do que uma
definição – embora as definições tampouco faltem: do
que estamos falando precisamente ao dizer IA, e
quando consideramos que seu
desenvolvimento é inexoravelmente situado?
Katz
afirma que existe uma isomorfia entre sociedades baseadas na
supremacia branca – ordens raciais, ou de
branquitude – e a
IA. Assim, IA não é nem um
conceito nem uma técnica pronta e acabada, mas “um espelho dos
projetos políticos de seus técnicos e poderes investidos”. Isto
é, a IA não seria, para Katz, uma tentativa veraz de dar conta
do “pensamento humano” ou uma tecnologia para reproduzi-lo
em máquinas (a chamada
singularidade tecnológica).
Sob esse pensamento humano universal demais, insiste na verdade uma
tecnologia da branquitude, e
esta é a tese de Artificial
Whiteness.
Essa
afirmação tem pelo menos duas dimensões, em que a isomorfia entre
IA e branquitude se desdobra: i) Uma
isomorfia morfológica:
IA espelha projetos políticos
da branquitude, sua ordem social como um todo; portanto, assim como
as sociedades
baseadas em hierarquias raciais, a IA é instável, possui uma
flexibilidade ideológica relativamente incoerente; ii) Uma
isomorfia estratégica:
assim como as sociedades racializadas, a IA colocaria em
funcionamento uma estratégia de “colcha de retalhos improvisada
(makeshift patchwork)”
que, apesar da mutabilidade e da inconsistência, serviria muito
bem a “um conjunto estável
de interesses” (Idem: 07).
Então,
a relação entre IA e branquitude é a aquela
entre um conjunto mutante e adaptável de técnicas computacionais
e um conjunto de
transformações sociais e de governança globais, isomorficamente
flexíveis, relacionados a projetos como o capitalismo, o
imperialismo, o patriarcado e a heteronormatividade (Idem:
09). Sua
tese, em uma linha, é a de que “[IA] deveria ser vista como uma
tecnologia de branquitude: uma ferramenta que não apenas seve aos
objetivos da supremacia branca, mas também reflete a forma da
branquitude como ideologia” (Idem: loc. cit.).
*
O
texto de Katz é muito forte
em termos descritivos. Afirmar que a IA é uma ideia, ou um conceito,
que não está dado, nem pronto ou acabado, encerra a
possibilidade de uma leitura crítica socialmente situada – ligada
à branquitude, a
sistemas sociais racialmente ordenados, a todas as confluências
estratégias que esse tipo de dominação estrutural envolve
(capitalismo, imperialismo, colonialismo, machismo,
heteronormatividade
etc.). Por
outro lado, ela franqueia
uma dimensão que poderia ser melhor explorada: a IA como uma técnica
mutante, ligada a uma estratégia política historicizável,
e como uma expressão mutante, isomórfica a uma ideologia.
Outro
ponto forte do texto está no
uso de uma sócio-tecnopolítica mobilizada em sentido forte. Isso
está presente tanto na afirmação de uma circularidade entre IA e
estruturas sociais de branquitude (como espelho e como expressão de
poder de um regime racial),
quanto numa dimensão crítica
que vai “além do óbvio”. Isso fica claro quando Katz dirige
críticas ponderadas, mas contundentes, à cumplicidade dos teóricos
e técnicos da
IA, situados em um espectro político liberal ou progressista (em
sentido norte-americano), com o capitalismo, o imperialismo, o
racismo e ao sexismo.
A
preocupação constante deles
com os vieses raciais e de
gênero, e com a dimensão
ética da técnica, não
cessa de desviá-los,
segundo Katz, do real
problema. E o argumento da isomorfia funciona muito
bem aqui: a
pretexto de impedir que
sistemas de reconhecimento facial apresentem vieses de gênero ou
raça, as críticas dos
liberais progressistas –
que muitas vezes se originam de movimentos sociais radicais –
forçam os sistemas de IA a chegarem na final frontier para
se aperfeiçoarem, identificando pobres,
mulheres e negros com precisão, e engajando-se
com ainda mais vigor em
uma lógica carcerária positiva da
qual todos (uns mais, outros menos) participam.
Eis o paradoxo (entre
ingênuo e hipócrita) em que
se envolvem os teóricos e técnicos críticos de IA nos EUA.
A
maneira mais positiva de explorar o que Katz escreve, para além de
suas próprias premissas e preocupações demonstrativas – que
já são boas o bastante –,
seria procurar pensar mais profundamente a correlação (muito
interessante) entre a natureza mutante da IA e das
formações sociais. No
fundo, o que Katz está dizendo é que a IA participa de um
agenciamento concreto.
Veremos
que Katz dispensa a ideia de que a IA é uma técnica neutra sujeita
a usos diversos como um argumento liberal porque conserva, no fundo,
a ideia de que a sociedade, através da sua instabilidade
estratégica, consegue se manter estruturalmente
estável. A questão
verdadeiramente política, a meu ver, é que esse agenciamento que
envolve a IA também
é mutante em si (e
não apenas nos seus termos,
isto é: IA e ordem social dada).
Todo
o problema é que estamos diante um agenciamento concreto
(branco, macho, capitalista, imperial, hétero... – a
lista é interminável...)
que mobiliza o aspecto mutante da IA como um subproduto e um aliado
estratégico de determinados
vetores políticos da ordem
social. E essa ordem, com seus
vetores, mudam para manter-se sempre a mesma (o
sistema de privilégios, para
falar como Katz).
Um
uso novo, portanto, depende de um agenciamento coletivo novo; isto é,
da mutação estratégica que confina o potencial mutante da IA à
univocidade política de uma
formação social dada. Algo
com que Gilbert Simondon
estaria de inteiro acordo,
e Félix Guattari
também, seria especular que
talvez não se trate de
“liberar os homens das máquinas”, mas de liberar
as máquinas deste agenciamento
(demasiado humano) em que o potencial mutante
delas em
nos afetar encontra-se desde logo bloqueado
pela nossa impotência em afetá-las.
A
IA não está substancialmente fadada a ser o desenvolvimento de uma
view from nowhere (imaginação
branca) ou limitar-se a uma
view from now-here (imaginação
crítica, que serve, finalmente, à primeira). No fundo,
como as próprias sociedades, a
IA – assim como todas as tecnologias algorítimicas – precisa implicar uma view from erewhon; imaginação
clínica, que assume o ponto de vista do devir e a política de
forçar sua emergência.
