Professor da Escola de Computação e Comunicação da Open University, Syed Mustafa Ali tem se dedicado a compreender conexões entre computação, raça, religião, tecnologia, informação e poder. A partir de uma perspectiva de descolonização, Mustafa Ali propõe, por exemplo, a descolonização da computação e uma crítica do racismo algorítmico. Confira artigos dele aqui, aqui e aqui, e leia a entrevista abaixo.
DIGILABOUR: O que significa descolonizar a computação?
SYED MUSTAFA ALI: A descolonização da computação tem sido enquadrada por pesquisadores como Simone Browne, Anita Say Chan, Lilly Irani, Lawrence Liang e Jack Qiu em termos de explorar o tipo de computação que está sendo feita nas periferias, margens ou bordas do sistema moderno/colonial a partir de um compromisso baseado na práxis em direção a um descentramento radical, como faz Chan, por exemplo. No entanto, eu fico um pouco indeciso sobre a necessidade desse compromisso em relação ao descentramento em si, estando mais preocupado com o descentramento do eurocentrismo como do ocidentalismo. Em minha visão de “pluriversidade” como uma alternativa à universalidade eurocêntrica, por exemplo, pode ser que um mundo pós-eurocêntrico assuma uma visão “policêntrica”, embora eu entenda isso de uma forma um pouco diferente de um teórico marxista terceiromundista chamado Samir Amin. Inspirado por correntes da fenomenologia heidegerriana, da teoria racial crítica e do pensamento descolonial/decolonial, o meu trabalho é baseado em uma tentativa de questionar descolonialmente em relação à computação, indagando se a computação precisa ser descolonizada, e, se sim, como tal descolonização deve ser efetivada. No início, pode parecer um pouco difícil descrever a computação como “colonial”, dado que o colonialismo como um fenômeno ligado a estruturas imperiais de dominação e assentamentos é uma coisa do passado. Em suma, como a computação pode ser colonial se a “era dos impérios” acabou e nós vivemos em um mundo pós colonial? Eu argumento que, na medida em que a computação é um fenômeno moderno, e a modernidade é fundamentada e permanece amarrada com o colonialismo e suas lógicas estruturais facilitadoras – o que os teóricos descoloniais chamam de colonialidade – então pode ser que a computação continue a ter os traços do legado sistêmico do colonialismo. Em resumo, a computação é um fenômeno moderno e colonial. Isso se aplica a tipos específicos de computação, como a computação ubíqua, incluindo os desenvolvimentos mais recentes, como a Internet das coisas, que foram dirigidos por um “impulso colonial”, assim como a computação de maneira geral. Embora eu pense que é possível a computação ser desarticulada ou desconectada do capitalismo, ou então, que o capitalismo racial não pode ser entendido como separado de raça, racismo e racialização no contexto do sistema mundial moderno colonial, estou inclinado a pensar que o foco em tais desenvolvimentos periféricos, marginais ou fronteiriços, por mais importantes que sejam, diminui a necessidade de “levar a guerra ao cerne”, ou seja, efetuar a descolonização da computação em seu ponto de origem: a articulação hegemônica e a manifestação neocolonial centrífuga. Por essa razão, e como alguém atualmente geopoliticamente localizado no centro, ainda que corpo-politicamente, e como um muçulmano, marcado como “periférico” e “outro”, eu costumo focar meus esforços “disruptivos” para interrogar a computação convencional em termos de sua operação como um fenômeno baseado e flexionado por lógicas coloniais com vistas a refletir sobre as implicações de tais desenvolvimentos para, do ponto de vista privilegiado, aqueles localizados em margens, fronteiras e periferias. Nesse sentido, sugeri que, ao adotar uma perspectiva de computação descolonial, os pesquisadores façam, no mínimo, o seguinte: em primeiro lugar, considerar suas orientações geopolíticas e corpo-políticas ao projetar, construir, pesquisar ou teorizar sobre computação; em segundo lugar, abraçar a “opção descolonial” como uma ética, tentando pensar sobre o que poderia significar projetar e construir sistemas de computação com e para aqueles situados nas periferias do sistema mundial, baseados nos modos de pensar e conhecer (epistemologias) que estão localizados nesses lugares, com o objetivo de minar a assimetria das relações de poder “local-global”, efetuando o descentramento dos eurocêntricos/ocidentais universais. No entanto, para retornar à sua pergunta original, “o que significa descolonizar a computação”, acho que também há uma necessidade de pensar sobre a conveniência ou não da computação centralizada em si, independentemente de sua forma capitalista (racial), pós colonial ou descolonial. Na minha opinião, há insuficientes pesquisas descoloniais em relação à informatização, digitalização e/ou dataficação. Eu tenho apontado para o escopo da computação descolonial como algo além da crítica da computação da Internet das Coisas, ubíqua e onipresente, para incluir outros fenômenos, tentando alguns questionamentos preliminares sobre governança da internet, Big Data e dataficação. Minha preocupação, em ambos os contextos, tem sido compreender como os fenômenos são construídos discursivamente de forma conjunta a questões geopolíticas, corpo-políticas, entre outras.
DIGILABOUR: Com relação à governança da Internet, pode nos dar um exemplo?
MUSTAFA ALI: Aí há três questões relacionadas que constituem um local para a operação da colonialidade racializada. Em primeiro lugar, como a governança da Internet é enquadrada discursivamente, por quem e para quais fins. Minha preocupação é explicar, por meio de uma leitura descolonial, a operação tácita, ainda que não intencional, da lógica colonial em certas visões sobre a governança da Internet articuladas por vozes dominantes e geopoliticamente localizadas no Norte, e corpo-politicamente marcadas como brancas. Em segundo lugar, há a relação de formações prévias de redes de longa duração – sociais, políticas, econômicas, culturais – com as redes sociotécnicas, em face da reprodução das relações de poder sistêmicas no mundo. Em terceiro lugar, há o iliberalismo persistente e mascarado das concepções ocidentais de ordem econômica e política liberal sob a modernidade colonial. Subjacente a esse projeto está a preocupação em revelar o que pode ser descrita como “governamentalidade colonial racializada” no discurso hegemônico da governança da Internet. Há um compromisso normativo – político e ético – com a criação de uma governança da Internet para o Sul Global, e não com um enquadramento em termos da possibilidade de “inclusão” em um sistema existente, hegemonicamente ocidental e “mascarado” – intencionalmente ou não – por meio do discurso de defesa dos múltiplos atores interessados.
DIGILABOUR: E em relação à dataficação?
MUSTAFA ALI: Tenho feito uma crítica descolonial do discurso das pesquisas sobre dados. Nesse sentido, tenho me preocupado em mostrar como o fenômeno histórico-geográfico concreto da colonização europeia tem sido apropriado como uma metáfora no contexto de discursos “críticos” ostensivos relacionados à ascensão do Big Data e o que alguns comentaristas chamam de “capitalismo de vigilância”. Em minha leitura, tais movimentos discursivos devem ser vistos como uma concretização de violência (neo)colonial na medida em que são apropriativos e eurocêntricos/centrados no Ocidente.
DIGILABOUR: Como pensar a inteligência artificial em termos de uma geopolítica do conhecimento?
MUSTAFA ALI: Há duas questões emaranhadas: o que se entende por inteligência artificial e se isso é melhor abordado por meio de uma geopolítica do conhecimento. Primeiramente, é útil esclarecer brevemente a relação entre inteligência artificial e fenômenos relacionados, como machine learning. Uma maneira de compreender a inteligência artificial é se referir aos fenômenos tecnológicos considerados capazes de exibir traços inteligentes dentro de um domínio circunscrito. Já o machine learning refere-se ao uso de algoritmos para processar e analisar dados, a fim de aprender com ele e gerar previsões sobre algo. O machine learning e o deep learning são um subcampo da inteligência artificial. Há também a necessidade de diferenciar alguns dos diferentes paradigmas da inteligência artificial, incluindo suas encarnações simbólicas, muitas vezes chamadas de Good Old-Fashioned AI (GOFAI), e abordagens conexionistas baseadas em redes neurais artificiais, bem como abordagens inspiradas na biologia, como a robótica situada e reativa, os algoritmos genéticos, entre outros. Devo mencionar também a diferença entre inteligência artificial e o que veio a ser chamado de inteligência artificial geral. Esse último se refere a fenômenos tecnológicos que alcançaram inteligência a nível humano ou além disso. É claro que, a partir disso tudo, e espreitando como um elefante na sala, está a espinhosa questão sobre o significado da inteligência. Nesse sentido, a inteligência artificial, assim como machine learning e deep learning, deve ser entendida como fundamentalmente conectada a preocupações antropológicas, voltando-se a questões e decisões sobre antropocentrismo e antropomorfismo. Com relação à segunda questão, não se trata apenas de geopolítica do conhecimento, mas também de corpo-política e teo-ego-política do conhecimento. Além das preocupações epistemológicas, há questões ontológicas a serem consideradas, bem como o entrelaçamento da epistemologia (conhecimento) e da ontologia (ser) com o poder. Estou inclinado a pensar que existe uma tendência bastante persistente e difundida de pensar a inteligência como necessária cognitiva, isto é, mentalista em algum sentido. Uma das implicações desse viés cognitivista é que as questões raciais são invisibilizadas, a cognição é considerada um fenômeno sem raça, ao passo que a relação histórica da cognição com raça/racismo/racialização pode ser demonstrada. Tenho sugerido que, mesmo quando questões de localização e incorporação são levadas a sério, por exemplo, dentro da robótica reativa, o corpo tende a ser enquadrado e seu contexto de situação/incorporação é enquadrado em termos não raciais. Voltando à questão, acho que uma maneira útil de abordar a questão da inteligência artificial em uma perspectiva descolonial é em termos de como seu desenvolvimento dentro do núcleo do sistema mundial moderno colonial pode e deve ser entendido como forma de manutenção, expansão, refinamento (ou adaptação) de uma hegemonia, que tenta ser contestada por aqueles localizados nas periferias, margens e fronteiras. Em resumo, precisamos perguntar qual o papel que a inteligência artificial pode desempenhar e acaba desempenhando na manutenção da operação funcional da colonialidade e/ou da matriz colonial de poder, incluindo sua manifestação sistêmica como supremacia branca global. Acho que essa pergunta é crucial e precisa ser feita independentemente de se considerar a inteligência artificial geral algo imaginado pelos proponentes do trans-pós-humanismo, ou pelo que poderia ser descrito como “aumento/ampliação da inteligência”, isto é, a implantação de machine learning e deep learning em contextos específicos, incluindo aqueles que estão emaranhados com outras tecnologias, como a internet das coisas.
DIGILABOUR: Falar de descolonização virou moda no Norte Global. Como compreender isso ou lutar contra…?
MUSTAFA ALI: Embora eu compartilhe das preocupações sobre a descolonização ser reduzida a um modismo nos contextos do Norte Global e apoie os esforços para resistir a qualquer coisa que eu veja como um processo de cooptação colonial, estou inclinado a pensar que a situação é um pouco mais complexa. Em primeiro lugar, não creio que a redução da descolonização a um modismo no Norte Global seja inevitável, nem que tenha acontecido sem resistências de dentro. Em segundo lugar, e talvez mais importante: na medida em que as lógicas estruturais que sustentam o sistema mundial moderno colonial operam tanto local quanto globalmente, precisamos pensar em descolonizar tanto o núcleo (Norte Global) quanto descolonizar a periferia (Sul Global) e seu entrelaçamento relacional de poder. Talvez seja crucial a adoção de um compromisso com o que os pesquisadores descoloniais/decoloniais chamam de “opção descolonial”, que eu defino como uma opção ético-política para aqueles localizados em margens, fronteiras e periferias do sistema mundial moderno colonial, com vistas a efetuar reparações – materiais e outras – ao Sul Global e descentralizar a hegemonia do Ocidente/ Norte Global. Se o discurso de descolonização vindo do Norte Global não se alinha explicitamente com essa orientação de pensamento, fala e ação, então eu acho que ele precisa ser chamado pelo que é, ou seja, co-opção colonial modista, pelas vozes do Norte e do Sul Global comprometidas com o projeto de descolonização, entendido como um projeto de re-formação e reconstrução mundial. Em suma, eu não acho que o problema seja apenas sobre quem está gerando o discurso descolonial e de onde, mas também sobre o motivo pelo qual eles estão fazendo isso, ou seja, com qual propósito. Se as vozes do Norte Global não tirarem sua “condução” do Sul Global e de suas preocupações, então, no mínimo, elas estarão vazias do ponto de vista decolonial. Embora eu não esteja inteiramente certo de que é útil ou apropriado para alguém localizado no núcleo, como eu, embora às suas margens, corpo-politicamente falando, aconselhar aqueles geopoliticamente localizados em periferias, margens e fronteiras sobre como lutar contra a cooptação do/no projeto colonial, talvez eu possa me aventurar a sugerir a importância de reiterar a necessidade de abraçar a opção descolonial e aconselhar os atores descoloniais do Norte Global a refletir sobre o que eles pensam, dizem e fazem em seus lugares para promover o projeto de descolonização.
DIGILABOUR: Quais são as características do racismo algorítmico?
MUSTAFA ALI: Há dois sentidos no racismo algorítmico, um que é ôntico, e outro que é ontológico, algo baseado em uma distinção de Heidegger. Entendido onticamente, o racismo algorítmico refere-se à manifestação do viés racial nas tecnologias que incorporam algoritmos. Embora alguns comentaristas tenham argumentado que a fonte geradora de tal viés pode ser atribuída a vieses humanos no desenho, implementação ou uso dos algoritmos, outros comentaristas argumentam que não são tanto os próprios algoritmos, mas, sim, os vieses históricos nos conjuntos de dados usados para treinar esses algoritmos e as classificações geradas por eles que são a fonte do problema. Existe uma literatura já extensa sobre o tema do racismo algorítmico e discursos associados, como o FAT-ML (Fairness, Accountability and Transparency in ML), e é um fenômeno importante para se envolver em uma perspectiva descolonial de computação. No entanto, tenho a tendência de pensar que a maneira mais construtiva de fazer isso é situando essa compreensão ôntica do racismo algorítmico dentro de uma concepção ontológica do fenômeno. Entendido ontologicamente, o racismo algorítmico refere-se a uma maneira de conceituar a relação entre processos de formação racial (ou racialização) dentro da experiência histórica ocidental e seus (vários) “outro(s)”. O racismo algorítmico, nesse sentido, mobiliza a figura do algoritmo como uma metáfora para pensar sobre a relação entre diferentes formações discursivas – religiosa, filosófica, científica, cultural, informacional, algorítmica (no sentido ôntico… – e como a raça é paradigmaticamente articulada em diferentes períodos da história da modernidade colonial. O racismo algorítmico está relacionado à revelação de que há continuidade mesmo em processos de mudanças na longa e histórica conexão entre “raça” e “religião”, que é associada a processos de estabelecimento, manutenção, expansão e refinamento do sistema moderno colonial, pensando em transformações discursivas como rearticulações ou reiterações da diferença entre o europeu (branco, ocidental) e o não europeu (não branco, não ocidental) ao longo de uma trajetória programática de dominação que os pesquisadores descoloniais enquadram com referência à “linha do humano”. Com base nesses estudos, refiro-me às origens do “humano” – ou “homem” – como categoria religiosa-racial eurocêntrica, forjada em um processo de dialética negativa hierárquica, com base em uma relação antagônica com o “outro” não europeu como subumano, desde o século XVI, se não antes. Além de explorar as transformações nas articulações de raça, penso no racismo algorítmico em termos da mudança da distinção entre subumanos (não europeus, não brancos) e humanos (europeus, brancos) para aqueles entre humanos (não europeus, não brancos) e transumanos (europeus, brancos), entendendo tal mudança como a intenção de manter o binarismo relacional e hierárquico entre o europeu e o não europeu. Nesse sentido, e no contexto do meu questionamento descolonial em relação ao transumanismo, aponto para a transformação “algorítmica” do humanismo em pós humanismo tecnológico via transumanismo como uma mudança iterativa dentro da ontologia historicamente sedimentada da racialização eurocêntrica; em suma, o humanismo, o transumanismo e pós humanismo devem ser entendidos como interações dentro da lógica estrutural, isto é, relacional, do racismo algorítmico.
Veja também palestras de Mustafa Ali aqui e aqui.
