Uma crítica radical hacker-fanoniana ao colonialismo digital: Entrevista com Deivison Faustino

Gianmarco Cristofari

Na apresentação do livro do MTST em São Paulo, conheci Deivison Faustino, uma figura que me impressionou de imediato. Com um estilo que remete ao universo do rap e o boné virado para trás, Deivison é professor e um dos principais intelectuais públicos do Brasil dedicados à obra de Frantz Fanon, o pensador anticolonial da resistência argelina. Ao lado de Walter Lippold, ele é autor de “Colonialismo digital: por uma crítica hacker-fanoniana“. Diante da profunda penetração global das plataformas digitais norte-americanas, o colonialismo digital — cuja genealogia é bem reconstruída na aqui — não deve ser entendido como um fenômeno restrito à América Latina; é algo que diz respeito a todos nós.

Dono de uma fala segura e de uma retórica envolvente, combinamos uma entrevista para dali a alguns dias, durante um debate organizado pelo Geledés – Instituto da Mulher Negra. O Geledés é uma organização da sociedade civil que atua na defesa dos direitos de mulheres e da população negra contra o racismo e o sexismo, desenvolvendo atividades de incidência política, educação e pesquisa. O evento era intitulado “Inteligência Artificial – Ciberativismo e o lugar das mulheres negras no enfrentamento à erosão democrática”.

A conversa, que contou com a participação de outras duas pesquisadoras, retomou temas que ganharam as manchetes nos últimos anos, especialmente como a inteligência artificial pode acabar promovendo a desinformação e o discurso de ódio, manipulando percepções e criando bolhas informacionais. Após um excelente coquetel, por volta das oito da noite, encurralei o generoso Deivison para a entrevista, que foi agradavelmente pontuada pelo som de um samba vindo do bar no andar de baixo — um contraponto rítmico ao teor denso da nossa discussão.

De fato, embora o debate sobre soberania digital tenha ganhado destaque na mídia brasileira, raramente encontrei críticas verdadeiramente radicais sobre o tema. No entanto, a crítica radical é um dever do pensamento: Marx nos instava a agarrar as coisas pela raiz, enquanto Cornelius Castoriadis via no imaginário radical a capacidade de fazer emergir o que ainda não existe. E se, como propõe Bernard Stiegler, o risco do capitalismo computacional reside na miséria simbólica de uma imaginação passiva, cujos desejos são pré-fabricados pela indústria tecnológica, então contribuições como a de Deivison me parecem centrais para o debate.

***

A primeira pergunta é sobre a sua trajetória: como você se interessa pela questão da soberania digital?

A minha trajetória intelectual começa nos movimentos sociais, especialmente no hip‑hop e no movimento negro. Durante muito tempo atuei como pesquisador do pensamento antirracista e estudei vários autores até chegar a Frantz Fanon. De certa forma, ajudei a divulgar o nome dele no Brasil. Comecei a estudá‑lo quando quase ninguém falava dele, e uma série de transformações no país permitiu que autores negros ganhassem visibilidade — e neste momento, eu estava lá, apresentando o Fanon.

O Fanon tem uma discussão sobre tecnologia que é central para ele, ainda que pouco estudada. No entanto, a minha entrada na tecnologia não foi por meio de Fanon. No início dos anos 2000, o movimento do software livre era muito forte no Brasil, e vários programadores e intelectuais desse movimento estavam ligados a movimentos populares, negros e indígenas. Fui formado por algumas dessas pessoas, especialmente por Márcio Banto, o Ikebanto, que até hoje é programador de software livre, não usa softwares proprietários sob hipótese alguma. Naquele época, eu fazia parte de um coletivo de hip‑hop e também me organizava no movimento negro, a partir de uma vertente radical da esquerda. A ideia era desenvolver tecnologias seguras de comunicação para apoiar ocupações do MST e do MTST, e, ao mesmo tempo, discutir com os jovens temas de revolução e organização política. O movimento do software livre era muito atraente para esse grupo, que já pensava politicamente a tecnologia. Era o momento em que a internet começava a se difundir mais amplamente no Brasil e discutia‑se inclusão digital das pessoas em situação de vulnerabilidade social.

Em 2003, com a entrada de Lula e a chegada de Gilberto Gil ao Ministério da Cultura, o software livre ganhou força. Gil teve uma política nítida de fortalecimento do movimento, e o programa Pontos de Cultura foi essencial nesse processo. Esses pontos distribuíam recursos para movimentos sociais de base montarem estúdios — e os estúdios eram todos baseados em software livre. Assim, o pessoal do software livre formava jovens do hip‑hop em programas de gravação, edição e filmagem. Com esses recursos, conseguimos montar estúdios nas favelas num momento de grande precariedade. Era um outro Brasil. Naquela época, tínhamos uma organização política chamada Grupo Kilombagem, e o Ikebanto — esse hacker que se juntou a nós — sustentava uma ideia simondoniana: todos deveriam aprender a programar. Eu nunca cheguei a dominar isso, mas me convenci de que era importante. Depois, entrei na universidade e passei a estudar o pensamento antirracista de forma acadêmica. Encontrei em Fanon uma reflexão sobre capitlaismo e racismo que fazia sentido com a minha experiência anterior.

O grande ponto de virada veio em 2020, pouco antes da pandemia, quando reencontrei o Walter Lippold. Ele é hacker, participou do movimento hacker ativista — aquilo que chamávamos de “homem da tela preta”. Walter foi um dos responsáveis por divulgar o pensamento de Fanon, escaneando e distribuindo seus livros livremente quando ainda não havia traduções no Brasil, em sintonia com o movimento pela informação livre. Quando nos encontramos, eu já estava estudando as tecnologias em Fanon, e o encontro foi explosivo: escrevemos juntos um artigo sobre racismo algorítmico. Ele ficou tão extenso que acabou virando o livro Colonialismo Digital. Esse foi o meu percurso até aqui.

Eu fiquei surpreso com o nível de popularidade do Fanon aqui no Brasil. Na Itália, por exemplo, isso não existe da mesma forma. Mas quem foi Fanon? Por que seu pensamento é relevante para as questões de tecnologia, poder e subjetividade hoje?

Fanon foi um pensador, ativista e militante das lutas de libertação nacional na Argélia. Nascido na Martinica, formou‑se na França e lutou na Segunda Guerra Mundial. Um ponto crucial no seu pensamento é a relação entre o universal, o particular e o singular. Ele mostra como as relações de poder coloniais impõem um projeto de humano que tem o homem branco como parâmetro. Essa crítica é fundamental para pensarmos hoje o raciocínio algorítmico — que toma a Europa e os Estados Unidos como padrão, gerando vieses de território, língua, raça e gênero. Fanon foi intelectual orgânico da Frente de Libertação Nacional da Argélia e escreveu sobre o caráter político da tecnologia: o colonialismo se valeu da tecnologia como instrumento de dominação. É importante lembrar que Fanon escrevia em francês, mas a primeira tradução de seus textos foi para o italiano. Isso aconteceu graças a Giovanni Pirelli, filho do dono da Pirelli. Ele rompeu com a família, tornou‑se comunista, e financiou movimentos de resistência na África. Fanon era muito amigo de Pirelli, ia com frequência à Itália e quase morreu lá. Quando Fanon morreu, Pirelli articulou a tradução italiana de suas obras. Fanon foi amplamente lido na Itália nos anos 1960 pelo movimento antifascista e depois pela psiquiatria de Franco Basaglia, mas posteriormente caiu no esquecimento. Algo semelhante ocorreu no Brasil: Fanon foi lido pela esquerda nas décadas de 1960  e pelo movimento negro na década de 1970 e 1980 mas depois, desapareceu. Só com as políticas de ação afirmativa nos anos 2000 — quando a população negra passou a entrar nas universidades e cobrar autores negros nos currículos acadêmicos — é que seu nome e o de outros pensadores negros voltaram ao centro do debate.

Ele usa o rádio como exemplo para pensar a relação entre tecnologia, colonialismo e lutas anticoloniais. Nos anos 1950, o rádio era a tecnologia de comunicação mais sofisticada disponível, e os franceses o utilizavam para penetrar a subjetividade dos argelinos: para desqualificar a luta, chamá‑la de bárbara ou terrorista. Os argelinos, num primeiro momento, passaram a demonizar o rádio, vendo‑o como uma tecnologia colonial. Fanon mostra que esse caminho era infértil: toda tecnologia abre novas possibilidades e contradições. A virada na luta revolucionária aconteceu quando os militantes deixaram de demonizar e começaram a assaltaram as estações de rádio francesas, roubando transmissores e criarando programas próprios, como “A Voz da Argélia”. Essa apropriação tecnológica mudou os rumos da luta e permitiu que a mensagem revolucionária penetrasse ainda mais no povo argelino.

Os franceses, percebendo o poder dessa comunicação, proibiram a venda de pilhas aos argelinos para impedir seu acesso ao rádio. Fanon conclui que a virada revolucionária não é rejeitar a tecnologia tratando-a como mal absoluto, mas disputar seus termos, colocá‑la a serviço da luta pela justiça. Isso implica compreender seu funcionamento — um gesto hacker, por assim dizer. Aqui no Brasil, o movimento do software livre e o hackerativismo tiveram papel similar quando levaram tecnologias abertas a favelas, comunidades quilombolas e aldeias indígenas. Hoje, discutimos como atualizar a ideia de software livre. Não basta mais substituir o window pelo linux, é necessario pensar em redes seguras e tecnologias livres frente ao domínio global das big techs. Para isso, não basta focar no software livre, precisamos discutir o hardware e toda a geopolítica infraestrutural do colonialismo digital contemporâneo. A OpenAI não tem nada de aberto. O hackerativismo, que surgiu como rebeldia política, acabou sendo cooptado pelo mercado neoliberal da ideologia californiana — muitos hackers tornaram‑se empresários ou influenciadores de extrema‑direita. Nosso esforço é resgatar a dimensão crítica do hackerativismo e articular isso ao pensamento de Fanon, que permite combinar crítica tecnológica, antirracismo e anticapitalismo.

No Brasil, nos últimos anos foi se constituindo um movimento muito importante pela proteção de dados. Só que esse movimento, como é que resolve a questão da proteção? Ele tende, algumas vezes, para um lugar institucionalista e se limita à regulação estatal — sem uma crítica ao próprio Estado e às lógicas de poder. Outras vezes não incorpora o racismo, o que, num país como o Brasil, é um grande limite. O debate continua dominado por homens brancos do Sudeste, mesmo quando de esquerda, mas isso tem muito peso, porque aí questões que envolvem outras populações acabam não entrando na agenda como centrais, então nos interessa também disputar esse movimento para pensar a necessidade do antirracismo como elemento que o compõe. Discutir proteção de dados ou racismo algorítmico sem incorporar o antirracismo e a crítica ao capital é reproduzir velhos esquemas de dominação.

Mas também nos interessava fazer uma crítica ao antirracismo, porque nós, fanonianos, vamos na direção de um pensamento anticapitalista. Boa parte das pessoas que estavam discutindo racismo algorítmico fazia isso com uma agenda reformista, no sentido de: “tem viés no algoritmo, então como se resolve? Espera o Google contratar um programador negro para poder auditar o viés e revisar. Ou você recebe dinheiro da Microsoft para fazer projeto no quilombo.” E para nós essa saída acaba também trazendo algumas armadilhas limitantes. Então a ideia do hacker fanoniano era também propor uma revirada na forma como o debate estava sendo colocado naquele momento.

Eu acho que a perspectiva da regulação das proteções dos dados pessoais deve sempre ser combinadas com uma política industrial. Quando o Fanon fala da necessidade de construir rádios próprios, não seria equivalente a essa ideia de produção tecnológica autônoma?

Exato. É necessário discutir regulação, mas também construir alternativas técnicas, infraestruturais e políticas às big techs. Precisamos atualizar o movimento do software livre, criar redes de comunicação seguras para movimentos sociais e pensar em estratégias organizativas fora da lógica regulatória. Por exemplo, Walter, meu parceiro de pesquisa, estuda a ciberguerra e as novas formas de vigilância e controle. Isso nos preocupa muito, especialmente quando vemos como as plataformas digitais proprietárias tornam os movimentos sociais dependentes. A guerra da informação e o genocídio palestino exemplificam isso: empresas como Palantir, Meta e Google fornecem tecnologia de rastreamento e controle. Por isso insistimos que os movimentos entendam a dimensão sociotécnica do poder de morte contemporâneo.

Dois conceitos que eu gosto do Fanon são o da “sociogênese” e da “zona de-nao-ser”. Como você vê esses conceitos aplicados ao debate sobre soberania digital na América Latina?

Esses conceitos são muito caros e muito complexos. Fanon coloca a sociogênese em articulação com a ontogênese e a filogênese: a primeira como mediação histórico‑social, a segunda como singularidade e a terceira como universalidade. É necessário pensar qualquer problema nessa tríade. O colonialismo impede o reconhecimento do colonizado como humano universal e e sujeito singular. Todo o desenvolvimento tecnológico moderno parte de uma noção eurocêntrica de humano que exclui o colonizado, tomando o branco como universal.

A sociogênese fanoniana politiza a percepção da universalidade, mostra que aquilo que parece neutro não é. Veja o caso da biometria facial: os parâmetros numéricos usados para definir “o humano” refletem um olhar racializado, enquanto o racismo invisibiliza o negro como parte da humanidade universal. E isso tem implicações matemáticas, tecnológicas, mas também nos permite pensar a dimensão particular do próprio desenvolvimento tecnológico. Além disso, ela nos permite refletir sobre o particular: sobre quais tecnologias o Sul poderia desenvolver para atender suas próprias necessidades? As big techs empobrecem essa possibilidade, concentrando o poder e comprando startups que poderiam gerar soluções locais. Assim, necessidades específicas deixam de ser incorporadas aos modelos matemáticos que regem a inteligência artificial.

Há vieses claros: se pesquisamos “Amazônia” no Google, vemos apenas a floresta. Tem viés aqui, que é o olhar do branco do Norte sobre a Amazônia, porque a própria floresta é floresta na relação com pessoas, aquele tipo de floresta é fruto de tecnologias indígenas de cultivo da floresta. Então só ter a floresta sem as pessoas já é olhar parcializado sobre a Amazônia. A invisibilização dos contextos locais tem consequências graves, especialmente quando modelos algorítmicos são usados em áreas como saúde mental. Um algoritmo treinado com dados do Norte pode patologizar diferenças culturais ou produzir diagnósticos errados em populações indígenas ou negras. A sociogênese ajuda a compreender essas assimetrias.

Fanon também lembra que a violência é produto da própria estrutura colonial. Ele não glorifica a luta armada, mas reconhece que, quando a violência já está posta, o colonizado pode escolher morrer passivamente ou reagir. Hoje, essa radicalidade pode ser pensada em outros termos: recusar políticas de “soberania digital” que sejam apenas fachada para a expansão das big techs, por exemplo. Soberania digital é também se perguntar a quem ela serve. Eu posso não assinar um manifesto de soberania digital que tenha como mote trazer data center do TikTok pra secar a água de comunidade quilombola, por exemplo.

E como você vê o desenvolvimento do debate sobre soberania digital no Brasil, especialmente agora, com tanta presença do tema na mídia e nas políticas do governo?

A América Latina foi construída a partir da colonização e isso, logo de saída, coloca o problema em termos de desenvolvimento tecnológico, porque se insere no capitalismo a partir da colonização. Isso é diferente dos Estados Unidos, que foram uma colônia de povoamento, construida para ser o lar de diversas etnias europeias, um território onte o trabalho excedente, para utilizar um termo marxista, foi utilizado no próprio desenvolvimento. Não é atoa que os vários estados norte‑americanos se uniram contra a Inglaterra para construir um projeto de autonomia e de soberania que pressupunha um desenvolvimento naconal independente. A América Latina foi o oposto. Com exceção dos territórios libertados por Bolívar, as independências nacionais não pressupuseram projetos autônomos de capitalismo e desenvolvimento nacional mas sim a  readequação da lógica colonial em outros termos. Florestan Fernandes, um importante pensador latinoamericano, fala que a descolonização brasileira foi interrompida pelo alto.

O Brasil foi uma colônia de Portugal. No século XIX, Dom João foge de Portugal medo do Napoleão e vem para o Brasil, declarando-o a sede do império. A nossa independência, protagonizada pelo príncipe regente, foi uma conciliação pelo alto que não alterou a estrutura escravista e nem as relações coloniais de propriedade. A produção nacional continuou sendo a violenta monocultura do extrativismo de exportação de cana e, depois, o café. O Fanon  também fala dessas burguesias nacionais que são criadas pelo e em função do colonialismo para servir aos interesses das metrópoles e, portanto, nem aderem à ideais democráticos e unviersalistas e nem almejam uma autonomia política e econômica. Buscam apenas ser intermediárias do colonialismo ou do neocolonialismo. Isso é ponto muito importante.

Isso sempre colocou o Brasil e a América Latina num lugar subserviente, subordinado à economia europeia e estadunidense e sustenteu elites violentas com o próprio povo. Mas em país como o Brasil, que é grande — e o Brasil se difere de outros países da América Latina nesse aspecto — há um momento em que a burguesia brasileira ensaia um tipo de desenvolvimento tecnológico, que é a época do Juscelino Kubitschek, que eram as políticas que chamavam de substituição de importações, que buscavam atrair a exportação de capital inglês, estadunidense, europeu, alemão para desenvolver o parque tecnológico para o Brasil se aproximar de um lugar mais desenvolvido. Só que esse processo vem retardatário. O Brasil desenvolveu um importante parque produtivo de automóvel, por exemplo, na década de 60, mas já no momento em que a Europa estava exportando a sua produção para fora do continente. Então o Brasil, ainda que tenha se desenvolvido tecnologicamente mais do que alguns países da América Latina, como Bolívia ou Venezuela, o desenvolvimento brasileiro foi sempre desenvolvimento subordinado ao capital internacional. Mas, ainda assim, houve avanços importantes: a construção da Petrobras, a nossa indústria petrolífera estatal, e ela pressupõe um lugar muito confortável para o Brasil, nas disputas internacionais, porque ela é explorada com o capital nacional, com o dinheiro do Estado, e os royalties voltam para o próprio Estado.

Mas o que vai acontecer com as tecnologias digitais? Primeiro há um pensamento chamado desenvolvimentismo, que vai direcionar esse esforço de desenvolvimento tecnológico subordinado aos países centrais. Esse esforço vai ser destruído com a globalização, na virada do século XX para o XXI, e as elites vão desmantelar o parque industrial nacional para a entrada do capital estrangeiro. O que é interessante pensar é que, mesmo no governo Lula, começam a ter setores que vão apostar no que alguns chamam de neodesenvolvimentismo, que é uma tentativa de retomar o projeto de desenvolvimento tecnológico, hidroelétricas e diversos ramos, mas esse esforço se vê limitado pela alta internacionalização e financeirização do capital, em seu atual estágio de acumulação.

É no interior desse debate que aparece a discussão sobre a soberania. Quando a questão do digital vem para o centro, algumas pessoas acharam que bastava traduzir essas iniciativas neodesenvolvimentistas para a questão tecnológica digital; mas elas esbarram na mudança de dinâmica do próprio capital. Por exemplo, a exportação de capital das big techs não é tanto de tecnologia, mas de serviços. Tem uma diferença aqui: a Volkswagen ou a FIAT precisava montar uma fábrica aqui, mas a Microsoft não precisa montar uma fábrica aquí. Ela pode até exportar um datacenter e alugar espaço em sua nuvem, sem empregar e nem transferir tecnologias de processamento de dados. É apenas neste momento em que o data center se mostra um grande problema ambiental que as big techs cogitam transferi-los  para países do terceiro mundo, podendo acessar assim a água e a eletricidade daquele território. Mas os centros tecnológicos continuam sendo Vale do Silício, Shenzhen ou Wuhan. Isso coloca um conjunto de obstáculos a este intento neodesenvolvimentista, por que não consegue resolver aquilo que no marxismo chamamos de “transferência de valor”: o Brasil exporta ferro, ouro, cobalto, lítio  e dados e você importa celular. É uma troca desigual que pressupõe o enriquecimento do país mais desenvolvido em detrimento do empobrecimento do fornecedor de bens primários. Uma via colonial de desenvolvimento capitalista.

Então o intento neodesenvolvimentista esbarra em algumas mudanças de dinâmica do próprio capital. Qual é o nosso problema? Muitas vezes o debate é feito a partir dos indicadores de soberania, como o data center. A gente olhava os mapas mundiais de data center e identificava uma ampla concentração no Norte Global, até por questões climáticas relacionadas ao frio destas regiões. Mas isso é só a aparência do fenômeno. Quando o Governo Lula cria políticas de isenção de imposto para que os data centers do Norte se instalem no Brasil, opera como se isso fosse um projeto de soberania, mas é só a intensificação do lugar subalterno do país na divisão internacional do trabalho. O que é soberania? É ter que cuidar do lixo ambiental dos paises capitlaistas centrais?  É só desenvolvimento do PIB? No Brasil, muitas vezes, o desenvolvimento tecnológico foi alcançado através da destruição dos territórios indígenas, quilombos, desalojando populações negras. Um verdadeiro projeto de soberania miraria o investimento em ciência e tecnologia, em produção de respostas tecnológicas que atendam às necessidades locais, o que inclui a construção de data centers sob gestão do governo local, obvio, mas não se limita a isso.

Existe hoje uma disputa em torno das noções de soberania.  Tanto que o MTST vai dizer: não adiante falar de soberania, se não houver uma real soberania popular. Sabemos que muitos movimentos sociais estão fora deste debate. O governo Lula foi muito pressionado e agora vai criar um plano nacional de inteligência artificial. Mas o plano, muitas vezes, parte do pressuposto de que a gente não pode ficar para trás. Então, você compra computadores sofisticados, você compra serviços, mas se discute pouco a equalização de acesso à essas tecnologias e, sobretudo, a criação de condições científicas para produzirmos as nossas tecnologias. De acordo com pesquisas oficiais do CGI,  ainda há muita gente sem acesso à internet no Brasil. Aumentou nos últimos anos, mas ainda há muita gente que só acessa a internet por conta de SIM card. Você paga cinco reais, mas só pode entrar no Facebook e no WhatsApp. Uma pesquisa de três anos atrás mostrava que, quando você pega as parcelas mais pobres, tem número grande de gente no Brasil que acha que a internet é o Facebook ou o Instagram.

O projeto de soberania implicaria pensar nas desigualdades sociais estruturais por um lado, mas implicaria também pensar essa desigualdade em termos de projeto de desenvolvimento: por exemplo, na questão das comunicações, se uma empresa vai ter concessão para instalar cabos, ela precisa ter contrapartida, que deveria ser garantir que todas as escolas e os hospitais tivessem acesso à internet. Isso nunca acontece. Elas colocam o cabo no Sudeste, mesmo aqui em São Paulo, a cidade mais rica do Brasil, se você vai no Morumbi, que é o bairro mais rico daqui, você tem uma quantidade de antenas de internet maior do que em Paraisópolis, que é a favela que é 100 metros do Morumbi. Então o capital vai construindo sua própria lógica de distribuição sem precisar pagar pedágio para o Estado, porque ninguém está dizendo assim: vamos sair da internet, a gente não tem condições como a China tem de criar sistema próprio, não hoje, mas a reivindicação é que se construíssem planos que permitissem o investimento em desenvolvimento local e superação das desigualdades.

Então, nesse sentido, há uma disputa em torno de qual projeto de soberania queremos. E a impressão de muita gente, minha também, é de que o governo federal tem atendido mais as big techs do que as necessidades sociais.

Falando em dependência, voce acha que também tem uma forma de dependencia epistêmica no Sul global?

Sem dúvida. Nos anos 2000, proliferaram no Brasil escolas de informática, mas elas ensinavam “Windows”, não computação. As pessoas foram alfabetizadas digitalmente dentro de uma lógica Microsoft. Isso persiste: hoje muitos acham que tecnologia digital se resume a Instagram, Facebook e TikTok. Essa colonização epistêmica empobrece a criatividade e a imaginação política. Existem alternativas — plataformas e sistemas que não são baseados no extrativismo de dados — mas elas raramente são consideradas. Políticos e gestores públicos também reproduzem essa mentalidade: quando discutimos alternativas às big techs, argumentam que a Amazon é “mais rápida” ou “mais barata”.

Sérgio Amadeu costuma responder: e se o mais veloz não for o melhor? Talvez o melhor seja o mais seguro, ou o que responda às necessidades locais. Há ainda uma colonização simbólica: câmeras de vigilância, por exemplo, são vendidas como sinônimo de segurança, mesmo quando não reduzem a violência. Municípios pobres investem milhões em câmeras, enquanto faltam leitos e material escolar. Ninguém sabe quem fornece esses equipamentos, para onde vão os dados, nem quais interesses movimentam esse mercado.

Para encerrar: você pesquisa a relação entre sistemas digitais e saúde pública. De que forma as tecnologias podem reproduzir o racismo institucional e estrutural?

Atualmente participo de dois projetos sobre racismo algorítmico e saúde digital. Estamos vivendo uma transição agressiva da saúde convencional para modelos automatizados de diagnóstico e cuidado. Aplicativos oferecem orientações terapêuticas e até o Sistema Único de Saúde contrata tecnologias desse tipo, justificando a substituição de profissionais pela automação. A questão é: se o racismo algorítmico implica viés, o que acontece quando substituímos o cuidado humano por modelos automatizados? O risco é que esses vieses matemáticos se traduzam em diagnósticos errados — e, na saúde, erro significa morte.

Já existem estudos na Inglaterra e nos Estados Unidos mostrando que, do um ponto de vista lógico‑matemático, se as desigualdades sociais não forem consideradas no ajuste dos modelos, eles reproduzem as mesmas desigualdades. No Brasil, onde a população negra morre mais cedo, as mulheres negras morrem mais nos partos e os indígenas têm maiores índices de tuberculose, o perigo é enorme. O racismo é determinante social de saúde. Por isso, os sistemas automatizados precisam levar essa dimensão em conta, mas o problema é que quem define a automação é o mercado — e o mercado privilegia vigilância, lucro e padronização global. A luta agora é garantir que os cuidados digitais não aprofundem as desigualdades que já existem.

—

Introdução de Tribulações Digitais, uma série de entrevistas sobre os desdobramentos da soberania digital na América Latina, pode ser lida aqui.