Edemilson Paraná é professor de sociologia econômica e sociologia do trabalho da Universidade Federal do Ceará e autor dos livros A Finança Digitalizada: Capitalismo Financeiro e Revolução Informacional e Bitcoin: a Utopia Tecnocrática do Dinheiro Apolítico.
Nesta segunda-feira, ele ministrará uma conferência na Universidade de Toronto sobre sua nova pesquisa que envolve inteligência artificial como infraestrutura financeira. Nesta entrevista com Rafael Grohmann, ele explica o argumento da pesquisa, como se relaciona a agenda mais ampla de estudos críticos sobre IA, a noção de infraestrutura e outros debates sobre tecnologia a partir de uma perspectiva marxista.
DIGILABOUR: O que significa pensar inteligência artificial como uma infraestrutura financeira?
Edemilson Paraná: A ideia é entender que a penetração da inteligência artificial nos mercados financeiros, que vem ocorrendo com mais velocidade nos últimos anos, não é algo que acontece da noite para o dia, mas tem a ver com um conjunto de transformações que envolvem distintas escalas e que possibilitam que a IA possa ser implementada deste modo nos mercados contemporaneamente. De que modo a IA é implementada? Ela é utilizada para avaliação de risco, avaliação de crédito, negociação em tempo real de ativos e papéis financeiros os mais diversos, administração e gestão dos mercados. A IA está se espalhando muito rapidamente pelas finanças. As dimensões em que ela é utilizada de maneira mais intensiva tem a ver basicamente com três aspectos: com credit score e ranqueamento de acesso ao crédito no caso dos serviços bancários; com a contabilidade e gestão de risco nas empresas financeiras; e, por fim, com a administração de portfólios de investimento e negociação no mercado de capitais. Há grandes fundos que se utilizam de negociações algorítmicas e inteligência artificial e que vendem o acesso a esses produtos para seus clientes e investidores. Há fundos enormes como BlackRock e Bridgewater, que estão utilizando inteligência artificial em escala crescente.
Então, é preciso, primeiro, entender em qual escala isso se dá. Há uma alteração de grande monta do mercado financeiro nas últimas décadas que praticamente faz com que o mercado se confunda com uma infraestrutura tecnológica, com um sistema sociotécnico que serve de base a outras interações. Discuto nos meus trabalhos há um bom tempo a ideia que a gente vive num contexto marcado por aquilo que defini como “finança digitalizada”. Não é possível mais pensar as finanças fora da dinâmica informacional tecnológica. No passo em que esses mercados são eletronificados e que as negociações por meio das tecnologias da informação e da comunicação se tornam ubíquas, contando com o avanço da capacidade de processamento computacional, esses modelos se tornam mais refinados. Na medida em que todas essas camadas vão se sobrepondo umas às outras é que você pode, na superfície, ter a “inteligência”, a camada “inteligente”, da inteligência artificial. Para isso, é preciso, então, antes montar uma dimensão enorme de infraestruturas sobrepostas para que essa inteligência artificial possa ganhar o domínio nesses campos em que ganhou hoje. Isso tem uma uma implicação importante, que é a de entender que esse jogo de escalas é fundamental para acessarmos o que que é inteligência artificial no mercado financeiro hoje.
Tem uma aplicação “micro” da inteligência artificial em serviços específicos, alguns produtos financeiros específicos, e tem um desdobramento sistêmico macro da inteligência artificial – menos compreendido – no sistema financeiro. Ou seja, a inteligência artificial pode possibilitar ganhos, retornos, lucros e eficiência no sentido econômico mais estrito no nível micro para alguns agentes, sobretudo, os agentes que estão mais bem posicionados na infraestrutura econômica e tecnológica, sociotécnica do mercado financeiro. Mas no nível macro, você tem um aumento do risco, da imprevisibilidade e quiçá de ineficiência. Então, essa contradição precisa ser melhor explorada e não está sendo devidamente endereçada no meu modo de ver. O aumento de “eficiência” no nível micro, com aumento de risco e complexidade, em muitos casos significa ineficiência no nível macro, com aumento de concentração do poder e do controle informacional nos mercados. É isso que eu tento explorar ao tratar a inteligência artificial como uma infraestrutura financeira.
Hoje a IA vai se tornando cada vez mais incontornável. Para você entrar no mercado, seja um pequeno investidor ou um grande investidor, você precisa acessar esses recursos cada vez mais. Mas essa diferença de escala, tanto dos agentes que estão no mercado, quanto do próprio funcionamento sociotécnico, é fundamental para entender isso. É o que se chama de falácia da composição, algo muito explorado pelo Keynes na economia. Muitas vezes as pessoas que estão olhando para a tecnologia no mercado não enxergam muito bem o que de fundamental está acontecendo porque as análises sempre ficam no nível micro e descritivo. O que é a falácia da composição? A ideia de que o todo não é a mera soma quantitativa das partes. O todo tem propriedades emergentes que são qualitativamente distintas da soma das partes. É analago, para nos valermos de outro exemplo, ao postulado funcionalista básico da sociologia segundo Durkheim. O social é algo diferente da mera soma das interações individuais, pois guarda propriedades em si mesmo, próprias. E o que eu estou querendo demonstrar com esse trabalho é que isso vale também para aplicação da IA no mercado financeiro. Ela está produzindo efeitos que são preocupantes. E isso precisa ser avaliado à luz da contradição entre essas duas dimensões.
DIGILABOUR: Qual é o seu argumento central?
EDEMILSON PARANA: Minha linha argumentativa está centrada na ideia de que, neste caso, maior eficiência no nível micro não necessariamente significa maior “eficiência” no nível macro, antes o contrário. A competição acirrada no mercado força a adoção de tecnologias no campo da informação e comunicação. As bases sociotécnicas e infraestruturais do funcionamento do mercado – e os próprios mercados financeiros – são historicamente muito sensíveis à informação. Talvez o mercado financeiro seja um dos setores econômicos mais intensivos em informação. Então essas são tecnologias, dinâmicas e setores que tem esse aspecto como estratégico. Por isso é que o mercado financeiro tende a antecipar os outros setores da economia na adoção dessas tecnologias de ponta. Isso é uma coisa que eu venho desenvolvendo já há um bom tempo. A gente fala contemporaneamente em algoritmos, no Vale do Silício, nas empresas de comunicação e de interação social, mas na verdade os algoritmos estão sendo aplicados no mercado financeiro desde a década de 1980. A gente fala de redes neurais, machine learning e deep learning para os produtos informacionais e educacionais contemporâneos, mas eles já estão sendo aplicados no mercado financeiro antes mesmo de terem se tornado algo presente no cotidiano das nossas interações sociais. Essas tecnologias de informação e comunicação são, então, a base infraestrutural a partir das quais funcionam os mercados já há algum tempo. Eu discuti isso no meu primeiro livro, Finança Digitalizada. São tecnologias que antecipam e comprimem os fluxos de espaço tempo, possibilitam ao mercado ampliar a base e a velocidade das negociações financeiras e isso produz uma ampliação da complexidade e da concentração, com aumento dos riscos e desigualdades. No meu primeiro livro, eu chamei isso de espiral de complexidade. A IA entra agora nessa história como uma nova infraestrutura financeira, compondo esse complexo sociotecnico, que tem também, é claro, seus aspectos políticos, institucionais. Os grandes agentes do mercado financeiro buscam adotá-la como uma tecnologia de propósito geral, para ser cada vez mais utilizada como base de todos os demais serviços financeiros.
DIGILABOUR: E quais são os imaginários envolvidos na inteligência artificial?
EDEMILSON PARANA: Os agentes antevêem maior controle, maior transparência, maior previsibilidade, maior produtividade, maior lucratividade. Os relatórios de alguns reguladores e de grandes empresas e consultorias estão basicamente louvando essa transformação da IA em infraestrutura, com tudo de bom que ela pode trazer para o mercado. Eu apresento a ideia de que a questão da escala complexifica um pouco esse imaginário sociotécnico porque nele não estão presentes as ideias de poder, controle, atravessamentos políticos na governança dessas infraestruturas econômicas e técnicas. Neste ponto, entram os problemas do desconhecimento quanto às lógicas de causalidade no interior dos modelos, da falácia da composição, da complexidade, da volatilidade, da incerteza, em suma, que a inteligência artificial não só não é capaz de conter, como, ao contrário, pode fazer ampliar.
O argumento, então, é de que a inteligência artificial muitas vezes faz o oposto do que esses agentes estão dizendo. As tensões entre o micro e o macro, entre o material e o ideacional, entre o técnico e o político, não são novas, mas são fundamentais para entender a disseminação da inteligência artificial como infraestrutura financeira. A inteligência artificial ampliada no seu uso eventual como tecnologia de uso geral nos mercados financeiros tende a intensificar ao invés de controlar o risco e a opacidade. Isso pode trazer mais problemas do que esses agentes estão sendo capazes de ver.
DIGILABOUR: Como você define infraestrutura?
EDEMILSON PARANA: Eu estou entendendo a infraestrutura num sentido sociológico mais ampliado. Não são apenas coisas. Não são só amontoados de coisas que compõem a operacionalidade técnica de funcionamento de certos processos informacionais, mas sim uma composição complexa, escalar, que envolve recursos naturais, trabalho e – evidentemente – a materialidade dos objetos que são mobilizados no funcionamento sociotécnico e institucional dessas estruturas. Desde aparatos regulatórios e arranjos institucionais a cabos submarinos compõem as infraestruturas funcionais no mercado financeiro. E a inteligência artificial cada vez mais passa a fazer parte desse complexo infraestrutural de funcionamento do mercado. Ou seja, a base cotidiana na qual e a partir da qual a IA opera muitas vezes entra na dinâmica de uma maneira invisível, basilar, sem que a gente consiga entender como a inter-relação dessas camadas diversas se dá de maneira complexa para produzir os mercados que a gente tem hoje, com todas essas tensões. É como se a gente, ao olhar para as infraestruturas, tentasse acessar esse “grande sistema global de maquinaria”, para lembrar um termo do Marx, resgatado pela minha colega Esther Majerowicz. Um “sistema de maquinaria” que envolve, evidentemente, relações de trabalho, exploração, coleta, utilização e armazenamento de dados, conflitos, tensões e até mesmo ideias e narrativas. Porque a maneira como você cria formas de visualizar, explicar e apresentar o mercado para a sociedade, também cria, na prática, esses mercados. Como os STS (estudos de ciência e tecnologia), a sociologia dos mercados financeiros e da tecnologia já vem tentando explicar há algumas décadas, o modo como esses mercados são perpassados por performatividade, discursos e imaginários, isso tem uma existência material. E essa existência material se conforma e condiciona a maneira de como os mercados funcionam. Quando eu estou falando de infraestrutura e pensando a IA como uma infraestrutura, estou tentando conectar a inteligência artificial a uma forma mais integrada, mais sistêmica de pensar os mercados.
DIGILABOUR: Nos últimos anos, houve uma proliferação de estudos críticos sobre inteligência artificial, mas o mercado financeiro ainda é um ponto cego nesta discussão. Por que será?
EDEMILSON PARANA: Eu acho que esse gap ocorre porque as finanças ainda aparecem como algo muito do domínio puramente econômico dos processos sociais. Por mais que a sociologia da ciência e da tecnologia, os estudos sociais da tecnologia tenham se esforçado nas últimas décadas, particularmente a partir dos anos 2000, para demonstrar o caráter social, construído, performático e até narrativo dos mercados, nos estudos críticos de inteligência artificial ainda é raro um aporte sobre essa dinâmica tão importante para o mundo contemporâneo, para o funcionamento da vida social contemporânea, que é a lógica das finanças e da financeirização. Os estudos de financeirização, os estudos de plataformas e os estudos críticos da tecnologia não estão conversando muito bem, me parece. Tentar juntar esses mundos e preencher esse gap é um dos objetivos do meu trabalho.
Então, de um lado, há uma ideia de que isso ainda é uma coisa do domínio puramente econômico, dos economistas, e não algo do âmbito das ciências sociais. Ou seja, a gente faz a crítica do poder, mas para fazer isso, pegamos sistemas sociotécnicos específicos, destrinchamos e mostramos como as relações de exploração e dominação ocorrem ali, naquele contexto. O problema das finanças é que, por mais que sejam marcadas por importantes arranjos locais particulares, elas são complexos articulados de maneira global e isso cria uma uma dificuldade metodológica para acessar algumas das dinâmicas de poder, de hierarquia, de desigualdade que ocorre no sistema financeiro. Então, de um lado, há uma dificuldade disciplinar, e, de outro, uma dificuldade metodológica.
No meu modo de ver, para que a gente acesse criticamente o mercado financeiro, é fundamental que a gente olhe a partir dessa dimensão interrelacionada das escalas, ou seja, sistêmica e estrutural. É preciso pensar nas causalidades sistêmicas que se dão nesse jogo complexo que ocorre nos mercados a partir da tensão entre o micro e o macro. Isso é fundamental para compreender a inteligência artificial como infraestrutura financeira. Quer ver onde esse exemplo ocorre? Na lógica do risco sistêmico. Como é que a gente analisa o risco que a IA e a ampliação do uso da IA pode trazer para os mercados financeiros? Eu preciso pensar isso de maneira combinada e coordenada com o uso da IA em vários mercados ao mesmo tempo, por diferentes qualidades de agentes com diferentes estratégias de IA interagindo umas com as outras. Esse é o modus operandi do mercado financeiro contemporaneamente. Ele ocorre em tempo real de maneira global e interconectada. Se eu pensar tão somente como ele ocorre em uma praça financeira específica ou em um produto específico, haverá dificuldade de entender essas contradições que eu estou tentando endereçar. É claro que há problemas de vieses e caixas pretas que a literatura também vem endereçando há um bom tempo. Mas é preciso, no meu modo de ver, entender problemas como a capacidade da inteligência artificial ser pró-cíclica, ou seja, o comportamento de uma IA tende a ser reforçado pelo comportamento de outra IA. Isso produz movimentos de mercado que, no agregado, produzem impactos, em termos de risco, que são sérios, uma possível ampliação do risco sistêmico. Eu acho que isso é uma questão fundamental para a gente analisar, ainda que tenha estado até aqui um pouco fora do escopo desse campo de estudos.
Outro exemplo importante é o problema da explicabilidade e da causalidade dos modelos de IA. Na IA nos mercados financeiros, isso é muito sério, porque você tem uma gestão de portfólio, de compra e venda de ativos para ter uma certa performance financeira e dar um certo retorno. Você joga lá o Deep Learning, que é o modelo dominante também nas finanças, e ele te dá lá uma taxa de precisão, um accuracy excelente do ponto de vista do retorno financeiro que você pode ter naquela estratégia. Só que você simplesmente não sabe concretamente exatamente o que produziu aquele resultado. Isso não é um detalhe. Isso faz toda a diferença, por exemplo, para coordenação dos mercados, para regulação dos mercados, para o acompanhamento das lógicas de risco e até mesmo para o próprio investidor. Pode ser que haja uma causa oculta ali atrás funcionando para que ele tenha aquela rentabilidade que pode ser extremamente obscura do ponto de vista do amadurecimento do portfólio dele, que vai numa direção totalmente diferente se condições mínimas mudarem. Essa falta de explicabilidade dos modelos, essas dinâmicas de caixas pretas, são fundamentais para a gente entender como as coisas funcionam no nível operacional, mas elas têm implicações sistêmicas extremamente relevantes que muitas vezes não podem ser aprendidas se a gente não consegue entender a autonomia relativa dessas dimensões. Claro que isso é uma codeterminação, mas há uma autonomia relativa entre essas dimensões micro e macro, entre o cruzamento, por exemplo, que ocorre entre economia e a política, nas lógicas de poder, quando as escalas começam a se amontoar. E há problemas de desigualdade e concentração no mercado que também são muito caros aos estudos de plataformas. Então é preciso pensar sobre essas escalas. Escala é sempre sobre poder. Não é possível pensar em escalabilidade em um sistema sociotécnico sem pensar em dinâmicas de poder. Penso que este é um ponto de contato muito interessante para começar a endereçar este gap.
DIGILABOUR: Para além da sua pesquisa sobre IA como infraestrutura financeira, como você tem se posicionado no debate sobre tecnofeudalismo?
Edemilson Paraná: Eu estou para escrever sobre isso e fazer uma intervenção nesse debate interessantíssimo. Vários colegas qualificados estão intervindo nessa discussão, que eu acho realmente muito importante. Eu sou, como o [Evgeny] Morozov, um crítico da tese do tecnofeudalismo. Eu acho que nós não estamos vivendo algo diferente do capitalismo. O capitalismo é um sistema muito plástico, com uma capacidade de se reconstruir e de se reinventar que é absolutamente surpreendente. Então eu não acho que, diante dessas transformações que ocorreram nas últimas décadas, a gente esteja diante de um novo modo de produção. Mobilizar aspectos e processos típicos de outros modos de produção é um recurso que o capitalismo historicamente se valeu para continuar se reproduzindo e se refazendo à luz dos limites que lhe são impostos, de suas contradições. Isso não supera o fato social da exploração do trabalho, da busca pelo lucro como um fim em si mesmo, da valorização do valor como elemento central e estruturante da dinâmica econômica e social. Mas, ao mesmo tempo, se é verdade que a gente ainda continua no modo de produção capitalista, que se transforma e se refaz, não me parece adequado pensar que as coisas são igual, que são exatamente o que sempre foram. Acho que há mudanças extremamente significativas e importantes ocorrendo. Elas precisam ser endereçadas com muito cuidado, porque elas podem, de fato, significar uma mudança de fase, uma mudança geral de organização e de disposição no interior do capitalismo. Essa é uma hipótese que me parece sensata.
Eu acho que nós estamos vivendo uma mudança de fase no capitalismo nas últimas décadas. O capitalismo está se metamorfoseando em algo muito diferente do capitalismo de antes. Assim como o capitalismo welfarista, keynesiano e fordista foi diferente do capitalismo liberal, que, por sua vez, é diferente do capitalismo neoliberal e financeirizado contemporâneo, eu acho que nós estamos, sim, atravessando uma outra linha agora, contemporaneamente, para um outro tipo de capitalismo. Eu acho que essa mudança tem no seu centro a transformação digital, a digitalização dos processos, das dinâmicas e interações sociais. Isso marca, no meu modo de ver, uma outra forma qualitativa de funcionamento das relações econômicas no interior do capitalismo.
DIGILABOUR: O que significa ser um marxista que pensa tecnologia hoje?
EDEMILSON PARANÁ: É um momento muito perigoso, mas também muito interessante, para se ser um marxista – se é que a gente vai conseguir chegar a um acordo sobre o que significa de fato “marxista”. Por que nós estamos, sim, no meu modo de ver, vivendo uma mudança qualitativa fundamental no interior do capitalismo. Uma mudança talvez sem precedentes mesmo.
Por que eu digo que é perigoso? Por que, diante dessas mudanças, há duas tentações, que são fortes para todos os analistas, mas talvez especialmente para os marxistas. Uma é a de dizer que essas mudanças não são isso tudo que as pessoas estão dizendo. Que isso é apenas uma expressão fenomênica de algo que a gente já sabe, que a gente já conhece de antemão. E que, por isso, só nos resta fazer uma boa crítica dessas mudanças à luz das proposições básicas, dos fundamentos que a gente já conhece. Portanto, nesta acepção, pormenorizar demais na descrição, no entendimento e na investigação cuidados dessas mudanças seria algo não apenas improdutivo, mas, no limite, fetichista e ideológico. Ou seja, a posição de que nada mudou e que as coisas continuam sendo exatamente como estão.
Uma segunda posição, que também pede cautela, é a ideia de que tudo está mudando de uma maneira irresistível, irreversível, incontornável, e que essas mudanças representam uma reconfiguração completa das coisas, com possibilidades para o fim do próprio capitalismo. A velha ideia da possibilidade iminente do fim do capitalismo. Este é outro cuidado que é preciso ter. Lembremos que alguns marxistas – claro que não só eles, mas também eles – já decretaram o fim do capitalismo algumas vezes, mas este teima em continuar se refazendo, se reinventando. A cada grande crise surge uma coluna de pensadores críticos para dizer “olha aí, o fim do capitalismo está chegando”. Mas essas crises são instrumentalizadas justamente para que o capitalismo, por meio de uma destruição criativa – lembrando a definição do Schumpeter – se reinvente; evidentemente, produzindo um conjunto de tragédias pelo caminho ao longo dessa “reinvenção”.
Então eu acho que isso exige ao mesmo tempo uma abertura e um entusiasmo para entender o que tem de novo, mas uma certa cautela e uma boa dose de humildade científica para também não entrar na panaceia de que absolutamente tudo é novo. Diante desse momento tão delicado que a gente está vivendo, ser um marxista é se dedicar com rigor teórico, profundidade analítica e muito cuidado empírico a essas novidades, mas sem ingenuidade para achar que elas são uma reversão completa de tudo que existe. O novo se reproduz no velho, e o velho se reproduz no novo. Entender as nuances dessa dialética é uma tarefa árdua, que exige o melhor dos nossos esforços e das nossas inteligências, sobretudo nessa área.
A minha aposta teórica difusa, de mais largo alcance, é a de que o dilema fundamental da reconfiguração do capitalismo no nosso tempo pode ser melhor endereçado a partir da interrelação entre financeirização e digitalização. A reconfiguração das lógicas do capital por meio do rearranjo entre finanças e produção, de um lado, e, do outro, a transformação dos processos produtivos, das lógicas de sociabilidade, e da vida social com a ampla e extensiva digitalização, são – junto da catástrofe ambiental e da necessidade de reconfigurações sociais que isso vai demandar – o dois dos processos mais relevantes da contemporaneidade na minha visão.
Na medida em que a relação entre tecnologia e sociedade se torna, por razões positivas ou negativas, cada vez mais central na vida social, penso que um olhar crítico e interdisciplinar, sistêmico, e atento rigorosamente à complexidade, como deve ser uma boa abordagem nessa tradição de pensamento, tem claras vantagens sobre outras aproximações atualmente dominantes.