James Steinhoff é pesquisador de pós-doutorado na University of Toronto Mississauga, e doutorou-se pela Universidade de Western Ontario, no Canadá, onde foi orientando de Nick Dyer-Wiheford. Investiga economia política da inteligência artificial, especialmente interessado em compreender as relações capital-trabalho nesta indústria, com diferenças e continuidades em relação a outras. Também interessa-se pela história crítica dos mais diversos tipos de automação.
Ele é coautor do livro Inhuman Power: Artificial Intelligence and the Future of Capitalism (com Nick Dyer-Witheford e Atle Mikkola Kjøsen) e acaba de lançar Automation and Autonomy: Labour, Capital and Machines in the Artificial Intelligence Industry, fruto de sua tese de doutorado. Steinhoff já havia dado uma prévia do novo livro em conferência no canal do Youtube DigiLabour em 2020.
Na obra, propõe uma análise marxista do trabalho na indústria de inteligência artificial, com críticas às teorias do trabalho imaterial. A análise inclui uma economia política da indústria contemporânea de IA em termos de escala, escopo e dinâmicas, bem como uma análise do processo de trabalho da produção comercial de softwares de aprendizado de máquina, a partir de entrevistas com trabalhadores e gerentes em empresas de IA ao redor do mundo.
Confira entrevista de James Steinhoff ao DigiLabour:
DIGILABOUR: Nos últimos anos, foram publicados muitos livros críticos sobre inteligência artificial (por exemplo, Yarden Katz, Kate Crawford, Mary Gray). Como uma compreensão marxista em relação à IA diferencia-se de outras perspectivas?
JAMES STEINHOFF: A recente onda de literatura crítica sobre inteligência artificial é bem-vinda na medida em que esses livros têm uma perspectiva histórica sobre IA, estão atentos às condições materiais da IA e implicam a IA em várias redes de poder. No entanto, o que eu acho que falta, e o que uma perspectiva marxista oferece, é uma compreensão sistêmica do capital. Abordado de forma sistemática, o próprio capital pode ser visto como uma espécie de IA, um algoritmo com o objetivo estreito de valorizar o valor, que exige a sujeição da tecnologia, do trabalho e dos próprios capitalistas a funções particulares que estão a serviço desse fim. Manifestado por meio da lei do valor, via competição capitalista, esse é o determinismo evitado que está no cerne da teoria de Marx. O Atlas da IA de Kate Crawford, por exemplo, carece de uma teoria sistêmica do capital e fala sobre como a IA relaciona-se à destruição ambiental, à exploração do trabalho e a formas de discriminação racializada, para citar algumas questões, mas não pode oferecer uma explicação de por que a IA está implicada em todas essas coisas. Crawford afirma corretamente que a “questão central é o profundo emaranhado de tecnologia, capital e poder, do qual a IA é a manifestação mais recente” (p. 218). Mas que poder é esse? Um relato marxista entende esse poder como a forma de valor com a qual quase todas as relações sociais no mundo são estruturadas em acordo. Meu livro tem como objetivo comunicar essa perspectiva ao estudo da IA e sua produção.
DIGILABOUR: Você afirma que o trabalho em torno da inteligência artificial nos apresenta mais um exemplo de fragmentação, desqualificação e automação do trabalho. O que há de novo em termos dessas questões?
STEINHOFF: No contexto da indústria de IA, há pelo menos duas coisas novas. Uma é que o trabalho dos cientistas de dados e engenheiros de aprendizado de máquina está sendo fragmentado, desqualificado e automatizado. Isso pode ser uma surpresa se você ouvir o discurso da indústria que descreve o cientista de dados como o trabalho “mais sexy” do século 21 e, de forma mais geral, a produção de software como o futuro do trabalho. Também pode ser uma surpresa se você leu os estudos sobre o processo de trabalho na produção de software que descrevem-no como irredutivelmente comunicativo, ad hoc, e não passível de gestão taylorista, ou se você seguir os teóricos do trabalho imaterial que veem no trabalho mediado por software a emergência de uma autonomia do trabalho em relação ao capital. Na verdade, o trabalho de ciência de dados que produz IA já está sendo dissecado em seus componentes, com os bits de rotina sendo dados a analistas de dados menos valiosos e, em alguns casos, automatizados. Mesmo esse tipo de trabalho relativamente novo e altamente qualificado não está imune aos efeitos corrosivos da lei do valor.
A segunda coisa, e realmente interessante para mim, é que o trabalho de ciência de dados está sendo fragmentado, desqualificado e automatizado com ferramentas de aprendizado de máquina produzidas por trabalho de ciência de dados (aprendizado de máquina automatizado ou AutoML). Freqüentemente ouvimos falar de IA como uma tecnologia de automação que ameaça este ou aquele tipo (ou todos os tipos) de trabalho. Mas, no contexto do trabalho de ciência de dados, os trabalhadores estão automatizando seu próprio trabalho. Até certo ponto, a automação de tarefas é um procedimento padrão no trabalho de software. No entanto, a produção de software automatizada, em um sentido mais completo de produção de programas totalmente funcionais, historicamente teve muito pouco sucesso. As capacidades de reconhecimento de padrões do aprendizado de máquina podem mudar isso. Marx, no Livro 1 d’O Capital, falou sobre como a indústria em grande escala não poderia se tornar a forma dominante de produção até que industrializasse a manufatura de peças de máquinas, alcançando a produção “de máquinas por meio de máquinas”. Com o AutoML, podemos estar vendo uma nova instância desse fenômeno.
DIGILABOUR: Suas críticas no livro são direcionadas principalmente ao pós operaísmo e aos teóricos do trabalho imaterial. Nos últimos anos, temos visto um retorno do operaísmo para compreender o trabalho por plataformas. O que você acha dessa visão?
STEINHOFF: Você está se referindo ao trabalho do pessoal ligado ao Notes From Below? Eu acho que eles são realmente ótimos e estou muito feliz com o retorno ao foco nos trabalhadores que eles defendem. Seu projeto de composição de classe em andamento é extremamente importante e eu encorajaria qualquer pessoa que ler isso a dar uma olhada. Muitas pesquisas recentes na minha área (comunicação) focaram em usuários de aplicativos e plataformas, o que é importante, mas acho que também é preciso prestar atenção aos trabalhadores que criam e mantêm esses locais. Operaismo e pós-operaismo são realmente muito diferentes. Minha crítica ao pós-operaismo envolve centralmente sua substituição da classe trabalhadora pela “multidão” em rede digital como sujeito revolucionário, um movimento teórico que acredito que este novo operaismo também rejeita. Minha única preocupação com essa abordagem é que ela pode, ao enfocar a composição e as capacidades do trabalho, negligenciar o estudo das capacidades tecnológicas do capital.
DIGILABOUR: Quais são as principais contribuições da “Nova Leitura de Marx” para compreensão do trabalho em torno da inteligência artificial?
STEINHOFF: A “Nova Leitura de Marx” e o marxismo da forma de valor geralmente são importantes para entender o trabalho em torno da IA, na medida em que não atribuem nenhum significado revolucionário necessário às formas desterritorializadas de trabalho de alta tecnologia. Ao contrário do pós-operaismo, que postula uma ruptura histórica nas relações trabalho-capital provocada pela proliferação das tecnologias da informação, uma perspectiva da forma-valor questiona os modos como as transformações de valor podem ocorrer em contextos desterritorializados. Enfatizar a maleabilidade da forma-valor é importante para mim porque revela a continuidade do trabalho em torno da IA em relação a outros tipos de trabalho, ao invés de sensacionalizar suas diferenças.
DIGILABOUR: O que é automação sintética?
STEINHOFF: Uso o termo automação sintética para descrever a automação dos processos de trabalho sem uma codificação precedente com base no estudo dos trabalhadores no próprio trabalho. O capital não sabe trabalhar, por isso deve captar esse conhecimento do trabalho. Considere o taylorismo: o gerente científico estuda o trabalhador no trabalho e faz um relato detalhado do processo de trabalho, dividindo-o em etapas distintas. Uma vez que o processo de trabalho dissecado se torna visível para a gerência, ele pode ser otimizado para os objetivos da gestão. O estabelecimento de uma “única maneira” é a codificação. Os componentes de um processo de trabalho codificado podem ser redistribuídos entre trabalhadores mais baratos e talvez automatizados. Você não pode construir uma máquina ou escrever um programa para automatizar um processo de trabalho que não foi dissecado dessa forma. Ou pelo menos, você não poderia. O aprendizado de máquina apresenta, de forma incipiente, a possibilidade de automatizar sem uma codificação precedente. Isso é visível na forma como os componentes de IA funcionam, muitos dos quais não foram codificados, sendo automatizados. Meus entrevistados descreveram a produção de aprendizado de máquina como uma arte, baseando-se na intuição, na experiência e na tentativa e erro – um engenheiro descreveu para mim como uma “arte dark”. Ainda assim, a aplicação do aprendizado de máquina à produção de aprendizado de máquina (AutoML conforme falei antes) está permitindo a automação desses processos de trabalho não codificados por meio de experimentação iterativa de força bruta. Uma vez que, por exemplo, não há uma arquitetura de rede neural “melhor”, diz-se que construir uma para aplicação desconhecida requer intuição, experiência e a boa e velha tentativa e erro. No entanto, com os dados adequados, o AutoML pode ser aplicado para gerar todos os tipos de arquiteturas candidatas e avaliá-las em velocidades desumanas, ignorando a codificação do processo de trabalho por meio da força bruta absoluta. Eu descrevo essa abordagem de automação como sintética porque ela monta um processo de automação a partir de alguns dados além da observação do trabalho vivo. Aqui estou inspirado pela discussão de Alfred Sohn-Rethel, no livro Intellectual and Manual Labour, em relação ao tempo sintético do trabalho, que se refere a uma concepção de tempo não capturado do trabalho, mas que é produzido pelo capital a partir de especificações abstratas construídas antes de tudo para avançar na valorização.
DIGILABOUR: Como você relaciona aprendizado de máquina e capital fixo?
STEINHOFF: Acho que o uso mais significativo do aprendizado de máquina hoje é seu emprego como capital fixo, ou seja, quando é empregado em um processo de produção. Mesmo se a “adoção da IA”, como a literatura de administração se refere a isso, é realmente muito baixa até agora, e mesmo se hoje muitos empreendimentos de negócios de IA resultam em fracasso abjeto e às vezes hilariante, a integração generalizada de capacidades analíticas e preditivas baseadas em dados em todos os tipos de tecnologias apresentam um cenário que vale a pena considerar. A simples questão do que pode ser automatizado agora e que não poderia ser antes permanece interessante. Também é interessante pensar sobre quais podem ser os efeitos colaterais do capital fixo no aprendizado de máquina generalizado. Sem dúvida, vigilância e coleta de dados cada vez mais intensas, mas conforme as pessoas e os governos começam a resistir a tais coisas, o capital vai buscar dados por outras vias, como a geração de dados sintéticos, ou o uso de ambientes virtuais como o OpenAI Gym, que permite o treinamento de algoritmos de reforço (que aprendem “fazendo”) sem os custos e as dificuldades de lidar com o mundo real. Pode-se argumentar que, uma vez que o aprendizado de máquina depende de dados gerados principalmente pelas ações dos humanos, sua incorporação ao capital como capital fixo apresenta um ponto potencial de fraqueza. Estou mais interessado em discernir como o capital está tentando mitigar essa fraqueza, aproveitando as capacidades recursivas do aprendizado de máquina para aumentar sua autonomia em relação ao trabalho.