Sarah Roberts, professora da University of California, Los Angeles, é uma pioneira na pesquisa sobre o trabalho dos moderadores de conteúdo das mídias sociais. Ela chama atenção especialmente para a moderação realizada por terceirizados de grandes empresas, como Facebook e Google. Foi uma das entrevistadas do filme The Cleaners e lançou em junho o livro Behind the Screen: Content Moderation in the Shadows of Social Media, resultado de oito anos de pesquisa nos Estados Unidos e nas Filipinas.
Roberts afirma que a moderação de conteúdo não é algo novo, remontando a algo feito há quatro décadas. Para ela, o novo é a sua escala industrial, sendo um poderoso mecanismo de controle. Como já discutimos na DigiLabour desde o início, é o trabalho humano por trás da chamada “inteligência artificial”. Pessoas que trabalham em lugares como call centers e também em plataformas de microtrabalho como Amazon Mechanical Turk. Passam o dia vendo cerca de 1500 fotos e vídeos para decidir o que manter e o que deletar das plataformas digitais. Para Roberts, o trabalho de moderação comercial de conteúdo reforça a Internet como lugar de controle, vigilância, intervenção e circulação da informação como mercadoria.
Confira nossa conversa exclusiva com Sarah Roberts:
DIGILABOUR: Como você avalia a cobertura jornalística sobre os moderadores de conteúdo das mídias sociais?
SARAH ROBERTS: Fui uma das primeiras pesquisadoras a desenvolver uma agenda de pesquisa sobre os trabalhos invisíveis de moderação de conteúdo comercial, mas devo uma gratidão à mídia, porque foi uma pequena matéria na edição diária de junho de 2010 do New York Times que me alertou para a existência dessa força de trabalho oculta. Na época, eu estava trabalhando no meu doutorado na universidade de Illinois. Naquela época, eu usava a internet há cerca de 20 anos como usuária e com uma carreira de cerca de 15 anos no mundo da tecnologia da informação. Eu estava fazendo um doutorado com expectativa de focar no trabalho digital. Portanto, considerando esse cenário, foi uma surpresa para mim saber da existência desses trabalhadores, e isso sugeriu que, de fato, era provável que essa classe específica de trabalhadores e a falta de consciência sobre sua existência fosse de fato não um acidente, mas planejada. E, ao longo dos anos, desde que comecei essa pesquisa em 2010, eu diria que esse é absolutamente o caso. Há algumas razões pelas quais a mídia chegou um pouco atrasada nesse jogo, apesar de terem feito muitos bons trabalho sobre essas questões, pelos quais sou grata a muitos dos meus colaboradores e colegas que estão no jornalismo, como Olivia Solon e jornalistas do The Guardian, Wall Street Journal, New York Times, Washington Post e outros meios de comunicação globais. Então, basicamente, o que eu diria é que a mídia, assim como o resto do mundo, esteve à parte dessas práticas, e isso ocorreu por várias razões. Primeiramente, o que descobri quando comecei a analisar esse tema foi que o que os trabalhadores que haviam sido contratados, seja diretamente – ainda que isso seja raro nas empresas do Vale do Silício – ou trabalhando como terceirizados em nome dessas empresas, o que eles estavam realmente fazendo era moderar o conteúdo levando em consideração as regras de engajamento estabelecidas por essas plataformas. Outra maneira de encarar isso, simplificando, é dizer que eles estavam fazendo trabalho de moderação em benefício das plataformas. Mas é verdade que, em muitos casos, isso traz benefícios para o usuário médio. Mas, em grande parte, o processo da moderação de conteúdo, quando realizados no nível industrial, nessa forma organizada e com pagamento – que é o que eu chamo de moderação de conteúdo comercial – é feito para a proteção da marca das empresas. E então, na verdade, isso é bem simples: as empresas realmente não queriam ser responsáveis pela noção que outras pessoas teriam em relação a esse tipo de atividade. Elas queriam poder tomar essas decisões para benefício próprio e principalmente do relacionamento com os anunciantes. além de não querer interromper com eles essa ideia de que eles vendiam os consumidores em um tipo de ciclo do usuário para as plataformas que não era interrompido por quaisquer forças, computacionais ou humanas. E assim, a necessidade desse tipo de serviço cresceu, como uma reflexão tardia dentro do setor, e cresceu como uma espécie de necessidade obscena que eles realmente não queriam publicizar para escrutínio público. De certa forma, isso continua até hoje.
DIGILABOUR: No livro Behind the Screen, você traça uma tipologia dos moderadores de conteúdo. Você falar mais a respeito dessa construção?
ROBERTS: Uma das primeiras ideias que tive ao começar a explorar o fenômeno da moderação de conteúdo comercial foi que o trabalho, na verdade, não era monolítico e não se apresentava da mesma maneira em todos os seus processos. Na verdade, era algo como um metamorfo, e descobri evidências desse trabalho não apenas em locais diferentes e em diferentes contextos industriais, mas, muitas vezes, até mesmo sob diferentes tipos de nomes ou descrições de cargos. Moderação de conteúdo comercial foi o nome que eu desenvolvi para abranger e ser um guarda-chuva para todas essas diferentes manifestações do trabalho. E, portanto, uma das coisas que eu tinha que fazer desde o início era ser precisa sobre o contexto que eu estava olhando em cada caso. O que descobri foi que existia essencialmente quatro tipos de contextos industriais para o trabalho que estava sendo realizado, e cada um tinha características particulares que influenciavam a maneira como os trabalhadores realizavam suas atividades de moderação de conteúdo. O primeiro foi o contexto interno, e tratava dos trabalhadores que trabalhavam secretamente para as principais empresas do Vale do Silício. No meu livro, refiro-me à empresa em questão como MegaTech, para proteger a identidade dos trabalhadores que toparam ser entrevistados. Contudo, esse é, na verdade, um arquétipo para muitas grandes empresas do Vale do Silício, e é muito semelhante a muitas delas que eu já havia visto. Essas pessoas que trabalhavam no contexto interno estavam indo para a sede da empresa todos os dias, e estavam realizando seu trabalho no local. Às vezes se comunicavam e trabalhavam de casa, mas geralmente iam a esse lugar todos os dias, sentavam-se junto a um departamento específico e faziam seu trabalho em frente às estações de trabalho dessa empresa. No entanto, eles eram terceirizados e estavam comparecendo ao local não como funcionários em período integral, com crachás, o que significava muitas coisas, mas, principalmente, no contexto dos Estados Unidos, significava que eles não estavam sendo beneficiados com o seguro de saúde que os funcionários em tempo integral da MegaTech estavam recebendo. Na verdade, eles não tinham nenhum seguro de saúde, também tinham baixos salários, poucos benefícios e seu contrato de trabalho estava sujeito a uma limitação de tempo de no máximo dois anos, com um intervalo obrigatório de três meses no meio. Então, esse era o contexto interno. O arranjo de “boutique” foi algo que me deparei no andamento de minha pesquisa, e há um exemplo disso no livro. Parece um pouco mais com uma agência de publicidade ou uma empresa de marketing e relações públicas que oferece seus serviços, novamente como terceiros, a uma empresa que talvez não tenha capacidade ou interesse em trazer essa atividade para dentro delas. Então, ao contrário das empresas do contexto interno, essas podem ser empresas que não se especializaram em tecnologia e nem pretendiam fazê-lo, mas sabiam que precisavam de alguém para manter sua presença nas mídias sociais. Agora, o que é interessante nesse caso é que essas empresas não apenas forneciam serviços de moderação de conteúdo – o que geralmente significava remoção de conteúdo – mas também criavam e alimentavam conteúdo em, por exemplo, uma página do Facebook ou um feed do Twitter, geralmente fingindo ser um consumidor médio quando, na verdade, eram funcionários da empresa em questão. O terceiro contexto é aquele em que provavelmente pensamos com frequência em nossa imaginação quando evocamos essa ideia de moderação de conteúdo comercial em 2019. Essas são as operações tipicamente de grandes galpões que recebem chamadas, atendem pedidos de serviço, e realizam outros tipos de atividades de processamento de negócios, novamente, em nome de outras empresas. Eles são trabalhadores terceirizados e oferecem, ou começaram a oferecer moderação de conteúdo comercial frequentemente como um bico, mas agora o que estamos vendo nesse período é empresas especializadas nisso, mas fazendo isso no contexto de um call center. Como estadunidenses, muitas vezes imaginamos um lugar afastado geograficamente, culturalmente e, de certa maneira, à parte dos lugares onde estamos localizados. Algo à distância, a uma distância longa, na qual esse trabalho [de call center] ocorreria. Muitas vezes, nós pensamos em lugares como a Índia ou as Filipinas, mas a história inicial que despertou meu interesse nesse tema foi sobre um call center em Iowa. Portanto, você encontrará esses call centers em todo o mundo. E, cada vez mais, as grandes empresas do Vale do Silício estão usando esse tipo de mão-de-obra para atender suas necessidades. Finalmente, há as plataformas de microtrabalho que provavelmente será familiar para seus leitores. É o caso da Amazon Mechanical Turk, o tipo de trabalho online precário em que as pessoas de fato realizam atividades de moderação de conteúdo comercial em um contexto que envolve trabalho com objetos digitais. Uma por uma, uma imagem equivale a um pagamento, um conjunto de imagens a uma certa quantia de pagamento, e não há realmente nenhuma relação, implícita ou não, entre o trabalhador e a empresa que solicita o trabalho – que também pode ser algum tipo de arranjo terceirizado. Esse arranjo em particular, obviamente, é o mais precário e mais fraturado de todas as relações de trabalho que acabei de descrever e, no entanto, encontramos evidências ao longo dos anos de grandes empresas do Vale do Silício usando essas plataformas – mais uma vez, para suprir suas necessidades por mão de obra, que está sempre abaixo da demanda.
DIGILABOUR: Ao longo de uma década de pesquisa sobre o tema, quais mudanças você percebe na moderação comercial de conteúdo?
ROBERTS: Muita coisa mudou no cenário da moderação de conteúdo comercial, e está vindo à tona agora após uma década. Eu acho que é uma indústria e um fenômeno que estão absoluta e inextricavelmente conectados a outros tipos de mudanças que vimos acontecendo no mundo, em torno de questões como mudanças políticas para a direita, a ascensão de governos de direita em lugares como os Estados Unidos e Brasil, o Brexit, por exemplo. Esses fenômenos têm sido intimamente conectados e que costumam ser usados como exemplos da forma como as mídias sociais têm sido utilizadas na manipulação política. Portanto, quando pensamos nesse contexto, percebemos que as decisões tomadas em relação a quais conteúdos e materiais podem circular nas mídias sociais tornam-se, de fato, extremamente importantes, e operam em modo de extração contínua. Então, precisamos pensar não apenas sobre quem cria as políticas por meio das quais essas decisões são tomadas. Isso tende a ser feito por indivíduos de médio a alto nível nas empresas de mídias sociais, muitos dos quais procedem da política – talvez advogados, talvez tenham trabalhado no governo. Então, estou pensando em ex-lobistas; mas, também, os implementadores clandestinos dessa política e quem eles são, sob quais condições eles trabalham e, em última instância, para quem eles trabalham. E é por isso que essa contextualização do fenômeno como, primariamente – como eu defendo no livro e toda vez que tenho a oportunidade – uma gestão firme de marca e de relacionamento para seus anunciantes tornar-se tão crítica de se entender. Acho que isso é algo que mudou na compreensão do público em relação a o que está acontecendo. Eu acho que a conscientização pública de que esse fenômeno está acontecendo e que há pessoas que estão fazendo esse trabalho é uma grande mudança. Anos atrás, quando iniciei minha pesquisa sobre esse tema, a primeira coisa que tive que fazer foi estabelecer uma base para o que eu estava falando. E então às vezes eu tinha que discutir com as pessoas sobre o fato disso ser ou não uma questão real. Isso estava acontecendo até 2016. Essa é a última vez que me lembro de ter esse debate. É incontestável agora. Então, outra coisa que mudou é que as próprias empresas de mídias sociais não vivem mais nesse estado de negação, onde continuam reivindicando que os computadores estão por trás da tomada de decisão por conta própria. E devido ao trabalho de outras pesquisas – pessoas como Safiya Noble e seu livro Algorithms of Oppression, e outras pessoas que trabalham na área de viés algorítmico (há muitas para listar), sabemos que, mesmo que fosse esse o caso, isso não poderia ficar livre de questionamento. Então, acho que o cenário de pesquisadores e acadêmicos que estão pressionando criticamente esse tema das mídias sociais e seu impacto na sociedade cresceu exponencialmente. Eu acho que a abordagem midiática em relação a esses tipos de descobertas questões cresceu exponencialmente. E acho que há capacidade do público de entender essas questões complexas e de pressionar as empresas de mídias sociais, a maioria das quais capturaram a imaginação do público naquele mesmo período de tempo. Todas essas coisas são os tipos de mudanças que eu enxerguei. Na maioria das vezes, essa reação negativa das pessoas é uma coisa boa, porque significa que as empresas não podem mais agir apenas em seu próprio interesse e sem consequências, principalmente quando a própria coisa que monetizam é nossa autoexpressão, nosso material que enviamos e tentamos circular nas plataformas dessas empresas. Então, nós, como usuários, estamos profundamente enraizados no ecossistema e cabe a nós perguntar e entender de uma maneira mais sofisticada exatamente o que está acontecendo. Acho que isso têm ocorrido, e acho ótimo ver mais coisas sobre isso. E, é claro, a outra peça importante que mudou: há um grande interesse regulatório em entender e também em colocar alguns limites nessas atividades. Pode-se argumentar que isso é uma coisa boa ou ruim, acho que depende do contexto. Algumas leis são boas, algumas são terríveis, algumas reforçam regimes preconizados e totalitários, algumas tentam arrebatá-los, mas essa é uma tendência que aumentou, e é uma que eu acho que continuará no futuro.
DIGILABOUR: Para você, qual é o futuro da moderação comercial de conteúdo, tanto como tema de pesquisa acadêmica quanto em relação aos trabalhadores?
ROBERTS: Há muitos desafios em andamento, mas também muitos que ainda precisamos passar. Para os pesquisadores, é uma dificuldade contínua de acessar o funcionamento interno das empresas de mídias sociais, seja o acesso a dados que são amplamente promovidos pelas empresas e ainda não foram entregues, seja acesso aos trabalhadores, para entender melhor as condições e os processos de trabalho. Como você provavelmente sabe, eu fiz minha pesquisa inicialmente sem nenhuma autorização oficial. Por isso, fiz isso de forma oculta mesmo, o que está se tornando mais difícil – senão impossível – para a pesquisa acadêmica fazer dessa maneira. E, no entanto, muitos dos problemas de que falo no meu trabalho, como questões de bem-estar e baixo salário dos trabalhadores, questões de precariedade em termos de emprego, condições de trabalho etc., ainda não são marcadamente diferentes, a ponto de que não se tornaram problemas dissipados. Portanto, a questão em andamento para os pesquisadores é realmente acessar e garantir que eles estejam obtendo as informações necessárias para realizar seu trabalho. E isso continuará sendo um problema no futuro. Certas empresas se abriram muito mais do que no passado. Assim, tive a oportunidade de trabalhar com o Facebook e visitar alguns de seus locais. É claro que o embargo nessa situação é que há uma instância oficial, em termos de minha visita ter sido planejada, e pessoas sabendo que eu estava indo, e assim por diante, o que é um contexto diferente de como eu fiz a pesquisa deste livro. Mas mesmo isso teria sido inimaginável para mim há alguns anos, o que indica para mim que há uma mudança. Espero que vejamos mais disso porque acredito que a indústria precisa de crédito, e acredito que precisa ler o tanto de sinais e avisos que muitos de nós fomos capazes de prever bem antes que as próprias empresas reconhecessem suas próprias responsabilidades, sendo franca. A segunda questão que você levanta é sobre os próprios trabalhadores. Quais são os desafios que os trabalhadores enfrentam? Bem, acho que os desafios enfrentados pelos trabalhadores neste setor são semelhantes aos desafios enfrentados pelos trabalhadores em todo o mundo neste momento. Que são as questões de precariedade do emprego, de desarrumação do trabalho, do chamado emprego flexível, do que chamam de gig work, de ser tratado como uma mercadoria descartável. Como sociedade, nos inclinamos a uma narrativa coletiva de constante progresso em questões sociais. Acho que as condições dos moderadores de conteúdo comercial e das pessoas que performam trabalhos semelhantes, há colegas fazendo pesquisas sobre, como Jamie Woodcock, Mark Graham, Antonio Casilli, Jack Qiu e você mesmo. Esses trabalhos demonstram, inequivocamente que, de fato, esses ganhos alcançados em grande parte no século XX e em grande parte nos setores manufatureiros, em torno das organizações de trabalhadores e do movimento trabalhista, foram radicalmente desfeitos. Particularmente, no contexto americano, vimos a difamação do setor industrial e a difamação do movimento operário. Então, qual é o desafio para os trabalhadores? Bem, em todo o mundo, é o sentimento anti-trabalho, é o sentimento anti-organização e é uma corrida para o fundo do poço. E a indústria de mídias sociais tem seguido essa trajetória, para encontrar a mão de obra mais barata para moderação de conteúdo comercial. A desculpa é sempre relacionada à escala, e certamente é verdade. A escala é enorme, a necessidade por mão-de-obra, é massiva, mas devemos sempre rememorar e pensarmos no modelo de negócios em que essas empresas se baseiam, e lembrar de que há uma série de decisões de negócios que essas empresas tomaram para operar nessa escala. Essa porção massiva da audiência mundial é capturada em suas plataformas e, depois, as empresas geram receita com os dados e o conteúdo que essas pessoas tentam fazer upload. As empresas fizeram isso porque foi incrivelmente lucrativo. Havia outros caminhos pelos quais elas poderiam seguir. Havia outros modelos que poderiam ter sido escolhidos. Então, penso que é preciso manter algumas ideias em primeiro plano. Antes de tudo, as lições históricas e contemporâneas sobre organização do trabalho e a força para fazer isso diante de governos hostis em tantas partes do mundo. Serão questões essenciais. E, é claro, precisaremos de organizadores profissionais, pessoas da área, que estão trabalhando nisso. Penso na coalizão de trabalhadores de tecnologia, por exemplo, como um modelo. Mas parte da terceirização desse trabalho em todo o mundo tem sido realizada para, de fato, evitar fortes movimentos trabalhistas em outros lugares. Então, as Filipinas são conhecidas como um lugar que tem um movimento trabalhista menos significativo do que alguns outros lugares e, portanto, não é um erro que esses call centers tenham proliferado lá. Trata-se exatamente disso. Além disso, acho que as lições históricas e um olhar direcionado para o nosso passado, para algumas dessas lições que foram adquiridas, é algo importante. Eu acho que examinar criticamente coisas como o gig work e o trabalho que é desassociado a algum local [físico e fixo] de trabalho é importante. Quando todas as pessoas trabalhavam juntas num andar de uma fábrica, havia um lugar natural para organizar e discutir ou, até mesmo, para compartilhar informações. Quando você trabalha para a Amazon Mechanical Turk, a menos que seja membro do Turkopticon, torna-se muito difícil, por exemplo, sentir solidariedade com outras pessoas que podem estar fazendo um trabalho semelhante ao seu. E, novamente, acho que os pesquisadores críticos demonstraram repetidamente que isso é planejado e, portanto, devemos pensar: na ausência desses locais tradicionais de organização e solidariedade e apoio dos trabalhadores, o que podemos desenvolver em apoio a tais atividades e extrair disso? Então, esses são o tipo de coisas em que penso em termos de desafios para os trabalhadores, mas também, talvez, algumas oportunidades para pesquisadores, ativistas, membros de comunidades e outros se aliarem, e trabalharem juntos para encontrar soluções para alguns desses problemas introduzidos – repito, estratégica e planejadamente – ao longo dos anos pela indústria.
Se quiser ler outra entrevista com Sarah Roberts, acompanhe aqui.