DIGILABOUR: Qual é o paradoxo da diversidade em Big Data?
BERNHARD RIEDER: Este é um argumento tanto sobre o capitalismo contemporâneo quanto sobre Big Data. Se olharmos para os esforços de diversidade no Vale do Silício e em outros lugares, nós frequentemente descobrimos que eles são descritos a partir de um cenário de “ganha-ganha”. Ter mais diversidade é apresentado tanto como um bem moral quanto benéfico do ponto de vista dos negócios. Por um lado, ver as pessoas principalmente em termos de sua utilidade econômica pode significar que as formas tradicionais de preconceito ou discriminação têm diminuído. Mas, ao mesmo tempo, – e este é o paradoxo – a mineração de dados tem a capacidade de enquadrar as desigualdades persistentes como oportunidades econômicas, tornando concretas as desvantagens que certos grupos acumulam ao longo dos últimos séculos. O argumento, em essência, é que a expansão da racionalidade econômica para todos os domínios da vida pode ser uma força de libertação, mas também contém riscos importantes que se tornam particularmente relevantes à luz da nossa crescente capacidade de avaliar a utilidade econômica por meio de mineração de dados e técnicas similares.
DIGILABOUR: Os dados não são coletados ou extraídos igualmente. Você afirma que o problema não é o enviesamento dos dados, mas após séculos de desigualdade, a própria realidade empírica está enviesada. Como avançar nessa discussão, para além da crítica do método?
RIEDER: O caminho a seguir é uma crítica da sociedade e das várias formas de desigualdades que persistem. Esta é uma questão complexa e complicada que diz respeito a compreensões concorrentes de valores como justiça como justice e como fairness, mas isso se resume à diferença entre as concepções deontológicas (ou processuais) e consequencialistas de justiça. Isso é frequentemente enquadrado em uma oposição “oportunidades iguais” x “resultados iguais”. Uma criança que cresce na pobreza terá essa desvantagem pelo resto da sua vida. Meu argumento é que diferentes formas de mineração de dados podem tornar detectáveis as pequenas e grandes diferenças entre as pessoas, transformando-as em oportunidades comerciais. Embora possamos introduzir todos os tipos de regras para tornar esses processos mais “éticos”, sugiro que também consideremos a igualdade de resultados, por exemplo, por meio de programas sociais mais fortes. O último livro de Jo Littler, Against Meritocracy, desenvolve este argumento mais profundamente.
DIGILABOUR: O que é exatamente uma “técnica algorítmica”?
RIEDER: Para mim, o conceito de “técnica algorítmica” é projetado para preencher o gap entre as avaliações de escala muito grande de coisas como machine learning e o nível muito concreto de algoritmos realmente implementados. É também uma maneira de abordar parte do “conteúdo” intelectual da ciência da computação e das disciplinas adjacentes de uma maneira que não é nem superficial nem muito profundamente investida em detalhes técnicos. Em minha pesquisa sobre o classificador de Bayes, por exemplo, tentei encontrar um nível de análise e explicação que não fosse trivial, mas acessível aos pesquisadores de humanidades e cientistas sociais. No fim, meu objetivo é aprofundar o que o filósofo francês Gilbert Simondon chamou de “cultura técnica”, uma ampla consciência dos princípios técnicos que nos permite discutir a tecnologia de uma maneira que seja adequada, considerando até que ponto nossas sociedades passaram a confiar em artefatos técnicos.
DIGILABOUR: Para você, quais os maiores desafios dos métodos digitais atualmente?
RIEDER: Conseguir acesso aos dados é claramente um desafio hoje. Existem muitos métodos que não requerem grandes quantidades de dados, mas a investigação de fenômenos de maior escala parece se tornar mais difícil sem parcerias com empresas de analytics ou com os próprios empresários de plataforma. O Facebook se associou ao Social Science Research Council e algumas equipes conseguiram acessar os dados dessa maneira, mas o foco temático é bastante restrito (eleições, desinformação…) e muitas questões cruciais não se encaixam lá. O que podemos esperar é que algum tipo de regulamentação aumente a “observabilidade” dessas plataformas e o papel que elas desempenham na sociedade. Mas isso exigirá um pouco de vontade política. O machine learning é um segundo ponto, com muitos trabalhos interessantes acontecendo. O principal problema aqui é que as muitas técnicas diferentes disponíveis são frequentemente aplicadas com modelos relativamente rasos de comportamento humano ou significado cultural. Há oportunidades enormes, não só na pesquisa, para trazer conceitos mais complexos das humanidades e das ciências sociais para o machine learning, por exemplo, compreensões mais sofisticadas em relação ao contexto do “sentimento”.
DIGILABOUR: E sobre o futuro do Netvizz?
RIEDER: Eu realmente não tenho certeza. Embora eu não tenha conseguido a permissão “Acesso ao conteúdo público da página” durante a atualização do aplicativo, a ferramenta continua funcionando. Eu não tenho contato com o Facebook e, como esse tipo de trabalho não é realmente o centro da minha pesquisa, basicamente estou “esperando para ver o que acontece”. Assim, atualmente, eu não recomendaria a ninguém que construísse um projeto de pesquisa de longo prazo no Netvizz ou software similar.