Filtros-Bolha são Reais?

31BoElq-uwL._SX317_BO1,204,203,200_

Axel Bruns é professor do Centro de Pesquisa em Mídias Digital da Queensland University of Technology em Brisbane, Austrália. Autor de livros como Gatewatching and News Curation, Bruns lançará dia 16 de setembro seu novo livro: Are Filter Bubbles Real? Para ele, expressões como filtros-bolha e câmaras de eco não passam de metáforas e não explicam adequadamente as práticas nas plataformas digitais. Confira a conversa da DigiLabour com ele:

 

DIGILABOUR: Por que você considera inadequadas metáforas como filtros-bolha e câmaras de eco?

AXEL BRUNS: O primeiro problema é que são apenas metáforas: as pessoas que apresentaram essas ideias nunca se preocuparam em defini-las adequadamente. Isso significa que esses conceitos podem parecer sensatos, mas podem significar qualquer coisa. Por exemplo, o que significa estar dentro de uma bolha ou câmara de eco? Somente em casos tão extremos – talvez estar completamente desconectado do resto da sociedade – que os fortes efeitos negativos que os defensores dessas metáforas imaginam iriam se tornar realidade. Eles assumem que pessoas em câmaras de eco ou bolhas não veem mais nenhum conteúdo que discorde de suas visões de mundo políticas. Essa desconexão completa não é totalmente impossível, mas muito difícil de ser alcançada. E a maioria das evidências empíricas que temos aponta na direção oposta. Em particular, o imenso sucesso da propaganda política extremista (incluindo “fake news”, outro termo muito problemático e mal definido) nos EUA, no Reino Unido, em partes da Europa e até mesmo no próprio Brasil nos últimos anos dá um argumento muito forte contra câmaras de eco e bolhas de filtro: se fôssemos todos trancados em nossas próprias bolhas, desconectados um do outro, então esse conteúdo não poderia ter ido tão longe, e não poderia ter afetado tantas pessoas tão rapidamente quanto parece ter acontecido. Governos não liberais não investiriam recursos significativos em coisas como a russa Internet Research Agency se suas operações de influência fossem confinadas a bolhas ideológicas existentes. A propaganda depende crucialmente da ausência das câmaras de eco e dos filtros-bolha se procurar influenciar mais pessoas do que aquelas que já fazem parte de um grupo restrito de hiperpartidários.  De outra maneira, se definirmos as câmaras de eco e as bolhas de filtro muito mais livremente, de uma forma que não exija que as pessoas dentro dessas bolhas sejam desconectadas do mundo das informações ao seu redor, os termos se tornam quase inúteis. Com uma definição tão fraca, qualquer comunidade de interesse se qualificaria como uma câmara de eco ou um filtro-bolha: qualquer partido político, grupo religioso, clube de futebol ou outra associação cívica seria uma câmara de eco ou um filtro-bolha, porque possibilitaria a pessoas com interesses e perspectivas semelhantes conectarem-se e comunicarem-se livremente. Mas nesse caso, o que há de novo? Esses grupos sempre existiram na sociedade, e a sociedade evolui por meio da interação e da competição entre eles – não há necessidade de criar novas e mal definidas metáforas como “câmaras de eco” e “filtros-bolha” para descrever isso. Alguns defensores dessas metáforas afirmam que nossas novas mídias digitais e sociais pioraram as coisas: que elas tornaram mais fácil para as pessoas criarem o primeiro tipo forte de câmara de eco ou filtro-bolha, ao se desconectarem do resto do mundo. Mas embora isso possa parecer sensato, não há praticamente nenhuma evidência empírica para isso: por exemplo, sabemos agora que as pessoas que recebem notícias das mídias sociais encontram uma variedade maior de fontes de notícias do que aquelas que não recebem, e aquelas que têm as visões políticas mais fortes e mais partidárias também estão entre os consumidores mais ativos da mídia mainstream. Mesmo as hipóteses de que os algoritmos das plataformas estariam empurrando as pessoas para câmaras de eco ou filtros-bolha foram refutadas: os resultados de pesquisa do Google, por exemplo, mostram muito pouca evidência de personalização em um nível individual. Parte da razão para isso é que – ao contrário das pessoas que apoiam as metáforas da câmara de eco e do filtro-bolha – a maioria das pessoas comuns na verdade não liga muito para a política. Se houver alguma personalização por meio dos algoritmos do Google, Facebook, Twitter ou outras plataformas, ela será baseada em muitos atributos pessoais além de nossos interesses políticos. Como plataformas multiusos, ali nossas vidas pessoais, profissionais e políticas se cruzam e se chocam. Ali encontramos uma mistura ampla e imprevisível de conteúdo a partir de uma variedade de pontos de vista. No geral, essas plataformas permitem que todos nós encontremos perspectivas mais diversas, não menos. E é aí que essas metáforas não são simplesmente estúpidas, mas absolutamente perigosas: elas criam a impressão, primeiro, de que há um problema e, segundo, que o problema é causado de forma significativa pelas tecnologias que usamos. Essa é uma perspectiva explicitamente determinista tecnologicamente, ignorando o elemento humano e assumindo que somos incapazes de moldar essas tecnologias às nossas necessidades. E tais visões, então, também se viram para soluções tecnológicas: se nós assumirmos que as mídias digitais e  sociais causaram os problemas atuais na sociedade, então devemos mudar as tecnologias (por meio de ajustes tecnológicos, regulatórios e legais) para corrigir esses problemas. É como se uma simples mudança no algoritmo do Facebook fizesse o fascismo desaparecer. Em minha opinião, ao contrário, nossos problemas atuais são sociais, econômicos e políticos, e a tecnologia desempenha apenas um papel nisso tudo. Isso não quer dizer que as plataformas estão livres de culpa – Facebook, Twitter, WhatsApp e outras empresas certamente poderiam fazer muito mais para combater o discurso de ódio e o abuso em suas plataformas, por exemplo. Mas se as mídias sociais e até mesmo a própria Internet desaparecerem de repente amanhã, ainda teríamos esses mesmos problemas na sociedade, e não estaríamos mais perto de resolvê-los. O atual foco excessivamente tecnológico de nossos debates públicos – nossa tendência a culpar as mídias sociais por todos os nossos problemas – obscurece esse fato e nos impede de abordar os problemas reais.

 

DIGILABOUR: A partir disso, como abordar a polarização política?

BRUNS: Para mim, esta é a verdadeira questão e que ainda não foi pesquisada o suficiente. O problema fundamental não são as câmaras de eco e os filtros-bolha: é perfeitamente evidente que os vários grupos polarizados da sociedade estão bem cientes um do outro e das posições ideológicas de cada um – o que seria impossível se estivessem trancados em seus próprios lugares.  Na verdade, eles monitoram um ao outro muito de perto: pesquisas nos EUA mostraram que grupos de extrema direita também são seguidores ativos de sites de notícias “liberais” como o New York Times, por exemplo. Mas eles não seguem mais o outro lado para se engajar em qualquer diálogo político significativo, visando encontrar um consenso a partir  do qual ambos os lados poderiam viver. Em vez disso, eles monitoram seus oponentes a fim de encontrar novas maneiras de distorcer suas palavras, criar fake news, e atacá-los com tais falsidades. E sim, eles usam mídias digitais e sociais para fazer isso, mas novamente este não é um problema inerentemente tecnológico: se eles não tivessem mídias sociais, usariam a mídia impressa ou o broadcast em vez disso, assim como os fascistas faziam nos anos 1920 e 1930. Então, para mim, a questão chave é como chegamos a esse ponto: em termos simples, por que os hiperpartidários fazem o que fazem? Como eles se tornam tão polarizados – tão seguros de suas próprias visões de mundo que descartarão quaisquer visões opostas imediatamente, e verão quaisquer tentativas de argumentar com eles ou de corrigir suas visões meramente como uma confirmação de que o establishment está tentando persegui-los ? Quais são os processos (sociais, e não simplesmente tecnológicos) pelos quais as pessoas são atraídas para essas extremidades políticas e como podem ser retiradas de lá? Essa questão também apresenta fortes elementos psicológicos, é claro: como os hiperpartidários formam sua cosmovisão? Como eles incorporam novas evidências? Como eles interpretam e, ao fazê-lo, desarmam qualquer evidência que contrarie suas próprias perspectivas? Vemos isso em muitos campos hoje: da própria argumentação política às pessoas que acreditam que as vacinações são algum tipo de experimento global de controle da mente, ou para aqueles que ainda negam a esmagadora evidência científica das mudanças climáticas. Como essas pessoas mantêm seus pontos de vista ainda que sejam bombardeadas diariamente com evidências de que as vacinas salvam vidas e que o clima global está mudando, com consequências catastróficas? Por um lado, parece evidente que nós vemos muito mais evidências de polarização hoje do que nas últimas décadas: Brexit, Trump, Bolsonaro e muitos outros claramente nos sensibilizaram para essas profundas divisões em muitas sociedades ao redor do mundo.  Mas a maioria das sociedades capitalistas sempre teve profundas divisões entre ricos e pobres; o Reino Unido sempre teve posições firmes tanto pró quanto anti Europa; os EUA sempre foram racistas. Acho que precisamos de mais pesquisas e melhores formas de avaliar se alguma dessas coisas se tornou pior nos últimos anos, ou se isso simplesmente se tornou mais visível. Por exemplo, Trump e outros fizeram com que seja socialmente aceitável nos EUA ser politicamente incorreto, ser deliberadamente misógino, ser abertamente racista. Mas talvez as pessoas que agora apoiam publicamente tudo isso já estivessem lá, e simplesmente não tivessem coragem de expressar suas opiniões em público. Talvez o que tenha acontecido é que Trump e outros quebraram a espiral de silêncio que subjugou essas vozes prometendo sanções sociais. Talvez a espiral do silêncio agora funcione de outra maneira, e as pessoas que se opõem a esse extremismo agora permanecem em silêncio porque temem a violência comunicativa e até física. É importante ressaltar que essas também são questões-chave para a pesquisa em comunicação, mas as investigações não podem adotar a perspectiva simplista de que “as mídias digitais e sociais são as culpadas”por tudo isso. Em vez disso, a questão é até que ponto as condições e práticas em nosso sistema midiático permitiram tais mudanças. Sim, plataformas digitais e sociais permitiram que vozes nas franjas políticas publicassem seus pontos de vista, sem supervisão editorial ou censura de qualquer outra pessoa. Mas tais vozes encontram seu público, na maioria das vezes, somente depois de amplificadas por canais mainstream. É verdade que no atual panorama midiático, os fluxos de informação são diferentes do que eram no passado, não simplesmente por causa das características tecnológicas, mas pelo modo como todos nós optamos por incorporar esses recursos em nossas vidas cotidianas. A questão então é se e como isso afeta a dinâmica da polarização, e quais alavancas estão disponíveis para nós se quisermos mudar essas dinâmicas.

 

DIGILABOUR: Como podemos continuar a fazer pesquisa crítica em plataformas digitais após o que você chama de API-calipse?

BRUNS: Com grande tenacidade e engenhosidade, mesmo diante de adversidades significativas, porque temos uma obrigação social com a pesquisa. Eu disse ao longo de minhas respostas aqui que não podemos culpar de maneira simplista as mídias sociais pelos problemas que as nossas sociedades estão enfrentando agora: as tecnologias de mídias sociais não causaram nada disso. Mas as maneiras pelas quais nós, todos nós, usamos mídias sociais  claramente desempenham um papel na forma como a informação viaja e como ocorre a polarização, e assim continua sendo importante investigar as práticas de mídias sociais de cidadãos comuns, de ativistas hiperpartidários, de políticos marginais e tradicionais, de jornalistas emergentes e estabelecidos, de bots sociais e campanhas de desinformação. E, claro, mesmo além da política e da polarização, há também muitas outras razões importantes para estudar as mídias sociais. O problema agora é que, ao longo dos últimos anos, muitas das principais plataformas de mídias sociais tornaram consideravelmente mais difícil para os pesquisadores acessarem dados públicos s sobre as atividades de mídias sociais – um movimento que descrevi, em linguagem deliberadamente hiperbólica, como o “API-calipse”. Ostensivamente, tais mudanças foram introduzidas para proteger os dados dos usuários de uma exploração não autorizada, mas uma conseqüência conveniente dessas restrições de acesso tem sido o fato de que pesquisas independentes, críticas e de interesse público sobre práticas de mídias sociais se tornaram muito mais difíceis. Isso limita nossa capacidade de fornecer uma avaliação imparcial das práticas de mídias sociais e, cada vez mais, força os pesquisadores que buscam trabalhar com dados de plataformas a buscar acordos de parceria direta, sob condições que favorecem os provedores de plataformas. Isso requer várias respostas paralelas da comunidade acadêmica. É claro que devemos explorar os novos modelos de parceria oferecidos pelas plataformas, mas devemos tratá-los com um grau considerável de ceticismo e não podemos confiar apenas em uma filantropia de dados tão limitada. Em particular, é improvável que as plataformas forneçam acesso a dados em contextos em que a pesquisa acadêmica possa ser altamente crítica em relação a suas ações. Devemos, portanto, também investigar outras formas de coleta de dados: isso inclui doações de dados de usuários dessas plataformas (modeladas, por exemplo, no plugin de navegador do ProPublica que captura os anúncios políticos encontrados pelos usuários do Facebook) ou coleta de dados dos sites das plataformas como alternativa para acesso a dados baseado em API, por exemplo. As plataformas podem tentar fechar esses modos alternativos de coleta de dados (como o Facebook tentou fazer com o plugin do navegador ProPublica) ou alterar seus Termos de Serviço para proibir explicitamente essas práticas – e isso deve levar os acadêmicos a considerar se os benefícios de suas pesquisas superam os interesses das plataformas. Os Termos de Serviço geralmente são escritos para o benefício máximo da plataforma e podem não ser legalmente válidos dentro de cada país. A mesma legislação também pode fornecer exceções de “uso justo” ou “liberdade acadêmica” que justifiquem a violação deliberada das restrições dos Termos de Serviço em contextos específicos. Como acadêmicos, devemos lembrar que temos uma responsabilidade com os usuários das plataformas e com a sociedade, assim como com os provedores de plataformas. Devemos equilibrar essas responsabilidades, tomando cuidado para que os dados de usuários que coletamos permaneçam adequadamente protegidos à medida que buscamos questões de interesse social. Fazer isso pode ser um ato de equilíbrio muito difícil, é claro. Finalmente, devemos também manter nossa pressão sobre as plataformas para fornecer aos pesquisadores acadêmicos melhores interfaces para acesso a dados, muito além de esquemas limitados de filantropia de dados que excluem áreas-chave de investigação. De fato, devemos listar outros – órgãos financiadores, formuladores de políticas, instituições da sociedade civil e o próprio público em geral – que podem exercer essa pressão: é apenas em face de tal ação coletiva, coordenada em todo o mundo, que essas grandes e poderosas empresas provavelmente ajustarão suas políticas de acesso a dados para pesquisas acadêmicas. E será importante confirmar que eles agem de acordo com qualquer promessa de mudança que possam fazer. Apesar de tudo isso, no entanto, quero terminar com uma nota de otimismo: ainda há um papel crucial para a pesquisa que investiga as práticas de mídias sociais, em si mesmas e especialmente também no contexto do sistema midiático mais amplo. Não devemos e não vamos desistir deste trabalho. Diante da polarização generalizada, esta pesquisa é agora mais importante do que nunca. As adversidades com as quais somos confrontados agora também são uma fonte significativa de inovação em métodos e desenhos de pesquisa.

Trabalhadores de Games Uni-vos

41YFtQtX5iL

Jamie Woodcock é editor da revista Notes from Below, autor dos livros Marx at the Arcade: consoles, controllers and class struggle e Working the Phones. Lançará no início de 2020, junto com Mark Graham, o livro Gig Economy: a critical introduction. Woodcock conversou com a gente sobre trabalho na área de games, gamificação e trabalho e organização de trabalhadores da gig economy.

 

DIGILABOUR: Como entender a gamificação no mundo do trabalho?

JAMIE WOODCOCK: Eu entendo gamificação como a aplicação de aspectos dos games para coisas que não são games. E isso pode ser muito atraente. Como escrevi com meu colega Mark R. Johnson, a gamificação é frequentemente aplicada de maneira arítica no trabalho. O resultado é que os trabalhadores experimentam a gamificação como intensificação e exploração do trabalho. Um exemplo é o cenário qeu descrevi sobre os call centers em Working the Phones. No entanto, não é possível explicar a gamificação observando-a somente desta maneira. Esses tipos de gamificação podem ser concebidos como algo vindo de “cima”, envolvendo os imperativos da área de administração e do capital. Mas os trabalhadores geralmente encontram maneiras de introduzir aspectos de gamificação, seja para tornar o trabalho mais fácil de ser feito, ou também enquanto práticas de resistência. Nós concebemos isso como “gamificação vinda de baixo”, uma forma de recusa ao trabalho – e que deve ser celebrada.

 

DIGILABOUR: Como você tem observado as resistências e organizações na gig economy?

WOODCOCK: Acabamos de comemorar o aniversário de três anos das greves dos trabalhadores da Deliveroo em Londres. Este momento foi a primeira resistência visível e de confronto na gig economy. Isso desencadeou uma onda de greves dos trabalhadores de plataformas de delivery em toda a Europa, bem como trabalhadores que se juntam a sindicatos novos e alternativos (incluindo IWGB e IWW no Reino Unido). Neste ano, também vimos uma ampla e coordenada ação de greve dos motoristas da Uber. Muitos trabalhadores de plataformas mudaram de empregadores menores para trabalhar em plataformas internacionais (como o Uber, com cerca de 4 milhões de motoristas). Isso está colocando trabalhadores em contato com condições de trabalho que são compartilhadas entre eles. Por exemplo, os trabalhadores de plataformas de delivery agora coordenam toda a Europa com a Transnational Couriers Federation e os motoristas da Uber estão formando redes internacionais. A resistência e a organização até agora mostram algumas características importantes. Em primeiro lugar, não há trabalhadores “inorganizáveis”. Novos tipos de trabalho exigem que os trabalhadores desenvolvam novas táticas e estratégias. Em segundo lugar, esses trabalhadores estão longe de serem isolados. Muitos trabalhadores já têm fortes conexões com comunidades migrantes, bem como se encontram por meio de pontos de encontro nas cidades. Essas redes “invisíveis” de organização são frequentemente coordenadas por meio de WhatsApp e outros meios digitais. A questão principal é para onde essas lutas irão e como os trabalhadores se organizarão. Embora tenha havido uma greve generalizada, as formas que irão sustentar essas lutas a longo prazo são menos claras.

 

DIGILABOUR: E sobre desenvolvedores de software?

WOODCOCK: Os desenvolvedores de software têm se organizado na Tech Workers Coalition nos Estados Unidos, organizando-se com outros trabalhadores na área de tecnologia, assinando cartas contra projetos militares e, mais recentemente, organizando paralisações. Esse movimento recente envolveu trabalhadores da área de tecnologia pensando sobre o impacto de seu trabalho na sociedade. Em vez de se organizar em torno de seus próprios termos e condições diretamente, isso levou a questões mais amplas sobre o controle no mundo do trabalho. Isso é importante, pois não houve grandes movimentos de trabalhadores de tecnologia anteriormente. Em certo sentido, o salário relativamente alto (embora nem sempre) desses trabalhadores era parte de uma barganha feita no início do setor para impedir a sindicalização e limitar a luta pelo controle no trabalho. É também outro exemplo poderoso de como trabalhadores antes desorganizados podem encontrar novas maneiras de resistir e se organizar. No último ano, apoiei a criação do primeiro sindicato de trabalhadores de videogames no Reino Unido. Como os trabalhadores de tecnologia, há preocupações semelhantes em relação ao trabalho, particularmente em torno da diversidade e da opressão com a indústria. Isso também se combina a uma cultura de longas horas de trabalho, que é uma questão clássica do sindicalismo. Os trabalhadores da indústria de videogames formaram uma rede internacional para sindicalizar sua indústria: Game Workers Unite(GWU). O ramo da GWU da IWGB é o primeiro a se sindicalizar a partir desse movimento. Eles mostraram mais uma vez que os trabalhadores podem encontrar novas maneiras de se organizar, utilizando as melhores tradições do movimento trabalhista enquanto também experimentam novas idéias. Como parte de uma investigação em andamento, documentei algumas dessas experiências no livro Marx at the Arcade. Também organizamos um game jam sobre o tema da organização, usando os videogames como um meio para explorar novas formas de organização no trabalho.

Mosco: Cidades Inteligentes e Internet das Coisas em Visão Crítica

9781787691384

 

Vincent Mosco, professor emérito de sociologia da Queen’s University, é um dos principais pesquisadores da economia política da comunicação. Dentre os seus 26 livros, destacamos The Political Economy of CommunicationTo The Cloud: Big Data in a turbulent world Becoming Digital. Os dois últimos fazem parte de uma trilogia sobre os impactos sociais da “Próxima Internet”. O terceiro e último volume será lançado no próximo dia 28 de agosto: The Smart City in a Digital World. Conversamos com Vincent Mosco sobre o lançamento.

DIGILABOUR: Quais são os problemas com a retórica predominante sobre as cidades inteligentes?

VINCENT MOSCO: Meu último livro questiona o que tornaria uma cidade inteligente, descrevendo o cenário e buscando alternativas democráticas à retórica de que a resposta começa e termina com a tecnologia. Na esteira do colapso financeiro global de 2008, as empresas foram às cidades de todo o mundo vender tecnologia, colher dados valiosos e aprofundar a governança privada da vida urbana. Elas se associaram aos governos para promover o que parecem ser benefícios significativos para os moradores. Isso inclui ruas mais seguras, ar mais limpo, transporte mais eficiente, comunicação instantânea para todos e algoritmos que tiram a governança das mãos de seres humanos imperfeitos. Mas há outra história que está abaixo dessa superfície. As cidades inteligentes impulsionadas pela tecnologia aprofundam a vigilância e transferem a governança urbana para executivos corporativos não eleitos e parcerias público-privadas. Isso também encolhe a democracia, cria um paraíso para os hackers e acelera a chegada da mudança climática. Para resolver esses problemas, é essencial entender as tecnologias, as organizações e as mitologias que impulsionam o movimento global das cidades inteligentes. Significa também avaliar a crescente resistência a uma cidade movida pela tecnologia, liderada por cidades como Barcelona, ​​Amsterdam e Oslo. É importante entender que construímos mitos sempre que construímos cidades. Hoje, eles associam a cidade inteligente a narrativas de transcendência tecnológica que fazem dela a melhor, senão a única, esperança para o futuro urbano. Não há dúvida também de que as apostas financeiras são altas. As cidades inteligentes oferecem grandes fontes de receita na venda de tecnologias, incluindo os sensores da Internet das Coisas, que estão localizados nas luzes das ruas, nos veículos, nas câmeras e outros dispositivos nas cidades. O mercado de dispositivos conectados e equipados com sensores está apenas começando a se expandir e é compreensível que empresas de tecnologia como IBM, Alibaba, Siemens e Cisco estejam ansiosas para promover a visão de que a implantação das tecnologias da “Próxima Internet” pode salvar as cidades do mundo de seus problemas aparentemente intratáveis. Outro fluxo de receita  vem dos sistemas que gerenciam e controlam essa vasta gama de dispositivos conectados, permitindo respostas rápidas a mudanças. Os principais exemplos incluem os Centros de Operações que a IBM foi pioneira no Rio de Janeiro e o City Cockpit da Siemens em Singapura. Eles ampliam enormemente as oportunidades de usar todos os dados coletados pelos dispositivos de vigilância e desenvolver novos algoritmos para gerenciar o tráfego, o crime, a coleta de lixo, a iluminação pública e outros serviços da cidade. Além disso, há outro enorme fluxo de receita nos dados coletados sobre os usos de dispositivos conectados. As oportunidades de medir, monitorar, empacotar e vender dados crescem a cada nova cidade inteligente, a cada novo centro de operações e a cada novo dispositivo conectado. Quer as cidades inteligentes funcionem ou não para residentes urbanos, é cada vez mais claro que elas trabalham para as empresas que vendem tecnologias, sistemas e dados. As cidades inteligentes são construídas no imaginário mítico por causa das oportunidades que eles fornecem aos governos para gerenciar e controlar as pessoas. A vigilância em massa detalhada não apenas produz dados comercializáveis, mas também cria o “self quantificado”. Os governos, sejam eles explicitamente autoritários ou não, veem as tecnologias das cidades inteligentes como soluções para o problema de monitorar e gerenciar populações em crescimento, incluindo migrantes recém-chegados. Os algoritmos dinâmicos que mudam a cada nova onda de dados facilitam o trabalho, transferindo a tomada de decisões para um conjunto de regras geradas por computador que também podem servir para eliminar a responsabilidade. Embora as pesquisas estejam mostrando que os algoritmos incorporam discriminações de raça, gênero e classe na sociedade, o que equivale a inscrever a desigualdade no código, a aparência de objetividade, reificada em código, é um meio conveniente para aprofundar e ampliar o controle político.

DIGILABOUR: Quais as possibilidades de alternativas democráticas para este cenário?

MOSCO: Primeiramente, são as pessoas que tornam as cidades inteligentes. Especificamente, a experiência coletiva e a inteligência daqueles que vivem e trabalham nas cidades, juntamente com aqueles que os visitam, são o que tornam as cidades inteligentes. O objetivo dos aplicativos de tecnologia de cidades inteligentes – especialmente os sistemas da “Próxima Internet”, como Internet das Coisas, análise de Big Data e computação em nuvem – deve ser, em primeiro lugar, melhorar a qualidade de vida e as capacidades daqueles que vivem nas cidades. Não é expandir o lucro e o poder das empresas ou o controle do governo sobre seus cidadãos. Cidades genuinamente inteligentes são cidades democráticas. Os cidadãos devem estar envolvidos na tomada de decisões sobre os aplicativos de cidades inteligentes desde o início de cada projeto até a conclusão, como co-participantes de governos, empresas privadas e organizações não-governamentais públicas. Os cidadãos têm o direito de acessar todas as informações, incluindo planos, políticas e debates, sobre o processo de desenvolvimento das cidades. Um índice-chave de um projeto de cidade inteligente de sucesso é a medida que ajuda os cidadãos a expandir a democracia, ou seja, alcançar a participação mais completa possível dos cidadãos nas decisões que afetam suas vidas. Cidades inteligentes também devem valorizar o espaço público. O espaço público é composto de áreas onde indivíduos e grupos sociais são livres para se unirem e se comunicar abertamente. Isso inclui trocar ideias sobre problemas sociais e planejar ações políticas. Deve ser diferenciado do espaço comercial cuja finalidade principal é vender produtos e serviços. Como os espaços públicos são centrais para apoiar o livre fluxo de ideias e a democracia, as cidades inteligentes devem proteger o espaço público, tanto on-line quanto off-line. Isso inclui a comunicação pública por meio do acesso universal sob controle público, serviços públicos essenciais que fornecem energia e água, bem como instituições públicas, como escolas, parques, bibliotecas e locais públicos de reunião. Cidades inteligentes também devem compartilhar dados. Os dados coletados de projetos de cidades inteligentes pertencem às pessoas de quem são coletados. As pessoas têm o direito de reter, remover ou depositar em uma confiança pública controlada pelos cidadãos todos os dados coletados em suas atividades em cidades inteligentes. Os dados coletados sobre os cidadãos não devem pertencer às empresas privadas ou agências governamentais que as coletam. Os cidadãos podem concordar em que as instituições públicas e privadas façam uso de seus dados, mas somente quando todas as partes estiverem plenamente informadas e quando houver uma garantia de que, se alguém optar por não compartilhar dados a qualquer momento no processo, não haverá repercussões . A privacidade é um valor fundamental das cidades inteligentes. As pessoas têm o direito à privacidade pessoal. Isso significa que qualquer sistema de coleta de dados da cidade inteligente deve desidentificar os dados na fonte de coleta e deve assumir total responsabilidade para garantir que os dados pessoais não sejam enviados a terceiros. Cidades inteligentes devem promover a diversidade. Os projetos de cidades inteligentes devem ser realizados sem discriminação de gênero, raça ou classe social. Isso inclui os algoritmos usados ​​nos processos de tomada de decisões. Estes devem estar sujeitos à revisão e supervisão pública, com o objetivo de acabar com a replicação das divisões sociais históricas. Cidades inteligentes devem promover o direito de se comunicar. As pessoas têm o direito de se comunicar, não apenas para receber comunicação. É essencial que as autoridades públicas criem acesso universal e acessível aos cidadãos à comunicação de alta velocidade e ampliem o acesso à informação, especialmente no que diz respeito à operação dos governos municipais e seus parceiros do setor privado. Cidades inteligentes também devem proteger o meio ambiente. As pessoas têm direito a um planeta saudável. Em cada estágio de cada projeto de cidade inteligente, é essencial colocar em primeiro plano as metas de enfrentar o desafio da mudança climática, reduzir e eliminar o uso de recursos energéticos não renováveis ​​e manter uma biosfera saudável. Cidades inteligentes e suas ruas são para pessoas, não carros. O projeto das ruas e calçadas da cidade é inteligente apenas se começar com os pedestres. Calçadas inteligentes são construídas para serem preenchidas com pessoas e forradas de árvores. Uma calçada vazia é como um teatro vazio.  As ruas inteligentes são melhor projetadas para acomodar primeiro as necessidades dos pedestres e daqueles que viajam em veículos não motorizados. Respeitando esses princípios, particularmente o compromisso com o controle do cidadão sobre a tecnologia, é razoável esperar que os aplicativos das cidades inteligentes fortaleçam a gestão e a entrega de todos os serviços municipais, especialmente as operações de emergência. Isso inclui transporte público, sistemas de energia, bem como segurança contra incêndios, policiamento, remoção de resíduos, água e esgotos. Além disso, eles podem ajudar na prestação de serviços de saúde pública, bem como na gestão de habitação pública e educação pública. As cidades inteligentes podem melhorar o gerenciamento de crises, mas somente se forem construídas de modo que o serviço público esteja em primeiro lugar.

DIGILABOUR: Quais são os pontos para uma crítica da indústria de Internet das Coisas?

MOSCO: Três tecnologias – literalmente conectadas por meio de telecomunicações de alta velocidade com e sem fio – proporcionam à infraestrutura de TI o que se prevê ser o salto para as cidades inteligentes. Isso inclui a Internet das Coisas – os sensores conectados a objetos como luzes de rua e sinais de trânsito que podem monitorar e relatar tudo ao alcance de suas capacidades de vigilância. Em geral, a Internet da Coisas refere-se a um sistema que instala sensores e dispositivos de processamento em objetos físicos e organismos vivos do cotidiano, incluindo pessoas. Para a cidade, isso significa incorporar tecnologia de monitoramento e coleta de dados em estradas, calçadas, edifícios, ruas e sua iluminação, bem como em residências, escolas e locais de trabalho. Onde quer que estejam localizados, esses sensores formam uma rede de coisas que acumulam grandes quantidades de dados e os entregam a sistemas de computação em nuvem para armazenamento e processamento com análise de Big Data. O resultado é o monitoramento em tempo real do uso de transporte, comunicação e energia. Os defensores esperam que a Internet das Coisas permita tempos de resposta mais rápidos para problemas cotidianos e grandes desastres. Um dos resultados é o desenvolvimento de algoritmos ou regras de tomada de decisão que permitem a ação autônoma. O software alimenta os sistemas de inteligência artificial (IA) que usam dados para criar regras “se… então” que acionam respostas com base na mudança de dados. Por exemplo, com base em estatísticas criminais e tecnologias de reconhecimento facial, as autoridades policiais desenvolveram algoritmos que seguem algumas variações de “se você identificar um rosto assim, aumente ou diminua seu nível de suspeita”. Como bancos de dados são construções sociais que categorizam e classificam a partir das subjetividades e dos preconceitos encontrados na sociedade, não é de surpreender que os algoritmos incorporem vieses racistas, sexistas e de classe. Consequentemente, os algoritmos precisam ser avaliados criticamente e com um olhar atento sobre as condições estruturais sociais que dão origem a regras de decisão baseadas em IA. Em certo sentido, a Internet das Coisas atualiza uma visão antiga, uma vez veiculada em anúncios de produtos da General Electric, de “dar vida a coisas”, dando-lhes capacidades de inteligência artificial. Esses objetos – o que o filósofo da ciência Bruno Latour chama de actantes – em sua teoria ator-rede, podem formar relacionamentos com outros objetos e com coisas vivas. A Internet que conhecemos há mais de trinta anos conecta principalmente pessoas a outras pessoas. A Internet das Coisas adiciona um universo de coisas à rede de redes. Neste ponto, apenas uma pequena fração de objetos, cerca de 1%, está conectada digitalmente em redes de Internet das Coisas em um mundo onde apenas 50% da população faz uso da Internet tradicional. Consequentemente, à medida que os números sobem inevitavelmente, há grandes expectativas de crescimento enorme, especialmente entre as organizações empresariais. A Internet das Coisas depende dos recursos de computação em nuvem, especialmente dos centros de dados que armazenam e processam o que os sensores monitoram. Então, a análise de Big Data transforma os dados em informações úteis e algoritmos de tomada de decisão. Relatórios sobre as perspectivas econômicas de tecnologias de cidades inteligentes tendem a concordar que esta indústria está prestes a atingir um crescimento explosivo. Um estudo concluiu que o mercado de cidades inteligentes vale cerca de US $ 1,2 trilhão e será avaliado em US $ 2,75 trilhões até 2023. Até 2020, as previsões preveem 600 cidades inteligentes em todo o mundo, metade delas localizadas na China.

DIGILABOUR: E o papel das grandes corporações?

MOSCO:  A indústria já é altamente concentrada e é dominada por empresas americanas. De fato, as cinco principais empresas da Próxima Internet são líderes mundiais em valor de mercado. Isso inclui a Amazon, que controla mais de um terço do mercado de computação em nuvem e tem uma presença formidável em Big Data e na Internet das coisas. A empresa foi uma das primeiras a criar um serviço de nuvem de tamanho único que atraiu indivíduos e organizações com sua simplicidade e preços com muito desconto, que sugerem que os preços predatórios estavam em ação. Google, Microsoft, Facebook e Apple completam a lista de empresas que usam seu controle sobre a Internet original para se tornarem líderes na Próxima Internet. Empresas antigas como IBM, Oracle, HP e Cisco se esforçaram para substituir sua especialização em serviços de TI que agora estão desaparecendo e se voltando para o novo mundo digital. No entanto, a necessidade de canibalizar sistemas antigos e refazer suas organizações fez com que as coisas ficassem lentas. Além disso, há empresas que se especializam em um ou outro sistema constituinte da Próxima Internet, como Rackspace e Salesforce, mas essas são constantemente prejudicadas pela invasão das empresas dominantes. As empresas dominantes estão se beneficiando de seus laços estreitos com as agências militares e de inteligência, proporcionando-lhes os serviços da Próxima Internet e cooperando, na maioria das vezes, com solicitações de informações sobre os usuários. De fato,  os laços estreitos com o Pentágono, bem como para a NSA e a CIA, ajudam a explicar por que não há concorrentes à hegemonia americana sobre a Próxima Internet vindo da Europa, cujas empresas de telecomunicações já lideraram o mundo um dia. A China fornece a única competição séria. Lá, o governo investiu pesadamente nas tecnologias da Próxima Internet, chegando a integrá-las em seus planos de cinco anos. Isso beneficiou empresas líderes como Alibaba, Baidu, Huawei e Tencent, entre outras. Sinalizando que pretende desafiar a liderança dos Estados Unidos, o Alibaba se estabeleceu no Vale do Silício e, como outras empresas chinesas, está se baseando no enorme mercado doméstico para estender seu alcance internacional. Um exame das questões políticas remanescentes revela por que a concentração do poder corporativo é um problema tão significativo e por que é essencial que as sociedades comecem a considerar a necessidade de intervenção pública para regular e controlar a Próxima Internet.

DIGILABOUR: E ainda há quem veja a internet como algo imaterial…

MOSCO: Como o mundo digital é composto de elétrons invisíveis que zunem pelo ar, há uma tendência de vê-lo como imaterial. Nada poderia estar mais longe da verdade e, quanto mais cedo isso for reconhecido, maior será a probabilidade de os problemas ambientais e climáticos associados à Próxima Internet serem abordados. Os centros de dados em nuvem são estruturas muito materiais e, à medida que vão enchendo o mundo, há inúmeras questões de política ambiental. No topo da lista está o consumo de energia nos centro de dados que aumentará conforme o número de sensores se expande exponencialmente. Além disso, a demanda do cliente por serviços 24 horas por dia, 7 dias por semana, requer várias camadas de energia de reserva, incluindo baterias de chumbo-ácido e geradores a diesel que foram considerados cancerígenos. Além disso, muitos centros de dados exigem grandes e contínuos suprimentos de água para seus sistemas de refrigeração, o que levanta sérias questões políticas em lugares como o oeste dos Estados Unidos. Até agora, as operadoras de centros de dados usaram seu poder econômico e o fascínio pelos empregos prometidos para pressionar com sucesso os governos locais a fornecer incentivos fiscais, acordos de corte de energia e alívio dos regulamentos de poluição. As questões de privacidade e segurança se multiplicam na Próxima Internet porque uma conectividade maior aumenta as oportunidades de falhas técnicas e de invasões criminais. Uma vez um jornalista de tecnologia referiu-se à Internet das Coisas como “a maior infra-estrutura de vigilância em massa de todos os tempos”. Mas mesmo nesse nível relativamente baixo, problemas técnicos e hackers criminosos atormentam o sistema. Mas as ameaças mais significativas surgem de empresas e governos com fome de dados. Para eles, a maior atração da computação onipresente são os dados valiosos sobre o comportamento das pessoas e o desempenho dos objetos.

DIGILABOUR: Qual o impacto disso tudo no trabalho digital?

MOSCO: O impacto da Próxima Internet no número de empregos e na natureza do trabalho é uma questão política importante. O impacto da tecnologia nos empregos tem sido discutido por muitos anos, mas especialmente desde o fim da Segunda Guerra Mundial, quando o cientista da computação Norbert Wiener gerou considerável debate público ao levantar o espectro da perda massiva de empregos devido à automação computadorizada. No entanto, a Próxima Internet está criando e provavelmente continuará a criar empregos, incluindo trabalhos de construção tradicionais na construção de redes globais de centro de dados, na nova profissão de ciência de dados e no controle, manutenção e monitoramento de coisas em rede. Mas hoje há muito mais oportunidades para a nova tecnologia eliminar o trabalho humano, especialmente o trabalho de conhecimento profissional. Na verdade, um consultor especializado prefere definir a computação em nuvem como “nada mais do que o próximo passo na terceirização de suas operações de TI”. Isso está de acordo com uma tendência geral que um pesquisador da Gartner Associates resume sucintamente: “A proposta de valor de longo prazo da TI não é apoiar a força de trabalho humana – é substituí-la”. A Próxima Internet também possibilita a racionalização generalizada de praticamente todo o trabalho criativo, porque o trabalho dessas ocupações envolve cada vez mais a produção, o processamento e a distribuição de informações. Agora estamos começando a ver os impactos na educação, na saúde, na lei, na contabilidade, nas finanças, nas vendas e na mídia. Organizações privadas e do setor público são incentivadas a terceirizar todos os seus principais processos de negócios para empresas como a Salesforce, especializada no gerenciamento de vastos bancos de dados de informações de clientes, um trabalho que os departamentos de marketing e atendimento ao cliente normalmente realizam atualmente. Combinada com a promessa de armazéns de produtos cheios de robôs para localizar, embalar e enviar mercadorias e drones para entregá-los, a Amazon é a ponta de lança da Próxima Internet para expandir a intensificação da mão de obra em todo o mundo. Qualquer que seja o impacto no número de empregos, a Próxima Internet já está mudando o processo de trabalho. Por exemplo, a ficção científica tornou-se realidade quando os trabalhadores de uma empresa sueca chegam ao escritório todos os dias com chips implantados sob a pele para melhorar a produtividade e o controle da gestão. A perda de empregos, o trabalho precário e o declínio dos sindicatos contribuem para a crescente crise do trabalho digital em todo o mundo.

 

 

Carelli: Questões Jurídicas no Trabalho Digital

Rodrigo Carelli, professor de Direito do Trabalho da UFRJ e Procurador do Ministério Público do Trabalho, fala à DigiLabour sobre questões jurídicas envolvendo o trabalho digital. Clique nos links para ouvir a entrevista:
Mudanças da CLT e o trabalho via plataformas digitais
Regulação do trabalho nas plataformas: uma questão ideológica
Plataformas de emprego e questões jurídicas
Leia um artigo de Carelli aqui.

Dyer-Witheford: AI Capitalism

Interview with Nick Dyer-Witheford on book Inhuman Power: Artificial Intelligence and the Future of Capitalism

31Qm9Yd167L._SX312_BO1,204,203,200_

DIGILABOUR: In your book, you criticize both the liberal view and the “autonomist” perspective on artificial intelligence. I found your point very interesting. Although you recognize the value of this latter approach, what are the misconceptions about autonomy in the question of artificial intelligence?

NICK DYER-WITHEFORD: Thank you for your interest in Inhuman Power. I am only one of the authors of this book, the other two being my brilliant colleagues, Atle Mikkola Kjøsen and James Steinhoff. The comments here are hence a personal interpretation of a synthetic collaboration; my co-authors might quite legitimately emphasize different aspects of our collective work. In regard to the liberal and autonomist accounts of artificial intelligence: the liberal view is of course that artificial intelligence (AI) is just one more stage in the technological progress achieved by the market economy, an advance attributable to the creative powers of capitalism, bringing greater material prosperity, consumer convenience and all-round improvement in the human condition. Whatever problems AI may bring in the realms of, say, employment or social surveillance, they can, in this view, be corrected by education for vocational training, and minor reforms to privacy protection. The fact that the development of AI is almost entirely in the hands of oligopolistic capital, along with its state-security military and police partners, is ignored, obfuscated or just accepted as the way of the world. What is more surprising is the relative complacency with which this situation is looked on by left, or what remains of it. This complacency appears to have two sources. One the one hand, there are those who doubt the actuality of recent advances in AI, suggesting that these are heavily oversold by corporate promoters, and amount to more hype than reality. This is a view that for the moment, undoubtedly contains a large part of truth, but may well be inadequate to the long-term trajectory of capitalist techno-development.  On the other hand stands the perspective of “left accelerationists”, who are themselves AI enthusiasts, and see this technology a harbinger of a postcapitalist world, in which automation dissolves the wage-work nexus. This optic can quote in its support some impressive passages from Marx in his most technologically optimistic forecasts about the progressive force of ever-expanding powers of production. But it extinguishes the more somber side of his analysis of capitalist machinery as domination, and his flashes of nightmare critique of capital as an alien and inhuman force the drives towards the status of an “automatic subject.” It is here that the issue of autonomism comes in. The tradition of operaismo (“workerism”), from which today’s autonomist Marxism derives, was remarkable for its scathing refusal of capital’s doctrine of technological progress and its insight into of how machinery is used as a managerial weapon against the working class. However, in the transformation of operaismo to contemporary post-operaismo thought, this heterodox subversion was lost, and replaced by an upbeat insistence on possibilities of cyborg re-appropriations of computing and network technologies. Now, this is a view to which I myself contributed, so a certain amount of auto-critique is in order! But we must recognize that since the 1990s the condition of then-nascent digital capital has changed significantly, notably through the successful consolidation of the giant platform enterprises, such as Google, Amazon and Facebook, and their systematic appropriations of big data and   mobile communication, all of which set the scene for recent breakthroughs in AI technology, especially in the field of machine learning. Given this situation it seemed necessary to the three of us who authored Inhuman Power to restore a critical perspective on the machinic trajectory of capital that is now yielding new forms of AI. In the short term such a critique addresses both the intensifications in labour exploitation and in command over the entre social factory currently enabled by AI. In the mid-term, it takes seriously the likely assaults on employees in industries from transportation to call centers now being prepared by AI developers. And in the longer term, it considers the implications of a capitalist directed “singularity” that, in the name of increased efficiency and productivity, aims at the creation of nothing less than a successor-species rendering humankind obsolete. For those who hope that AI will permit a society in which humans are free from capital, it is important to remember that the obverse of this arrangement may be that capital becomes free from the human. We could be looking at a scenario, not of the growing autonomy of workers, but of the deepening autonomization of capital.

DIGILABOUR: What does it mean to consider IA as a general condition of production?

DYER-WITHEFORD: Marx’s concept of general conditions of production refers to the technologies, institutions and practices which form the environment for capitalist production in a given place and time. We emphasize that at the moment AI deployment is limited (though still wider in scope than many people imagine). Various types of “narrow” domain specific AI are, and have been used in industrial robots, search engines and social media and military and police systems. So called “general AI”—roughly speaking, AI with human, equivalent intelligence, and beyond that, super-intelligence—remains very much the stuff if science fiction. However, the commercial uses of AI are multiplying across homes and workplaces. In describing AI as a “general condition of production” we are suggesting that it may become a type of infrastructure that provides the taken-for-granted prerequisites for a new phase of capitalist development. Roads and canals and sailing ships were general conditions of production for mercantile capital; steam powered machinery, railways, steam ships and later electrical power, telegraphs, telephones, radio and television were general conditions of production of industrial capital. To say that these conditions of production are general is not to suggest that they are available free; the great railway tycoons of the nineteenth century made their millions building one of the century’s key general conditions of production. But it is to say that they become facilities foundational for all types of competitive capitalist enterprise, and hence also propel profound transformative of social life. As Andrew Ng, Stanford professor, entrepreneur, former Chief Scientist at Baidu, and former head of Google Brain pronounced in 2016, the objective of his corporate sponsors is to make AI “the new electricity.” The ambition of the great oligopolists AI developers—in the US, Google, Amazon, Microsoft, Facebook and IBM, in China, Baidu and Alibaba –is not simply to use AI to increase the efficiency of their search engines, product recommendations, warehouse operations etc. It is rather to become the vendors, largely through cloud based services, of AI capacities that other businesses, and indeed individuals, cannot do without on a day to day basis. They aim for a new instantiation of capital in which AI applications such as autonomous vehicles, chatbot personal assistants and social media agents, and an Internet of Things connecting robotic applications in industry, logistics and households, saturate everyday life. If this is achieved, it will also mark a new phase in the subsumption or envelopment of human life by capitalist techno-structures—an AI-capitalism.

DIGILABOUR: How to think about the struggles involving AI-capital? How can we reposition the scenario on artificial intelligence from “other possible worlds”?

DYER-WITHEFORD: A great deal of current discussion about AI focuses on labour market issues, in effect addressing the question, “will a robot take my job?”  Around this there has been a protracted debate between “AI apocalyptics” (mostly computer scientists) who foresee an imminent general crisis of employment caused by AI automation, with abrupt job losses across many types of work, and “business as usual” theorists (mostly mainstream economists), who insist that technological change, while destroying jobs in some sectors, always creates compensatory job opportunities in other areas of the economy. This argument is now very choreographed and predictable, though also highly speculative. We think it is quite possible that AI will increase surplus populations; render employment increasingly precarious and polarized between high waged techno-elites and low waged menial jobs; and may eventually precipitate a general crisis of employment—though this process, interacting in contradictory ways with the regular business cycle and capital’s patterns of recurrent crisis and recovery, well-mapped by Marx, may well take the protracted form of a “slow tsunami” rather than the sudden onset anticipated by AI apocalyptics. What we would emphasize, however, is that right now, in the present, there are emerging a series of conflicts over the negative effects of AI capitalism. In this regard we delineate a “heptagon of struggles”. This involves: i) the struggles of workers who are already subject to the surveillance, work intensification and wage pressures of machine-learning driven algorithmic management: these include not only the well-known examples of Amazon fulfillment-centre workers and gig-economy food-couriers or on-demand-drivers, but also the multitude of online “click-workers” involved in the actual production of machine learning systems, either as data cleaners or content moderators, ii) the protests of high-tech workers in Silicon Valley and elsewhere over their employers’ involvement in AI-production for the US military, immigration authorities or border police,  iii) the anti-surveillance movement, which has been growing since the Snowden revelations, and now confronts increased state and corporate powers provided by technologies such as machine-learning driven facial recognition systems, iv) activism against algorithmic discrimination along the lines of gender and race that have repeatedly appeared in AI systems for job hiring, pre-emptive policing, welfare monitoring and many other social activities, v) the movements contesting large AI firms plans for control of information generated by “smart cities”, which would make them major corporate arbiters over urban design and planning, vi) network defection following from this the wave of revulsion over AI engineered techniques of viral propaganda and dis and mis0information revealed in the Cambridge Analytica scandals– a scandal which, while focused on a specific nefarious electoral manipulation ultimately raises large questions about the techniques of advertisement driving capital’s entire communication systems,  vii) the generalized “techlash” against the oligopolistic powers of large information firms, who are now also the main controllers and determiners of AI development, which is now bringing to the fore issues of regulation, anti-trust legislation and even alternative forms of ownership.  None of these movements necessarily has objections to capital driven AI and machine learning as its central demand. But corporate-directed AI now functions as assort of “invisible attractor” around which these antagonisms are now forming antagonisms that may be intensified ifs sectoral or general employment crises following from intensified AI deployment appear.

DIGILABOUR: What are the blindspots in research on  capitalism and artificial intelligence?

DYER-WITHEFORD: There is no shortage of topics on which further research into AI-capitalism is required. The immediate consequences of machine-learning in workplaces and the gig-economy, is the proper subject of a new round of workers’ inquiry, now indeed under way in many quarters;  investigation into the construction of the corporate algorithms used by social media to shape the conditions of the wider social factory, research which also involves campaigns for access to information and public control of research agendas, is clearly vital; so too is closer examination of the corporate partnerships with the military and police, already a hot topic in Silicon Valley and, given the deteriorating nature of international relations and intensifying border regulation, likely to become even more prominent. However, the issue that over which I am left most curious after helping write this book is a less empirical one. It the issue of finding communist or socialist agendas for addressing AI other than of the now widely-popular left accelerationist approval for expanding the means of production devised by capital. For reasons I hope this interview has already made clear, we are skeptical about the idea that capital-developed AI can be used as a lever to bring a post-capitalist order into being –as in the now ubiquitous post-work formula for AI plus UBI (universal basic incomes). To us, this seems like a recipe for leaving an entirely disempowered proletariat still resident within a system of general commodification, and at the mercy of a capitalism now endowed with god-like powers. At the end of the book, we sketch some alternatives to this option, the absence of which might be considered a “blindspot” for contemporary radicalism. Our perspective does not close the door on possible emancipatory applications of AI, were such systems to be trained, developed and delimited within what we can shorthand as a communist order. Some of my co-authors are therefore interested in the possibilities of specifically socialist or communist transhumanism. Others of us incline more to a perspective that deviates from Marx’s allegiance to techno-modernist Prometheanism. For if the horizons of socialism or communism remain fixed on prospects of unlimited economic expansion, it becomes, I think, hard to avoid accelerationist logic. Such growth will tend towards intensified use of AI, not least to provide eco-modernist patches and fixes the problems of industrial and informational capital, such as global climate catastrophe. However, such route paradoxically leads to prospects of human self-obsolescence. The question then arises as to whether, as a counter-move, some articulation between Marxism and radical political ecology, such as that incipient in today’s “de-growth” movements, might be envisaged, something beyond the now widely-discussed (and certainly important) New Green Deal proposals. This would require a movement aimed at a global levelling of wealth, a massive program of social equalization, in combination with a regionally focused powering-down and de-celeration of the continuous economic growth indispensable to capitalism, accompanied by a deep democratization of both work institutions and scientific and technological research agendas. Such a path—and here I elaborate a personal opinion, rather than one fully worked out with and endorsed by my co-authors–might open a way to diminishing reliance on inhuman, or, more precisely, a-human, AI systems, or at least opens a space for some genuine social deliberation on the conditions of their adoption, rather than the de facto submission to the competitive automatism dictated by high-tech capital. The impulse to such a new social and ecological levelling, an articulation of equality and sufficiency, would demand an innovative social insurgency: to use some very controversial, and admittedly rather Eurocentric, examples, it would call for something like a rapprochement between Extinction Rebellion, the Gillets Jaunes and the Gillets Noirs! However, such a project, involving as it does a radical re-fit of the much of the philosophic equipment of the left is clearly one calling for further theoretical conversation and political experimentation.

Dyer-Witheford: Capitalismo de Inteligência Artificial

NICK DYER-WITHEFORD FALA SOBRE AS LUTAS ENVOLVENDO CAPITAL E INTELIGÊNCIA ARTIFICIAL

 

31Qm9Yd167L._SX312_BO1,204,203,200_

 

Nick Dyer-Witheford, professor da University of Western Ontario, no Canadá, é autor dos livros Cyber MarxCyber Proletariat (com entrevista em português) e Games of Empire. Tem textos também sobre a questão do comum (aqui e aqui). Em junho deste ano, lançou o livro Inhuman Power: artificial intelligence and the future of capitalism, em coautoria com Atle Mikkola Kjøsen e James Steinhoff. Dyer-Witheford conversou com DigiLabour sobre a nova publicação, especialmente sobre inteligência artificial e capitalismo.

DIGILABOUR: No livro, você critica as visões liberais e autonomistas sobre inteligência artificial, embora reconheça o valor da abordagem autonomista. Por que você se afasta dessas duas perspectivas?

NICK DYER-WITHEFORD: Em primeiro lugar, muito obrigado pelo interesse no livro. Gostaria de dizer que sou apenas um dos autores, junto com dois brilhantes colegas, Atle Mikkola Kjøsen e James Steinhoff. Os comentários aqui são apenas uma interpretação pessoal de uma colaboração sintética: meus coautores podem legitimamente enfatizar aspectos diferentes do nosso trabalho coletivo. A visão liberal é, certamente, que a inteligência artificial (IA) é apenas mais uma etapa do progresso tecnológico alcançado pela economia de mercado, um avanço atribuído aos poderes criativos do capitalismo, trazendo maior prosperidade material, conveniência ao consumidor e melhoria geral à condição humana. Quaisquer que sejam os problemas que a IA possa trazer para os campos do emprego ou da vigilância social, eles podem, nessa visão, ser corrigidos pela educação para a formação profissional e por pequenas reformas na proteção da privacidade. O fato de que o desenvolvimento da IA ​​esteja quase inteiramente nas mãos do capital oligopolista, juntamente com seus parceiros militares e a segurança do Estado, é ignorado, ofuscado ou simplesmente aceito como o caminho natural do mundo. O que é mais surpreendente é a relativa complacência com que esta situação é vista pela esquerda, ou o que resta dela. Essa complacência parece ter duas origens. Por um lado, há aqueles que duvidam da atualidade dos recentes avanços em IA, sugerindo que estes são fortemente vendidos pelo discurso empresarial, sendo isso mais um exagero do que a realidade. Essa é uma visão que, no momento, apresenta uma boa dose de verdade, mas pode ser inadequada para a trajetória de longo prazo do tecnodesenvolvimento capitalista. Por outro lado, está a perspectiva dos “aceleracionistas de esquerda”, que são entusiastas da IA, e veem essa tecnologia como um precursor de um mundo pós-capitalista, no qual a automação dissolveria o nexo trabalho-salário. Essa perspectiva cita Marx em suas previsões tecnologicamente mais otimistas sobre a força progressista dos poderes de produção sempre em expansão. Mas essa visão invisibiliza um lado mais sombrio da análise marxiana sobre a maquinaria capitalista como dominação. Os flashes de crítica ao capital tratam-no como uma força alienígena e inumana. É aqui que entra a questão do autonomismo. A tradição do operaismo, a partir da qual deriva o marxismo autonomista de hoje, foi notável pela sua contundente recusa da doutrina capitalista do progresso tecnológico e sua percepção de como a maquinaria é usada como uma arma gerencial contra a classe trabalhadora. No entanto, na transformação do operaismo no pós-operaimo contemporâneo, essa subversão heterodoxa foi perdida e substituída por uma insistente visão otimista sobre as possibilidades de reapropriações ciborgues das tecnologias de computação. Mas veja, esta é uma perspectiva para a qual eu mesmo dei contribuições. Então, está em jogo uma certa dose de autocrítica! Mas devemos reconhecer que, desde a década de 1990. a condição do capital digital então emergente mudou significativamente, notavelmente por meio da consolidação bem-sucedida das empresas de grande porte, como Google, Amazon e Facebook, e suas apropriações sistemáticas de Big Data e comunicação digital. Tudo isso preparou o cenário para avanços recentes na tecnologia de IA, especialmente no campo do aprendizado de máquina (machine learning). Dada esta situação, pareceu-nos necessário que nós três, autores do Inhuman Power, restaurassem uma perspectiva crítica da trajetória maquínica do capital que agora está produzindo novas formas de IA. A curto prazo, tal crítica aborda tanto as intensificações na exploração do trabalho quanto o comando de toda a fábrica social atualmente habilitada pela IA. A médio prazo, devemos levar a sério os ataques aos trabalhadores nas indústrias, desde o transporte até os call centers, que estão sendo preparadas pelos desenvolvedores de AI. E, a longo prazo, devemos considerar as implicações de uma “singularidade” dirigida pelo capitalismo que, em nome do aumento da eficiência e da produtividade, visa a criação de nada menos do que uma “espécie-sucessora”, tornando a humanidade obsoleta. Para aqueles que esperam que a IA permita uma sociedade na qual os humanos estejam livres do capital, é importante lembrar que o anverso desse arranjo é que o capital pode se tornar livre dos humanos. Estamos a olhar para um cenário não de crescente autonomia dos trabalhadores, mas do aprofundamento da autonomização do capital.

DIGILABOUR: O que significa considerar a inteligência artificial como condição geral de produção?

DYER-WITHEFORD: O conceito de condições gerais de produção, de Marx, refere-se às tecnologias, instituições e práticas que formam o ambiente para a produção capitalista em determinado tempo e espaço. Ressaltamos que, no momento, a implantação da IA ​​é limitada – embora ainda mais ampla  do que muitas pessoas imaginam. Vários tipos de IAs “específicas” têm sido usadas ​​em robôs industriais, mecanismos de busca, mídias sociais e sistemas militares e policiais. Falar em inteligência artificial de maneira geral continua sendo material de ficção científica. No entanto, os usos comerciais da IA ​​estão se multiplicando em residências e locais de trabalho. Ao descrever a IA como uma “condição geral de produção”, estamos sugerindo que ela pode se tornar um tipo de infraestrutura que fornece os pré-requisitos para uma nova fase do desenvolvimento capitalista. Estradas e navios à vela eram condições gerais de produção do capital mercantil; máquinas movidas a vapor, ferrovias, navios a vapor e energia elétrica, telégrafos, telefones, rádio e televisão eram condições gerais de produção de capital industrial. Dizer que essas condições de produção são gerais não é sugerir que elas estejam disponíveis gratuitamente. Os grandes magnatas ferroviários do século XIX fizeram muito dinheiro construindo uma das principais condições gerais de produção daquele século. Isso é para dizer que isso torna-se o alicerce para todos os tipos de empreendimentos capitalistas competitivos e, portanto, também impulsiona profundas transformações da vida social. Como diz Andrew Ng, de Stanford, ex-Baidu e ex-Google Brain, em 2016, o objetivo de seus patrocinadores corporativos era tornar a IA “a nova eletricidade”. A ambição dos grandes oligopólios nos EUA, (Google, Amazon, Microsoft, Facebook e IBM) e na China (Baidu e Alibaba) não é simplesmente usar AI para aumentar a eficiência de seus mecanismos de busca, suas recomendações de produtos e suas operações de armazenamento. É para que eles se tornem melhores fornecedores, principalmente por meio de serviços baseados na nuvem, de capacidades de IA que outras empresas não podem dispensar no cotidiano. Eles buscam uma nova instanciação de capital na qual aplicativos de IA, como veículos autônomos, assistentes pessoais de chatbot e agentes de mídias sociais e uma Internet das Coisas que conecte aplicações robóticas em indústrias e residências, saturem a vida cotidiana. Se isso for alcançado, marcará também uma nova fase na subsunção ou envolvimento da vida humana pelas tecnoestruturas capitalistas – um capitalismo de inteligência artificial.

DIGILABOUR: Como pensar sobre as lutas que envolvem capital e inteligência artificial?

DYER-WITHEFORD: Uma grande parte da atual discussão sobre AI envolve as questões do mercado de trabalho, principalmente a partir da questão, “um robô me substituirá no trabalho?”. Em torno disso, tem havido um debate entre “apocalípticos versão IA” (principalmente cientistas da computação) que preveem um iminente crise geral de emprego causada pela automação, com perdas abruptas de empregos em muitos tipos de trabalho, e os teóricos do business as usual (principalmente economistas tradicionais), que insistem que a mudança tecnológica, ao mesmo tempo em que destrói empregos em alguns setores, sempre cria empregos e oportunidades em outras áreas da economia. Este argumento é agora muito coreografado e previsível, embora também altamente especulativo. Achamos que é bem possível que a IA aumente as populações excedentes, torne o emprego cada vez mais precário e polarizado entre as tecno-elites de alto escalão e os empregos assalariados de baixa renda. Isso pode eventualmente precipitar uma crise geral de emprego, embora esse processo possa tomar a forma prolongada de um “tsunami lento”, em vez de algo súbito previsto pelos “apocalípticos versão IA”. O que nós enfatizamos, entretanto, é que agora, no presente, estão surgindo vários conflitos sobre os efeitos negativos do capitalismo de IA. Nesse sentido, delineamos um “heptágono de lutas”.

DIGILABOUR: E o que isso envolveria?

DYER-WITHEFORD:  1) As lutas dos trabalhadores que já estão sujeitos à vigilância, à intensificação do trabalho e às pressões salariais da gestão algorítmica conduzida pela aprendizagem de máquina (machine learning). Isso inclui não apenas os exemplos bem conhecidos dos trabalhadores do centro de atendimento da Amazon, mas também a multiplicidade de trabalhadores do clique envolvidos na produção real de sistemas de aprendizado de máquina (machine learning), seja como limpadores de dados ou moderadores de conteúdo;

2) Os protestos de trabalhadores de alta tecnologia no Vale do Silício e de outros lugares em relação ao envolvimento de seus empregadores na produção de IA para forças armadas e polícia de fronteiras nos Estados Unidos;

3) O movimento anti-vigilância, que vem crescendo desde as revelações de Snowden, e agora enfrenta o aumento dos poderes estatais e corporativos proporcionados por tecnologias como as de reconhecimento facial acionadas por aprendizado de máquina;

4) O ativismo contra a discriminação algorítmica com relação a questões gênero e raça que tem aparecido repetidamente em sistemas de inteligência artificial para contratação de empregos, policiamento preventivo, monitoramento da assistência social e muitas outras atividades sociais;

5) Os movimentos que contestam as grandes empresas de IA que planejam o controle de informações geradas por “cidades inteligentes”, o que as tornaria os principais árbitros corporativos sobre planejamento e planejamento urbano;

6) A deserção das redes resultante dessa onda de repulsa sobre técnicas de propaganda viral e desinformação revelada nos escândalos da Cambridge Analytica, que, embora sejam focados em uma manipulação eleitoral nefasta, em última análise levanta grandes questões sobre as técnicas de publicidade de todo o sistema de comunicação da capital;

7) A generalização do techlash contra os poderes oligopolistas das grandes empresas de informação, que agora são também as principais controladoras do desenvolvimento da IA. Isso agora traz à tona questões de regulação, legislação antitruste e até formas alternativas de propriedade.

Nenhum desses movimentos tem necessariamente objeções à IA impulsionada pelo capital e à aprendizagem de máquina como sua demanda central. Mas a IA dirigida às corporações agora envolve uma variedade de “atrativos invisíveis” em torno dos quais estão se formando antagonismos que podem ser intensificados se surgirem crises setoriais ou gerais de emprego decorrentes da implantação intensificada da IA.

DIGILABOUR: Como podemos avançar em pesquisas sobre capitalismo e inteligência artificial?

DYER-WITHEFORD: Não faltam tópicos. As conseqüências imediatas do aprendizado de máquina nos locais de trabalho e na gig economy é um tema muito apropriado que tem impulsionado novas pesquisas. Podemos falar também em pesquisas sobre a construção de algoritmos corporativos utilizados pelas mídias sociais a fim moldar as condições gerais da fábrica social. Investigações sobre campanhas de acesso à informação e o controle público das agendas de pesquisa são também vitais, assim como um exame mais atento das parcerias corporativas com os militares e a polícia, já um tema quente no Vale do Silício. No entanto, a questão sobre a qual fico mais curioso depois de ajudar a escrever este livro é menos empírica. É a questão de encontrar agendas comunistas ou socialistas para pensar a IA além do “aceleracionismo de esquerda”, agora amplamente popular, para expandir os meios de produção planejados pelo capital. Por razões que espero que esta entrevista já tenha deixado claro, somos céticos quanto à ideia de que a inteligência artificial desenvolvida pelo capital possa ser usada como uma alavanca para criar uma ordem pós-capitalista – como na agora onipresente fórmula pós-trabalho: IA + renda básica universal. Para nós, isso parece uma receita para deixar um proletariado totalmente desprovido de poder dentro de um sistema de mercantilização geral, e à mercê de um capitalismo agora dotado de poderes divinos. No final do livro, esboçamos algumas alternativas a essa opção, cuja ausência pode ser considerada um “ponto cego” para o radicalismo contemporâneo. Nossa perspectiva não fecha a porta a possíveis aplicações emancipatórias da IA, se tais sistemas fossem treinados, desenvolvidos e delimitados dentro do que podemos resumir como uma ordem comunista. Alguns dos meus co-autores estão interessados ​​nas possibilidades do transhumanismo especificamente socialista ou comunista. Outros de nós se inclinam mais para uma perspectiva que se desvia da lealdade de Marx ao “prometeísmo tecnomodernista”. Pois, se os horizontes do socialismo ou do comunismo permanecem fixos em perspectivas de expansão econômica ilimitada, acho difícil evitar a lógica aceleracionista. Tal crescimento tenderá ao uso intensificado da IA, não apenas para prover os remendos eco-modernistas e corrigir os problemas do capital industrial e informacional. Contudo, tal caminho paradoxalmente leva a perspectivas de auto-obsolescência humana. Surge então a possibilidade de um contra-movimento a partir de alguma articulação entre o marxismo e a ecologia política radical. Isso exigiria um movimento que visasse um nivelamento global da riqueza, um programa maciço de igualdade social, combinado democratização das instituições de trabalho e das agendas de pesquisa científicas e tecnológicas. Tal caminho poderia abrir um caminho para diminuir a dependência de sistemas de IA desumanos, ou, mais precisamente, não-humanos, ou pelo menos abir um espaço para alguma deliberação social genuína sobre as condições de sua adoção, ao invés da submissão ao automatismo competitivo ditado pelo capital de alta tecnologia. O impulso para um novo nivelamento social e ecológico e uma articulação por igualdade exigiriam uma insurgência social inovadora. No entanto, tal projeto, envolvendo uma recuperação radical da maior parte do equipamento filosófico da esquerda, é claramente uma exigência por mais conversas teóricas e experimentações políticas.

Amellal: “A economia digital também é responsável pelo agravamento das desigualdades”

KARIM AMELLAL FALA SOBRE UBERIZAÇÃO, ALTERNATIVAS E ÓDIO ONLINE

41-0mUkbF5L._SX348_BO1,204,203,200_

Karim Amellal, nascido na Algéria, é escritor e professor da Science Po, em Paris, autor de livros como Discriminez-moi, sobre desigualdades. Ano passado, ele lançou o livro La Révolution de la Servitude: porquoi l’ubérisation est l’ennemie du progrès social, denunciando o comportamento predatório de plataformas digitais e defendendo sua regulação. Amellal foi um dos pesquisadores convidados pelo presidente francês, Emmanuel Macron, para propor políticas contra o ódio online. Confira entrevista exclusiva do DigiLabour com Amellal:

DIGILABOUR: Por que, em sua visão, a uberização e a gig economy são novas formas de servidão? 

KARIM AMELLAL: A gig economy é a economia dos bicos: tarefas mal pagas, trabalhadores precários e muito pouco protegidos. Essa gig economy é uma das consequências do que é chamado de uberização, ou seja, o relacionamento direto, via aplicativos e algoritmos, entre vendedores e clientes – mas também inteligência artificial (microtrabalho) e, de forma mais geral, a economia das plataformas (Amazon, Uber, AirBnb, etc.). Essa “nova” economia simplifica a vida de muitos consumidores e aumenta suas possibilidades de escolha, mas levanta questões para aqueles que fazem os algoritmos funcionar, os que administram as plataformas, todos os trabalhadores que escapam da regulamentação normal do trabalho. As condições de trabalho remetem às dos proletários do século XIX, menos consciência política. A dependência de algoritmos – quem decide quando você trabalha ou quando você não deve trabalhar, quem pode “desconectar” no momento, como em aplicativos de mobilidade -, a solidão e o isolamento que caracterizam estes tipos de trabalho (o motorista, sozinho em seu carro, o “microtrabalhador” que faz microtarefas para alimentar a inteligência artificial), a precariedade de seu trabalho, o fato de não se beneficiar das principais realizações do direito do trabalho (licença remunerada, seguridade social, direito de organização…), tudo isso produz uma condição de servidão. Obviamente, quem são os trabalhadores que fazem esses trabalhos ingratos? São sempre os mesmos: os pobres, aqueles que já estão marginalizados no mercado de trabalho, aqueles que não podem fazer outra coisa, que não encontram outros empregos ditos “normais” no mercado de trabalho primário, os imigrantes, etc. A economia digital, se traz em muitos aspectos muitas coisas positivas, também é responsável pelo agravamento das desigualdades e pela intensificação da dinâmica desigual do capitalismo.

DIGILABOUR: Quais podem ser alternativas ao cenário da economia digital em relação à organização do trabalho? 

AMELLAL: Há uma questão real, legítima, sobre o futuro do trabalho. Não podemos trabalhar hoje como vinte anos atrás, antes da disseminação das tecnologias digitais. Há uma demanda por autonomia, por maior liberdade, que deve ser entendida. Mas isso não significa criar empregos que façam retroceder mais de um século de progresso social. É o que acontece com a uberização e com a inteligência artificial. Isso provoca muitas resistências, como vimos em muitos países com movimentos grevistas, motoristas contra o Uber, ou municípios que se rebelam contra o Airbnb como em Barcelona, ​​ou em menor medida em Paris. Então, eu acho que, antes de tudo, há uma necessidade de regular mais essa economia. Cabe ao poder público fazê-lo (países, estados e municípios). Tanto na tributação quanto na legislação trabalhista, as regras do direito também devem prevalecer na internet, especialmente para essas grandes plataformas predatórias cujo crescimento, para a maioria, resulta da sua capacidade de escapar às regras, contorná-las (no plano fiscal inclusive). Isso é óbvio na legislação trabalhista, por exemplo: Uber ou Lyft ou outros estão lutando para explorar brechas na regulamentação para pagar menos impostos, menos impostos sobre folha de pagamento. Devemos, portanto, regulamentar, ou seja, adaptar a lei aos desenvolvimentos digitais atuais e futuros, levar em conta as mudanças no trabalho e no emprego e oferecer proteções aos trabalhadores. E então, paralelamente, os trabalhadores também devem se organizar diante das plataformas, defender seus direitos e pressionar as autoridades, os políticos, para que algo novo aconteça. Há algumas coisas muito interessantes acontecendo com os sindicatos, com novos coletivos de trabalhadores que têm surgido. E, em seguida, os trabalhadores digitais estão cada vez mais se agrupando em cooperativas, o que garante uma base mínima de direitos para os trabalhadores, enquanto se beneficiam das oportunidades de trabalho relacionadas à economia digital.

DIGILABOUR: Você coordenou uma grande pesquisa sobre ódio na internet na França, com implicações acadêmicas e políticas. Quais as principais propostas que essa investigação trouxe?

AMELLAL: A missão confiada a nós pelo presidente Emmanuel Macron, foi propor melhorias na lei para tentar reduzir os discursos de ódio online, especialmente nas redes sociais, para ajudar as vítimas, não para deixá-los sozinhos diante do ódio. Então trabalhamos muito, consultamos muito, para escrever um relatório que entregamos ao Primeiro Ministro em setembro de 2018 e que inclui 20 recomendações, que formam a base da lei que acaba de ser adotada na Assembléia Nacional para lutar contra o ódio online. A ideia não é reduzir a liberdade de expressão ou, como frequentemente ouvimos, confiar às plataformas, isto é, os operadores privados, o cuidado de “censurar” o conteúdo! Partimos de uma simples observação: as plataformas, pelos seus algoritmos, pela amplitude dos conteúdos que produzem, pela sua tecnologia, aumentam maciçamente o volume de conteúdos que, ao abrigo da lei francesa, são ilegais: conteúdos racistas, antissemitas, xenofóbicos, homofóbicos. A lei francesa, desde 1789, considera que isso tudo não é liberdade de expressão, mas que “abusos” dessa liberdade, que são prejudiciais ao debate democrático. Esta lei aplica-se muito bem no espaço público tradicional, na rua, mas muito pouco na internet e nas redes sociais. Por isso, tentamos encontrar soluções que não questionem a liberdade de expressão, mas que obriguem as plataformas a eliminar conteúdo. Como são as plataformas que criam esse problema, que estão na origem das perturbações, cabe a elas colocar os meios necessários para reparar alguns dos danos que causam. Daí a nossa proposta de uma obrigação de retirar dentro de 24 horas palavras que são obviamente ilegais, sob pena de penalidades financeiras muito significativas. Nós também propusemos a criação de um único botão para isso, porque denunciar um conteúdo, quando alguém é uma vítima, é um problema: é longo, complicado e, especialmente, praticamente não há retorno algum. Esta proposta foi adotada e aparecerá na lei. Também propusemos obrigações de transparência muito mais fortes para as plataformas, que hoje funcionam e agem de forma totalmente opaca, em termos de discurso de ódio e de forma mais geral. Finalmente, propusemos medidas para melhor prevenir o discurso do ódio, particularmente por meio de educação e conscientização, bem como medidas para melhor ajudar e apoiar as vítimas.