Tecnologia e Neofascismo

Logo após o assassinato da vereadora Marielle, as redes sociais foram inundadas por publicações que culpavam a vítima, mensagens comemorando o assassinato e falsas notícias sobre o passado da vítima — uma profunda indiferença diante da execução a sangue frio e da dor de familiares e amigos. Pouco tempo depois, estudos mostraram que uma parte daquelas “postagens” eram produtos de chatbots, isto é, notícias reproduzidas ou comentários realizados por computadores programados para simular a conversa humana no ambiente das redes sociais.[1] Esse estranho casamento de intolerância de humanos e máquinas nos revela muito mais do que a mera desumanidade dos indivíduos que estavam por trás das cruéis acusações contra a vítima ou que programaram os computadores. Criticar esses comentários impiedosos apenas de um ponto de vista da diferença moral ou política é rejeitar de antemão uma reflexão mais profunda sobre os vínculos da tecnologia com o crescente autoritarismo. Isso se torna mais importante agora, com a violência banalizada nas ruas por parte da campanha presidencial neofascista, porque fica evidente que existe algo mais do que mera coincidência entre alta tecnologia “socializada” e regressão civilizatória — a própria decomposição social acelerada é um produto da share technology.

Segundo o famoso teste de Turing, não é possível determinar a diferença entre a inteligência humana e a inteligência artificial quando uma conversa estabelecida com um interlocutor desconhecido impede de saber se há um humano ou um robô por trás do diálogo. Nessa compreensão linear da tecnologia, a máquina torna-se inteligente quando alcança os níveis cognitivos humanos. Entretanto, uma história crítica da tecnologia moderna revela que isso não passa de uma ilusão de progresso.

Um experimento significativo foi realizado há dois anos. A empresa Microsoft colocou em operação um robô no twiter programado para se relacionar com os jovens que compõem a geração do milênio (millenials). Poucas horas depois de conectado à rede, o chatbot batizado de Tay teve que ser desligado porque assumiu um comportamento absolutamente antissocial: “Tay parecia negar o Holocausto, apoiava o genocídio e chamou uma mulher de ‘puta estúpida’. Outra de suas respostas era condizente com a linha do candidato Donald Trump: ‘Vamos colocar um muro na fronteira. O México terá de pagá-lo’.”[2]

O raciocínio mais óbvio aqui é o de associar o comportamento do robô ao dos humanos com quem ele interagia: numa espécie de mimetismo, as palavras da máquina se tornavam tão preconceituosas e hostis quanto às dos jovens com quem ele dialogava e através das quais “filtrava” a sua experiência com o mundo. A máquina “se tornava humana” e, com isso, abarcava todos os nossos defeitos como parte de sua “subjetividade maquínica”.

Essa é uma conclusão precipitada. Não é apenas o robô que se parece cada vez mais com os humanos; isso ocorre até certo ponto, mas não por um mimetismo posterior à interação com os homens. A aproximação das máquinas ao universo perceptivo humano não ocorre a posteriori, em decorrência do contato com os conteúdos sociais, mas a priori, pois depende desde a sua “programação” de uma formatação cognitiva plasmada pela forma social que tornou possível a sua existência. É a própria formação social capitalista, nos seus aspectos mais íntimos e pouco criticados, que conduz a um determinado comportamento social frio, inconsequente e impiedoso, uma vez que a unidade elementar de relacionamento social, baseada na mercadoria, não é apenas uma forma econômica, mas uma “forma de pensamento” com uma subjetividade caracterizada pela repressão e violência contra todo e qualquer conteúdo sensível.[3]

Só é possível às máquinas se tornarem cada vez mais parecidas com as pessoas porque os indivíduos, previamente, comportam-se cada vez mais como máquinas. Esse é um processo longo e que não se explica por um determinismo tecnológico imediato — sua raiz está nas próteses sociais construídas no decorrer da socialização capitalista.[4]

As origens desse processo poderiam ser encontradas na reflexão filosófica juvenil de Marx sobre a alienação, mas ela só ganha conteúdo histórico na análise da grande indústria, quando a máquina automática subverte a relação entre sujeito e objeto: o que até então estendia o poder da sociedade sobre a natureza — os instrumentos utilizados na produção — se transforma numa forma de dominação muito peculiar, em que o sujeito fica obrigado a seguir o ritmo e as funções determinadas pela objetividade da máquina-ferramenta. Além da transformação de qualquer elemento natural ou social em mercadoria, a grande indústria produz uma objetificação real e o indivíduo torna-se mera engrenagem de uma grande maquinaria produtora de mercadorias. Mais do que uma inversão entre sujeito e objeto, que ainda se prende à visão humanista da relação social, o que temos aqui é a produção, pela grande indústria, de uma objetividade-sujeito que determina a matriz de socialização objetiva e subjetiva.

Na caracterização precisa de Max Horkheimer, seria preciso inverter a frase “as ferramentas são prolongamentos dos órgãos humanos”, pois “os órgãos humanos são também prolongamentos das ferramentas”.[5] A prática social moderna, centrada sobre a produção de mercadorias, torna-se autônoma diante dos sujeito e ergue um mundo de objetividades intransponíveis, diante do qual a subjetividade deve ser sacrificada ou achatada às condições do mercado. Mas isso, evidentemente, é apenas uma condição subjacente aos indivíduos produzidos pela forma social capitalista. Isto é, no dia-a-dia, a insensibilidade plasmada pela forma da subjetividade transcendental abstrata se apresenta como mera indiferença social. Nas palavras de Alexis de Tocqueville, a democracia de mercado isola os indivíduos e os desobriga “de toda necessidade comunitária, de toda necessidade de se entenderem, de toda oportunidade de agir em comum, emparedando-os, por assim dizer, na vida particular”.[6]

É preciso cuidado: o indivíduo não é imediatamente idêntico, empiricamente, a essa forma de subjetividade plasmada pelo mercado, mas igualmente um produto de situações familiares, locais, nacionais e históricas muito concretas e particulares. Seria preciso, portanto, acentuar sempre a individualidade contra a subjetividade abstrata a que recorre a filosofia burguesa, o marxismo e mesmo as construções do direito (a igualdade masculina e branca previamente estabelecida). A distância entre o indivíduo e a sua forma de sujeito pressuposta é indício de um relativa autonomia; a cada aperto no ferrolho da socialização fetichista, esse intervalo diminui e as formas frias e vazias da matriz de relacionamento social tendem a se impor.[7] Quando a disputa capitalista se acirra, as disponibilidades de acesso ao mercado se reduzem e a crise torna uma parte da sociedade não-rentável, a tendência é que as determinações concorrenciais sejam reforçadas, radicalizando a “guerra de todos contra todos” e fazendo da atomização social muito mais do que uma mera indiferença diante do outro.

Com a revolução microeletrônica, o processo de objetificação foi levado às últimas consequências graças à capacidade elevada de “processamento” das máquinas. Numa das primeiras reflexões sobre o significado da inteligência artificial, o teórico da contracultura norte-americana, Theodore Roszak, apontava que o caminho seguido pela alta tecnologia era o de achatar as qualidades da inteligência, extirpar a criatividade e conter a reflexão aos “dados”, à “informação” e a um conjunto de procedimentos formais. Criticando o modo como era conduzido o uso pedagógico dos primeiros microcomputadores, Roszak argumentou que adestrar os jovens para utilizá-los como uma ferramenta levaria à redução das “dimensões do pensamento”, a uma mera “análise mecânica convencional”, a um “pequeno repertório de algoritmos”. A dúvida que lançava, já em 1986, era significativa: “devemos convencer as crianças de que seu cérebro é inferior a uma máquina que imita estupidamente uma simples fração de seu talento inato?”[8]

Essas palavras parecem hoje premonitórias, dado que os algoritmos dominam o comércio eletrônico, a publicidade em escopo, a socialização por meios das redes sociais, os serviços compartilhados e avança até mesmo para as relações de trabalho (aplicativos que fornecem motoristas, serviços médicos, professores, técnicos de manutenção etc.). Não é mais possível ignorar a nova força social objetiva por trás dessa tecnologia, especialmente quando campanhas políticas são definidas por propaganda em rede, pelo subterrâneo do whatsapp, por meio de notícias falsas e até mesmo orientando os mecanismos de busca na internet.[9]

E aqui temos o ponto crítico dessa condição. Até então tudo parecia apenas o mundo maravilhoso das novas tecnologias, da autoafirmação nas bolhas sociais, do “encontro” de interesses idênticos ou raros nas páginas das redes. O multiculturalismo parecia ter encontrado sua base tecnológica adequada, pois qualquer um, por mais idiossincrático, encontraria seu semelhante no mundo virtual. O processo de aceleração da decomposição social transformou todas as possibilidades contidas na economia em rede e na share technology em um mecanismo ainda mais profundo e ativo de concorrência social. Não é apenas a banal ostentação de uma vida irreal pelas redes sociais, mas a seletividade do consumo e do trabalho (toda empresa ou profissional passa a ser avaliado publicamente nas redes), a busca encarniçada de perfis pelas empresas para dirigir a publicidade e a disputa política levada ao extremo com a manipulação de informações. Toda a parafernália microeletrônica está se tornado a ferramenta adequada a um neofascismo em ascensão, assim como o nazismo encontrou na produção em série a base produtiva para a formação de seu complexo industrial-militar, o que fez da “solução final” uma demonstração inequívoca da estrutura burocrática fordista.

A mera afirmação individual, como parte do propósito da concorrência capitalista, já não é suficiente, principalmente num momento de crise acentuada em que os nichos disponíveis do mercado, estreitados pela decomposição econômica, já não conseguem mais dar vazão à concorrência individualizada. As precondições subjetivas de uma sociedade cujas formas básicas se movem de modo automático podem, em determinadas situações históricas, ser reforçadas coletivamente e de modo irresistível. O chauvinismo, o autoritarismo, o fascismo e suas diversas variações são expressões de uma economia de mercado radicalizada em que as mônadas sociais lançam o seu desprezo para o outro na luta concorrencial. Essas tendências estão sempre, por assim dizer, à espreita, sob os sedimentos inconscientes da sociedade, reproduzidos por discursos preconceituosos cotidianos aparentemente inofensivos e que são variados de acordo com as condições históricas locais. Processos sociais de médio e longo prazo, como o sistemático reforço ideológico de preconceitos seculares enraizados na estrutura da concorrência econômica (machismo, antissemitismo, anticiganismo e racismo), podem ser ativamente mobilizados diante de uma situação de crise em que ocorre uma busca coletiva por culpados pelo fracasso individual ou social. A frieza diante da subjetividade alheia, mera indiferença e desprezo no dia-a-dia, transforma-se, em determinadas condições, em uma raiva atuante. Nem todos, evidentemente, estarão dispostos a se engajar num ódio militante, mas o preconceito cotidianamente cultivado pode indicar alguns dos mais propensos a se enveredarem na mera aceitação ou mesmo na adesão ao autoritarismo/fascismo.[10]

Com a tecnologia da informação, a conexão em rede e a inteligência artificial banalizada, as formas abstratas reconduzem a subjetividade ao papel subordinado de não interferir no curso das relações sociais. Até então, portanto, o mundo das redes parecia apenas um retrato aprofundado da individualização. Mas o aprofundamento da crise levou a um momento de ruptura que se caracteriza pela anulação da subjetividade do outro (aniquilação). A mera expressão desimpedida de preconceitos nos círculos virtuais seletivos agora se torna, pouco a pouco, a violência nas ruas contra negros, homossexuais e aqueles que pensam diferente. Evidentemente, quem clica num botão e “curte” um lema de “morte aos vagabundos”, “morte aos viados” e de “liquidação dos bandidos” não tem a mesma responsabilidade social e jurídica de quem puxa o gatilho e executa esses alvos. Mas pelo menos em dois aspectos há um vínculo inevitável entre eles.

O mecanismo de entrelaçamento social disponível, por sua natureza, exime o indivíduo de qualquer reflexão moral sobre as consequências de aderir ao bordão assassino — “é apenas um clique” ou “é apenas um voto” no candidato neofascista. O achatamento subjetivo promovido pela tecnologia dispensou de vez essa reflexão. Isso não faz de um idiota racista um assassino, mas a confluência de milhares ou milhões deles idiotas legitima o indivíduo por trás da arma que mata o negro ou o homossexual, que também pode se desfazer de toda e qualquer contrição, acreditando ser apenas o avatar daqueles que referendam o seu ato. Quando essa legitimação alcança níveis de ampla dimensão coletiva, até os delegados e juízes começam a contornar as suas investigações e julgamentos por essa alienação de responsabilidade — nos meios jurídicos há um debate encarniçado sobre se os magistrados do STF devem “ouvir os apelos da sociedade” em seus juízos.

Um segundo vínculo entre a mera propensão destrutiva e a execução de atos dessa natureza é o modo como o próprio ódio foi rotinizado pelos regimes fascistas estabelecidos. O carrasco nazista, como se sabe, era apenas um cidadão comum que ia para casa no final do dia desfrutar o lar com sua família ariana e ouvir música wagneriana. Para a grande maioria deles, a liquidação dos outros era apenas o cumprimento de rotinas e “medidas técnico-administrativas”. Um mero trabalho. Isso não significa que a insensibilidade técnico-social seja incompatível com o ódio. Mas o que caracteriza “o sistema de vida criado pela indústria moderna” (Marcuse) é que o próprio ódio já não tem a qualidade de uma ojeriza que provém das entranhas individuais. O ódio fascista decorre mais da recusa de se opor ao peso da objetividade de um mundo que conduz à frieza do que da adesão a algum princípio supostamente mais elevado.[11]

É evidente que todo extermínio começa com um sentimento de ódio — um vínculo passional destrutivo dirigido a alguém, cujas raízes se encontram na história e cultura local —, mas para que se torne genocídio, o ódio que brota do indivíduo precisa ganhar autonomia e se materializar num processo burocrático. Até no desenvolvimento do ódio há alienação. O processo de transformação das raivas individuais numa política sistemática é a captura desse ardor por mecanismos que tornam desnecessária a paixão: o Partido, o campo de concentração e a câmara de gás dispensam o cidadão fascista de sentir ódio, que ali está institucionalizado e se tornou uma rotina de liquidação.

Mas há uma diferença evidente de nossa condição atual com o fascismo em sua forma clássica. A parafernália tecnológica individualizada e a moldura social em ruínas criam uma situação que já não cabe mais na identificação tradicional fascista. A gigantesca teia criada pelas redes sociais garante o quase anonimato a milhares ou milhões que endossam a execução de “bandidos” e “vagabundos” por pequenos grupos paramilitares ou por tropas especiais regulares. O que temos aqui é a dissolução da forma democrática burguesa e uma implosão-explosão do Estado, cujos estilhaços aparecem na forma de “agentes da ordem” organizados em bandos armados. No submundo do whatsapp, compartilhamento de imagens de execuções a sangue-frio, “justiçamentos” e publicidade das forças de segurança milicianas já são comuns. Não é um acaso que o neofascismo, casado com o neoliberalismo, referende essas forças paramilitares — com a redução do Estado, será preciso incentivar o empreendedorismo individual também nas ações de extermínio. Isso é o contrário do fascismo tradicional, que ao tomar o poder teve que integrar as brigadas paramilitares nas fileiras estatais ou eliminá-las como forças autônomas.

Em certo sentido, o modo difuso e intolerante como os diálogos ocorrem nas redes sociais é apenas o fundo ideológico de uma guerra civil já em curso na sociedade — para cada grupo em conflito, há um background ideológico lhe dando sustentação nas “mídias sociais”. Não há mais preocupação com debates no espaço público ou mesmo com a “vitória eleitoral” de uma ideia a ser colocada em prática. Quem se escandaliza pela pouca disposição do candidato neofascista ao debate não compreende que a nova força política não está em ascensão por causa de suas qualidades programáticas ou capacidade de convencimento. Trata-se da mera afirmação por meio da força e de uma possibilidade de vazão institucional da frieza social incontida.

Theodor Adorno entendeu que as “bombas-robô” de Hitler (os foguetes e as bombas V) eram a forma mais avançada em que a morte (a guerra) era levada a cabo por meio de um sujeito que sacrificava sua própria subjetividade.[12] Essa era uma condição assustadora e típica de um Estado que ainda monopolizava os meios de destruição. Nossa realidade é mais complexa. A implosão do Estado, a perda de monopólio da violência e a guerra civil molecular tornam essa imagem adorniana mero retrato de um passado de “capitalismo monopolista de Estado” já ultrapassado. A forma individualizada e neoliberal do conflito bélico parece se encaminhar para um uso de “bombardeiros privados”.

Os drones se tornaram relativamente comuns e agora correspondem a armas intensamente utilizadas em combates. A forma típica da violência em nossa “sociedade em rede” parece se encaminhar para uma espécie de pulverização eletrônica do direito de matar. A ideia de democratização da morte proposta por Trump e Bolsonaro, em que todo cidadão terá direito a uma arma para matar seu desafeto cotidiano, ainda está presa às paixões da subjetividade pessoal, mas já anuncia o assassinato sem crime (excludente de ilicitude) de uma condição onde não há mais possibilidade de diferenciar entre guerra e paz. O drone simboliza o deslocamento para uma era pós-fordista de assassinatos frios, distantes e individualizados. Com o drone, apertar o botão é realizar automaticamente o ato de liquidação do alvo. Por isso, é possível que se crie aqui um terceiro e mais imediato vínculo entre aquele que “curte” e aquele que atira. Com o estatismo em declínio, já não se trata mais apenas de um “botão” disponível para oficiais militares ou um presidente deflagrar a morte de outros; já se pode antever um “botão” disponível para qualquer bando ou indivíduo eliminar seus inimigos.

O que parece aos olhos dos “minimizadores profissionais do horror” (Günther Anders) um exagero distópico, já é uma realidade: nas guerras da Síria e do Iraque, essas máquinas foram usadas por diferentes fracções em conflito, incluído aí o Estado Islâmico, que utilizava drones civis adaptados ou militares capturados do inimigo (hackeados nos momentos prévios aos ataques). O Hezbollah já intercepta os sinais dos drones utilizados pelo exército israelense. Recentemente, um atentado na Venezuela contra o presidente foi realizado por meio de uma dessas máquinas guiadas por controle remoto. E no Rio de Janeiro há registros de uso de drones na guerra de facções —por enquanto, apenas para reconhecimento de terreno. O barateamento e a flexibilidade desse instrumento, fruto do desenvolvimento da produção microeletrônica, assim como a democratização dessa técnica, apontada sempre como um dos indícios do progresso social, tende a elevar o nível da nossa guerra civil molecular a um patamar tecnológico raramente imaginado.[13] As bases materiais do neofascismo ainda não foram todas exploradas e temos um perigoso caminho a percorrer em seu aprofundamento.

Fonte: Blog da Consequência

Notas:

[1] Disponível em: https://oglobo.globo.com/rio/pesquisa-da-fgv-mostra-que-1833-robos-tuitaram-caso-de-marielle-22499985.

[2] Disponível em: https://brasil.elpais.com/brasil/2016/03/24/tecnologia/1458855274_096966.html.

[3] “… o sujeito da troca é também tão abstrato, formal e reificado como o seu objeto” (Georg. Lukács. História e consciência de classe: estudos de dialética marxista. Porto: Elfos, 1989, p. 120.

[4] “A máquina adorada não é mais matéria morta, mas se torna algo semelhante a um ser humano. E devolve ao homem o que ela possui: a vida do aparato social ao qual pertence. O comportamento humano se reveste da racionalidade do processo da máquina, e esta racionalidade tem um conteúdo social definido” (Herbert Marcuse. Tecnologia, guerra e fascismo. São Paulo: EdUnesp, 1999, p. 81).

[5] Max Horkheimer. Teoria tradicional e teoria crítica. In: Benjamin, Adorno, Horkheimer, Habermas (Os Pensadores). São Paulo: Abril Cultural, 1980, p. 126.

[6] Citado por Robert Kurz. O Colapso da Modernização: da derrocada do socialismo de caserna à crise da economia mundial. São Paulo: Paz e Terra, 1993, p. 37.

[7] “A individualidade nunca existe para si, senão que sempre em relação a uma forma social. Pois, só se pode existir individualmente enquanto ser social. A ser assim, a individualidade não significa outra coisa que a tensão entre os seres humanos reais, individuais e sensíveis e a forma social neles gravada a ferro e fogo, como a “lacuna” penosamente vivida, a retenção das necessidades e sensações no interior de tal invólucro coercitivo. Mediante diversas formações sempre há de transparecer novamente o elemento agonizante, doloroso e abusivo ínsito a essa contradição, enquanto a sociedade for guiada por cegas formas de fetiche, nas quais os indivíduos não se põem de acordo enquanto tais em relação a uma sociabilidade autoconsciente, senão que agem irracional e destrutivamente, tal como, por assim dizer, numa espécie de transe da objetivação por eles mesmos criada, no sentido de suas próprias necessidades e possibilidades” (Robert Kurz. Razão Sangrenta: ensaios sobre a crítica emancipatória da modernidade capitalista e de seus valores ocidentais. São Paulo: Hedra, 2010, 89-90).

[8] Theodor Roszak. El culto a la información. Tratado sobre alta tecnología, inteligência artificial y el verdadero arte del pensar. Barcelona: Gedisa, 2005, p. 248.

[9] Disponível em: https://noticias.uol.com.br/politica/eleicoes/2018/noticias/2018/10/20/witzel-paga-google-para-se-associar-a-bolsonaro-que-nao-o-apoia.htm.

[10] “O que as pessoas dizem e, em grau menor, o que pensam depende, na realidade, em grande medida do clima de opinião em que vivem. Quando esse clima muda, alguns indivíduos se adaptam muito mais rapidamente do que outros. Se ocorre um notável incremento de propaganda antidemocrática, é de se esperar que algumas pessoas a aceitem e a repitam no ato, outras apenas quando parece que ‘todo mundo acredita” e outros, entretanto, não o fazem em absoluto. Em outros termos: os indivíduos diferem em sua vulnerabilidade à propaganda antidemocrática, em sua disposição a exibir tendências antidemocráticas. Torna-se necessário estudar a ideologia neste ‘nível de disposição’ com a finalidade de avaliar o potencial do fascismo neste país” (Theodor Adorno. Estudios sobre la personalidad autoritaria. In: Escritos Sociológicos II, vol. 1. Madrid: Akal, 2008, p. 157).

[11] “As forças sociais a que está sujeito cada indivíduo são tão intensas que este não somente tem de ceder a elas economicamente, convertendo-se em seu empregado (ao invés de seguir como uma unidade social que mantém a si mesma), mas também psicologicamente, sob uma pressão social e cultural que se exerce sobre ele, uma pressão que somente pode suportar convertendo-a em causa própria. O indivíduo têm que atuar em termos de uma conduta conformista adequada em lugar de uma personalidade unificada e integrada. O indivíduo não se converte à dureza somente à medida em que lhe é ensinado a pensar cada vez mais de modo pragmático. Converte-se também em mais brando à medida em que se debilita a sua resistência ao impacto do mundo social como um todo e da tecnologia industrial em particular” (Theodor Adorno. La técnica picológica de las alcocuciones radiofónicas de Martin Luther Thomas. In: Escritos Sociológicos II, vol. 1. Madrid: Akal, 2008, p. 19-20).

[12] Theodor Adorno. Minima Moralia: reflexões sobre a vida danificada. São Paulo: Ática, 1993,p. 47.

[13] Sobre outras possibilidades do uso de drones num futuro em que guerra e paz se equivalem, principalmente a robotização do ato de matar, inspirada na análise de Adorno, ver Grégoire Chamayou. Teoria do Drone. São Paulo: Cosac Naify, 2015, p. 226-243.