A automação da vida automatizada

A pílula anterior comentava o livro “O Olho do Mestre”, em que seu autor, Matteo Pasquinelli, diz que a cibernética nasceu da necessidade de controlar sistemas de alta complexidade surgidos tanto das reestruturações no processo produtivo, como das pressões da luta de classes.

Uma das abordagens que se impôs foi a “análise de pessoas” (também conhecida como “psicografia”), que nada mais é do que a aplicação de estatísticas, análise de dados e aprendizagem automática às questões relacionadas à força de trabalho no pós-guerra.

Foi a partir desse princípio que a Google criou o algoritmo do “ranking de páginas”, cujas técnicas para mapeamento das redes se tornaram onipresentes, hoje. A teoria da automação adotada por Pasquinelli, portanto, não aponta apenas para o surgimento de máquinas a partir da lógica da gestão do trabalho, mas também dos instrumentos e métricas para quantificar a vida humana em geral e torná-la produtiva.

Os mais recentes desenvolvimentos da inteligência artificial não são, de fato, radicalmente diferentes, mas equivalentes ao design das máquinas industriais: são constituídos pela mesma inteligência analítica de tarefas e comportamentos coletivos, embora com um maior grau de complexidade.

Um aspecto importante do aprendizado de máquina é que a automação de tarefas individuais, a codificação do patrimônio cultural e a análise de comportamentos sociais não têm distinção técnica: podem ser realizadas pelo mesmo processo de modelagem estatística.

O aprendizado de máquina não é capaz apenas de realizar tarefas computacionais, mas imitar os comportamentos dos locais de trabalho e coletivos, em geral. Não é somente uma automação de estatísticas, mas uma automação da vida já automatizada.

Leia também: Reestruturação produtiva, algoritmos e cibernética

Reestruturação produtiva, algoritmos e cibernética

Em “O Capital”, Marx afirma que “as relíquias de instrumentos de trabalho do passado possuem a mesma importância para a investigação das formações econômicas extintas da sociedade que os fósseis para a determinação de espécies extintas de animais”. Ou seja, “os instrumentos de trabalho não apenas fornecem um padrão do grau de desenvolvimento que o trabalho humano atingiu, mas indicam as relações sociais dentro das quais os homens trabalham”, diz ele.

Essa passagem da obra de Marx foi citada por Matteo Pasquinelli, no livro “O Olho do Mestre”, para mostrar que são as relações entre capital e trabalho que explicam a Revolução Industrial e não a inovação tecnológica. É a necessidade de aumentar a exploração do tecelão que inventou o tear mecânico, não os engenheiros de produção.

Antes de a automação assumir o protagonismo, a divisão industrial do trabalho com suas linhas de montagem retilíneas era organizada por procedimentos comparáveis a algoritmos simples. Mas no final do século passado, ocorrem as reestruturações produtivas em resposta aos efeitos das crises capitalistas e à pressão da luta de classes. Estas novas condições passaram a exigir uma nova forma de controle.

É assim que os algoritmos passam a ser orientados pela cibernética de modo a controlar sistemas de alta complexidade que já não se organizavam de acordo com os antigos métodos hierárquicos e centralizados. Começavam a se estabelecer as condições iniciais para o aprendizado de máquina e aquilo que viria a ser chamado de inteligência artificial. Em essência, mais uma inovação tecnológica a serviço da exploração capitalista. E, como tal, mais um estágio no aprofundamento da barbárie social.

Leia também: As bases sociais e históricas dos algoritmos

As bases sociais e históricas dos algoritmos

A etnomatemática é um ramo científico que mostra como a matemática não é somente aquela que conhecemos na atualidade e no Ocidente. Fórmulas que hoje consideraríamos como algébricas ou analíticas já eram descritas pelos babilônios através de procedimentos passo a passo, expressos em palavras comuns e não na metalinguagem simbólica atual.

Problemas econômicos e administrativos parecem estar na origem das antigas técnicas de cálculo. A palavra “número” vem do latim “numerus”, ou “porção de comida”. Servia para registrar os estoques de alimentos.

Segundo o filósofo Ernst Cassirer, a simbologia numérica surgiu das canções usadas para marcar o ritmo do trabalho na lavoura. Algarismo vem do nome do persa Muhammad al-Khwarizmi, bibliotecário-chefe da Casa da Sabedoria de Bagdá, que escreveu um livro fundamental de cálculos no século 9.

Algarismo deu origem ao conceito de algoritmo, que nada mais representava que os procedimentos incorporados em rituais e práticas, muitas vezes transmitidos oralmente, sem serem formalizados em linguagem numérica.

A grande diferença para os atuais algoritmos de inteligência artificial é que os dados já não são informações passivas. Pelo contrário, as próprias regras iniciais que os geram são alteradas automaticamente, à medida que novos dados se incorporam.

É uma inovação poderosa que, mais do que nunca, oculta tanto suas origens sociais como suas ligações com um sistema que aperfeiçoa e aprofunda a exploração do trabalho humano.

As informações acima estão no livro “O Olho do Mestre”, de Matteo Pasquinelli. Mostram que a matemática e demais ciências exatas são produto humano e, como tal, precisam ser apropriadas e orientadas para fins que contemplem o conjunto da humanidade.

Leia também: Inteligência artificial e trabalho não pago

Do “doomscrolling” ao infocalipse

“Doomscrolling” é a palavra inglesa para o hábito de rolar imagens e notícias na tela do celular em busca de fatos negativos, tristes e deprimentes. Parece o antigo costume de “zapear” na TV em busca dos programas de notícias policiais mais escabrosos. Só que agora em maior velocidade e com oferta praticamente inesgotável.

Inesgotável porque os agentes produtores dessas imagens e informações são muitos. Em contrapartida, os centros distribuidores são bem menos. Não se trata dos inúmeros grupos de zap. Estes são apenas vetores que transmitem a doença.

O foco da moléstia são os poucos e poderosos monopólios de dados e algoritmos, como Facebook, Youtube, X... Esses abutres das redes virtuais precisam manter a atenção e a tensão dos usuários para extrair-lhes os dados e vender-lhes porcarias, enquanto os premia com ansiedade e depressão.

Outro efeito dessa situação é a infodemia, caracterizada pela Organização Mundial da Saúde como um “excesso de informações, algumas precisas e outras não, que torna difícil encontrar fontes idôneas e orientações confiáveis quando se precisa”.

Informação distorcida e alarmista não atenua situações críticas nem mitiga consequências de eventos negativos ou catastróficos. Ao contrário, torna-as ainda mais nocivas e graves.

Mas não podemos ignorar a base material de todo esse caos. É o capitalismo em sua fase de colapsos cumulativos. Colapso político, social, ambiental, moral, sanitário...

O lado mais perverso disso tudo é que o sistema nos massacra com suas mazelas, enquanto nos distrai e nos torna viciados nelas. Vai nos acostumando com a ideia de que o mundo pode até acabar, mas o capitalismo tem que continuar.

Leia também:
Jornalões também podem fazer mal à saúde
A economia política das fake news

Inteligência artificial e alienação social

Não é verdade que o que distingue o ser humano dos outros animais é o uso das ferramentas. Mas elas certamente desempenham um papel fundamental, funcionando como extensões e aperfeiçoamentos dos atributos de nossa espécie.

É o martelo imitando o punho, a faca potencializando os dentes, a lança ampliando o alcance dos braços ou as rodas aumentando a velocidade de nossos deslocamentos. O advento das máquinas-ferramenta tornou possível ultrapassar muito nossas capacidades naturais.

Em meados do século passado, surgiu o computador, que tenta mimetizar o cérebro. Seria apenas uma tentativa frustrada, se a alienação da sociedade capitalista não tivesse conseguido rebaixar nossa inteligência até nos tornar dependentes da burrice cibernética.

Mas como sempre dá pra piorar, surgiu a inteligência artificial. Já é possível, por exemplo, definir alguns parâmetros e deixar que algoritmos autodidatas façam o trabalho de multidões de tarefeiros intelectuais. Quase todos condenados ao desemprego, evidentemente.

Outro risco muito provável é deixar essa novíssima ferramenta decidir o que é verdadeiro ou não. Com o agravante de que para os algoritmos a verdade é aquilo que se encaixa nos padrões mais conservadores e preconceituosos da vida social. Além disso, há a possibilidade de que as campanhas eleitorais se transformem em uma disputa entre poucas e poderosas máquinas cibernéticas de marketing político. O vitorioso seria o proprietário do aplicativo mais eficiente.

Claro que nada disso seria possível, se um dos principais fundamentos da sociedade capitalista não fosse a separação entre trabalhadores e meios de produção, incluindo suas ferramentas. Separação que se manifesta como alienação política, ao manter a democracia fora do alcance da grande maioria.

Leia também:  Fascismo atualizado por algoritmos

Fascismo atualizado por algoritmos

Há um movimento chamado "transumanismo", que defende o uso da tecnologia e da inteligência artificial para superar as limitações humanas.

Elon Musk, um de seus adeptos, pretende conectar o cérebro humano a computadores para libertá-lo do corpo e permitir uma vida digital para além da morte. Jeff Bezos, da Amazon, investe em uma startup destinada a impedir o envelhecimento humano.

Em recente artigo, Muniz Sodré discute o “infra-humano entre nós”.  O sociólogo alerta que “a palavra a ser levada mais a sério nas análises recorrentes sobre os efeitos colaterais de redes e plataformas é desumanização”. Lembra que a ideia de humanidade surgiu para se adequar ao domínio europeu em escala planetária. Era fachada ideológica para a “legitimação da pilhagem dos mercados do Sudeste Asiático, dos metais preciosos nas Américas e da mão de obra na África”.

Ou seja, ser humano era um atributo que não se aplicava aos humanos não brancos cuja escravização foi necessária à acumulação capitalista. Como tal acumulação nunca cessou de existir, sua lógica se mantém firme e operante.

Assim, qualquer abordagem sobre tecnologias de aperfeiçoamento do ser humano nada mais é que “o brutalismo das tecnologias de ponta, cujo horizonte é o menos humano”, segundo as palavras de Sodré. É o que provam o apoio de Musk a Trump e a enorme exploração a que são submetidos dezenas de milhares de trabalhadores precarizados nos imensos galpões da Amazon.

Mas nada disso é novidade. O além do homem de Nietzche foi transformado pelos nazistas em justificativa para extermínio racista. Transumanismo é o infra-humano fascista atualizado por algoritmos a cada fração de segundo.

Leia também: Racismo estrutural, racismo algorítmico

Tiktokização e ultraconservadorismo

“A dinâmica criada pelo Facebook é percebida como pré-histórica e nem mesmo 20 anos se passaram desde sua invenção”. Estas palavras são de Juan Gustavo Corvalán, diretor do Laboratório de Inovação e Inteligência Artificial da Universidade de Buenos Aires. Estão na reportagem “A ‘tiktokização’ dos negócios: como os algoritmos preditivos estão ganhando a batalha”.

A expressão “tiktokização” é obviamente inspirada no aplicativo TikTok, cujos algoritmos são considerados revolucionários “porque se ajustam aos detalhes de interesses e gostos além de qualquer outro algoritmo de conteúdo já criado”, explica um dos entrevistados pela reportagem.

Outro aplicativo semelhante é o Shein, utilizado para compras de vestuário. Considerada "irmã do TikTok", a empresa analisa os sites dos concorrentes para descobrir o que está em alta. Em seguida, cria designs rapidamente, prevê a demanda e ajusta o estoque em tempo real. “Assim como o Tiktok antecipa o conteúdo que você vai querer assistir, a Shein antecipa as roupas que você vai querer comprar”, diz a matéria.

Mas o conceito de “tiktokização” também pode caracterizar outro processo, decorrente do primeiro. Tal como já ocorre com o veterano Facebook, a principal função dessas tecnologias é puramente comercial, mas seus efeitos sociais deletérios continuam indo muito além.

Essa dinâmica voltada para o consumismo e diversão alienada contamina a chamada “esfera pública”. Ideias, propostas, convicções, passam a valer por sua capacidade de circulação, não por sua legitimidade social. No vazio de debates, a ausência de sentido se impõe. Surgem ressentimentos, preconceitos, intolerância. As aparências passam a ser o valor supremo. São ingredientes fundamentais para o surgimento de alternativas ultraconservadoras. É o algoritmo a serviço do pior.

Leia também: Os algoritmos e os ovos da serpente fascista

Algoritmos e zeros sobrantes

Yuval Harari é autor do best-seller “Sapiens”, entre outros. Em recente entrevista publicada pelo portal Repubblica, ele faz as seguintes considerações:

Hoje todos aqueles que vivem no planeta falam apenas uma língua: esta língua é a matemática. Se você mora na China, na Austrália ou no Brasil, não faz diferença: a língua que domina as instituições, a economia e a política é a matemática e é precisamente ela a linguagem cuja difusão o imperialismo europeu favoreceu em todo o globo.

Da linguagem universal da matemática nasceu a revolução dos algoritmos, talvez comparável à da identificação do primeiro trigo domesticado, que permitiu ao homem, de simples caçador e coletor, tornar-se agricultor.

Pois bem, dizem que foi Alcuarismi, um matemático árabe do século 9, que criou o conceito de algoritmo. Perguntado sobre o valor de um ser humano, ele teria respondido:

Se tem ética, então seu valor é igual a 1. Se ademais é inteligente, lhe agregamos um zero e seu valor será de 10. Se também é rico, adicionaremos outro zero e seu valor será de 100. Se sobretudo é ademais uma bela pessoa, agregaremos outro zero e seu valor será de 1.000. Porém, se perde o 1, que corresponde à ética, perderá todo o seu valor, pois somente lhe sobraram os zeros.

Ora, se ética diz respeito a valores morais, que tipo de moral orienta aqueles que controlam os atuais monopólios produtores de algoritmos?

A julgar pelas distorções preconceituosas de seus algoritmos, sua fome de lucros e impactos negativos no emprego, a moral “universal” que defendem procura reduzir todos nós a não mais que zeros sobrantes.

Leia também:

Algoritmos socialistas? Pode ser

Inteligência Artificial e burrice ambiental
O iluminismo árabe e o obscurantismo ocidental

Algoritmos socialistas? Pode ser

Um dos problemas mais complexos a desafiar os socialistas é o do planejamento econômico.

Como superar a anarquia irracional capitalista de modo a que as necessidades sociais sejam atendidas de forma equilibrada e socialmente justa? E como fazê-lo preservando o meio ambiente?

As soluções tentadas pelo estado soviético ficaram muito longe de responder a esse desafio. A resposta dos defensores do livre mercado aponta para o colapso social e ambiental.

Uma série de artigos publicada pelo portal Outras Palavras procura aprofundar esse debate a partir da utilização generalizada do algoritmo na vida contemporânea.

Em um dos textos da série, Cédric Durand e Razmig Keucheyan lembram que especialistas em planejamento do século passado entendiam que uma verdadeira alocação racional de recursos exigiria milhões de equações baseadas em milhões de dados estatísticos a partir de mais milhões de cálculos individuais.

Até que essas equações fossem resolvidas, as informações nas quais elas se baseassem se tornariam obsoletas e precisariam ser calculadas novamente.

Atualmente, porém, os autores avaliam que os avanços na área da computação permitiriam obter de forma centralizada e rápida uma “alocação ótima de recursos”. De modo que:

Contra todas as expectativas, os algoritmos podem ser socialistas. Assim como Engels afirma no Anti-Dühring (1878) que, com os trustes do final do século XIX, o mercado já dera lugar ao planejamento, agora é necessário levar a sério a suposição de que o Google, SAP ou Alibaba prefiguram uma organização econômica pós-capitalista.

Pode ser, mas a questão central continua a ser a mesma. O controle dos meios de produção desses algoritmos também precisaria ser socializado.

Leia também: Marx e Engels 4.0

A máquina Enigma de nossos tempos

A máquina “Enigma” ficou famosa por ter sido utilizada pelos nazistas na Segunda Guerra para codificar mensagens de modo quase indecifrável.

Seu funcionamento baseava-se em de três rotores intercambiáveis, possibilitando mais de 105 mil combinações possíveis para criptografar uma mensagem.

A máquina teria seu mecanismo totalmente desvendado em 1940 por matemáticos britânicos. Entre eles, Alan Turing, conhecido por ser um dos primeiros idealizadores do computador.

Mas o trabalho de decodificação começou com matemáticos poloneses, em 1933. Bem antes da guerra, portanto. Afinal, já naquela época, Hitler não escondia seus planos macabros de ninguém.

Os tempos em que vivemos também têm sua própria máquina Enigma. E muitos fascistas por trás dela. São os algoritmos das redes virtuais, cada vez mais onipresentes na vida social.

O problema é que demoramos demais a descobrir não apenas o código, mas a própria existência da máquina que os gera. Foi apenas quando suas mensagens já estavam fazendo estragos aos montes que atentamos para a situação.

Nós até tivemos alguns “poloneses” tentando fazer sua parte. Denunciando a máquina e seu potencial destruidor. Mas foi tudo simplesmente ignorado. E isso apesar dos vários equivalentes de Hitler circulando mundo afora.

Agora, é tentar recuperar um valioso tempo perdido. Mas não basta somente decifrar os códigos do inimigo. Precisamos descobrir também porque nós e nossos potenciais aliados nos tornamos enigmas uns para os outros.

Leia também:

O fim da imprensa e da internete

Nós e os robôs, os robôs e nós. Os robôs e os robôs

Trump e seus algoritmos suicidas

Estamos muito felizes que nossa abordagem revolucionária de comunicação dirigida por dados tenha desempenhado papel tão essencial na extraordinária vitória do presidente eleito Trump.

As palavras acima foram atribuídas a Alexander Nix, executivo britânico da Cambridge Analytica. Estão no artigo “Big Data: Toda democracia será manipulada?”, publicado no portal Caros Amigos, em 06/02.

Segundo o texto, a Analytica estaria por trás da campanha online de Trump, assim como de parte da campanha “Brexit”, na Inglaterra. Atualmente, Nix considera inúteis campanhas de marketing que tratam de forma uniforme grupos sociais inteiros.

Por exemplo, enviar as mesmas mensagens a todas as mulheres em razão do seu gênero, ou a “todos os afroamericanos por causa de sua raça.” Já não se fazem mais campanhas baseadas “em demografia”, diz ele. No lugar dela, entraram os algoritmos.

Com base neles, afirma Nix, fomos “capazes de formar um modelo para diagnosticar a personalidade de cada um dos adultos dos Estados Unidos.” Essa metodologia teria permitido à campanha de Trump concentrar-se em determinados segmentos, deixando outros de lado. Cabos eleitorais, por exemplo, sabiam quais casas visitar em busca de votos e quais ignorar.

A façanha teria sido possível graças à vinculação de certos produtos e mensagens de marketing a características da personalidade dos consumidores. Tudo capturado em tempo real por meio de redes como WhatsApp e Facebook, movimentações financeiras e compras.

Assusta. Mas é só mais um passo na captura definitiva da política institucional pelo poder econômico. É a democracia colonizada pelo capital e o consumidor no lugar do eleitor. No comando, um vendedor maluco oferecendo um test drive suicida ao planeta.

Leia também:

Bem-vindos aos Campos de Descarregamento

Com Trump, o terrorismo venceu. É fato