critinq.wordpress.com/
1. Getsêmani
Mesmo que não se reduza ao humanismo, a esfera cultural cristã — em toda a complexidade contraditória de sua história — é o espaço no qual a autonomia ética e ontológica da ação humana pode ser concebida.
Não sou crente, mas há um momento em que me sinto tão próximo de Jesus que me vejo compelido a me chamar de cristão. Esse momento é quando, no jardim do Getsêmani, poucas horas antes de seu calvário, Jesus se volta para o Pai e sussurra: "Pai, se for possível, afasta de mim este cálice".
Claramente, seria possível, visto que o Pai é onipotente. Mas Jesus, como que intimidado pelo próprio pedido, acrescenta imediatamente: "Contudo, não seja feita a minha vontade, mas a tua". Como um filho enviado para morrer pela Pátria, Cristo inclina a cabeça diante da vontade do Pai, mas sua natureza humana — num momento de abandono da história — implora que aquele cálice seja afastado de seus lábios.
Naquele jardim, a humanidade de Cristo prevalece, por um instante, sobre a sua divindade. Significa autonomia em relação à necessidade histórica — ou, neste caso, em relação à vontade divina. Mas a necessidade histórica se impõe, e o Pai testemunha o martírio do seu Filho, para que, sobre esse martírio, a Igreja pudesse nascer — uma Igreja dedicada a proclamar a glória do Pai.
A Igreja Cristã carrega em si essa dupla origem: está ao lado do Pai, mas também do Filho. A Igreja de São Pedro é dedicada à glória do Pai, não à fraqueza do Filho. Contudo, é no âmbito do Cristianismo que o humanismo se torna possível, pois o Cristianismo incorpora ambos os elementos irreconciliáveis: a necessidade do Pai e a aspiração do Filho à autonomia. A novidade hoje é que a Igreja Cristã se coloca ao lado daqueles que suplicam: “Afasta de mim este cálice”. É sob essa perspectiva que li a encíclica Magnifica humanitas , de Leão XIV . Em meio à desumanização provocada pelo absolutismo capitalista, a Igreja de São Francisco e Leão surge agora como o último bastião da humanidade.
Em nossa época, a necessidade histórica se materializa na inteligência artificial (IA); e como a necessidade histórica é inseparável da guerra, a tecnologia de automação está subjugada à guerra: os recursos necessários para a pesquisa e a infraestrutura que permitem o desenvolvimento da IA provêm quase exclusivamente do sistema militar, e suas aplicações essenciais são militares.
Nesse contexto, interpreto a encíclica como a mais alta expressão do humanismo contemporâneo, após a derrota do humanismo materialista fundado na igualdade. Contudo, tal como as palavras sussurradas por Jesus no Getsêmani, temo que as palavras de Leão XIII também estejam destinadas a serem ignoradas pelo autômato inteligente — uma entidade subserviente aos sistemas militares de poder que se preparam para uma guerra final.
Temo que Prevost seja excessivamente otimista ao descrever a humanidade como magnífica. A humanidade não existe no abstrato: o Homo sapiens evolui em paralelo com as relações sociais em constante transformação e com as formas tecnológicas que tanto produz quanto é produzido pelos sapiens. O Homo sapiens que emerge de quarenta anos de competição de livre mercado e mutação tecnológica digital não é tão magnífico assim. Se a humanitas contemporânea é personificada pelo povo israelense e pela maioria das populações ocidentais (para não mencionar as demais), eu diria que uma descrição adequada seria horribilis , e não magnífica. Partindo desse princípio, podemos refletir sobre o futuro da inteligência artificial — que nada mais é do que um reflexo da nossa atual humanidade desumana.
2. O que restará após o estouro da bolha?
Em "O Guia do Centauro Inverso para a Vida Após a IA", Cory Doctorow argumenta que as promessas dessa tecnologia são enganosas, pois o desenvolvimento da inteligência artificial está fadado a ser insustentável do ponto de vista econômico e financeiro:
Todas as empresas de IA estão perdendo dinheiro, e quanto maior a empresa de IA, mais dinheiro ela perde. As maiores empresas de IA estão perdendo bilhões por trimestre . O financiamento para novos modelos vem de investidores, e esses investidores estão apostando que a IA que estão fundando será tão boa que os empregadores poderão demitir metade de seus funcionários e substituí-los por IA, com os lucros divididos entre os clientes das empresas de IA e as próprias empresas de IA. [p. 201]
Segundo Doctorow, essa aposta será perdida, pois os autômatos jamais conseguirão substituir o trabalho humano. Consequentemente, “a bolha estourará, como todas as bolhas sempre estouram”.
No entanto, há pouco a comemorar. Aliás: “Por mais que você deteste a IA, este não será um bom dia. Lembre-se: sete gigantes empresas de IA representam 35% do mercado de ações dos EUA. [...] Estamos falando de um colapso que fará o de 2008 parecer insignificante e igualará ou superará a queda provocada pela pandemia” (p. 202).
Aos danos econômicos que o estouro da bolha poderia causar, deve-se acrescentar o prejuízo que a infraestrutura que suporta essa tecnologia inflige a um ambiente físico já à beira do colapso. Segundo Kate Crawford: “A cadeia de suprimentos completa da IA abrange capital, trabalho e recursos da Terra — e de cada um deles, exige uma quantidade enorme. A nuvem é a espinha dorsal da indústria de inteligência artificial e é feita de rochas, salmoura de lítio e petróleo bruto” (p. 31).
O desastre econômico iminente, portanto, promete ser colossal, visto que os investimentos nessa tecnologia devem atingir oitocentos bilhões de dólares somente em 2026 (segundo estimativas do Goldman Sachs). Como não há retorno econômico visível que justifique esses investimentos maciços financiados por dívida, a previsão de Doctorow pode se concretizar, mesmo que (devo dizer) ele não leve em consideração o financiamento militar, que é enorme e ameaça crescer. Contudo, em minha opinião, as consequências econômicas não são a questão principal: por mais dramáticos que sejam os efeitos de um potencial colapso financeiro, Doctorow parece ignorar o impacto tangível que a tecnologia de automação mental tem nas frentes militar e cognitiva.
Doctorow escreve ainda:
Todos que se deixam levar pelo hype da IA sonham em ter uma necessidade humana satisfeita sem ter que fazer considerações morais. Isso vale tanto para os fanáticos por namoradas de IA quanto para os chefes que esperam usar IA para substituir metade de seus funcionários e aterrorizar o restante. . . . Uma namorada de IA não exige nada de você, exceto aquelas coisas que você manda ela exigir de você. [p. 74]
Assim, a IA não possui valor humano; contudo, isso não significa que lhe falte valor econômico — ou valor de uso , para empregar o conceito marxista que define a utilidade concreta dos produtos do trabalho abstrato.
Um produto pode ter valor de uso mesmo sem valor humano? Sim, certamente. Um produto pode ser lucrativo mesmo sendo destrutivo, como bem sabem os fabricantes de armas. Aliás, eu diria que o valor de uso "desumano" é o mais lucrativo, dada a sua ligação com a vida e a morte.
Qual é o valor de uso das aplicações atuais de IA? Qual é o retorno econômico dos enormes investimentos que elas exigem? A resposta é simples: o valor de uso da IA, em seu estado atual, é essencialmente a guerra. São as aplicações militares da IA que recuperam parcialmente o capital investido no desenvolvimento dessa tecnologia: drones inteligentes, sistemas de defesa inteligentes, guerra inteligente: a destruição inteligente da civilização. Mas se isso for verdade — inegavelmente, o uso da inteligência artificial hoje é primordialmente militar — então nos deparamos com uma alternativa perturbadora: ou a guerra se espalha por todos os lugares, possibilitando a recuperação desses investimentos gigantescos, ou a bolha estoura, com consequências inimagináveis para o equilíbrio econômico e social do mundo inteiro.
3. A Desativação da Mente Humana
Seja qual for o destino final dos investimentos econômicos em tecnologia de inteligência artificial e automação, certamente não será o de deixar vestígios: a destruição é o principal campo de atuação da IA. A destruição do meio ambiente para alimentar a infraestrutura tecnológica e a destruição militar de territórios e populações inteiras — essas são as marcas que a inteligência artificial está deixando na história humana contemporânea. Contudo, há outro efeito que Doctorow ignora: o cognitivo.
O sistema militar não é o único usuário de IA. Outro usuário é a mente do Homo sapiens, que já está parcialmente desativada: nas últimas três décadas, a tecnologia digital e suas aplicações em rede têm devastado nossa capacidade de atenção e desativado nossas faculdades de orientação espacial e a habilidade de socializar na presença física de outros.
No entanto, esse novo ramo da tecnologia está substituindo a escrita e, consequentemente, desativando a capacidade de pensar (se o pensamento se baseia na escrita, como Jack Goody afirma de forma convincente em A Domesticação da Mente Selvagem) . Diante da fragmentação da atenção e do desaprendizado da escrita, o pensamento será a vítima mais notória da mutação cognitiva emergente resultante da aplicação de dispositivos de IA aos processos de aprendizagem e comunicação.
A capacidade lógico-crítica está sendo delegada ao autômato cognitivo, e o Homo sapiens está sendo progressivamente reduzido a um mero apêndice deste: incapaz de concentrar a atenção em um objeto por mais de alguns segundos, incapaz de escrever, incapaz de pensar.
A história da tecnologia sempre induziu mutações — de profundidade variável — nos modos de vida e nas formas cognitivas do usuário humano. Mas agora, a automatização da inteligência vai apagar a autonomia cognitiva que Giovani Pico della Mirandola, em seu Discurso sobre a Dignidade do Homem (1486), identificou como o traço definidor da dignidade humana.
No momento da criação de Adão, Deus lhe concedeu uma liberdade que implicava renunciar à perfeição: Adão abdicou da perfeição da identidade entre nome e coisa em troca da liberdade de nomear as coisas. Agora, Deus está retirando o que nos havia concedido: a liberdade da linguagem humana. Em troca, oferece-nos a (duvidosa) perfeição da inteligência artificial.
A organização simbólica está emergindo agora da matéria do lítio e do silício; pela primeira vez na história, estamos construindo uma infraestrutura a partir da qual emerge a capacidade de expressão simbólica e interpretação de símbolos. Uma capacidade de construir e projetar mundos simbólicos está surgindo — uma capacidade que não depende mais da matéria biológica. A computação — e a matéria física na qual está inserida — está se tornando um agente de simbolização e projeção do mundo. O organismo senciente não é mais o único gerador de mundos. Se a agência é uma entidade capaz de enunciar e interpretar signos, então o autômato cognitivo substituirá o ser humano como agente semiótico.
O androide (a construção, o artificial) e o humano (o nascido, o orgânico) agora competem no processo de geração do mundo. Contudo, o organismo age sob uma dupla desvantagem em comparação ao androide: é senciente e, portanto, sofre; é consciente e, portanto, duvida. O androide não sofre, não duvida, não se cansa e não perde tempo refletindo. É fácil imaginar quem vence.
4. A Profecia de Marx, Invertida
É sabido que Karl Marx — em um de seus escritos mais visionários — formulou uma profecia que agora se concretiza de maneira perversa, por meio da automatização da atividade cognitiva. Em "Fragmento sobre as Máquinas", Marx observa que o conhecimento atua como um motor para o aumento da produtividade, ao mesmo tempo que serve como fator de automatização e substituição do trabalho humano. "O capital", afirma ele,
Graças à aplicação da inteligência como motor da automação, os humanos não precisariam mais subordinar seu tempo à necessidade de produzir o que a sociedade exige; máquinas inteligentes cuidariam dessa tarefa, deixando os humanos finalmente livres para buscar seus próprios prazeres.
Infelizmente, as coisas não aconteceram dessa forma. A história inverteu o cenário previsto por Marx: o trabalho cognitivo (o intelecto geral ) não conseguiu se estabelecer como uma força autônoma. Consequentemente, a história dos últimos cinquenta anos — após a derrota dos movimentos igualitários — tornou-se a história da subjugação do trabalho cognitivo à lógica automática do Capital.
Submetido a uma lógica destrutiva, o poder da inteligência deu lugar a um mundo espectral: os humanos não se emanciparam do trabalho assalariado para cultivar seus prazeres; em vez disso, o trabalho assalariado absorveu a atividade cognitiva — mesmo que a necessidade de trabalho assalariado esteja em constante declínio, sendo substituído, em alguns casos, por máquinas inteligentes e, na maioria dos casos, por trabalho escravo.
O que Marx idealizou (e nos permitiu idealizar) é o comunismo: a governança coletiva dos poderes do conhecimento e da tecnologia, e a autogestão dos trabalhadores do conhecimento, visando ao seu próprio bem-estar e ao bem comum.
Utopia? Não. Um projeto razoável — que, no entanto, fracassou:
Assim que o trabalho em sua forma direta deixa de ser a grande fonte de riqueza, o tempo de trabalho cessa e deve deixar de ser sua medida, e, portanto, o valor de troca [deve deixar de ser a medida] do valor de uso. O trabalho excedente da massa deixou de ser a condição para o desenvolvimento da riqueza geral, assim como o não trabalho de poucos deixou de ser a condição para o desenvolvimento das faculdades gerais da mente humana. [...] O conhecimento social tornou-se uma força direta de produção e, consequentemente, em que medida as condições do próprio processo da vida social passaram a estar sob o controle do intelecto geral e foram transformadas de acordo com ele.
Isso de fato aconteceu, mas ao contrário: o intelecto geral foi submetido à valorização do capital e permeado pelos princípios da competição e da guerra. Isso não significa, contudo, que tenhamos finalmente entrado em um reino de harmonia computacional orquestrada por um projeto malévolo coerente; pois não existe um único projeto malévolo coerente, mas sim vários, todos em conflito uns com os outros.
Assim, pertencendo a sujeitos conflitantes, o autômato computacional alimenta a guerra, não a harmonia. O projeto comunista — redistribuição de riqueza, redução da jornada de trabalho e primazia do interesse social sobre o interesse da empresa — era a única possibilidade de evitar as tendências destrutivas do capitalismo: a primazia do lucro acelerou a devastação do meio ambiente e da mente. Ninguém mais pode evitar a eliminação da raça humana. Mas deveríamos realmente lamentar isso?
5. O Cálice Amargo, Evitado
O pensamento clássico mantinha a alma distinta da matéria e a essência do sujeito separada dos mecanismos da corporeidade. Por sua vez, os marxistas contrapunham as superestruturas subjetivas às relações infraestruturais de produção. Como podemos falar de subjetividade hoje sem reconhecer que o conteúdo da subjetividade depende cada vez mais de uma multiplicidade de sistemas maquínicos?
—Félix Guattari, Cartografias esquizoanalíticas (1989)
Uma subjetividade híbrida emerge no horizonte do século XXI: em breve, a humanidade estará à beira do desaparecimento, dizimada por guerras, cataclismos climáticos e, sobretudo, pela queda nas taxas de natalidade. O planeta será habitado por uma população híbrida composta por androides artificiais e organismos modificados. Os androides estarão conectados ao autômato; serão capazes de reprodução assexuada; poderão aperfeiçoar seus cérebros sintéticos e aumentar sua eficiência para tarefas específicas.
Os organismos modificados — que já constituem a maioria dos nascidos neste novo século — são organismos de carne e osso de origem humana, formatados cognitivamente de acordo com as regras operacionais do autômato. Em meados do século, dado o colapso progressivo da taxa de natalidade, eles consistirão principalmente de sobreviventes idosos mantidos vivos por próteses projetadas para substituir quase tudo o que antes era carne, juntamente com uma minoria cada vez menor de jovens que se comunicam silenciosamente por meio de implantes cerebrais. Eles serão progressivamente libertados da imperfeição da sensibilidade que afligiu os humanos por cem mil anos. Terão bloqueado o caminho para o sofrimento físico e, sobretudo, para a dor psíquica gerada pela empatia.
Ao substituirmos o corpo senciente pela função matemática, finalmente nos livraremos do cálice amargo que fomos forçados a beber quando éramos humanos.
Franco “Bifo” Berardi é um teórico social, ativista e figura chave do movimento Autonomia italiano da década de 1970. É cofundador da revista A/traverso (1975–1981) e da Rádio Alice, a primeira rádio livre da Itália (1976/1978). É autor, mais recentemente, de Quit Everything: Interpreting Depression (2024).
"A leitura ilumina o espírito".
Comentários
Postar um comentário
12