Renunciaremos à ousadia de pensar?

Renunciaremos à ousadia de pensar?

Paulo Rosenbaum*

“Não consigo encarar a ideia de uma vida sem trabalho. O que faríamos quando as ideias falhassem, ou as palavras se recusassem a vir? É impossível não estremecer só de pensar nisso.” Sigmund Freud

Numa recente simulação no King’s College* de conflitos militares armados usando a IA a taxa de recomendação de uso de “nukes”‘, as bombas atômicas, foi de 95%. Quais as implicações e consequências dessa simulação? (Veja https://www.kcl.ac.uk/news/artificial-intelligence-under-nuclear-pressure-first-large-scale-kings-study-reveals-how-ai-models-reason-and-escalate-under-crisis)

Em recente palestra o filósofo francês Luc Ferry coletou dados que lhe permitiu calcular que 60 a 70% das ocupações e trabalhos serão extintas até 2035 em função da adoção da I.A. nos mercados de trabalho. E que por isso emerge simultaneamente a ideia de uma renda vitalícia universal compensatória — provavelmente insatisfatória — providenciada pelos Estados. Será inevitável. Ora, isso significaria uma espécie de bolsa subsistência para boa parte da humanidade.

É todavia assustador considerar que trabalhamos apenas pela renda. O trabalho consiste em uma forma de interação social, dignidade, e realização pessoal. O cumprimento de uma função que integra e constitui a própria individualidade. Que preserva o sujeito de uma ociosidade degradante.

Vamos retroceder um pouco e pensar no que efetivamente consiste o conjunto de sistemas aos quais se convencionou chamar de “inteligência artificial”?

A despeito de ser um avanço extraordinário em muitas frentes a ponto dos entusiastas Henry Kissinger e Eric Schmidt terem-na classificado como o “novo iluminismo” ou “a maior revolução desde o advento da ciência moderna”, o machine learning ou o processo de máquinas que aprendem sozinhas, permanece sendo mediado por um aprendizado entre máquinas, alimentados por data centers gigantescos organizados. Vale dizer, o produto é o resultado da interação entre sistemas computacionais privados de consciência.

Decerto um dia, como preveem os experts, seremos surpreendidos com decisões autônomas desses mesmos sistemas, isto é, à revelia dos seres humanos. Caso essa emancipação das máquinas realmente ocorra como destino final, sua auto regulação significará uma mudança gigantesca, sem precedentes e imprevisível no tenso jogo de relações entre a tecnologias e as sociedades.

Para Roger Penrose, prêmio Nobel de fisica e matemática, a expressão “inteligência artificial” já consiste em um equivoco conceitual, já que a inteligência é uma característica dos sistemas orgânicos vivos. Compreende-se que se “empreste” a palavra para definir uma nova tecnologia. No entanto Penrose prefere outro nome, um tanto irônico, e recomenda a expressão “Esperteza Artificial”. Chegamos a cogitar alguns termos substitutos tais como “Enciclopedismo artificial” ou “Astúcia Artificial”, mas ainda não há um consenso sobre a nomenclatura mais adequada.

Quântica ou não, a atual tecnologia não consegue considerar que, a rigor, não existe uma inteligência que não seja parte de um sistema orgânico portador de consciência. Ou seja, o aspecto biológico da inteligência é, ou deveria ser considerado, porquanto todo ser vivo possui instrumentos vitais que permitem interpretar tanto a realidade, como o mundo abstrato como, por exemplo, as relações humanas e a arte.

E a consciência ainda é fenômeno misterioso que merece as mais amplas investigações.

Isso posto, delegar, emular e confiar expectativas exageradas nestes sistemas para assumir controle e responsabilidade sobre atos e decisões que caberiam aos sujeitos, soa, se não absurdo, perigoso, e talvez até mesmo, pusilânime.

No entanto, essa perspectiva parece ser a realidade predominante e irreversível deste final de pós modernidade. O uso indiscriminado dessa ferramenta por parte das sociedades não apenas tem sido amplo, como caminha em direção de uma hegemonia perturbadora.

De forma secreta ou declarada, do estudante do segundo grau aos pesquisadores universitários, dos gerentes de negócios aos CEOs de grandes companhias, dos redatores de grandes mídias à publicidade no varejo das redes sociais, a grande maioria tem usado uma das IA disponíveis para executar seus trabalhos, e terceirizar a obtenção das informações, e, assim, assumir as decisões.

Mas e quanto ao trabalho propriamente dito?

Chamemo-lo de enciclopedismo ou de astúcia artificial, o fato é que o recurso não tem sido apenas uma ferramenta acessória consultiva esporádica: mas usada para substituir a curiosidade. Eis que a curiosidade, especialmente a intelectual, tem sido o leitmotiv não apenas da criatividade, mas da força humana que impulsiona as transformações.

O entusiasmo com a tecnologia e a flagrante hipertrofia de seu uso indiscriminado, evidentemente pode levar também ao empobrecimento da capacidade humana de interpretar.

Se a imaginação for, de fato, o aspecto quididativo mais especifico dos seres humanos o que será que estamos deixando de lado ao terceirizar a pesquisa e renunciar à ousadia de pensar?

Esse pertencimento é intransferível para qualquer sistema não orgânico uma vez que não se processa apenas nos hemisférios cerebrais, mas na experiência completa de nossos organismos: no corpo, na psique, no inconsciente.

É possível que a atual tecno-idolatria advenha de uma interpretação equivocada.

Um panorama que não se encaixa na forma com a qual as mentes humanas se debruçam sobre as informações, a arte, a política e as demais formas de trabalho. Não é um acaso fortuito que várias atividades e profissões humanas estejam em grave crise, e o algoz desse desemprego em massa tenha sido imputado a essa entidade abstrata – já que não é uma instituição, mas apenas mais um conceito – convenientemente nomeado como pensamento artificial.

Então nos debruçamos novamente sobre a decisão em relação a simulação do King’s College acima referida. Como mostrou Herbert Marcuse em seu “Ideologia da Sociedade Industrial”: a garantia da não utilização de armas nucleares é a compreensão de um jogo complexo chamado de dissuasão. Isto é, o entendimento de que o seu uso por parte de um agente, determinaria uma resposta de tal forma devastadora, que a derrota seria, necessariamente, coletiva.

Mas o que foi perigosamente deixado de lado, ou subestimado, é a ideia de que alguns regimes podem preferir e escolher a derrota coletiva, visando uma redenção escatológica ou qualquer delírio catastrofista purgativo, ou ainda apenas a eliminação da tensão do planeta.

Então qual foi o critério que determinou que a máquina, em sua esperteza não natural, tenha aconselhado o uso de armas nucleares?

Fora um regime de orientação abertamente escatológica como a ditadura tirânica dos aitolás e seus cúmplices, qual nação consideraria, na atual configuração geopolítica, abandonar a dissuasão e iniciar um ataque nuclear?

Bem, a IA, não hesitou.

Vale refletir, se devemos mesmo delegar a ousadia de pensar para outros, especialmente se forem máquinas que simulam o pensamento, precisamos compreender melhor o risco que corremos e assumir novas responsabilidades.

Ou mudar imediatamente o rumo do leme.

*Paulo Rosenbaum, médico e escritor. Doutor em Ciências, Pós Doutor em Medicina Preventiva pela FMUSP. Editor do Blog “Conto de Notícias” no Estadão. Autor de “Verdade Lançada ao Solo”, “Navalhas Pendentes”, “Céu Subterrâneo” e “Não Envelhecerás” (AltaBooks).

___________________