A Inteligência Artificial Generativa (IAG), Yuval Noah Harari e o trigésimo sexto camelo

Um camelo adicional para desparadoxalizar

Para as afirmações deste artigo sobre a IAG e a introdução dessas novas técnicas de IA em nossa sociedade, preciso começar pela fábula dos 35 camelos de Malba Tahan.

Em termos de criatividade, quem nunca ouviu falar da aventura narrada em O homem que calculava,[1] em que Beremiz Samir efetua uma divisão que parecia impossível: dividir 35(trinta e cinco) camelos entre três homens que discutiam acaloradamente diante desses animais, deixados como herança para eles. O problema fora criado pelo pai deles que, em seu testamento, havia decidido que o irmão mais velho deveria ficar com a metade, o irmão do meio com um terço e o mais moço com a nona parte.

Como alguém poderia resolver essa questão tão complexa? Mas Beremiz Samir utilizou toda a sua criatividade e inovou diante de uma situação paradoxal.

Beremiz Samir pega emprestado de um viajante mais um camelo, totalizando 36(trinta e seis). Assim ele simplifica o processo de divisão, com vantagens para todos e uma grande surpresa ao final.

Beremiz Samir começa com o primeiro herdeiro:

— Deverias receber a metade dos 35(trinta e cinco) camelos, ou seja, 17,5 (dezessete e meio) camelos, então te darei 18(dezoito) e nada tens a reclamar.

Para o segundo herdeiro diz:

— Deverias receber um terço dos 35(trinta e cinco) camelos, isto é, 11(onze) camelos e um pouquinho, então te darei 12(doze) e nada tens a reclamar.

Para o irmão mais moço diz:

— Jovem, segundo a vontade de teu pai, deverias receber uma nona parte dos 35(trinta e cinco) camelos, isto é, 3(três) camelos e um pouquinho, então te darei 4(quatro) e nada tens a reclamar.

A conclusão dessa mágica foi impressionante, pois todos os irmãos tiveram lucro, mas ao final sobraram 2(dois) camelos. Os irmãos ficaram com 34(trinta e quatro) camelos - (18+12+4). Portanto, dos 36 (trinta e seis) camelos sobraram 2(dois). Beremiz Samir devolveu um deles para o homem que o havia emprestado e o outro ele ficou para ele mesmo, como pagamento pelo seu serviço de consultoria.[2] 

A Inteligência Artificial Generativa não tem imaginação

Quando se pensa nos riscos para a humanidade com a introdução dos algoritmos generativos, base da IAG, Beremiz Samir serve-nos de exemplo para pensarmos nas grandes restrições que estão impostas à IA neste momento e todos os desafios que ainda estão por vir. Assim, pode-se pensar melhor a respeito dos afetados pela introdução da IA. Quem realmente será afetado negativamente e quem será afetado positivamente, a curto, médio e longo prazo.

Alio-me a Jaron Lanier, que de maneira muito acertada, afirma que não há Inteligência Artificial, quando comparamos com a Inteligência Natural.[3] Então, a tecnologia da informação, por meio desses novos algoritmos, irá afetar em muito a forma como vivemos e trabalhamos, mas não se pode afirmar, ainda, que o motivo principal seja o nascimento de uma “inteligência artificial” equivalente à “inteligência natural”.

Chimpanzés, embora muito inteligentes, não conseguem criar uma empresa para fabricar automóveis e a IA está longe de possuir as capacidades de um chimpanzé. A competência dos seres humanos, sistemas psíquicos, para desenvolver quaisquer empreendimentos, não está lá fora, no exterior, esperando que alguém se aproprie dela. A competência está mergulhada no “silêncio da interioridade”[4], está involucrada em um sistema psíquico que cria suas próprias operações e estruturas, seus próprios conhecimentos.

Deve-se tomar cuidado com o velho lema empirista: “Nihil est in intellectu quod non sit prius in sensu (‘Não há nada dentro que não tenha vindo de fora’).[5] Têm-se a impressão de que se pode interferir diretamente nas operações e estruturas de um sistema psíquico. Quando se pensa no mar, não significa ter o mar dentro de nossas cabeças, há um processo de reconstrução, a partir das capacidades de observação. Uma pessoa privada da visão desde o seu nascimento terá uma imagem mental do mar completamente diferente daqueles indivíduos que têm visão e conseguem observar as ondas, as cores e todas as nuances apresentadas pelas ondas em movimento.

Substituir seres humanos com suas competências, significa dotar as máquinas também das capacidades surgidas a partir da Revolução Cognitiva, defendida por Harari. Lendas e mitos surgiram pela primeira vez com a Revolução Cognitiva. “Antes disso, muitas espécies animais e humanas foram capazes de dizer: 'Cuidado! Um leão!'. Graças à Revolução Cognitiva, o Homo sapiens adquiriu a capacidade de dizer: 'O leão é o espírito guardião da nossa tribo'.”[6] Há uma diferença abismal entre se ter o leão como uma fera ou tê-lo como um deus que pode proteger e todos os ritos daí advindos.

Harari afirma ainda que “É relativamente fácil concordar que só o Homo sapiens pode falar sobre coisas que não existem de fato e acreditar em meia dúzia de coisas impossíveis antes do café da manhã.”[7]

Albert Einstein afirma que “A imaginação é mais importante do que o conhecimento […]” e que “O mecanismo do descobrimento não é lógico e intelectual - é uma iluminação […], quase um êxtase. Em seguida, é certo, a inteligência analisa e a experiência confirma a intuição. Além disso, há uma conexão com a imaginação.”[8]

Tudo isso para dizer que, Beremiz “imaginou” uma solução, tirou um “camelo da cartola”, para acabar com um problema aparentemente insolúvel, um paradoxo, graças a essa capacidade inerente ao Homo sapiens, que de acordo com a teoria da evolução levou milhares de anos para se formar.

Marvin Minsk afirma que para ele, IA significa fazer um sistema que seja engenhoso e não emperre.[9]

Os algoritmos tradicionais utilizados nos computadores até agora, emperram. Se os programadores não preveem todas as situações e algo anormal acontecer, eles param. Em geral estão disponíveis para o usuário somente as opções que o programador disponibilizou, mas pode ocorrer que o usuário informe um dado ou uma combinação de opções que conduza o algoritmo para um beco sem saída.[10]

Os novos algoritmos, base para a IAG, não emperram, mas “alucinam”. Eles simplesmente têm dificuldade para dizer “Desculpe, não sei…” e ficam, como crianças, misturando textos com respostas às vezes incoerentes, inventando coisas que o usuário percebe serem ridículas, quando facilmente detectadas. Mas há sim os casos, em que o usuário não consegue perceber que está diante de “inverdades”, de dados claramente incorretos para o propósito a que se destinam. Plataformas como o ChatGPT, da OpenAI, obrigam que o usuário procure por referências que confirmem as afirmações antes de sair acreditando em tudo que foi cuspido. Mas há plataformas, como o Bing da Microsoft, que indicam referências que tratam do assunto e o usuário pode sentir-se mais seguro a respeito dos textos apresentados.

Dentre os grandes desafios que os técnicos têm, para aprimorarem as IAGs, a resolução desse problema que as pessoas estão chamando de “alucinações” é um dos mais difíceis. O fato é que os técnicos estão diante de uma questão que é inerente a esses algoritmos: eles foram treinados com quantidades enormes de textos, conseguem fazer relações muito interessantes desses textos, mas não sabem bulhufas do que estão cuspindo para fora. Por outro lado, se forem muito “podados”, perdem sua grande característica. O caminho das referências é um bom começo.

Para evitar alucinações, algumas plataformas iniciam um movimento de “censura prévia” em algumas respostas de seus algoritmos, para evitar “abusos”, tentando mantê-los dentro do que entendem serem valores muito aceitos pela humanidade. Em inglês está se disseminando o termo “guardrails”, para indicar essas barreiras impostas à IA, principalmente quando os assuntos versam sobre religião, política e violência. Claro que um algoritmo desbocado parece mais interessante, menos chato e tedioso. Creio que as plataformas serão mais ou menos acessadas por indivíduos que estejam mais afinados com o tipo de restrição ou de liberação que promovam.

Eu não estou, de maneira alguma, tentando tirar o brilho dessas novas técnicas de IA, muito pelo contrário, sou um entusiasta e como programador de computadores fico maravilhado com o que se conseguiu até aqui. Porém, não concordo com muitas afirmações escatológicas que já colocam a IA como algoz, como uma carrasca, cruel e desumana, destinada a nos destruir. Por que não pensar o contrário? Que podem ser nossa salvação e nosso legado?

O fato é que a beleza de as IAGs dominarem a linguagem e preverem a próxima palavra, frase ou parágrafo, não significa imaginarem o que quer que seja. Se não existirem textos ou exemplos anteriores, a IAG não consegue criar algo realmente novo, inovador. Uma IAG não tem “futuro”, apenas lida com dados passados.

Esses algoritmos, base para IAG, não conseguem dar uma solução tão criativa para um problema como o da divisão dos 35(trinta e cinco) camelos.

Deve-se fazer uma separação importante entre linguagem e comunicação.[11] A linguagem enriquece a comunicação, mas não é comunicação. Saber falar português, inglês, alemão ou quaisquer outros idiomas, não significa comunicar. Eu posso chegar em um país qualquer falando em português, mas se quem me ouve não souber o idioma não haverá qualquer comunicação por meio dela. As IAGs, que já dominam a linguagem, só podem informar aquilo que está à disposição delas nas montanhas de dados gerados pelos humanos e nada mais além disso. Esses novos algoritmos sintetizam dados em porções, informações, que devem ser interpretadas por aqueles que dialogam com eles, mas eles mesmos não interpretam. Os algoritmos não tiram conclusões diferentes daquelas que estão cuspindo por suas bocas sujas ou limpas, dependendo do texto que selecionam para expor.

As maravilhas da Inteligência Artificial Generativa que nos arrepiam

O Bing da Microsoft fez um resumo de meu artigo que citei acima (A Inteligência Artificial Generativa realmente dominou a linguagem como afirma Yuval Harari?) e reproduzo abaixo. Assim como acho impressionante, Spock de Star Trek acharia “fascinante”. Esses algoritmos conseguem resumir várias páginas, salientando os pontos importantes.

Resumo da página para A Inteligência Artificial Generativa realmente dominou a linguagem como afirma Yuval Harari?

Distinção entre comunicação e linguagem O autor afirma que comunicação é diferente de linguagem, pois a comunicação envolve informação, ego, alter e entendimento, enquanto a linguagem é apenas a manipulação de símbolos.

Limitações da Inteligência Artificial Generativa (IAG) O autor argumenta que a IAG não domina o sentido dos textos que manipula, pois ela não interpreta, não cria conceitos e não pensa como os humanos. Ela apenas segue fórmulas matemáticas e estatísticas.

Risco da IAG para os humanos O autor discorda de Yuval Harari que a IAG seja uma ameaça à civilização, pois ela está muito distante de ter a capacidade de cooperar e criar mitos e lendas como os sapiens. Ele diz que os humanos aprenderão a usar a IAG para seus benefícios.

Alguns estudiosos têm-se reunido e criado uma narrativa apocalíptica a respeito desses novos algoritmos de IA. O próprio Harari tem advogado um controle da IA, com previsões alarmistas.  Eu prefiro uma frase dele, escrita em 2018, para outro contexto, mas que serve plenamente para o momento atual: “Não, não é isso. A verdade é que eu não compreendo o que está acontecendo no mundo”[12]. Deve-se ter um pouco de humildade e aceitar que não sabemos exatamente o que o futuro nos reserva e afirmar: “A verdade é que eu não sei as consequências exatas da introdução das IAGs.” Apocalipse e desastres de outras ordens já foram previstos, sem razão, para outras tecnologias também consideradas disruptivas.

Portanto, está-se diante de um grande avanço tecnológico e deve-se festejar mais essa conquista dos seres humanos. A IAG é um grande passo para a humanidade e será meio para novas formas, novas técnicas que estarão a serviço dos homens para os bons propósitos, ainda que alguns prevejam o caos.

[1] TAHAN, Malba. O homem que calculava; 27 ed. Rio de Janeiro: Record, 1984, p. 19-20.

[2] Não vou dar a resposta aqui para essa intrigante narrativa; a explicação matemática está no apêndice do livro de Malba Tahan.

[3] LANIER, Jaron. There Is No A.I. Disponível em: < https://www.newyorker.com/science/annals-of-artificial-intelligence/there-is-no-ai >. Acesso em: abr. 2023.

[4] Termo utilizado por Bruno Latour.

[5] LATOUR, Bruno. Reagregando o social. Uma introdução à teoria do ator-rede. Salvador: Edufba, 2012; São Paulo: Edusc, 2012, p. 306-307.

[6] HARARI, Yuval Noah. Sapiens - Uma breve história da humanidade; tradução: Janaína Marcoantonio. 19ª ed. Porto Alegre - LPM, 2017, p. 32-33.

[7] Ibidem.

[8] CLARET, Martin. O pensamento vivo de Einstein; pesquisa de texto e tradução: José Geraldo Simões Jr. São Paulo: Martin Claret, 1986, p. 59-60.

[9] MINSK, Marvin. Introduction to 'The society of Mind'. Disponível em: < https://www.youtube.com/watch?v=-pb3z2w9gDg > . Acesso em: mar. 2022.

[10] PEREIRA, Carlos José. E a vava não foi para o brejo. Disponível em: < https://www.oanalistadeblumenau.com.br/blog/20/e-a-vaca-n-o-foi-para-o-brejo >. Acesso em: jun. 2023.

[11] PEREIRA, Carlos José. A Inteligência Artificial Generativa realmente dominou a linguagem como afirma Yuval Harari? Disponível em: < https://www.oanalistadeblumenau.com.br/blog/34/a-intelig-ncia-artificial-generativa-realmente-dominou-a-linguagem-como-afirma-yuval-harari >. Acesso em: jun. 2023.

[12] HARARI, Yuval Noah. 21 lições para o século 21; tradução: Paulo Geiger; 1 ed. São Paulo: Companhia das Letras, 2018, p. 37-38.