Menu
Os pontos cegos das novas ferramentas de IA
“Um robô consegue compor uma sinfonia? Um robô consegue pintar uma bela obra-prima?”
Essa cena do filme Eu, Robô, de 2004, já é tão citada e discutida que chega a ser quase um clichê começar um texto com ela. Mas não há dúvida de que estamos no momento propício para abordá-la novamente. Ao que tem parecido para muitos de nós, a hora chegou: já estamos vendo robôs não só compondo e pintando, mas também escrevendo. Entramos nos tempos da IA generativa.
Mas, se o robô da cena responde ao ser humano com outra pergunta constrangedora: “e você, consegue?”, a IA generativa também nos sugere que até mesmo essa incapacidade humana foi superada. Tanto o robô como o ser humano agora se juntam para fazer o que antes não conseguiam fazer. O fascínio das pessoas diante de ferramentas como Midjourney, Boomy e ChatGPT vem exatamente dessa sensação de empoderamento: agora podemos criar o que quisermos. Basta escrever um prompt com o nosso desejo e voilà. O gênio da lâmpada nos concede pedidos infinitos — pelo menos e por enquanto, é claro, para nossos desejos de produtos midiáticos, como imagens, vídeos, músicas e textos. Não precisamos mais de educação, treino ou genialidade, coisas que resultam de e geram desigualdade entre as pessoas. A tecnologia parece democratizar a capacidade de agir, nos dando um mundo igualitário onde agora qualquer um pode ser Mozart (desde que se compre a ferramenta adequada, é claro).
“O robô pode e nós podemos.” A primeira afirmação gera medo; a segunda, empolgação. E é por isso que a maioria de nós tem escrito, para tentar apaziguar tanto o medo quanto a empolgação excessivos. Para além de alegações sensacionalistas, estamos tentando ver que o robô não pode tanto quanto parece, e nós, também, não podemos tanto quanto parece. Seria isso um reacionarismo tecnológico, tarefa de um estraga-prazeres que teme sair da zona de conforto e perceber que “o futuro é inevitável”? Ou seria uma atitude de prudência, de reconhecermos nossos limites antes que saiamos investindo nossos recursos em soluções ineficazes e até mesmo perigosas?
O leitor que julgue, mas minha opinião permanece com McLuhan, para quem toda nova tecnologia, ao mesmo tempo que amplia um tipo de capacidade, atenua outra. Embora seja necessário reconhecer as novas capacidades que a IA generativa coloca à nossa disposição, acredito que seríamos incompletos se também não nos atentássemos para as outras capacidades que podem estar sendo atenuadas ou ignoradas — ou seja, os seus pontos cegos. E se descobrirmos que essas capacidades são cruciais para noções de boa vida e florescimento humano? Não vamos dizer que a IA generativa não é útil, mas precisamos entender exatamente a extensão dessa utilidade, se é que queremos integrá-la de forma saudável ao que o próprio McLuhan chamou de uma ecologia de mídia.¹ E, para isso, precisamos atentar para aquelas partes da realidade que não estão sendo contempladas nesse paradigma de gênio da lâmpada midiático. Nele, a IA realmente não pode fazer certas coisas, e nem o ser humano que a utiliza.
Tanto o robô como o ser humano agora se juntam para fazer o que antes não conseguiam fazer. O fascínio das pessoas diante de ferramentas como Midjourney, Boomy e ChatGPT vem exatamente dessa sensação de empoderamento: agora podemos criar o que quisermos.
O que a IA não pode fazer?
Se vamos falar sobre coisas que a IA não pode fazer, um ponto de partida bastante comum é tentar apontar características que distinguem o ser humano da máquina (ou mesmo dos outros animais). Propostas assim não faltam na literatura e na história do pensamento, mas não sem seus perigos e suas críticas. Muitas vezes são argumentos duvidosos e pouco conclusivos. Argumenta-se que o ser humano é único porque tem alma, racionalidade, emoção, imaginação, criatividade etc., mas isso sempre leva à dificuldade de ter que definir o que é alma, racionalidade, emoção, imaginação, criatividade etc. A tendência é ser vago, e, na medida em que se tenta não ser, é fácil errar o alvo e cair em definições reducionistas, que muitas vezes não correspondem à realidade, ou mesmo que podem levar a abusos normalmente atribuídos à modernidade e ao iluminismo — por exemplo, atribuir um status sub-humano a uma pessoa com deficiências cognitivas.
É por motivos assim que esse tipo de tentativa, normalmente chamada de humanismo clássico, já foi amplamente criticada na literatura acadêmica.² O pós-humanismo hoje domina certas linhas de estudos em ciência, tecnologia e sociedade (CTS), muitas vezes argumentando que não há motivos para atribuirmos um status ontológico superior aos seres humanos em contraste aos animais e mesmo às coisas.³ Vide, por exemplo, a linha de argumentação de Donna Haraway: ao passo que Darwin (supostamente) colocou o ser humano no mesmo nível dos animais, a cibernética também colocou o ser humano no mesmo nível das máquinas. Isso, obviamente, tem gerado uma reação violenta de outros autores preocupados com a preservação da dignidade da pessoa,⁴ à medida que também nos aproxima de uma rendição materialista às máquinas.
Creio que ambos estão errados: o problema do humanismo clássico não está em buscar distinções, mas buscá-las a partir de uma perspectiva errada. Já o pós-humanismo vai longe demais ao querer eliminar toda e qualquer distinção. Prefiro seguir na direção de um humanismo crítico, que aponte para uma forma mais adequada de traçar essas distinções. E qual seria ela? Creio que, em uma palavra: situacionalidade. Temos que reconhecer que nosso status ontológico não depende de certas capacidades genéricas, instrumentais, reconhecíveis de forma independente de contexto, como parece tentar fazer o humanismo clássico. Pelo contrário, nosso status depende de nossa inserção em contextos, lugares e narrativas. Nos termos de Heidegger: nosso status é o de ser-no-mundo.
Observe a proposta de alguns autores cristãos para defender o status especial dos seres humanos diante da teoria darwiniana: ser humano não significa ter uma constituição essencialmente diferente do resto dos outros animais, mas ter um chamado especial e ser colocado dentro de uma relação pactual com Deus.⁵ Ora, o argumento pode seguir na mesma direção no caso dos robôs. O fato de termos sido criados e inseridos em um contexto, um lugar e uma história faz toda a diferença — em nosso comportamento, em nossa inteligência e também em nossa criatividade.⁶ Há um sentido único e irredutível, uma vez que nossas atividades estão conectadas a esses fatores situacionais.⁷
Temos que reconhecer que nosso status ontológico não depende de certas capacidades genéricas, instrumentais, reconhecíveis de forma independente de contexto, como parece tentar fazer o humanismo clássico. Pelo contrário, nosso status depende de nossa inserção em contextos, lugares e narrativas.
De fato, é aqui que se encontra o que acredito ter sido a interpretação mais certeira sobre a IA: ela não pode ter o mesmo status dos seres humanos porque simplesmente não está na mesma posição dos seres humanos — seja ela histórica, corporal, seja pactual. Hubert Dreyfus, por exemplo, baseando-se em Merleau-Ponty, apontou para a corporalidade humana como algo que garante a distinção e singularidade da inteligência humana.⁸ Mas podemos ir além. Harry Collins e Martin Kusch expandiram a análise de Dreyfus ao notar como a inteligência humana também é definida por nossa inserção em formas de vida (Wittgenstein),⁹ que dependem de culturas, lugares e histórias; ou, ainda, de tradições.¹⁰
É a partir disso que Collins e Kusch se propõem a dizer o que seres humanos e máquinas podem e não podem fazer. Agir dentro de uma narrativa ou forma de vida faz da ação humana algo maior do que simplesmente (re)produzir um comportamento ou resultado. Para além de ações mimeomórficas, onde só o comportamento ou o resultado final importa, há também ações muito mais ricas em significado, ações polimórficas — “poli” porque o comportamento pode assumir diversos significados, e “poli” também como referência a pólis, porque esses significados estão atrelados a tradições e narrativas.
As implicações para a criatividade são claras. Não faz muito sentido comparar o resultado de um algoritmo com uma sinfonia de Mozart, criada por uma pessoa chamada Mozart, com sua história específica, em um tempo e cultura específicos Se atentarmos apenas para o resultado final, podem ser muito parecidas (como ações mimeomórficas), mas isso não esgota todo o sentido. É a forma específica de conexão a diversos outros sentidos culturais e históricos que torna a obra de Mozart única (e bela). Dessa mesma forma, é nosso status único como seres humanos, dentro de uma corporalidade específica e narrativas biológicas e culturais específicas que faz nossa criatividade única. Criar significa criar a partir de um contexto (ou, como diria J.R.R. Tolkien, subcriar), e não simplesmente gerar um comportamento ou um resultado — por mais impressionante que ele pareça. Não é apenas nossa cognição que é 4E — embodied, embedded, enacted, and extended (corporificada, situada, enativada e estendida). Nossa criatividade também é.
Em outras palavras: estamos contrastando aqui o que poderíamos chamar de uma “inteligência generativa” (reprodutiva, mimeomórfica) e uma “inteligência situada” (polimórfica). Gerar comportamentos ou resultados é algo que podemos fazer com máquinas, mas produzir sentido a partir de nossa posição como seres humanos é uma tarefa única e insubstituível.
Alguém poderia dizer que a máquina também pode apresentar uma certa “originalidade”. Diria-se que ela não apenas copia ou reproduz, mas também recorta, remodela e integra, introduzindo uma certa aleatoriedade nos resultados. Mas essa aleatoriedade pode ser mais chamada de entropia do que de uma verdadeira contingência. É a entropia resultante de uma indiferença total introduzida nos graus de liberdade, obtida por meio de um gerador de números pseudo-aleatórios, sem qualquer razão ou conexão a redes de sentido prévias. Qualquer coisa serve, desde que nos dê um resultado “bom o suficiente”.
Mas isso nem sempre vai nos satisfazer. Por razões como essas é que me parece que o resultado da inteligência generativa não poderá ser “explicável”, como tanto se discute hoje nas pesquisas em XAI (eXplainable Artificial Intelligence). A obra de uma inteligência situada é “explicável” porque pode ser ligada a uma narrativa (biográfica e cultural). Já o resultado gerado não se explica porque depende de um conjunto de dados obscuro, usado para treinar um modelo obscuro, que muitas vezes também depende de um gerador de números (pseudo-)aleatórios. A desconexão a formas de vida é intencional, dando origem a um produto dessimbolizado.¹¹ Pode até ser útil, mas é útil apenas na medida em que só o resultado final importa. Mas isso não é tudo.
O que seres humanos não podem fazer (usando IA)?
A partir dessa reflexão, começa a ficar claro que a capacidade de gerar produtos midiáticos não implica a capacidade de “criar”, pelo menos nesse sentido de inteligência situada. Criar envolve interagir com toda uma rede de sentido, constituída por lugares, histórias, tradições e comunidades. Em contraste, a IA generativa fornece apenas um atalho, ocultando todas essas ligações sob o maquinário do algoritmo e alienando o usuário delas. Essa desconexão elimina o próprio sentido e valor do resultado. O usuário olha e apenas diz: “puxa, que bacana”. E acaba por aí. O produto se torna apenas mais um item de consumo, gerado para ser observado de forma superficial e descartado na extremidade superior da tela à medida que o usuário desliza seu dedo sobre a timeline da rede social.
É por isso que soa estranho dizer que ferramentas de IA generativa abrem espaço para a criatividade. Qualquer bom artista reconhece que criatividade não significa ausência de limites, mas a capacidade de trabalhar com eles, interagindo de forma rica com várias tradições e vários contextos. Retirar essa situacionalidade apenas nos deixa com uma superfície uniforme, indiferente, “entrópica” — podemos gerar o que quisermos, mas nada que é gerado tem peso real. Muitas vezes, nós nem sequer sabemos o que queremos gerar. A experiência se resume a um simples passatempo inócuo, como plantar hortaliças em um jogo de videogame. Basta se afastar da tela para percebermos que aquilo quase nada tem a ver com a nossa vida corrente. Como diz L. M. Sacasas: “a troca que nos é oferecida é esta: no lugar de experiências ocasionais de profundidade que nos renovam e nos satisfazem, simplesmente nos é dada uma superfície infinita sobre a qual podemos sobreolhar (skim) indefinidamente”.¹²
No caso de textos gerados por ferramentas como o ChatGPT, o problema da desconexão com formas de vida fica ainda mais sério. A resposta gerada pela IA se propõe a ser genérica, não situada; uma visão a partir de lugar nenhum. Um ideal moderno de neutralidade do conhecimento que já sabemos ser fictício. Já dizer algo de valor significa dizer a partir de um certo lugar — ou, como diriam os filósofos em epistemologia das virtudes, dizer a partir de uma tradição ou comunidade epistêmica. Um “conhecimento” desvinculado dessas relações se aproxima mais de uma curiosidade irrelevante (trivia) ou informação pouco confiável (ou pouco explicável),¹³ mais próxima de um discurso de um antigo sofista grego do que algo situado na noção de sabedoria como prudência (phronesis).¹⁴
Um ideal moderno de neutralidade do conhecimento que já sabemos ser fictício. Já dizer algo de valor significa dizer a partir de um certo lugar — ou, como diriam os filósofos em epistemologia das virtudes, dizer a partir de uma tradição ou comunidade epistêmica.
Dessa forma, esses gênios da lâmpada informacionais — que não são só o ChatGPT, mas a própria internet e ferramentas de busca como o Google — parecem reforçar ainda mais essa concepção instrumental do conhecimento como uma grande “reserva permanente” (como diria Heidegger), a ser acessada e utilizada conforme nossos desejos. As pessoas se empolgam e se sentem empoderadas porque acham que agora têm acesso a tudo isso de forma fácil e “democrática”. Mas, se param para pensar, em certos momentos tudo parece mais indiferente e uniforme. A sensação é de poder tudo, mas conseguir pouco. Afinal, onde foi parar a sabedoria perdida no conhecimento, e o conhecimento perdido na informação (T. S. Eliot)?
Temos formas melhores de conceptualizar o conhecimento e a criatividade. Conhecer significa estar inserido dentro de uma tradição e comunidade epistêmica, com seus esquemas próprios de valoração que dependem de uma identidade narrativa. Falar de inteligência situada é também falar de uma epistemologia do pacto, como proposta por Esther Meek.¹⁵ Isso será crucial como um contraste a essas novas formas alienadas de “produção de conhecimento” — um conhecimento que, em vez de nos aproximar do mundo (fazendo-nos seres-no-mundo), nos isola dele, colocando-nos em um espaço cartesiano uniforme e indiferente. Reconhecermos e falarmos sobre esse caráter situado da inteligência será crucial para enxergarmos os pontos cegos dessas novas ferramentas e pensarmos em formas de colocá-la no devido lugar, antes que abandonemos aquilo que nos faz únicos como seres humanos.
|
Os conteúdos das publicações da revista digital Unus Mundus são de inteira responsabilidade de seus autores e não refletem, necessariamente, a visão da Academia ABC². |
1. Neil Postman, “The Humanism of Media Ecology”, Proceedings of the Media Ecology Association, 2000.
2. Oliver O’Donovan compara o projeto humanista clássico com a pergunta do perito da lei na parábola do Bom Samaritano: “e quem é o meu próximo?”. Ver: Oliver O’Donovan, Resurrection and Moral Order: An Outline for Evangelical Ethics, 1994. Podemos estar querendo inventar distinções, como racionalidade, criatividade etc., para nos desculparmos da tarefa de considerar o outro como nosso próximo. Isso, de fato, pode incluir animais ou mesmo entidades não biológicas. Parece estranho dizer as coisas dessa forma, mas creio ser uma direção importante para pensarmos em uma ética ambiental.
3. Cary Wolfe, What Is Posthumanism?, 2010.
4. Dmitriy A. Davydov, “The Crisis of Humanism and Emerging Post-Anthropocentric Epoch: A Personalistic View”, Changing Societies & Personalities, V. 4. N. 24 (2), 2020.
5. Vide, por exemplo, como Gijsbert van den Brink defende essa ideia nas linhas de uma teologia do pacto da tradição reformada, em Gijsbert Van den Brink, Reformed Theology and Evolutionary Theory, 2020, capítulo 5.
6. Note que reconhecer isso não exige necessariamente abandonar noções antigas como de alma ou espírito, conforme sugerem certos autores na tradição de estudos de cognição estendida. Ver: Brad Strawn; Warren Brown, Expandindo a Vida Cristã, 2021. Precisamos apenas reinterpretar essas noções como exatamente esse “algo a mais” que decorre de nossa situacionalidade. Creio que isso não descarta, mas, pelo contrário, apenas especifica melhor o que os antigos falavam quando se referiam a alma racional. O Espírito que sopra uma alma vivente em nós também nos coloca em uma relação pactual e histórica com Deus.
7. Isso também garante a irredutibilidade do aspecto biológico da realidade ao aspecto físico, como argumento em: Fernando Pasquini Santos, “Mechanization and the Irreducibility of the Biotic Aspect: A Dooyeweerdian View of Bioengineering”, Philosophia Reformata 86 (2), 2021.
8. Hubert L. Dreyfus, What Computers Still Can’t Do: A Critique of Artificial Reason, 1992.
9. Harry Collins; Martin Kusch, A forma das ações: o que seres humanos e máquinas podem fazer, 2010.
10. Acredito ser esse também o argumento de Alasdair MacIntyre. Ver: Alasdair MacIntyre, Justiça de Quem? Qual Racionalidade?, 1991.
11. Willem H. Vanderburg, Our War on Ourselves: Rethinking Science, Technology, and Economic Growth, 2011.
12. L M. Sacasas, Lonely Surfaces: On AI-Generated Images, 2022.
13. Não há dúvida de que essa concepção epistemológica e sua concretização nas tecnologias de informação contribuíram com nossos problemas atuais de pós-verdade e fake news.
14. Renato de Faria, “ChatGPT, Sofistas E a Burrice de Cada Dia.” Estado de Minas, 2023. Acesse o texto clicando aqui.
15. Esther Lightcap Meek, Loving to Know: Covenant Epistemology, 2011.
Outros artigos
Revista Unus Mundus Copyright © 2023
Academia Brasileira de Cristãos na Ciência.
Todos os direitos reservados.
Junte-se à comunidade da revista Unus Mundus!
