Menu
Estamos na era das Inteligências Artificiais. A conexão com esse tipo de sistema cresce a cada dia à nossa volta: internet das coisas, cidades inteligentes, aparelhos eletrônicos diversos etc., tudo parece convergir para a onipresença das IAs. A explosão popular que o lançamento do ChatGPT causou em novembro de 2022 só trouxe à tona o topo do imenso iceberg que é o desenvolvimento desse campo e suas aplicações no cotidiano. Apesar de ferramentas de linguagens generativas (chatbots) já terem sido criadas anteriormente, as capacidades e possibilidades do ChatGPT, aliadas à aceitação dos usuários, fizeram com que a concorrência acordasse e acelerasse o lançamento de suas próprias ferramentas. E um empresário como Elon Musk, envolvido há muito tempo no ramo, não poderia ficar de fora. Musk foi cofundador da OpenIA em 2015, empresa que viria a criar o ChatGPT, mas ele acabou rompendo com a empresa antes disso, em 2018. Mais tarde, em 2023, anunciou seu próprio chatbot e o batizou de Grok.
Este artigo não tratará da história, mas sim da mentalidade/filosofia por trás desses desenvolvimentos, especificamente da Grok. Qual a concepção de natureza humana que permeia a criação e manutenção de IAs? Partindo da filosofia da tecnologia, apresentamos o envolvimento de Musk como um estudo de caso, como uma janela favorável que nos ajuda a perceber as concepções atuais na formulação de novas tecnologias. E se toda tecnologia carrega uma concepção específica de boa vida, qual é o conceito incutido na nova criação de Musk? O próprio nome Grok nos diz muitas coisas sobre suas intenções. Ao final deste breve texto, teremos condições para começar a pensar sobre os riscos inerentes a essa tecnologia e refletir acerca do desenvolvimento das atuais tecnologias.
Musk parece ter uma preocupação ética com relação à IA, pois diversas vezes argumentou publicamente que a raça humana poderia ser extinta se não houvesse uma regulação dos sistemas de inteligência artificial. Segundo ele, as máquinas poderiam ficar mais inteligentes que os humanos e torná-los desnecessários. Em março de 2023, ele coassinou uma carta clamando por uma “Pausa nos gigantes experimentos com IA”, porque poderiam trazer um risco para a humanidade.¹ Deve-se mencionar de passagem que vários signatários desta carta são pensadores transumanistas, tais como Yuval Noah Harari e Max Tegmark, além de citar o livro Superinteligência, de Nick Bostrom, um dos grandes defensores desse movimento.
Ainda que tenha apoiado tal iniciativa, Musk logo retoma seu lugar na corrida pelo santo graal da inteligência artificial. Retoma porque já vinha há algum tempo investindo no ramo. Pelo menos desde 2014, Musk, que já tinha estabelecido a Tesla Motors, a SpaceX, entre muitas outras empresas, entrava de cabeça no ramo da computação. Seu objetivo desde o início era pensar sistemas alinhados com os objetivos e valores humanos. Assim, para chegar à inteligência artificial que pensasse como humanos, ele começou a agir em duas linhas: a) em 2017, ele cria a Neuralink com a intenção de conectar cérebros humanos à computadores por meio de um chip e; b) compra o Twitter em 2022, para obter uma imensidão de dados necessários para treinamento dos robôs.² Para consolidar sua ideia de um chatbot que competisse com a OpenAI e a Google (que lançou o Bard), fundou uma nova empresa, a xAI. Em inícios de novembro de 2023, essa empresa lançou o seu próprio chatbot, o Grok.
Uma das metas colocadas por Musk à equipe era que a “IA se desenvolvesse de modo que ajudasse a garantir que a consciência humana perdurasse”.³ Segundo sua postagem no X (antigo Twitter) no dia do lançamento, o empresário afirmou que a “Grok tem acesso em tempo real às informações através da plataforma X, o que é uma enorme vantagem sobre outros modelos. Também é ‘cracudo’ e adora sarcasmo”.⁴ Foi “modelada a partir do Guia do Mochileiro das Galáxias, com o objetivo de responder a quase tudo e, muito mais difícil, até mesmo sugerir quais perguntas fazer!”.⁵ Parece inocente e infantil, mas não é. A história fica mais complexa quando aprofundamos o significado do nome escolhido para sua ferramenta e que aponta para a sua concepção de natureza humana.
Grok é um termo conhecido dentro do universo nerd e da computação. O neologismo foi cunhado pelo escritor de ficção científica Robert Anson Heinlein em sua premiada obra Um estranho numa terra estranha, de 1961. A história foca em um humano criado por marcianos, que possui poderes místicos e que retorna à Terra. O marciano utiliza diversas vezes a palavra grok, que significa “entender tão completamente que o observador se torna parte do observado; fundir-se, misturar-se, casar-se, perder a identidade numa experiência de grupo.”⁶ Quer dizer, compreender com empatia e ter uma profunda conexão.
O marciano utiliza diversas vezes a palavra grok, que significa “entender tão completamente que o observador se torna parte do observado; fundir-se, misturar-se, casar-se, perder a identidade numa experiência de grupo.”
No ensaio anexo ao livro, Ugo Bellagamba e Eric Picholle ressaltaram as questões religiosas no livro, especialmente o gnosticismo. Em sua crítica à religião, Heinlein encheu sua obra de referências ao gnosticismo. A própria palavra Grok faria referência a isso, tanto semanticamente, quanto na forma de ser um conhecimento aprofundado.⁷ Mas essa seita originalmente também tinha outros impactos profundos, para além da busca do conhecimento.
O gnosticismo negava o corpo físico e a matéria, compreendendo-os como algo ruim, enfatizando, assim, o lado espiritual/mental. Ao longo dos séculos, essa seita perdurou, e até mesmo existiram braços heréticos dentro do cristianismo.⁸ De maneira curiosa, essa antiga concepção reaparece na atualidade.
Hermínio Martins, em Experimentum Humanun, argumentou que a desencarnação é um tema central em todas as “ciberteologias” atuais, isto é, a busca por se livrar do corpo com auxílio da tecnologia. Sem surpresas, justamente o termo desencarnar aparece diversas vezes na ficção de Heinlein.⁹ Para os transumanistas, estaremos melhor sem os limites dos nossos corpos. E isso está presente na cultura pop como em Ghost in the Shell (mangá, anime e filme), Carbono Alterado (série) e nos filmes Robocop, Matrix e Transcendência, para ficar em apenas alguns exemplos.
Assim, Martins vai denominar esses movimentos de gnosticismos tecnológicos, qual seja a negação da matéria como algo ruim e que precisa ser expurgada pela tecnologia.¹⁰ Para Eric Voegelin, na modernidade ocorreu uma secularização do gnosticismo, buscando limpar as arestas religiosas desse movimento, mas mantendo suas bases.¹¹ Assim também é no transumanismo, que contém semelhanças com essa visão: o corpo é um grande inimigo, tratando-se apenas de um invólucro para a mente. Ambos os movimentos negam o mundo físico em prol do lado espiritual e mental do ser humano, e também negam a morte. O corpo humano seria, então, uma prisão que deveria ser descartada por algo maior.¹²
Thomas Fuchs, na impressionante obra In defense of the human being, trata o transumanismo como um neognosticismo. Para ele,
por detrás das visões transumanistas existe uma concepção reducionista e também dualista do ser humano: o fantasma da fusão da mente e da tecnologia é uma expressão de um profundo desrespeito, e mesmo de desprezo, pela vida e pelo corpo vivo. Libertar o espírito do corpo material é a salvação que os tecnoutópicos de hoje nos oferecem.¹³
A liberação no mundo transumanista de hoje seria viver conectado no mundo cibernético e, em última instância, baixar a mente para um computador. É o objetivo por trás das redes sociais, do Metaverso e agora da Grok de Musk. Segundo David Noble, falando sobre a religião da tecnologia
A Inteligência Artificial faz uma defesa muito eloquente das possibilidades da imortalidade e da ressurreição baseada em máquinas, e seus discípulos, os arquitetos da realidade virtual e do ciberespaço, estão exultantes ante suas expectativas de uma onipresença de caráter divino e de perfeição incorpórea. [...] Todos esses pioneiros tecnológicos abrigam crenças profundamente assentadas que são variações de temas religiosos que nos são familiares.¹⁴
A IA Grok não pretende sozinha trazer o transumanismo, mas é um passo nessa direção. Primeiramente, o chatbot estará conectado ao X, servindo como um assistente, com o objetivo de melhorar a comunicação na rede. Alguns leitores mais atentos já perceberam uma mudança de tom nos debates online em redes que se utilizam de inteligência artificial. Muitos usuários estão empregando essas ferramentas para conseguir se expressar e debater melhor, mas o que acontece são muitos ruídos de comunicação, porque não há verdadeira comunicação. Antes, há somente a busca por estar certo, e não aprender a ouvir, refletir e produzir um entendimento. Respostas que utilizam essas ferramentas são artificiais e não contextualizadas, e a qualidade da conversa diminui, tornando debates mecanizados. No X, que já é uma rede na qual muitas vezes impera a falta de tato e empatia, uma tecnologia como a Grok só vai piorar a situação.
Ao contrário do que pressupunha o termo, as pessoas não vão mais “grokar” (se compreender): elas correm o risco de não conseguir nem mais se comunicar de maneira correta ao depender excessivamente desse tipo de ferramenta, que tem se proliferado no mundo cibernético. Assim, a Grok abrange uma visão reducionista da comunicação humana, uma vez que seus pressupostos se baseiam em limitar o argumento humano à forma de pensar da máquina. Vamos nos formatando cada vez mais à percepção da máquina, passando a nos comunicar como robôs. Como já mencionei em artigo anterior — que pode ser acessado aqui —, a comunicação humana é corporificada: “O corpo é essencial para a apreensão humana do mundo e para a comunicação, uma vez que é por meio de expressões corporais que boa parte da comunicação é feita”.¹⁵ Isso não impede que nos comuniquemos bem nas redes sociais, mas tecnologias como a Grok vão nos tornando cada vez mais ineptos para nos comunicarmos nas redes e fora dela. Quem conseguirá se expressar sem recorrer à uma IA no futuro? A própria comunicação no mundo real está em risco pela ênfase no discurso unicamente virtual e reduzido.
Ao contrário do que pressupunha o termo, as pessoas não vão mais “grokar” (se compreender): elas correm o risco de não conseguir nem mais se comunicar de maneira correta ao depender excessivamente desse tipo de ferramenta, que tem se proliferado no mundo cibernético.
Como afirmou Luciano Floridi em artigo recente, grandes modelos de linguagem (LLMs, na sigla em inglês) baseados em inteligência artificial, não pensam, raciocinam ou compreendem; não têm nada a ver com processos cognitivos presentes em seres humanos. O que eles fazem é, estatisticamente, trabalhar na estrutura formal de um texto. Já os seres humanos interpretam o significado de um texto semanticamente.¹⁶
A busca dos criadores dessas ferramentas não é melhorar o mundo, mas sim buscar o controle e moldagem da natureza humana a partir de uma concepção reducionista e transumanista. E, como Floridi diz parafraseando 1984, de George Orwell, “quem controla as perguntas, controla as respostas; e quem controla as respostas, controla a realidade”.¹⁷ O poder que os empresários da era da informação atualmente têm é impressionante, e sua cosmovisão tem a capacidade de abolir o ser humano ao propor tecnologias que moldam a natureza humana para que fiquem mais parecidas com as máquinas. É uma inversão do temor que se tem com as IAs: em vez de as máquinas se equiparem à inteligência humana, somos nós que estamos sendo rebaixados às máquinas. Mark Coeckelbergh chama a IA de a “máquina de alienação”, que “nega nossa existência vulnerável, corporal, terrena e dependente”.¹⁸
“quem controla as perguntas, controla as respostas; e quem controla as respostas, controla a realidade”.
Assim, é necessário pensar acerca desses desenvolvimentos de maneira ética e sem sensacionalismo. Deve-se pensar na responsabilidade de desenvolvedores e fornecedores de IA, bem como em legislações em nível nacional e internacional, com “órgãos especializados (de consulta) que antecipem os riscos de uma forma multidisciplinar e multissetorial”.¹⁹ Também cabe aos usuários terem a noção da filosofia por trás dessas inovações, que nem de longe são neutras. Como vimos, elas possuem uma concepção específica do que seria uma boa vida, porém, trata-se de uma concepção ancorada em uma visão reducionista e perigosa da natureza humana.
Os conteúdos das publicações da revista digital Unus Mundus são de inteira responsabilidade de seus autores e não refletem, necessariamente, a visão da Academia ABC². |
1. Yoshua Bengio et al., “Pause Giant AI Experiments: an Open Letter”, Future of Life Institute, 2023. Clique aqui para acessar.
2. Walter Isaacson, Elon Musk, 2023, cap. 40.
3. Ibidem, cap. 94.
4. Elon Musk, “Grok has real-time access to info via the X platform, which is a massive advantage over other models. It’s also based & loves sarcasm”, X, antigo twitter: @elonmusk, 4 de novembro de 2023.
5. xAI Grok, “Announcing Grok!”, X, antigo twitter: @xai, 5 de novembro de 2023.
6. Robert A. Heinlein, Estranho numa terra estranha, 2016, cap. XXI.
7. Ugo Bellagamba e Eric Picholle, “O herético”, In Estranho numa terra estranha, 2016.
8. Hans Jonas, The gnostic religion: the message of the alien God and the beginnings of Christianity, 1958.
9. Desencarnar ou desencarnação aparecem 56 vezes na versão em português.
10. Hermínio Martins, Experimentum humanum: civilização tecnológica e condição humana, 2012, p. 154.
11. Eric Voegelin, A nova ciência da política, 1982, cap.: Gnosticismo, a natureza da modernidade.
12. Jeffrey C. Pugh, “The Disappearing Human: Gnostic Dreams in a Transhumanist World”, Religions, n. 8, 2017, p. 81.
13. Thomas Fuchs, In defense of the human being: foundational questions of an embodied anthropology, 2021, p. 75.
14. David F. Noble, La religión de la tecnologia, 1999, p. 17.
15. Luiz Adriano Borges, “Por uma visão comunitária e corporificada dos debates em uma era hiperconectada”, Unus Mundus, Belo Horizonte, v. 1, n. 1, mar-jun, 2023. Clique aqui para acessar.
16. Luciano Floridi, “AI as Agency Without Intelligence: on ChatGPT, Large Language Models, and Other Generative Models”, Philos. Technol., v. 36, n. 15, 2023, p. 1-2. Clique aqui para acessar.
17. Ibidem, p. 5.
18. Mark Coechelbergh, AI ethics, 2020, p. 196.
19. Nathalie Smuha et al., Open Letter: We are not ready for manipulative AI – urgent need for action, 2023. Clique aqui para acessar.
Outros artigos [n. 2]
Revista Unus Mundus Copyright © 2023
Academia Brasileira de Cristãos na Ciência.
Todos os direitos reservados.
Junte-se à comunidade da revista Unus Mundus!
