A busca de controle e poder nas origens da era da informação
Após o fim da Segunda Guerra Mundial e com os impulsos das ideias de Alan Turing, a corrida pela construção de máquinas capazes de processar informação foi acelerada. Dentre as diversas vertentes teóricas que iam surgindo, um grupo se destacou: os que atuavam em torno da cibernética. Este grupo determinou os rumos da computação, e seus conceitos influenciaram a era da informação em que vivemos. Examinar essas origens e seus ideais, ainda que de maneira introdutória, nos ajuda a compreender seus impactos na forma como a internet e as redes sociais são constituídas hoje. O que sempre esteve subjacente é uma busca por controle e poder sobre a comunicação. O problema é que esses elementos estiveram apoiados em concepções, por diversas vezes, pobres e reducionistas da natureza humana. Se queremos um florescimento mais amplo da comunicação humana nesta era hiperconectada é necessário compreender essas bases para pensar mudanças. Este texto trata de esboçar a gênese e a expansão da era da informação a partir do caso da cibernética. Este caso é emblemático porque estabeleceu alguns pilares para o desenvolvimento da informática nos anos posteriores.
Origens e influências
A segunda metade da década de 1940 viu uma aceleração na busca por máquinas “inteligentes”. Porém, o termo “inteligência artificial” só viria a aparecer, de maneira sensacionalista, em 1956, para denominar o que até então era chamado simulação computacional.¹ A cibernética foi um movimento batizado em 1948 pelo matemático Norbert Wiener, para o “estudo do controle e da comunicação no animal e na máquina”.² Assim, a cibernética deu forma aos fundamentos de uma “teoria da informação aplicável tanto aos organismos vivos e às máquinas quanto à organização social.”³
No âmago da cibernética estava a noção de que a informação é fonte de poder e pode servir para o controle da sociedade. A própria significação de seu nome aponta para isso, pois o termo vem do grego kubernetikos que significa “a pilotagem de um navio, a arte do timoneiro; e, em sentido derivado, a arte de governar os seres humanos”.⁴ O objetivo de Wiener, portanto, era apresentar uma ciência do funcionamento da mente, buscando compreender as leis gerais da comunicação, para depois aplicar em máquinas, tendo por objetivo o controle. A cibernética acabou sendo definida como “o estudo teórico dos processos de comunicação e controle em sistemas biológicos, mecânicos e eletrônicos, especialmente a comparação desses processos em sistemas biológicos e artificiais”.⁵
A cibernética acabou sendo definida como “o estudo teórico dos processos de comunicação e controle em sistemas biológicos, mecânicos e eletrônicos, especialmente a comparação desses processos em sistemas biológicos e artificiais”.
Wiener foi influenciado pelo psicólogo comportamental Burrhus Frederic Skinner, com quem inclusive trabalhou em um projeto de uma máquina de predição de trajetória antiaérea. Skinner procurava compreender o comportamento humano e objetivava encontrar meios de condicioná-lo. Na época de seu encontro com o matemático, Skinner já tinha feitos vários estudos sobre o condicionamento e suas ideias sobre possibilidades futuras, que ficam aparentes no posterior romance utópico (ou talvez seria melhor dizer distópico) Walden II, lançado em 1948, no mesmo ano em que Wiener cunhou o termo cibernética. Neste romance, Skinner narra a história de uma comunidade utópica que funciona a partir dos princípios do condicionamento do comportamento. O objetivo era produzir uma sociedade cujos habitantes se comportassem de maneira que possibilitasse a sobrevivência e a sustentabilidade da cultura humana.⁶ De acordo com essa visão, a ciência e a tecnologia seriam meios de tornar o futuro viável, e o comportamento humano deveria ser moldado para tal fim. De maneira irônica, o título da ficção faz referência à obra de Henry David Thoureau, “Walden”, de 1854, que era uma proposta de vida calcada na liberdade humana, livre de excessos tecnológicos, ao contrário da visão de Skinner.
A teoria da aprendizagem de Skinner dizia que uma pessoa é primeiro exposta a um estímulo, que provoca uma resposta, e a resposta é então reforçada (seguindo o padrão estímulo-resposta-reforço). Isto, em última análise, é o que condicionaria o comportamento humano e, portanto, torna possível uma “tecnologia do comportamento”. Seu livro The Technology of Teaching, de 1968, pretendia aplicar seus pensamentos para o melhoramento da educação e fala inclusive de uma máquina de ensino.⁷
Em 1942, Wiener escreveu para seu amigo John Burdon Sanderson Haldane (geneticista, que foi importante na fundação do movimento transumanista inglês) elogiando a escola comportamentalista de Skinner.⁸
Assim, compreender e controlar o comportamento estavam na base da concepção da cibernética.⁹ Comportamento se traduzia em inteligência, e portanto a plena compreensão do comportamento poderia ajudar a produzir máquinas inteligentes. Esse era o projeto da cibernética. Em seus inícios, o grupo em torno da cibernética era composto de antropólogos, filósofos, psicólogos, além de engenheiros e matemáticos, apontando, de um lado, a interdisciplinaridade do campo e, de outro, o esforço de compreensão da inteligência humana.¹⁰
Mas houve também uma outra grande influência nos fundadores da moderna ciência da computação, que sinalizou o teor transumanista da cibernética: o padre jesuíta e paleontólogo Pierre Teilhard de Chardin. Antes mesmo da possibilidade técnica de construção de um computador, já se teorizava sobre a possibilidade de uma forma de conexão entre as pessoas num mundo cibernético. Teilhard de Chardin, nos anos 1920, apontou a necessidade de se acabar com o isolamento comunicacional humano, e profetizou uma nova era de consciência interconectada; uma evolução que denominou de noosfera. Para ele, o universo, por um processo de complexificação e de ordenação, chegaria à noosfera, um ponto alto de consciência, em uma espécie de cérebro tecnológico mundial; o próximo passo seria o “ponto Ômega, em que as mentes estariam interligadas através dos avanços da tecnologia”.¹¹
Com seus ideais transumanistas de superação das limitações humanas através da ciência e da tecnologia, Teilhard de Chardin foi muito influente entre os teóricos das redes de meados do século 20, e até pensadores atuais como Pierre Lévy e Raymond Kurzweil. Para muitos, ele é o profeta da cibernética.
A mentalidade transumanista e pós-humana presente na nascente disciplina da cibernética foi investigada por Nancy Katherine Hayles em How We Became Posthuman. A autora argumentou que a cibernética passou a pensar em compensar deficiências até propor intervenções para melhorar o funcionamento normal.¹²
Já em The Nature of the Machine and the Collapse of Cybernetics o filósofo Alcibiades Malapi-Nelson analisou como o projeto da cibernética implica em consequências ontológicas e epistemológicas na forma de tratar seres humanos, uma vez que em seu âmago está uma concepção transumanista. Isso se fortaleceu nos anos que se seguiram ao desenvolvimento tecnológico, com o auxílio da convergência entre nanotecnologia, biotecnologia, tecnologia da informação e ciência cognitiva (NBIC, na sigla em inglês). Wiener, que mantinha contato com os precursores do movimento transumanista ingleses desde a década de 1940, assim como seus seguidores, enxergaram na busca transumanista a base para a “cosmovisão” da cibernética. De fato, pensadores dos dois movimentos convergiram para se apoiarem mutuamente na exploração do que consideravam ser os próximos passos da evolução humana: um processo mediado pela máquina.¹³
o projeto da cibernética implica em consequências ontológicas e epistemológicas na forma de tratar seres humanos, uma vez que em seu âmago está uma concepção transumanista.
Perigos potenciais
Mais tarde, Wiener, em surtos de consciência, temeu que máquinas oriundas da cibernética pudessem se tornar uma ameaça à autonomia individual e apontou os problemas éticos de seu projeto. Para ele, o verdadeiro perigo das máquinas autônomas seria o de “poderem ser usadas por um ser humano ou por um grupo de seres humanos para aumentar seu domínio sobre o restante da raça humana”.¹⁴ A ambiguidade com relação à liberdade do ser humano enquanto se constroem máquinas controladoras permanece até hoje. Pensadores já naquela época perceberam isso e criticaram o projeto cibernético.
O professor de literatura C. S. Lewis foi um deles. Ele concebeu A Abolição do Homem em parte como uma crítica à cibernética e à mentalidade que vinha introjetada neste projeto. Este ensaio, apesar de ainda continuar sendo bastante influente, muitas vezes não é plenamente considerado em seu contexto. Lewis atacava diretamente, de uma só vez, o pensamento cibernético, a psicologia comportamental e o transumanismo. A dificuldade em perceber isso reside no fato de que esses movimentos ainda estavam em formação, sendo necessário um esforço de interpretação. Mas os argumentos são claros. Lewis falava que “o que chamamos de poder do Homem sobre a Natureza revela-se como o poder exercido por algumas pessoas sobre as outras, tendo a Natureza por seu instrumento.”¹⁵ O que ele estava afirmando aqui é justamente a busca por controle através da ciência e da tecnologia. E esse controle sobre a natureza (e também natureza humana) era um projeto de algumas poucas pessoas conduzindo o processo; todos os outros seriam somente objetos. Mas esse projeto, além de ser totalitário (mesmo que em nome da ciência e da tecnologia), também acabaria trazendo o fim da natureza humana.
O último estágio virá quando, mediante a eugenia, a manipulação pré-natal e uma educação e propaganda baseadas numa perfeita psicologia aplicada, o Homem alcançar um completo domínio sobre si mesmo. A natureza humana será a última parte da Natureza a se render ante o Homem. (...). A batalha estará definitivamente vencida. Mas a pergunta é: quem exatamente a terá vencido?¹⁶
Lewis falava que “o que chamamos de poder do Homem sobre a Natureza revela-se como o poder exercido por algumas pessoas sobre as outras, tendo a Natureza por seu instrumento.”
Talvez hoje não vejamos esse ataque de forma tão voraz, mas os métodos transumanistas sobrevivem em modulações comportamentais e corporais. Para Lewis, a busca pelo controle de toda a natureza acabaria involuntariamente causando a abolição do homem, na medida em que este fosse paulatinamente perdendo sua liberdade e os elementos que definiriam sua natureza. Sem liberdade de escolhas, com a modulação do pensamento e de comportamento, o ser humano passaria a ser somente um artefato nas mãos dos manipuladores, destituído de humanidade.
Assim, para o Lewis, era importante refazer novamente a milenar pergunta: “e quem controla os controladores?” Se não examinarmos criticamente o pano de fundo dos desenvolvimentos tecnológicos e quais as visões de mundo que governam aqueles que estão à frente das grandes inovações, seremos meros tripulantes nesse navio cibernético desgovernado, porque os supostos pilotos não sabem bem aonde querem ir. Seus projetos estão fadados ao fracasso porque possuem uma visão reducionista do que seja o ser humano.
Atualmente, Shoshana Zuboff faz coro à crítica de Lewis. Em seu impressionante livro A Era do Capitalismo de Vigilância, várias vezes é evocado Skinner e sua (equivocada) aplicabilidade no mundo cibernético. Para a autora, esse tipo de pensamento é perigoso porque pode levar a uma era de totalitarismo, que parece estar mais próximo nos dias atuais. Segundo ela, os elementos negativos da cibernética rondam o atual desenvolvimento da internet, já que existem diversos experimentos para remodelar a humanidade.¹⁷ Em suas palavras “a nova civilização da informação moldada pelo capitalismo de vigilância e seu novo poder instrumentário irá prosperar à custa da natureza humana e ameaçará custar-nos a nossa humanidade”.¹⁸
As redes sociais e a internet, alimentadas pelos algoritmos, são arquitetadas objetivando compreender a comunicação humana e moldar o comportamento; são herdeiras intelectuais da cibernética e carregam em seu bojo os mesmos anseios. Assim, para que haja um futuro bom para as tecnologias de informação e comunicação é preciso abandonar suas raízes transumanistas, de limitação do ser humano pensando enquanto conjunto de dados, para uma visão integral de humanidade, que envolva corpo, alma e espírito. É possível?
As redes sociais e a internet, alimentadas pelos algoritmos, são arquitetadas objetivando compreender a comunicação humana e moldar o comportamento; são herdeiras intelectuais da cibernética e carregam em seu bojo os mesmos anseios.
Os conteúdos das publicações da revista digital Unus Mundus são de inteira responsabilidade de seus autores e não refletem, necessariamente, a visão da Academia ABC². |
1. Margaret Boden, Inteligência artificial, 2020, p. 34.
2. Ibidem, p. 28.
3. Benjamin Loveluck, Redes, liberdades e controle, 2018, p. 23.
4. Ibidem, p. 26.
5. Tijn Van der Zant; Matthijs Kouw; Lambert Schomaker, Generative artificial intelligence, 2013, p. 107.
6. Burrhus Frederic Skinner, Walden II, 1977.
7. Leslie Foster Stevenson; David L. Haberman, Dez teorias da natureza humana, 2005, p. 276-297.
8. Nobert Wiener, Letter to J. B. S. Haldane, 1942.
9. Stefano Franchi; Francisco Bianchini, The search for a theory of cognition, 2011, p. 66-71.
10. Jean-Pierre Dupuy, The mechanization of the mind, 2001.
11. Ver Pierre Teilhard de Chardin, O fenômeno humano, 2005. Veja também outro texto, clicando aqui.
12. Katherine Hayles, How We Became Posthuman, 1999, p. 84.
13. Alcibiades Malapi-Nelson, The Nature of the Machine and the Collapse of Cybernetics, 2017.
14. Norbert Wiener, Cibernética e Sociedade, 1970, p. 170.
15. C. S. Lewis, Abolição do Homem, 2017, p. 56.
16. Ibidem, p. 59.
17. Shoshana Zuboff, A era do capitalismo de vigilância, 2020, p. 409.
18. Ibidem, p. 23.
Junte-se à comunidade da revista Unus Mundus!