O deserto pós-humano

Por Slavoj Žižek, via Project Syndicate, traduzido por Maria Eugênya Pacioni, 

Ao contrário das inovações tecnológicas anteriores, a inteligência artificial não é sobre o domínio da humanidade sobre a natureza, mas sim sobre a renúncia total ao controle. Quer percebamos ou não, a velha arrogância antropocêntrica que a tecnologia permite pode em breve dar lugar à irrelevância e falta de sentido do humano.

LJUBLJANA – A carta aberta do “The Future of Life Institute” exigindo de uma pausa preventiva de seis meses no desenvolvimento da inteligência artificial já foi assinada por milhares de personalidades importantes, incluindo Elon Musk. Os signatários temem que os laboratórios de IA estejam “agarrados a uma corrida fora de controle” para desenvolver e implantar sistemas cada vez mais poderosos que ninguém – incluindo seus criadores – pode entender, prever ou controlar.

O que explica essa explosão de pânico entre um certo grupo de elites? Controle e regulação estão obviamente no centro da história, mas de quem? Durante a pausa de meio ano proposta, quando a humanidade poderá fazer um balanço dos riscos, quem defenderá a humanidade? Como os laboratórios de IA na China, Índia e Rússia continuarão seu trabalho (talvez em segredo), um debate público global sobre a questão é inconcebível.

Ainda assim devemos considerar o que está em jogo aqui. Em seu livro de 2015, Homo Deus [1], o historiador Yuval Harari previu que a consequência mais provável da IA ​​seria uma divisão radical – muito mais forte do que a divisão de classes – dentro da sociedade. Em breve, a biotecnologia e os algoritmos de computador unirão seus poderes para produzir “corpos, cérebros e mentes”, resultando em uma lacuna cada vez maior “entre aqueles que sabem como construir corpos e cérebros e aqueles que não sabem”. Em tal mundo, “aqueles que embarcarem no trem do progresso adquirirão habilidades divinas de criação e destruição, enquanto os que ficarem para trás enfrentarão a extinção”.

O pânico refletido na carta [do Instituto] da AI decorre do medo de que mesmo aqueles que estão no “trem do progresso” não conseguirão conduzi-lo. Nossos atuais mestres feudais digitais estão com medo. O que eles querem, no entanto, não é um debate público, mas sim um acordo entre governos e empresas de tecnologia para manter o poder onde ele pertence.

Uma expansão maciça das capacidades de IA é uma séria ameaça para aqueles que estão no poder – incluindo aqueles que desenvolvem, possuem e controlam a IA. Ele aponta para nada menos do que o fim do capitalismo como o conhecemos, manifestado na perspectiva de um sistema de IA auto-reprodutor que precisará cada vez menos de agentes humanos (as negociações de mercado por algoritmos é apenas o primeiro passo nessa direção). A escolha que nos resta será entre uma nova forma de comunismo e o caos incontrolável.

Os novos chatbots oferecerão a muitas pessoas solitárias (ou não tão solitárias) noites intermináveis ​​de amigáveis diálogos sobre filmes, livros, culinária ou política. Para reutilizar uma velha metáfora minha, o que as pessoas vão conseguir é a versão IA do café descafeinado ou do refrigerante sem açúcar: um vizinho amigável sem esqueletos no armário, um Outro que simplesmente se acomodará às suas necessidades. Há uma estrutura de negação fetichista aqui: “Eu sei muito bem que não estou falando com uma pessoa real, mas parece que estou – e sem nenhum dos riscos que a acompanham!”

De qualquer forma, um exame atento à carta [do Instituto] da IA mostra que é mais uma tentativa de impedir o impossível. Este é um velho paradoxo: é impossível para nós, como humanos, participar de um futuro pós-humano, então devemos impedir seu desenvolvimento. Para nos orientar em torno dessas tecnologias, devemos fazer a velha pergunta de Lenin: Liberdade para quem fazer o quê? Em que sentido éramos livres antes? Já não éramos controlados muito mais do que pensávamos? Em vez de reclamar sobre a ameaça à nossa liberdade e dignidade no futuro, talvez devêssemos primeiro considerar o que a liberdade significa agora. Enquanto não fizermos isso, agiremos como histéricos que, segundo o psicanalista francês Jacques Lacan, estão desesperados por um mestre [2], mas apenas um que possamos dominar.

O futurista Ray Kurzweil prevê [3] que, devido à natureza exponencial do progresso tecnológico, em breve estaremos lidando com máquinas “espirituais” que não apenas exibirão todos os sinais de autoconsciência, mas também superarão em muito a inteligência humana. Mas não se deve confundir essa postura “pós-humana” com a preocupação paradigmaticamente moderna em alcançar o domínio tecnológico total sobre a natureza. O que estamos testemunhando, pelo contrário, é uma reversão dialética desse processo.

As ciências “pós-humanas” de hoje não são mais sobre dominação. O credo deles é surpreendente: que tipo de propriedades contingentes e não planejadas emergentes os modelos de IA de “caixa preta” podem adquirir para si mesmos? Ninguém sabe, e é aí que está a emoção – ou, na verdade, a banalidade – de todo o empreendimento.

Assim, no início deste século, o filósofo-engenheiro francês Jean-Pierre Dupuy discerniu [4] na nova robótica, genética, nanotecnologia, vida artificial e IA, uma estranha inversão da tradicional arrogância antropocêntrica que a tecnologia permite:

“Como explicar que a ciência se tornou uma atividade tão ‘arriscada’ que, segundo alguns cientistas de ponta, representa hoje a principal ameaça à sobrevivência da humanidade? Alguns filósofos respondem a esta pergunta dizendo que o sonho de Descartes – “tornar-se mestre e possuidor da natureza” – deu errado, e que devemos retornar urgentemente ao “domínio do domínio”. Eles não entenderam nada. Eles não veem que a tecnologia que se perfila em nosso horizonte através da “convergência” de todas as disciplinas visa precisamente o não domínio. O engenheiro de amanhã não será um aprendiz de feiticeiro por negligência ou ignorância, mas por opção.”

A humanidade está criando seu próprio deus ou demônio. Embora o resultado não possa ser previsto, uma coisa é certa. Se algo parecido com a “pós-humanidade” emergir como um fato coletivo, nossa visão de mundo perderá todos os seus três definidores e sobrepostos sujeitos: humanidade, natureza e divindade. Nossa identidade como humanos só pode existir contra o pano de fundo de natureza impenetrável, mas se a vida se tornar algo que pode ser totalmente manipulado pela tecnologia, ela perderá seu caráter “natural”. Uma existência totalmente controlada é desprovida de significado, para não mencionar de acaso e de surpresa.

O mesmo, é claro, vale para qualquer sentido do divino. A experiência humana de “deus” tem significado apenas do ponto de vista da finitude humana e mortalidade. Uma vez que nos tornarmos homo deus e criarmos propriedades que pareçam “sobrenaturais” do nosso antigo ponto de vista humano, os “deuses” como os conhecíamos desaparecerão. A questão é o que restará, se é que restará alguma coisa. Vamos cultuar as IAs que criamos?

Há todos os motivos para se preocupar que as visões tecno-gnósticas de um mundo pós-humano sejam fantasias ideológicas ofuscando o abismo que nos espera. Desnecessário dizer que seria preciso de mais que uma pausa de seis meses para garantir que os humanos não se tornassem irrelevantes e suas vidas sem sentido em um futuro não muito distante.

Notas

^{[1] https://www.ynharari.com/book/homo-deus/}

^{[2] https://books.google.com.br/books/about/L_Envers_de_la_psychanalyse.html?id=cytseTw6naoC&redir_esc=y}

^{[3] https://www.penguinrandomhouse.com/books/331142/the-age-of-spiritual-machines-by-ray-kurzweil/}

^{[4] https://www.cairn.info/revue-humanisme-2009-2-page-104.htm}