O que oprime e pode exterminar seres humanos são outros seres humanos
“Agentes de IA não ‘querem’ nada. Eles apenas executam comportamentos compatíveis com aquilo que foram treinados ou programados para fazer.” O problema está na definição do que devem fazer, que é uma decisão humana e pode ser muito perversa.
Na sua monumental obra sobre O conceito de tecnologia, concluída em 1973 mas apenas publicada em 2005, o filósofo Álvaro Vieira Pinto assinala o traço “monotonamente repetido” que marca o comportamento humano diante de inovações que abalam o mundo tal como o conhecemos e conduzem a incertezas que levam a reações contraditórias, ora apocalípticas, ora eufóricas. Alerta para a recorrente manobra de inversão ideológica que apresenta os aparelhos tecnológicos como agentes transformadores e, na esteira de Marx, argumenta que o que ocorre é o contrário: são as relações sociais que projetam esses aparelhos, através dos quais os humanos podem construir a sua liberdade ou impor a dominação, a exploração e a opressão a outros humanos. O capitalismo opera nessa permanente contradição, ao estimular as forças produtivas capazes de libertar o ser humano do reino da necessidade, ao mesmo tempo que lhe tolhe essa possibilidade ao conformá-lo a um sistema explorador.
Vieira Pinto escreveu no auge da excitação provocada pela cibernética, quando proliferaram predições sobre a disseminação do uso dos computadores, que nos transformariam em robôs e exterminariam a “essência humana” ou, pelo contrário, inaugurariam um novo e promissor tempo de libertação para a humanidade. Escreveu em contracorrente, demonstrando que a oposição homem x máquina não fazia sentido porque não há técnica ou tecnologia que não derive do engenho humano.
No entanto, continua a prevalecer o traço “monotonamente repetido”, agora diante do avassalador desenvolvimento da chamada inteligência artificial generativa, que volta a acionar velhos fantasmas. O acontecimento mais recente nesse sentido foi o lançamento do Moltbook, no final de janeiro, anunciado como “a rede social onde humanos não entram”. Seria o começo da materialização do temor reiteradamente cultivado desde a revolução industrial, no século XIX, e que gerou inúmeras obras de ficção científica: a subjugação dos seres humanos pelas máquinas, a criatura voltando-se contra o criador e agora, finalmente, capaz de exterminá-lo de verdade.
As redes sociais entraram em polvorosa, e muitos jornais as seguiram acriticamente, ajudando a disseminar o pânico. Outros, juntamente com alguns influenciadores críticos, procuraram esclarecer do que se tratava. No site theconversation.com/br, o investigador Alberto Sardinha publicou um artigo que desfazia o alarmismo:
“O que está sendo apresentado como algo quase futurista faz parte, na verdade, de uma linha de pesquisa bastante consolidada na ciência da computação. Ambientes em que Inteligências Artificiais interagem existem há décadas na pesquisa científica e não significam consciência, intenção ou vida social artificial. São usados, por exemplo, para estudar (e aprimorar) questões que envolvem cooperação, falhas de comunicação e coordenação entre sistemas automatizados.”
São, naturalmente, projetados por humanos. São “autônomos” apenas no sentido de que podem “selecionar qual ação executar em cada etapa, sem a intervenção direta humana”. Em suma, “agentes de IA não ‘querem’ nada. Eles apenas executam comportamentos compatíveis com aquilo que foram treinados ou programados para fazer”.
Os robôs são os instrumentos, cada vez mais sofisticados, de perversas decisões humanas.
O problema estaria, portanto, na definição do que devem fazer, que é uma decisão humana, e pode ser muito perversa.
É o que estamos vendo no uso militar da IA, seja na caça do ICE a imigrantes nos Estados Unidos e na repressão a manifestações de protesto contra essa violência, seja no massacre de Gaza, no sequestro do presidente venezuelano Nicolás Maduro ou no ataque ao Irão: a seleção de alvos através do cruzamento automatizado de dados e de classificações probabilísticas. Armas “autônomas” são programadas por humanos, não deveria haver muita dúvida quanto a isso. A recente decisão do presidente Trump de banir a Anthropic por sua recusa em permitir que seu modelo de IA fosse utilizado nesse tipo de artefatos e ações letais sem supervisão humana indica uma escalada da atual política de extermínio conduzida pelo governo norte-americano em aliança com Israel. Os robôs são os instrumentos, cada vez mais sofisticados, de perversas decisões humanas.