O dia em que a Bélgica invadiu a Alemanha
Os vencedores agora podem reescrever a história através da IA generativa. Mas qual o sentido de recorrer a uma tecnologia que falseia e deturpa?
Os múltiplos exemplos de erros, imprecisões, invenções e falsidades produzidos pelas respostas dos mecanismos de IA generativa já insinuavam um problema que agora ficou evidente: a possibilidade, e o risco, de se alterar o passado e reescrever a história.
Este é o principal alerta dos investigadores Nuno Moniz, da Universidade de Notre Dame, e Miguel Cardina, da Universidade de Coimbra, ao apresentarem, no início de maio, um relatório sobre o estudo, desenvolvido em conjunto com colegas de outros países, que buscava saber como o ChatGPT respondia a perguntas sobre quatro conflitos internacionais, entre eles a guerra colonial e os movimentos de libertação das antigas colónias portuguesas em África.
Os resultados confirmaram aquilo que estudiosos e utilizadores críticos da IA generativa já vinham constatando, independentemente da área de conhecimento: as respostas produzidas pelos robôs estão cheias de invenções, distorções, imprecisões, falsidades, omissões. A investigação escolheu lidar com o ChatGPT por ser o mais popular entre os chatbots e comprovou problemas recorrentes, como informações fabricadas – isto é, inventadas –, erros factuais básicos como a data de ocorrência de determinados eventos, narrativas históricas falsas ou distorcidas, influência da língua prevalecente no treino da máquina para a produção de resultados ideologicamente direcionados e narrativas diferentes ou mesmo contraditórias sobre os mesmos eventos, em função da língua.
As consequências são evidentes e muito graves: crianças e jovens deformados a partir de sistemas que estabelecem padrões de autoridade falsos e embaralham informações verdadeiras e fictícias, que se vão normalizando com o tempo.
Por que não o desenvolvimento de campanhas que alertem para as distorções que as interações com chatbots podem promover na formação das futuras gerações?
Diante desse quadro que, segundo os próprios investigadores, exige intervenção “urgente”, não se percebe muito bem porquê as recomendações ainda insistem na formação de grupos de estudo para avaliar as potencialidades e os riscos do uso da IA. Por que não a frontal rejeição do uso dessa tecnologia no sistema de ensino? Por que não o desenvolvimento de campanhas que alertem para as distorções que as interações com chatbots podem promover na formação das futuras gerações? Em janeiro, um grupo de professores lançou um manifesto exatamente nesses termos. Por que não investir na ampliação do alcance dessa crítica?
Não bastassem todos os argumentos bem sustentados sobre o desvirtuamento do processo educativo, que afeta a própria capacidade de pensar, valeria a pena considerar o contrassenso de se consultar uma fonte inconfiável. Qual o sentido de recorrer a esses robôs, se não podemos ter certeza das informações que nos fornecem e ainda precisamos ter o trabalho acrescido de confirmá-las?
APOIA O MAIO!
Nunca os trabalhadores precisaram tanto de uma voz independente.
Num trecho do seu relatório, os autores fazem graça com o famoso adágio segundo o qual a história é escrita pelos vencedores: agora, passaria a ser escrita “por quem produz mais dados sobre ela”. Mas bastaria perguntar quem tem capacidade de produzir mais dados para concluir que, do ponto de vista ideológico, a situação não se altera tanto assim. Por sinal, reforça a notável observação de Walter Benjamin: nem os mortos estarão a salvo se os vencedores continuarem a vencer.
Importaria ainda avançar com mais perguntas: quem produz, desenvolve e controla esses modelos de linguagem? A quem interessaria promover incerteza e finalmente concretizar a distopia orwelliana de um mundo em que a história é permanentemente reescrita, de modo que a Eurásia e a Lestásia são aliadas na guerra contra a Oceania e logo a seguir a situação se inverte e as informações anteriores são descartadas porque se vive num presente contínuo e continuamente atualizado, sem memória do passado e, por isso, sem qualquer perspectiva de futuro?
Numa conhecida passagem do seu famoso ensaio sobre verdade e política, Hannah Arendt cita a resposta de Georges Clemenceau a um representante da República de Weimar a respeito das futuras interpretações sobre a Grande Guerra (a Primeira Guerra Mundial): tudo poderia ser dito, menos que a Bélgica invadiu a Alemanha.
Mais de um século depois, a depender do ChatGPT, já não se poderá ter tanta certeza.
Quero saber mais sobre:
