Em 2015 foi lançada no mercado a Cluely, uma aplicação de IA sob a forma de um assistente invisível em tempo real, cujo objetivo era ajudar o utilizador a participar em entrevistas de emprego ou de admissão à universidade – e, assim, responder a perguntas – sem ter de se preparar previamente. Ou seja, o seu objetivo era, essencialmente, fazer batota. A empresa chegou mesmo a publicar um manifesto fundador afirmando que essa tecnologia serviria “para que nunca mais tenhas de pensar sozinho”, porque “porquê memorizar factos, escrever código, pesquisar qualquer coisa, quando um modelo pode fazê-lo em segundos?” O texto terminava com um convite muito claro: “Por isso, começa a fazer batota. Porque quando toda a gente o faz, ninguém o faz.”
Trazer à tona esse empreendimento — originalmente financiado por milhões de dólares de capital de risco proveniente de setores tecnorreacionários nos Estados Unidos — permite-nos deslocar o foco da análise para os resultados controversos do exame de admissão da UNAM, uma vez que, aparentemente, a crise já se dissipou. Em vez de discutir esse acontecimento apenas em termos de responsabilidade individual e/ou geracional pelo uso indevido dessa tecnologia, ou sobre a propensão das gerações mais jovens para a fraude, parece necessário abordar esse fenómeno como um sintoma de uma cultura organizacional, política e educativa específica que acompanha a conceção, a produção e a circulação de tecnologias digitais privadas em diferentes âmbitos da nossa vida, incluindo a educação.
*/Banner Maio*/
Se olharmos com alguma atenção, podemos identificar a existência de uma nova anatomia da fraude no mundo universitário a nível global, que ultrapassa as tentativas de fazer batota nos exames de admissão e se situa como um correlato, à sombra do suposto progresso tecnológico da chamada “automatização”. Entre outras coisas, isto pode ser observado na externalização das funções cognitivas para modelos de linguagem, como parte de um processo de reestruturação do espaço universitário a nível global. Assim, tem sido possível constatar como tem alastrado geograficamente a tendência de os estudantes apresentarem como seus ensaios ou textos gerados por tais modelos, enquanto os docentes “delegam” noutros modelos de IA a revisão desses “trabalhos”; ou que, em revistas académicas, os colaboradores “avaliem” com IA um volume cada vez maior de artigos que, muito provavelmente, também foram gerados com a intervenção de modelos de linguagem.
Segundo algumas posições, a solução para esta situação consiste na utilização adequada da IA, por exemplo, citando o modelo utilizado (DeepSeek, Gemini, Claude). Assim, paradoxalmente, a solução ética para o problema da fraude no meio académico é a institucionalização da própria fraude, tendo em conta que essa tecnologia funciona através da extensão da expropriação sistemática do conhecimento coletivo de milhões de pessoas que pensam e criam, e que não recebem qualquer remuneração nem reconhecimento por parte das empresas tecnológicas que beneficiam do seu trabalho intelectual.
Pensando com mais calma, parece que a fraude assinalada no exame de admissão da UNAM é a resposta a uma questão fundamental: que tipo de cultura educativa estamos a criar num contexto de aceleração tecnológica do capital? E digo “estamos a criar” porque, embora os produtos educativos digitais baseados na expropriação, no discurso tecnossolucionista e nas estratégias de expansão empresarial se construam em setores específicos da sociedade, a amplificação dessa narrativa é recursiva: “a sociedade” adota e reproduz uma narrativa tecnológica específica, que nos interpela enquanto indivíduos, os quais, na esperança de obter alegadas vantagens, acabamos por reproduzi-la.
Sob a retórica de ‘ganhar tempo’, ‘facilitar o trabalho’ ou ‘obter melhores resultados’, põe-se em causa a própria função da universidade.
O problema da fraude académica e da aceleração tecnológica não é uma questão exclusiva da UNAM, mas de todo o sistema universitário. A construção de uma cultura tecnológica centrada, em grande medida, na externalização das funções cognitivas e na renúncia às faculdades criativas humanas — sob a retórica de “ganhar tempo”, “facilitar o trabalho” ou “obter melhores resultados” — põe em causa a própria função da universidade.
Para fazer face a este cenário, não basta criar mecanismos “mais seguros” de acesso à universidade ou instaurar um ambiente de maior vigilância nas atividades quotidianas das instituições de ensino. Não se trata de encher as nossas salas de aulas com mais tecnologia, como software antifraude, que muitas vezes também gera falsos positivos e contribui para a formação de um ambiente educativo em que os estudantes sentem menos confiança nas suas capacidades de compreensão e explicação do mundo.
Trata-se, acima de tudo, de (re)construir uma cultura de respeito e valorização das capacidades humanas, bem como de defesa da soberania cognitiva de alunos e professores. De criar ambientes de produção de conhecimento onde o intercâmbio humano permita ir além das suposições e onde as perguntas permitam uma reflexão social sobre o conhecimento. Trata-se de promover com maior empenho, a partir das salas de aulas, uma cultura do conhecimento e da aprendizagem que valorize processos sustentados — por vezes lentos — de compreensão de temas específicos. E de reconhecer a importância do processo de criação de conhecimento – muitas vezes repleto de erros e também de um certo nível de frustração — como parte da formação integral de cada aluno.
No fundo, lutar contra a nova anatomia da fraude educativa não requer uma perspetiva imunológica ou policial, mas sim o resgate e o florescimento das dimensões do humano na educação.
Em solidariedade com o advogado Alejandro Martínez e a Escola Normal Rural de Teteles, em Puebla.
Mauro Jarquín, professor da UNAM, México, defende que a IA não é inteligente, produz conhecimento medíocre, bloqueia novos conhecimentos e a criatividade. A cadeia produtiva da IA reconfigura a produção mundial, dos minérios à energia, mas o seu centro é a expropriação maciça de conhecimentos. Segunda parte da entrevista de Raquel Varela e Roberto della Santa, com tradução de Octávio Lima e Adriano Zilhão.
É muito interessante teres dito que, no México, temos um governo progressista e que este tem uma abordagem muito semelhante no que diz respeito ao suposto desenvolvimento das forças produtivas em geral, porque se retirarmos do contexto o facto de falarmos de “progressista”, num sentido de liberal esclarecido, social-democrata ou reformista... Se pensarmos, por exemplo, como pensava Walter Benjamin, a noção de progresso como uma contrapartida da barbárie no modo de produção capitalista – desenvolvimento e barbárie andam de mãos dadas, em suma, como abordas esse dualismo entre progresso e barbárie, o pensamento das teses sobre o conceito de história, como abordas a reivindicação de um novo ludismo.
Considero que, fazendo referência às teses sobre a história, o apelo ao ludismo, em termos da prática educativa, é um apelo para accionar o travão de emergência, anticapitalista e revolucionário, perante uma locomotiva descontrolada conduzida por um aceleracionismo reaccionário que põe em causa a educação pública, o trabalho docente, a criação de conhecimento, etc. O comboio da história parece actualmente seguir um percurso que nos está a colocar em contracorrente do Iluminismo. A partir da obra de autores como Curtis Yarvin e Nick Land, tem sido designado por Ilustração Negra ou neo-reacção. Uma configuração social em que a herança progressista do Iluminismo é supérflua – os direitos humanos, o Estado de Direito, a democracia, etc., são supérfluos. E são supérfluos precisamente porque são camisas de força de um princípio fundamental no seu raciocínio: a aceleração do capitalismo e, neste momento, remover essas barreiras supérfluas à aceleração do capital, tem muito que ver com a liberdade do capital tecnológico para continuar a produzir aquilo a que eles chamam de “inovação”.
O apelo ao ludismo educativo — que, a partir de outras perspectivas e posições políticas, também tem sido defendido por figuras como Charles Logan, Philip Nichols e Antero García — defende que o actual desenvolvimento das forças produtivas do capital, nas relações de produção actuais e com as correlações de forças políticas dominantes, nos está a conduzir não só a um agravamento dos maus tratos à vida em geral, à vida biológica do planeta e à desumanização quotidiana das pessoas, mas, na essência, nos está a conduzir, na minha opinião, a um abismo.
Neste sentido, a educação pública, que podemos considerar como consequência do Iluminismo, é alvo fundamental de ataque desta neo-reacção, porque o que muitas vezes se defende a partir dela, como a igualdade, a protecção ambiental ou a democracia, pode acabar por limitar a inovação monopolista sem fim que se propõe num capitalismo cada vez mais regulado por lógicas libertárias e por perspectivas radicais do capitalismo.
Então, entendo esse travão de emergência em termos luditas, em primeiro lugar, ao reconhecer a materialidade do desenvolvimento tecnológico, ou seja, uma leitura materialista da tecnologia que reconheça o seu condicionamento capitalista, uma reflexão desenvolvida de forma interessante por Jathan Sadowski. Por outro lado, como forma particular de anti-capitalismo na educação, que actualiza um conjunto de discussões e discursos presentes no pensamento crítico. Durante muito tempo, o anti-capitalismo foi apontado contra o discurso do capital humano na educação, algo que serviu de ponto de partida para um conjunto de posições críticas, como a campanha contra a padronização educativa. Parece-me que, neste momento, é necessário actualizar alguns elementos, porque várias das críticas que fizemos na altura, como a que se dirigia contra a padronização da educação, entendida como mecanismo de produção de capital humano num contexto de capitalismo industrial, apresentam actualmente alguns problemas.
A oferta tecnológica atual da “megamáquina” educativa tem como um dos seus principais atractivos a superação da padronização. O que as empresas tecnológicas e os evangelistas da tecnologia na educação nos dizem agora é que o modelo educativo em que um professor dá aula a todo um grupo é um modelo obsoleto. Do que precisamos agora é de personalizar a educação, ou seja, utilizar a tecnologia, neste caso a IA, para gerar perfis específicos das necessidades de cada aluno, a fim de “personalizar a sua educação”.
Há algum tempo, perguntei a colegas aqui na América Latina: como respondemos agora às empresas tecnológicas, quando parece que elas estão a fazer o que exigimos há muito tempo? Ou seja, atender às necessidades de cada aluno. Agora é isso que elas oferecem, em termos de mercado e com um apoio académico realmente frágil quanto à sua funcionalidade. Perante isto, uma pedagogia ludita — ou seja, uma abordagem anticapitalista na educação — revela-se, na minha opinião, importante.
Bem, na verdade, se me permites, não queremos incomodar-te muito, mas eu trabalho muito com escolas, vou a muitas escolas, dou muitas palestras, e o que vejo é que, em primeiro lugar, mesmo dentro da esquerda, a ideia de que a educação é uma ferramenta para o mercado de trabalho,de que a escola não é um lugar de conhecimento e de aprendizagem, está muito disseminada. Até os pais acham que é melhor que os filhos aprendam alguma coisa para poderem trabalhar. Em segundo lugar, a maioria dos sindicatos está a aceitar a inteligência artificial, apenas pedem regulamentação. Achas que é possível regulamentar a inteligência artificial? Essa é uma questão. E a outra é: quando entrávamos na escola há 10 anos, já tínhamos aulas inteiras em PowerPoint, com o auxílio disto e daquilo, e de outra coisa. Então, já vemos os professores “semi-dispostos”, prontos para receber a inteligência artificial. Não achas? Não caiu do céu, porque os professores, muitos deles, já não criavam as suas próprias aulas.
No contexto latino-americano, e também no México, acontece algo semelhante. Ainda prevalece uma série de narrativas sobre a inevitabilidade tecnológica, que sugere que, se os professores não adoptarem a tecnologia educativa — em particular a IA —, ficarão condenados a ficar para trás e, com isso, a prejudicar os seus alunos, ao não os preparar para o “século XXI”. Mesmo sectores mobilizados do magistério, com uma história política de luta, ainda não desenvolveram, até ao momento, uma posição a este respeito, em grande parte porque, nos últimos anos, tiveram de lutar, enquanto organização, contra um conjunto de políticas governamentais em matéria de educação e segurança social que se revelaram prejudiciais aos interesses das comunidades educativas e do corpo docente. Tudo isto porque, recordemos, embora a IA tenha uma história de várias décadas, o seu desenvolvimento, fundamentação teórica e expansão têm muito que ver com o neoliberalismo, seja na sua vertente conexionista-hayekiana, seja através da promoção de políticas de austeridade.
Desculpa, vou repetir: a verdade é que nós, que estudámos teorias da educação, do desenvolvimento da psique, Vygotsky, etc., sabemos que o processo de trabalho é o processo da cultura. Então, a ideia de que me entrego a algo cedo é a negação do trabalho, é a negação da cultura. Porque a paixão de dar aulas... é até passar pelo sofrimento de criar uma turma. Sofrimento e prazer. Até a sublimação, psicanaliticamente, é... Só há sublimação quando há transição do sofrimento para o prazer, não é?
Veio-me à mente a abordagem crítica de Marx relativamente ao divino e à alienação do humano em Deus, presente na obra de Feuerbach. Para Feuerbach, a figura de Deus acaba por privar o ser humano das suas faculdades, porque é essa figura divina que concentra as aspirações, os anseios, etc. Neste sentido, parece-me que algo semelhante acontece, em termos actuais, com a inteligência artificial. Estamos num momento em que, cada vez mais, nós, as pessoas, cedemos ou renunciamos, pelo menos parcialmente, à nossa capacidade criativa, à capacidade de conhecer o mundo, de o interpretar.
É o novo deus?
Se seguirmos à risca a propaganda dos círculos mais radicais do Silicon Valley, parece que sim. Sem querer extrapolar ou exagerar a abordagem, parece que avançamos para o aprofundamento de uma alienação social como talvez nunca tenhamos experimentado antes, como talvez não se tenha experimentado desde tempos em que, retomando o ponto anterior, o centro da sociedade era abertamente Deus ou o divino. Considero que isto é importante, porque estamos, então, a falar de uma tecnologia que, em certa medida, pode moldar processos fundamentais da nossa sociedade.
Parece que avançamos para o aprofundamento de uma alienação social como talvez nunca tenhamos experimentado antes.
Assim, quando nos perguntamos se é possível regulamentar a IA — um debate promovido, em grande parte, como única perspectiva viável por parte de governos e organizações multilaterais —, teríamos primeiro de responder ao que entendemos por IA. Ou seja, por IA estamos a considerar um conjunto de “ferramentas de produtividade” específicas; os algoritmos que permitem o seu funcionamento; a grande quantidade de dados com que os modelos são treinados, ou também, de forma mais ampla, a sua materialidade? A IA tem como condição sine qua non uma infra-estrutura física composta por centros de dados, cabos submarinos, estruturas que orbitam a Terra, etc.
Assim, se afirmamos que é necessário regulamentar a IA, parece-me que devemos considerar as suas dimensões e ter em conta que um projecto de tal magnitude implica tocar em interesses profundos do capital tecnológico global; e, neste ponto, parece que a discussão clássica sobre o capitalismo, no que diz respeito aos termos de propriedade em torno do que se poderá designar como meios de produção digitais, ganha nova actualidade. Parece-me que a encíclica recentemente publicada pelo Papa responde, em certa medida, a essas preocupações. Ora, o problema é que tanto a IA como a ideia de Deus são, em última análise, produto de um conjunto de relações sociais. Tal como determinadas forças sociais actuavam, e actuam, para que a ideia de Deus desempenhasse um conjunto de papéis numa determinada ordem social, da mesma forma o capital tecnológico propõe que a IA cumpra ou favoreça uma série de tarefas e condicionamentos sociais.
Desta forma, esse caminho aceleracionista de inovação sem fim tem também que ver com os debates sobre como regular, em termos legais e políticos, o desenvolvimento tecnológico, por todas as implicações que isso pode ter, entre outras coisas, na educação. Há já algum tempo, foi apresentado na Argentina algo a que chamaram “a primeira professora de inteligência artificial”, que consistia basicamente num programa utilizado na sala de aula e que “dava a aula” em vez de um professor ou professora. Uma iniciativa que, ao que parece, até ao momento não se revelou bem-sucedida. O CEO da empresa que a promovia afirmou num programa de televisão que o uso da IA nas escolas da América Latina era relevante, porque, se não fosse utilizada, a diferença entre a América Latina e os países desenvolvidos não seria de natureza económica ou social, mas sim biológica. Isso, por outro lado, é basicamente uma recuperação do transumanismo que floresceu no Silicon Valley e que é tão impulsionado por setores tecno-reaccionários liderados publicamente por Peter Thiel.
A tudo isto, a megamáquina educativa, conceito que desenvolvo com base na obra clássica de Lewis Mumford, não consiste num grande aparelho que opera na educação e se situa acima dela, mas sim num conjunto complexo, dinâmico e em constante fluxo de instituições, actores, ideias, narrativas, artefactos e prefigurações. Esta megamáquina é atravessada por narrativas tecno-solucionistas e, de forma cada vez mais clara, também por projectos reaccionários e princípios transumanistas e eugénicos.
O que são o transumanismo e o eugenismo que referes?
Na introdução a Pedagogia Ludita, menciono como um promotor de tecnologias digitais educativas, impulsionador de uma iniciativa capitalista de integração tecnológica nas escolas, que foi alardeada como “a primeira professora de IA na América Latina”, afirma que a adoção de tecnologia nas escolas é uma questão biológica. Este não é um pormenor despiciendo, pois encerra uma tradição transumanista e eugenista complexa, como já referi, de longa data em Silicon Valley, que tem ocupado um espaço cada vez maior na megamáquina educativa.
Este tipo de retórica apresenta a adoção da tecnologia digital como uma possível melhoria da própria condição humana ou como um caminho para alcançar, literalmente, a imortalidade. A este propósito, a entrevista de Ross Douthat a Peter Thiel é extremamente reveladora. Nela, é provável identificar alguns elementos daquilo a que Timnit Gebru e Emile P. Torres chamaram “pacote TESCREAL”. Ou seja, uma amálgama de princípios ideológicos (Transumanismo, Extropianismo, Singularitarismo, Cosmismo, Racionalismo, Altruísmo Eficaz e Longoprazismo) que constituem o tecno-otimismo radical de Silicon Valley, profundamente relacionados, entre outras coisas, com o projeto corporativo de desenvolver aquilo a que os líderes e magnatas da tecnologia chamam inteligência artificial geral (IAG), um sistema tecnológico com capacidade de inteligência e consciência virtualmente humana; uma enteléquia que tem estado no centro das perspetivas mais catastrofistas e otimistas sobre a tecnologia. Embora esta formação ideológica não surja explicitamente quando falamos de educação e tecnologia, a realidade é que o projeto tecnológico na educação, impulsionado pelo capital, agora com conotações abertamente reacionárias, é muito mais do que a procura de maior eficiência. Estamos a assistir a uma tentativa de constituição, a partir de diferentes polos de poder e de dinheiro, de uma mudança civilizacional.
Existem, classicamente, no imaginário, no pensamento socialista, pelo menos duas grandes visões antagónicas sobre o futuro do trabalho nos romances do final do século XIX, e as posições opõem-se, como sabes, com William Morris, por um lado, a defender que todo o trabalho humano é trabalho criativo – assim, todas as oportunidades para produzir mercadorias, desde calças a armários, carros, o que for, teriam quase naturalmente o carácter de trabalho artístico; não se despreza, não há alienação entre trabalho intelectual e trabalho material, e uma série de outras posições que já são apresentadas desde 1890. Esta confronta-se com outra, que surgiu depois da publicação de um romance na América do Norte, que é Olhando para Trás: A utopia futurista de Edward Bellamy (Looking Backward 2000-1887), em que o futuro do trabalho é como um estado super-centralizado, em que só há trabalho entre os 35 e os 45 anos, e tudo o que é a libertação do trabalho é o tempo livre e o lazer, tal como é. Então, queria dizer o seguinte. Imagina uma revolução socialista mundial, na fase superior de desenvolvimento humano já comunista, com a propriedade totalmente comunitária, sem mercadorias, sem hierarquias, sem desigualdade, uma sociedade igualitária. Teríamos algo a ganhar com a inteligência artificial generativa e os modelos de linguagem de grande escala? Pergunto isto porque penso um pouco nos governos progressistas, mas quero ir mais além. Não só aqueles que criticamos, que não são do nosso campo, por assim dizer, mas também os nossos camaradas que pensam: “Bem, isso é mais do que isso, é como um tear, é como um carro, é como um computador”. “Não se pode parar o progresso humano.”
Sim. A questão do tempo livre é, creio eu, algo em que também é preciso refletir bastante. Na educação, qual é uma das supostas vantagens da adopção da tecnologia digital, particularmente da IA, para os professores? Poupar tempo. No discurso das grandes empresas tecnológicas, uma das funções esperadas da tecnologia digital é que os professores poupem tempo. Tempo “livre” que possam dedicar a coisas relevantes, ou mesmo gratificantes. É assim que apresentam a questão do tempo livre, e sabemos disso através de uma discussão clássica no marxismo. Uma obra que considero particularmente interessante, onde isso é discutido de certa forma, é O Direito à Preguiça, de Paul Lafargue. Tem um parágrafo muito bonito em que, essencialmente, se defende que a disputa histórica entre o trabalho e as máquinas não se resolveu com mais tempo livre, mas que o desenvolvimento tecnológico fez que esse tempo, que a tecnologia, digamos, de certa forma, “poupa” ao trabalho tenha sido também dedicado à produção.
*/Banner Maio*/
Algo semelhante está a acontecer actualmente nas escolas, tal como vários estudos têm demonstrado. Neil Selwyn já publicou alguns artigos nos quais mostra que o uso ou a integração da IA no trabalho em sala de aula, em determinadas tarefas, não gera propriamente mais tempo livre, devido ao conjunto de actividades que rodeiam a adopção tecnológica e que consomem tempo de trabalho dos professores.
Assim, tendo isso em conta, creio que, para mim, uma sociedade comunista deveria essencialmente proporcionar-nos tempo livre, mas a forma tecnológica actual, derivada da sua organização política, não permite que a tecnologia nos proporcione mais tempo livre, porque o tempo excedente, por assim dizer, é também ocupado em processos de produção ou de reprodução social do capital, o que é algo muito mais complexo.
No entanto, se pudéssemos, neste momento, esboçar uma potencial utilidade deste tipo de tecnologia numa sociedade comunista, parece-me que tal utilidade poderia ser encontrada e discutida no debate clássico sobre a possibilidade do cálculo económico, travado nas décadas de 1930 e 1940 entre Oskar Lange, o economista soviético, e Ludwig von Mises, um dos fundadores da Escola Austríaca de Economia.
Naquela época, o que Von Mises defendia era basicamente — o que é interessante, pois esse é um dos pilares teóricos dos reaccionários chamados libertários — que o Estado não tem capacidade para cumprir a sua missão de satisfazer as necessidades da sociedade, essencialmente porque não consegue fazer um cálculo económico sobre o que esta necessita. É claro que o Estado tem uma burocracia e que a burocracia opera na sociedade e, por sua vez, gera, em teoria, informação. No entanto, a informação por ela gerada não tem a qualidade daquela que, segundo ele, é gerada no mercado, o que os economistas austríacos e outras expressões do radicalismo de mercado (como Quinn Slobodian as denomina) conhecem como sistema de preços. Para a tradição económica austríaca, o sistema de preços das mercadorias é basicamente um sistema de informação sobre as necessidades das pessoas, que o Estado não pode ter. Muito menos quando temos um Estado que, por exemplo, impõe determinados preços máximos às mercadorias. Ou seja, um Estado que intervém na economia, essa é a sua formulação. Se considerássemos válido esse debate sobre a impossibilidade do cálculo económico no socialismo, parece-me que esta tecnologia poderia eventualmente vir a ser útil, dada a sua enorme capacidade de acumular e dar algum sentido a volumes gigantescos de dados relativos às necessidades e interesses de cada uma das pessoas na sociedade. Ou seja, se conseguíssemos encontrar uma forma em que esta capacidade de extracção da IA servisse claramente para identificar as necessidades populares e atendê-las através de um diagnóstico preciso em termos quantitativos, geográficos, etc., com o objectivo de gerar correlações e projecções sobre formas de satisfazer tais necessidades, parece-me que, nesse sentido, essa tecnologia poderia ser útil para a construção de uma sociedade comunista, de uma sociedade fundada na igualdade.
Uma megamáquina socialista? Queremos voltar ao termo “megamáquina educativa”: qual seria um programa de acção para o novo ludismo? Para a educação, o que estamos a fazer não é apenas uma integração genética, dessa personalidade em particular, num mecanismo que descreveste de forma brilhante, mas também na reprodução mais ampla do humano, em termos de linguagem, pensamento, sociabilidade, trabalho, coisas diferentes e centrais para a humanização do humano, porque somos uma espécie distinta das outras, que não nascemos prontos como, por exemplo, um antílope, uma abelha, uma árvore. Então, tudo isso não é apenas uma excursão de curto ciclo, mas de longa duração e não apenas do indivíduo, mas do género humano, e essa excursão é mais difícil porque vivemos sob a hegemonia capitalista, que nega a longa duração e a existência do género humano. Nem sequer existe sociedade, como dizia Margaret Thatcher.
Uma espécie de IA revolucionária. Ora, o problema é que, por definição, este tipo de tecnologia que temos — lembremos o que Langdon Winner defende — requer um determinado desenho social, que é o desenho social do capital. O que acabo de referir está, de certa forma, presente na órbita do chamado aceleracionismo de esquerda, que, em algumas versões, parece-me que acaba por reproduzir uma visão um tanto fetichizada da tecnologia.
No livro, menciono algumas ideias específicas, a título de proposta, que tenho discutido em diferentes espaços, relativamente à possibilidade de construir uma prática ludita na educação:
Não aceitar novos acordos com empresas de tecnologia que impliquem aumentar a dependência estrutural das nossas escolas e centros de investigação dos gigantes tecnológicos, com especial ênfase nas empresas que participaram activamente no genocídio contra o povo palestiniano e na repressão e perseguição das comunidades migrantes nos Estados Unidos.
Impedir colectivamente a construção de novos centros de dados, principalmente de empresas da Big Tech, considerando publicamente o custo ecológico e para o bem-estar humano que isso representa.
Defender as culturas indígenas contra a expropriação do seu conhecimento, mascarada de inclusão por parte de empresas produtoras, sobretudo de IA generativa.
Criar estruturas para um avanço estratégico em diversos âmbitos estatais, com o objectivo de delinear e, eventualmente, construir uma política digital soberana de infra-estruturas e gestão de dados própria.
Impulsionar o desenvolvimento de plataformas educativas públicas, ou seja, que sejam financiadas e administradas pelo sector público, e não com empresas por trás que designam como público o que é essencialmente um serviço privado, por exemplo, a chamada “nuvem pública” da Microsoft. Impulsionar, assim, uma infra-estrutura que permita desenvolver actividades formativas e de acompanhamento pedagógico reguladas pelo Estado e com controlo democrático, na qual participe uma diversidade de actores educativos, com centralidade e o corpo docente organizado, ou seja, os sindicatos.
Fortalecimento das capacidades tecnológicas das universidades públicas através de um aumento do seu financiamento à investigação e desenvolvimento tecnológico.
Políticas fiscais claras e progressivas em relação às empresas tecnológicas, bem como normas rigorosas sobre a utilização de dados por parte das empresas digitais.
Outra questão é que, na medida do possível e com vista a um projecto de desconexão no futuro, apostemos num afastamento gradual do eco-sistema tecnológico na educação, particularmente no que diz respeito a pacotes de software de escritório, como o Word, motores de busca na Internet, serviços de correio electrónico e programas de IA generativa.
Como podem ver, estas propostas são, na verdade, alguns pontos de partida, que devem ser trabalhados a partir das comunidades educativas, num exercício de discussão aberta e democrática. Na Pedagogia Ludita, o que proponho, na verdade, é a construção de um movimento pedagógico que parta de uma leitura materialista da tecnologia, com vista a construir alternativas viáveis para este contexto tão complicado para a educação pública, o cuidado do planeta e a própria dignidade humana. Ora bem, considero que é necessário traduzir esta discussão em termos didácticos e é aí que encontro um espaço para um aprofundamento necessário.
Mauro Jarquín, professor da UNAM, México, defende que a IA não é inteligente, produz conhecimento medíocre, bloqueia novos conhecimentos e a criatividade. A cadeia produtiva da IA reconfigura a produção mundial, dos minérios à energia, mas o seu centro é a expropriação maciça de conhecimentos. Entrevista de Raquel Varela e Roberto della Santa e tradução de Octávio Lima e Adriano Zilhão.
ilustração: Ricardo Ferreira
Maio: Estamos a viver uma espécie de invasão apocalíptica do digital nas escolas, que já não parecem escolas. O primeiro argumento da maioria das pessoas é o do bom senso – ou seja, da hegemonia política do Estado e das empresas, passada pelos media –, é que “a inteligência artificial é como um automóvel, é como um computador, uma ferramenta como qualquer outra. A questão é democratizá-la, usá-la bem, etc.” O que pensas sobre isto?
Mauro Jarquín: É o discurso tecno-optimista promovido pelas empresas tecnológicas, que gradualmente vem ocupando também um lugar importante entre as comunidades educativas e os governos; mesmo naquelas com tendências ou narrativas progressistas, anti-imperialistas e soberanistas. Isto deve-se ao facto de, pelo menos em princípio, a tecnologia digital parecer ser tão neutra no seu desenvolvimento e aplicação, quanto inevitável na sua adoção.
O conjunto de métodos estatísticos denominado “inteligência artificial” (um nome, IA, que tem favorecido a proliferação de diversos mitos) tem sido cada vez mais discutido em termos de uma tecnologia de uso geral, ou seja, que não se situa apenas no âmbito da produção ou do aumento da produtividade do trabalho, mas cuja utilização se estende a múltiplas esferas da vida social, nas quais a educação se revela estratégica.
Considero que, em termos epistemológicos e estratégicos, não é possível afirmar que a IA é apenas uma ferramenta, porque se analisarmos a utilização de determinadas ferramentas e artefactos à luz da história da educação, como o quadro de ardósia, a calculadora, etc., deparamo-nos com artefactos que, na sua essência, são objeto da acção humana e que respondem imediatamente a essa acção. O quadro recebe a acção humana de escrever; a calculadora recebe a acção humana de um comando para realizar uma operação; o problema com a IA é que se trata de uma tecnologia que não apenas recebe a acção humana, mas que, no seu funcionamento, produz sentido, reformula práticas sociais. E, em última instância, é uma tecnologia que requer um conjunto de pré-requisitos sociais para funcionar.
Recordando um pouco o ensaio clássico de Langdon Winner, “Do Artefacts Have Politics?” (1980) [Os artefactos têm política?], o autor defendia que um artefacto podia ou não ser político em função de dois critérios centrais: em primeiro lugar, se, para o funcionamento desse artefacto (ou tecnologia), é necessária uma ordem social específica e, além disso, se o seu funcionamento produz uma sociabilidade específica. Nesses termos, esse artefacto funciona também como uma construção sócio-técnica. E quando falamos de IA, podemos ver que ambos os critérios se cumprem de forma clara. Assim, um primeiro mito que é preciso questionar é que a IA seja uma “ferramenta” que se encontra, simplesmente, à disposição de quem a utiliza. A IA não é um mero instrumento. É uma articulação sócio-técnica que tem a capacidade de produzir efeitos naqueles que a utilizam, tanto a nível individual como social.
Não é possível afirmar que a IA é apenas uma ferramenta, porque (…) se trata de uma tecnologia que não apenas recebe a acção humana, mas que, no seu funcionamento, produz sentido, reformula práticas sociais.
Há muito quem diga que a IA não é uma ferramenta, é um agente. Concordas?
Concordo com a primeira parte da proposição, mas a segunda parece-me mais problemática. Portanto, considero que a IA, tomando em consideração a sua capacidade produtiva – particularmente a IA generativa, onde se tem concentrado em grande medida o debate académico – não é uma mera ferramenta. Consiste numa articulação sócio-técnica que, operando, produz. Ainda assim, não assimilaria esta capacidade produtiva de forma directa à condição da IA de agente. É verdade que a noção de “agente de IA” se está a ampliar cada vez mais ao uso comum, tanto no meio empresarial como no universitário. E também é verdade que há una rica tradição de discussão acerca da capacidade de agência dos objectos, na obra de Bruno Latour ou Alfred Gell, por exemplo.
Ora bem, ainda que a discussão teórica seja bastante rica, afigura-se-me que, neste momento, o ponto de interesse é outro: é político. Discutir se a IA é um agente ou não quando o projecto de inteligência artificial geral (IAG) vai prosperando no seio de uma classe tecno-capitalista eugenista e transumanista, e quando a aposta pela antropomorfizaçãoda dita tecnologia dialoga também com a possibilidade de um reconhecimento jurídico nesse sentido, faz que tenhamos de considerar todas as consequências políticaspotenciais sobre as nossas posições teóricas ou premissas epistemológicas.
Até que ponto a aceitação generalizada da IA como agente implicaria abrir caminho a uma interpretação mais humanizadadela? Em que medida pode uma apreciação mais humanizada da IA – não apenas em termos estéticos, mas inclusive ontológicos – aproximar-nos da potencial construção de uma legislação que a invista, por exemplo, de direitos? Em que medida nos pode tal discussão afastar da realidade materialde que deriva a sua produção, à qual subjazem forças políticas, tendências ideológicas e interesses humanos?
Mauro, mas todas as ferramentas nos transformam de alguma maneira. Quando inventámos a faca isso transformou a nossa alimentação, linguagem, etc.
Embora se possa, de maneira geral, dizer que os artefactos e formas tecnológicas têm a capacidade de originar mudanças nas pessoas que as utilizam (por exemplo, a diminuição da capacidade da escrever à mão (no caso do teclado do computador, a potenciação da “força”, no caso de um martelo ou roldana, ou mesmo de reconfigurar os espaços de atenção (como a aposição de um quadro numa sala de aula), estas ferramentas/artefactos são objecto e depositário da acção humana com um fim específico, e a sua operação responde-lhe directamente (escrever, martelar, mostrar letras e/ou figuras), acabando por ampliá-la, intensificá-la ou robustecê-la.
*/Banner Maio*/
Algumas diferenças essenciais para o uso acrítico da IA residem em que o uso da tecnologia representa um deslocamento do processo pelo qual se leva a cabo uma acção para um fim; é o utilizador que define, no essencial, o que quer fazer (obter informação, resolver dúvidas, conseguir uma criação gráfica ou textual), mas quem define a maneira de chegar a esse resultado é a IA. Dá-se, então, uma “perda de controle” do processo criativo. Não só isso, porém; encontramo-nos amiúde com um processo de produção subjectiva dos utilizadores da tecnologia a partir da adopção dos resultados conseguidos através dos modelos de IA enquadrados em critérios de verdade devidos ao seu “discernimento técnico” (como sucede quando se dão de barato vieses e/ou imprecisões contidas em respostas textuais ou gráficas relativas a problemáticas sociais). Em termos gerais, há diferença num duplo movimento:delega-se o processo criativo, e toma-se o resultado, alheio ao nosso conhecimento e controle, como ponto de partida para a interpretação do mundo ou para nele tentar incidir.
Embora a produção de artefactos requeira um conjunto de processos sociais articulados, principalmente no contexto da lógica do capital, a produção de IA representa um conjunto de transformações profundas nas forças produtivas a nível global. Estamos, no fundo, a falar de uma revolução tecnológica de uso geral e, concomitantemente, da concretização de um complexo articulado de cadeias globais de valor cujo fim é a produção da IA e da sua materialidade, conforme mostram Kate Crawford e Vladan Joler na sua Anatomy of AI system. Isto implica, de igual modo, a reconfiguração de uma nova morfologia global do trabalho, em que convergem diferentes formas de trabalho, como a extracção de minérios (muitas vezes em condições de super-exploração) no Sul Global, o treino de modelos de IA (também em grande medida em condições de super-exploração) ou, no caso da educação, o Trabalho Educativo Digital (TED) desenvolvido nos centros educativos e pelas comunidades educativas, que discuto no livro.
Podes explicar isso com mais pormenor, por exemplo, para os trabalhadores que nos estão a ouvir, os pais que têm filhos na escola? É possível concretizar um pouco esta teoria?
Quando utilizamos um modelo de linguagem e fazemos uma pergunta, o que o modelo de linguagem faz, essencialmente, é expropriar de forma generalizada o conhecimento existente na sociedade, aquilo que Marx, nos seus “Grundrisse”, discutiria em termos de “intelecto geral”. Essa máquina não pode funcionar sem um processo de expropriação, e a expropriação é, na sua essência, um dos fundamentos da reprodução do capitalismo. É importante referir que falamos de uma expropriação que não se desenvolve apenas em relação ao conhecimento protegido por direitos de autor e publicado por editoras, mas também aos saberes quotidianos das pessoas, expressos em blogues, fóruns, etc. Por exemplo, a empresa tecnológica Anthropic anunciou uma parceria com a Teach for All com o objetivo de promover o uso da IA na educação, garantindo ela que o que se procura é que a posição do corpo docente não seja “de consumidor passivo de ferramentas de IA, mas de co-arquitecto que molda a forma como a IA se desenvolve”, desenvolvendo conteúdos e propostas didácticas locais, integradas no ecossistema da empresa. Produtos do intelecto docente que serão expropriados pelo que denomino a megamáquina educativa do capitalismo digital, através do exercício expropriador da IA.
Quando utilizamos um modelo de linguagem e fazemos uma pergunta, o que o modelo de linguagem faz, essencialmente, é expropriar de forma generalizada o conhecimento existente na sociedade.
Ou seja, professores (e alunos) trabalham, fornecem dados e testes, projectos didácticos às empresas.
Outra dimensão desta discussão, muito mais debatida em termos públicos, é que, quando fazemos uma consulta, quando solicitamos um resultado a um modelo de linguagem ou que produz imagens, o resultado que nos é dado é uma projecção do conhecimento social apropriado, muitas vezes com certos enviesamentos. É neste ponto que reside a discussão sobre a possibilidade de criar novas ideias quando centramos excessivamente o nosso trabalho intelectual nos modelos de linguagem, o que pode conduzir a um círculo vicioso que não promove a ruptura de determinadas ideias nem a constituição de novos conceitos que respondam à nossa realidade em constante mudança.
Um conhecimento médio medíocre que se propaga como o aceitável e um bloqueio ao conhecimento novo… O exacto contrário do que uma escola e uma universidade devem ser…
Sim. Outro ponto a discutir nesta matéria é que, no âmbito estritamente educativo, a IA parece tornar-se um novo local de verdade quando nos referimos à vida quotidiana dos centros educativos. Alguém poderia dizer que isso tem uma função progressista, ao questionar o lugar histórico do corpo docente como sujeito que enuncia a verdade na sala de aula, podendo dar azo a um processo de maior discussão aberta nas salas de aula. No entanto, isto não acontece frequentemente, porque essa deslocação do “lugar da verdade” não é necessariamente acompanhada pela generalização de uma discussão profunda, mas parece ser uma transferência de autoridade, agora para uma instância incontestável, neutra e superior. Isto tem consequências políticas também num sentido mais amplo.
Há algumas semanas, foi anunciado que, em El Salvador, os alunos do ensino básico teriam, cada um, um tutor de IA, que seria o modelo de linguagem utilizado pela “rede social” X, de Elon Musk: o Grok.
Ora, por que razão escolheu o governo salvadorenho esse modelo de linguagem? Recorde-se que a posição política do presidente de El Salvador, Nayib Nukele, se insere na esfera de influência da Conferência de Acção Política Conservadora (CPAC), que representa uma espécie de extensão da política imperialista norte-americana e, além disso, um foco central da reacção global. O que o governo salvadorenho afirma é que este modelo de linguagem não é um modelo “woke”, é um modelo que busca a verdade. Ou seja, trata-se de um modelo que, nos seus resultados, na sua concepção e, pelo menos em grande parte, na informação que poderá fornecer às consultas das escolas em El Salvador, não irá conter aquilo a que a extrema-direita global chama agora de “wokismo”; isto é, conteúdo que possa ser considerado favorável a temas como a igualdade social, o respeito pelos direitos das mulheres, o respeito pela diversidade sexual, etc.
A questão para os educadores, parece-me, passa também pela palavra-chave “linguagem”. Porque expropriar a linguagem é expropriar aquilo que nos torna especificamente humanos e converter — converter mal, de forma pobre e completamente plana — aquilo que é um património público a que Marx chamou “intelecto geral”, em algo que pode ser traduzido em zeros e uns, com uma recombinação algorítmica que é probabilística. Ou seja, a máquina não sabe nada, não pode saber nada, e o seu tratamento é... vamos ver, queijo azul ou amarelo? E depois, no contexto, chega a uma resposta.
O exercício de expropriação da linguagem e sua consequente produção manipulada e sem alma pela IA generativa dominante colocam-nos num cenário onde o conhecimento colectivo também faz parte da subsunção tecnológica desenvolvida pela tecnologia do capital. Raymond Williams costumava dizer que a linguagem era uma forma de indicar a realidade. E, neste sentido, é também uma estrutura a partir da qual moldamos os nossos quadros interpretativos do imediato, problematizamos o mundo e concebemos formas de nele intervir. Para além do debate clássico sobre se a linguagem é ou não uma superestrutura, no qual até Estaline se aventurou, a verdade é que esta apropriação subtil e — aparentemente — voluntária da linguagem colectiva por artefactos e tecnologias privadas representa, como afirmas, uma subsunção desse “intelecto geral”. Ora, quando consideramos este cenário em termos educativos, deparamo-nos com que a adoção acrítica da IA generativa aumenta consideravelmente a probabilidade de as mediações que ocorrem nas salas de aula e viabilizam os processos de ensino e aprendizagem serem determinadas, ou pelo menos moduladas, por agentes externos através das suas tecnologias digitais, como os modelos de linguagem. Assim, os significados, a construção discursiva, em suma, as formas de indicar a realidade que se pretende sejam conhecidas colectivamente a partir das instituições educativas, estão imbuídos de conteúdos ideológicos específicos sob a forma de enviesamentos. Isto não é difícil de verificar. Façamos perguntas a diferentes modelos linguísticos sobre a guerra entre a Rússia e a Ucrânia (que se estende à NATO) ou entre os Estados Unidos, Israel e o Irão, e veremos como representam o que se passa no mundo e em que medida o resultado desta manipulação linguística projecta formas ideológicas específicas.
(continua)
Mauro Jarquín Ramírez é professor da Faculdade de Filosofia e Letras da Universidad Nacional Autónoma de México (UNAM), coautor de No pasarán. Por qué la extrema derecha quiere controlar la educación pública y qué hacer para defenderla (2025) [Não Passarão. Por que quer a extrema-direita controlar a educação pública e o que fazer para defendê-la]. É também autor de Pedagogía ludita. Contra la megamáquina educativa del capitalismo digital (CLACSO, 2026).
