Mauro Jarquín, professor da UNAM, México, defende que a IA não é inteligente, produz conhecimento medíocre, bloqueia novos conhecimentos e a criatividade. A cadeia produtiva da IA reconfigura a produção mundial, dos minérios à energia, mas o seu centro é a expropriação maciça de conhecimentos. Segunda parte da entrevista de Raquel Varela e Roberto della Santa, com tradução de Octávio Lima e Adriano Zilhão.
É muito interessante teres dito que, no México, temos um governo progressista e que este tem uma abordagem muito semelhante no que diz respeito ao suposto desenvolvimento das forças produtivas em geral, porque se retirarmos do contexto o facto de falarmos de “progressista”, num sentido de liberal esclarecido, social-democrata ou reformista... Se pensarmos, por exemplo, como pensava Walter Benjamin, a noção de progresso como uma contrapartida da barbárie no modo de produção capitalista – desenvolvimento e barbárie andam de mãos dadas, em suma, como abordas esse dualismo entre progresso e barbárie, o pensamento das teses sobre o conceito de história, como abordas a reivindicação de um novo ludismo.
Considero que, fazendo referência às teses sobre a história, o apelo ao ludismo, em termos da prática educativa, é um apelo para accionar o travão de emergência, anticapitalista e revolucionário, perante uma locomotiva descontrolada conduzida por um aceleracionismo reaccionário que põe em causa a educação pública, o trabalho docente, a criação de conhecimento, etc. O comboio da história parece actualmente seguir um percurso que nos está a colocar em contracorrente do Iluminismo. A partir da obra de autores como Curtis Yarvin e Nick Land, tem sido designado por Ilustração Negra ou neo-reacção. Uma configuração social em que a herança progressista do Iluminismo é supérflua – os direitos humanos, o Estado de Direito, a democracia, etc., são supérfluos. E são supérfluos precisamente porque são camisas de força de um princípio fundamental no seu raciocínio: a aceleração do capitalismo e, neste momento, remover essas barreiras supérfluas à aceleração do capital, tem muito que ver com a liberdade do capital tecnológico para continuar a produzir aquilo a que eles chamam de “inovação”.
O apelo ao ludismo educativo — que, a partir de outras perspectivas e posições políticas, também tem sido defendido por figuras como Charles Logan, Philip Nichols e Antero García — defende que o actual desenvolvimento das forças produtivas do capital, nas relações de produção actuais e com as correlações de forças políticas dominantes, nos está a conduzir não só a um agravamento dos maus tratos à vida em geral, à vida biológica do planeta e à desumanização quotidiana das pessoas, mas, na essência, nos está a conduzir, na minha opinião, a um abismo.
Neste sentido, a educação pública, que podemos considerar como consequência do Iluminismo, é alvo fundamental de ataque desta neo-reacção, porque o que muitas vezes se defende a partir dela, como a igualdade, a protecção ambiental ou a democracia, pode acabar por limitar a inovação monopolista sem fim que se propõe num capitalismo cada vez mais regulado por lógicas libertárias e por perspectivas radicais do capitalismo.
Então, entendo esse travão de emergência em termos luditas, em primeiro lugar, ao reconhecer a materialidade do desenvolvimento tecnológico, ou seja, uma leitura materialista da tecnologia que reconheça o seu condicionamento capitalista, uma reflexão desenvolvida de forma interessante por Jathan Sadowski. Por outro lado, como forma particular de anti-capitalismo na educação, que actualiza um conjunto de discussões e discursos presentes no pensamento crítico. Durante muito tempo, o anti-capitalismo foi apontado contra o discurso do capital humano na educação, algo que serviu de ponto de partida para um conjunto de posições críticas, como a campanha contra a padronização educativa. Parece-me que, neste momento, é necessário actualizar alguns elementos, porque várias das críticas que fizemos na altura, como a que se dirigia contra a padronização da educação, entendida como mecanismo de produção de capital humano num contexto de capitalismo industrial, apresentam actualmente alguns problemas.
A oferta tecnológica atual da “megamáquina” educativa tem como um dos seus principais atractivos a superação da padronização. O que as empresas tecnológicas e os evangelistas da tecnologia na educação nos dizem agora é que o modelo educativo em que um professor dá aula a todo um grupo é um modelo obsoleto. Do que precisamos agora é de personalizar a educação, ou seja, utilizar a tecnologia, neste caso a IA, para gerar perfis específicos das necessidades de cada aluno, a fim de “personalizar a sua educação”.
Há algum tempo, perguntei a colegas aqui na América Latina: como respondemos agora às empresas tecnológicas, quando parece que elas estão a fazer o que exigimos há muito tempo? Ou seja, atender às necessidades de cada aluno. Agora é isso que elas oferecem, em termos de mercado e com um apoio académico realmente frágil quanto à sua funcionalidade. Perante isto, uma pedagogia ludita — ou seja, uma abordagem anticapitalista na educação — revela-se, na minha opinião, importante.
Bem, na verdade, se me permites, não queremos incomodar-te muito, mas eu trabalho muito com escolas, vou a muitas escolas, dou muitas palestras, e o que vejo é que, em primeiro lugar, mesmo dentro da esquerda, a ideia de que a educação é uma ferramenta para o mercado de trabalho, de que a escola não é um lugar de conhecimento e de aprendizagem, está muito disseminada. Até os pais acham que é melhor que os filhos aprendam alguma coisa para poderem trabalhar. Em segundo lugar, a maioria dos sindicatos está a aceitar a inteligência artificial, apenas pedem regulamentação. Achas que é possível regulamentar a inteligência artificial? Essa é uma questão. E a outra é: quando entrávamos na escola há 10 anos, já tínhamos aulas inteiras em PowerPoint, com o auxílio disto e daquilo, e de outra coisa. Então, já vemos os professores “semi-dispostos”, prontos para receber a inteligência artificial. Não achas? Não caiu do céu, porque os professores, muitos deles, já não criavam as suas próprias aulas.
No contexto latino-americano, e também no México, acontece algo semelhante. Ainda prevalece uma série de narrativas sobre a inevitabilidade tecnológica, que sugere que, se os professores não adoptarem a tecnologia educativa — em particular a IA —, ficarão condenados a ficar para trás e, com isso, a prejudicar os seus alunos, ao não os preparar para o “século XXI”. Mesmo sectores mobilizados do magistério, com uma história política de luta, ainda não desenvolveram, até ao momento, uma posição a este respeito, em grande parte porque, nos últimos anos, tiveram de lutar, enquanto organização, contra um conjunto de políticas governamentais em matéria de educação e segurança social que se revelaram prejudiciais aos interesses das comunidades educativas e do corpo docente. Tudo isto porque, recordemos, embora a IA tenha uma história de várias décadas, o seu desenvolvimento, fundamentação teórica e expansão têm muito que ver com o neoliberalismo, seja na sua vertente conexionista-hayekiana, seja através da promoção de políticas de austeridade.
Desculpa, vou repetir: a verdade é que nós, que estudámos teorias da educação, do desenvolvimento da psique, Vygotsky, etc., sabemos que o processo de trabalho é o processo da cultura. Então, a ideia de que me entrego a algo cedo é a negação do trabalho, é a negação da cultura. Porque a paixão de dar aulas... é até passar pelo sofrimento de criar uma turma. Sofrimento e prazer. Até a sublimação, psicanaliticamente, é... Só há sublimação quando há transição do sofrimento para o prazer, não é?
Veio-me à mente a abordagem crítica de Marx relativamente ao divino e à alienação do humano em Deus, presente na obra de Feuerbach. Para Feuerbach, a figura de Deus acaba por privar o ser humano das suas faculdades, porque é essa figura divina que concentra as aspirações, os anseios, etc. Neste sentido, parece-me que algo semelhante acontece, em termos actuais, com a inteligência artificial. Estamos num momento em que, cada vez mais, nós, as pessoas, cedemos ou renunciamos, pelo menos parcialmente, à nossa capacidade criativa, à capacidade de conhecer o mundo, de o interpretar.
É o novo deus?
Se seguirmos à risca a propaganda dos círculos mais radicais do Silicon Valley, parece que sim. Sem querer extrapolar ou exagerar a abordagem, parece que avançamos para o aprofundamento de uma alienação social como talvez nunca tenhamos experimentado antes, como talvez não se tenha experimentado desde tempos em que, retomando o ponto anterior, o centro da sociedade era abertamente Deus ou o divino. Considero que isto é importante, porque estamos, então, a falar de uma tecnologia que, em certa medida, pode moldar processos fundamentais da nossa sociedade.
Parece que avançamos para o aprofundamento de uma alienação social como talvez nunca tenhamos experimentado antes.
Assim, quando nos perguntamos se é possível regulamentar a IA — um debate promovido, em grande parte, como única perspectiva viável por parte de governos e organizações multilaterais —, teríamos primeiro de responder ao que entendemos por IA. Ou seja, por IA estamos a considerar um conjunto de “ferramentas de produtividade” específicas; os algoritmos que permitem o seu funcionamento; a grande quantidade de dados com que os modelos são treinados, ou também, de forma mais ampla, a sua materialidade? A IA tem como condição sine qua non uma infra-estrutura física composta por centros de dados, cabos submarinos, estruturas que orbitam a Terra, etc.
Assim, se afirmamos que é necessário regulamentar a IA, parece-me que devemos considerar as suas dimensões e ter em conta que um projecto de tal magnitude implica tocar em interesses profundos do capital tecnológico global; e, neste ponto, parece que a discussão clássica sobre o capitalismo, no que diz respeito aos termos de propriedade em torno do que se poderá designar como meios de produção digitais, ganha nova actualidade. Parece-me que a encíclica recentemente publicada pelo Papa responde, em certa medida, a essas preocupações. Ora, o problema é que tanto a IA como a ideia de Deus são, em última análise, produto de um conjunto de relações sociais. Tal como determinadas forças sociais actuavam, e actuam, para que a ideia de Deus desempenhasse um conjunto de papéis numa determinada ordem social, da mesma forma o capital tecnológico propõe que a IA cumpra ou favoreça uma série de tarefas e condicionamentos sociais.
Desta forma, esse caminho aceleracionista de inovação sem fim tem também que ver com os debates sobre como regular, em termos legais e políticos, o desenvolvimento tecnológico, por todas as implicações que isso pode ter, entre outras coisas, na educação. Há já algum tempo, foi apresentado na Argentina algo a que chamaram “a primeira professora de inteligência artificial”, que consistia basicamente num programa utilizado na sala de aula e que “dava a aula” em vez de um professor ou professora. Uma iniciativa que, ao que parece, até ao momento não se revelou bem-sucedida. O CEO da empresa que a promovia afirmou num programa de televisão que o uso da IA nas escolas da América Latina era relevante, porque, se não fosse utilizada, a diferença entre a América Latina e os países desenvolvidos não seria de natureza económica ou social, mas sim biológica. Isso, por outro lado, é basicamente uma recuperação do transumanismo que floresceu no Silicon Valley e que é tão impulsionado por setores tecno-reaccionários liderados publicamente por Peter Thiel.
A tudo isto, a megamáquina educativa, conceito que desenvolvo com base na obra clássica de Lewis Mumford, não consiste num grande aparelho que opera na educação e se situa acima dela, mas sim num conjunto complexo, dinâmico e em constante fluxo de instituições, actores, ideias, narrativas, artefactos e prefigurações. Esta megamáquina é atravessada por narrativas tecno-solucionistas e, de forma cada vez mais clara, também por projectos reaccionários e princípios transumanistas e eugénicos.
O que são o transumanismo e o eugenismo que referes?
Na introdução a Pedagogia Ludita, menciono como um promotor de tecnologias digitais educativas, impulsionador de uma iniciativa capitalista de integração tecnológica nas escolas, que foi alardeada como “a primeira professora de IA na América Latina”, afirma que a adoção de tecnologia nas escolas é uma questão biológica. Este não é um pormenor despiciendo, pois encerra uma tradição transumanista e eugenista complexa, como já referi, de longa data em Silicon Valley, que tem ocupado um espaço cada vez maior na megamáquina educativa.
Este tipo de retórica apresenta a adoção da tecnologia digital como uma possível melhoria da própria condição humana ou como um caminho para alcançar, literalmente, a imortalidade. A este propósito, a entrevista de Ross Douthat a Peter Thiel é extremamente reveladora. Nela, é provável identificar alguns elementos daquilo a que Timnit Gebru e Emile P. Torres chamaram “pacote TESCREAL”. Ou seja, uma amálgama de princípios ideológicos (Transumanismo, Extropianismo, Singularitarismo, Cosmismo, Racionalismo, Altruísmo Eficaz e Longoprazismo) que constituem o tecno-otimismo radical de Silicon Valley, profundamente relacionados, entre outras coisas, com o projeto corporativo de desenvolver aquilo a que os líderes e magnatas da tecnologia chamam inteligência artificial geral (IAG), um sistema tecnológico com capacidade de inteligência e consciência virtualmente humana; uma enteléquia que tem estado no centro das perspetivas mais catastrofistas e otimistas sobre a tecnologia. Embora esta formação ideológica não surja explicitamente quando falamos de educação e tecnologia, a realidade é que o projeto tecnológico na educação, impulsionado pelo capital, agora com conotações abertamente reacionárias, é muito mais do que a procura de maior eficiência. Estamos a assistir a uma tentativa de constituição, a partir de diferentes polos de poder e de dinheiro, de uma mudança civilizacional.
Existem, classicamente, no imaginário, no pensamento socialista, pelo menos duas grandes visões antagónicas sobre o futuro do trabalho nos romances do final do século XIX, e as posições opõem-se, como sabes, com William Morris, por um lado, a defender que todo o trabalho humano é trabalho criativo – assim, todas as oportunidades para produzir mercadorias, desde calças a armários, carros, o que for, teriam quase naturalmente o carácter de trabalho artístico; não se despreza, não há alienação entre trabalho intelectual e trabalho material, e uma série de outras posições que já são apresentadas desde 1890. Esta confronta-se com outra, que surgiu depois da publicação de um romance na América do Norte, que é Olhando para Trás: A utopia futurista de Edward Bellamy (Looking Backward 2000-1887), em que o futuro do trabalho é como um estado super-centralizado, em que só há trabalho entre os 35 e os 45 anos, e tudo o que é a libertação do trabalho é o tempo livre e o lazer, tal como é. Então, queria dizer o seguinte. Imagina uma revolução socialista mundial, na fase superior de desenvolvimento humano já comunista, com a propriedade totalmente comunitária, sem mercadorias, sem hierarquias, sem desigualdade, uma sociedade igualitária. Teríamos algo a ganhar com a inteligência artificial generativa e os modelos de linguagem de grande escala? Pergunto isto porque penso um pouco nos governos progressistas, mas quero ir mais além. Não só aqueles que criticamos, que não são do nosso campo, por assim dizer, mas também os nossos camaradas que pensam: “Bem, isso é mais do que isso, é como um tear, é como um carro, é como um computador”. “Não se pode parar o progresso humano.”
Sim. A questão do tempo livre é, creio eu, algo em que também é preciso refletir bastante. Na educação, qual é uma das supostas vantagens da adopção da tecnologia digital, particularmente da IA, para os professores? Poupar tempo. No discurso das grandes empresas tecnológicas, uma das funções esperadas da tecnologia digital é que os professores poupem tempo. Tempo “livre” que possam dedicar a coisas relevantes, ou mesmo gratificantes. É assim que apresentam a questão do tempo livre, e sabemos disso através de uma discussão clássica no marxismo. Uma obra que considero particularmente interessante, onde isso é discutido de certa forma, é O Direito à Preguiça, de Paul Lafargue. Tem um parágrafo muito bonito em que, essencialmente, se defende que a disputa histórica entre o trabalho e as máquinas não se resolveu com mais tempo livre, mas que o desenvolvimento tecnológico fez que esse tempo, que a tecnologia, digamos, de certa forma, “poupa” ao trabalho tenha sido também dedicado à produção.
Algo semelhante está a acontecer actualmente nas escolas, tal como vários estudos têm demonstrado. Neil Selwyn já publicou alguns artigos nos quais mostra que o uso ou a integração da IA no trabalho em sala de aula, em determinadas tarefas, não gera propriamente mais tempo livre, devido ao conjunto de actividades que rodeiam a adopção tecnológica e que consomem tempo de trabalho dos professores.
Assim, tendo isso em conta, creio que, para mim, uma sociedade comunista deveria essencialmente proporcionar-nos tempo livre, mas a forma tecnológica actual, derivada da sua organização política, não permite que a tecnologia nos proporcione mais tempo livre, porque o tempo excedente, por assim dizer, é também ocupado em processos de produção ou de reprodução social do capital, o que é algo muito mais complexo.
No entanto, se pudéssemos, neste momento, esboçar uma potencial utilidade deste tipo de tecnologia numa sociedade comunista, parece-me que tal utilidade poderia ser encontrada e discutida no debate clássico sobre a possibilidade do cálculo económico, travado nas décadas de 1930 e 1940 entre Oskar Lange, o economista soviético, e Ludwig von Mises, um dos fundadores da Escola Austríaca de Economia.
Naquela época, o que Von Mises defendia era basicamente — o que é interessante, pois esse é um dos pilares teóricos dos reaccionários chamados libertários — que o Estado não tem capacidade para cumprir a sua missão de satisfazer as necessidades da sociedade, essencialmente porque não consegue fazer um cálculo económico sobre o que esta necessita. É claro que o Estado tem uma burocracia e que a burocracia opera na sociedade e, por sua vez, gera, em teoria, informação. No entanto, a informação por ela gerada não tem a qualidade daquela que, segundo ele, é gerada no mercado, o que os economistas austríacos e outras expressões do radicalismo de mercado (como Quinn Slobodian as denomina) conhecem como sistema de preços. Para a tradição económica austríaca, o sistema de preços das mercadorias é basicamente um sistema de informação sobre as necessidades das pessoas, que o Estado não pode ter. Muito menos quando temos um Estado que, por exemplo, impõe determinados preços máximos às mercadorias. Ou seja, um Estado que intervém na economia, essa é a sua formulação. Se considerássemos válido esse debate sobre a impossibilidade do cálculo económico no socialismo, parece-me que esta tecnologia poderia eventualmente vir a ser útil, dada a sua enorme capacidade de acumular e dar algum sentido a volumes gigantescos de dados relativos às necessidades e interesses de cada uma das pessoas na sociedade. Ou seja, se conseguíssemos encontrar uma forma em que esta capacidade de extracção da IA servisse claramente para identificar as necessidades populares e atendê-las através de um diagnóstico preciso em termos quantitativos, geográficos, etc., com o objectivo de gerar correlações e projecções sobre formas de satisfazer tais necessidades, parece-me que, nesse sentido, essa tecnologia poderia ser útil para a construção de uma sociedade comunista, de uma sociedade fundada na igualdade.
Uma megamáquina socialista? Queremos voltar ao termo “megamáquina educativa”: qual seria um programa de acção para o novo ludismo? Para a educação, o que estamos a fazer não é apenas uma integração genética, dessa personalidade em particular, num mecanismo que descreveste de forma brilhante, mas também na reprodução mais ampla do humano, em termos de linguagem, pensamento, sociabilidade, trabalho, coisas diferentes e centrais para a humanização do humano, porque somos uma espécie distinta das outras, que não nascemos prontos como, por exemplo, um antílope, uma abelha, uma árvore. Então, tudo isso não é apenas uma excursão de curto ciclo, mas de longa duração e não apenas do indivíduo, mas do género humano, e essa excursão é mais difícil porque vivemos sob a hegemonia capitalista, que nega a longa duração e a existência do género humano. Nem sequer existe sociedade, como dizia Margaret Thatcher.
Uma espécie de IA revolucionária. Ora, o problema é que, por definição, este tipo de tecnologia que temos — lembremos o que Langdon Winner defende — requer um determinado desenho social, que é o desenho social do capital. O que acabo de referir está, de certa forma, presente na órbita do chamado aceleracionismo de esquerda, que, em algumas versões, parece-me que acaba por reproduzir uma visão um tanto fetichizada da tecnologia.
No livro, menciono algumas ideias específicas, a título de proposta, que tenho discutido em diferentes espaços, relativamente à possibilidade de construir uma prática ludita na educação:
- Não aceitar novos acordos com empresas de tecnologia que impliquem aumentar a dependência estrutural das nossas escolas e centros de investigação dos gigantes tecnológicos, com especial ênfase nas empresas que participaram activamente no genocídio contra o povo palestiniano e na repressão e perseguição das comunidades migrantes nos Estados Unidos.
- Impedir colectivamente a construção de novos centros de dados, principalmente de empresas da Big Tech, considerando publicamente o custo ecológico e para o bem-estar humano que isso representa.
- Defender as culturas indígenas contra a expropriação do seu conhecimento, mascarada de inclusão por parte de empresas produtoras, sobretudo de IA generativa.
- Criar estruturas para um avanço estratégico em diversos âmbitos estatais, com o objectivo de delinear e, eventualmente, construir uma política digital soberana de infra-estruturas e gestão de dados própria.
- Impulsionar o desenvolvimento de plataformas educativas públicas, ou seja, que sejam financiadas e administradas pelo sector público, e não com empresas por trás que designam como público o que é essencialmente um serviço privado, por exemplo, a chamada “nuvem pública” da Microsoft. Impulsionar, assim, uma infra-estrutura que permita desenvolver actividades formativas e de acompanhamento pedagógico reguladas pelo Estado e com controlo democrático, na qual participe uma diversidade de actores educativos, com centralidade e o corpo docente organizado, ou seja, os sindicatos.
- Fortalecimento das capacidades tecnológicas das universidades públicas através de um aumento do seu financiamento à investigação e desenvolvimento tecnológico.
- Políticas fiscais claras e progressivas em relação às empresas tecnológicas, bem como normas rigorosas sobre a utilização de dados por parte das empresas digitais.
- Outra questão é que, na medida do possível e com vista a um projecto de desconexão no futuro, apostemos num afastamento gradual do eco-sistema tecnológico na educação, particularmente no que diz respeito a pacotes de software de escritório, como o Word, motores de busca na Internet, serviços de correio electrónico e programas de IA generativa.
Como podem ver, estas propostas são, na verdade, alguns pontos de partida, que devem ser trabalhados a partir das comunidades educativas, num exercício de discussão aberta e democrática. Na Pedagogia Ludita, o que proponho, na verdade, é a construção de um movimento pedagógico que parta de uma leitura materialista da tecnologia, com vista a construir alternativas viáveis para este contexto tão complicado para a educação pública, o cuidado do planeta e a própria dignidade humana. Ora bem, considero que é necessário traduzir esta discussão em termos didácticos e é aí que encontro um espaço para um aprofundamento necessário.
LER A PRIMEIRA PARTE DESTA ENTTREVISTA
Mauro Jarquín Ramírez
