Ludismo

É muito interessante teres dito que, no México, temos um governo progressista e que este tem uma abordagem muito semelhante no que diz respeito ao suposto desenvolvimento das forças produtivas em geral, porque se retirarmos do contexto o facto de falarmos de “progressista”, num sentido de liberal esclarecido, social-democrata ou reformista... Se pensarmos, por exemplo, como pensava Walter Benjamin, a noção de progresso como uma contrapartida da barbárie no modo de produção capitalista – desenvolvimento e barbárie andam de mãos dadas, em suma, como abordas esse dualismo entre progresso e barbárie, o pensamento das teses sobre o conceito de história, como abordas a reivindicação de um novo ludismo.

Considero que, fazendo referência às teses sobre a história, o apelo ao ludismo, em termos da prática educativa, é um apelo para accionar o travão de emergência, anticapitalista e revolucionário, perante uma locomotiva descontrolada conduzida por um aceleracionismo reaccionário que põe em causa a educação pública, o trabalho docente, a criação de conhecimento, etc. O comboio da história parece actualmente seguir um percurso que nos está a colocar em contracorrente do Iluminismo. A partir da obra de autores como Curtis Yarvin e Nick Land, tem sido designado por Ilustração Negra ou neo-reacção. Uma configuração social em que a herança progressista do Iluminismo é supérflua – os direitos humanos, o Estado de Direito, a democracia, etc., são supérfluos. E são supérfluos precisamente porque são camisas de força de um princípio fundamental no seu raciocínio: a aceleração do capitalismo e, neste momento, remover essas barreiras supérfluas à aceleração do capital, tem muito que ver com a liberdade do capital tecnológico para continuar a produzir aquilo a que eles chamam de “inovação”.

O apelo ao ludismo educativo — que, a partir de outras perspectivas e posições políticas, também tem sido defendido por figuras como Charles Logan, Philip Nichols e Antero García — defende que o actual desenvolvimento das forças produtivas do capital, nas relações de produção actuais e com as correlações de forças políticas dominantes, nos está a conduzir não só a um agravamento dos maus tratos à vida em geral, à vida biológica do planeta e à desumanização quotidiana das pessoas, mas, na essência, nos está a conduzir, na minha opinião, a um abismo.

Neste sentido, a educação pública, que podemos considerar como consequência do Iluminismo, é alvo fundamental de ataque desta neo-reacção, porque o que muitas vezes se defende a partir dela, como a igualdade, a protecção ambiental ou a democracia, pode acabar por limitar a inovação monopolista sem fim que se propõe num capitalismo cada vez mais regulado por lógicas libertárias e por perspectivas radicais do capitalismo.

Então, entendo esse travão de emergência em termos luditas, em primeiro lugar, ao reconhecer a materialidade do desenvolvimento tecnológico, ou seja, uma leitura materialista da tecnologia que reconheça o seu condicionamento capitalista, uma reflexão desenvolvida de forma interessante por Jathan Sadowski. Por outro lado, como forma particular de anti-capitalismo na educação, que actualiza um conjunto de discussões e discursos presentes no pensamento crítico. Durante muito tempo, o anti-capitalismo foi apontado contra o discurso do capital humano na educação, algo que serviu de ponto de partida para um conjunto de posições críticas, como a campanha contra a padronização educativa. Parece-me que, neste momento, é necessário actualizar alguns elementos, porque várias das críticas que fizemos na altura, como a que se dirigia contra a padronização da educação, entendida como mecanismo de produção de capital humano num contexto de capitalismo industrial, apresentam actualmente alguns problemas.

A oferta tecnológica atual da “megamáquina” educativa tem como um dos seus principais atractivos a superação da padronização. O que as empresas tecnológicas e os evangelistas da tecnologia na educação nos dizem agora é que o modelo educativo em que um professor dá aula a todo um grupo é um modelo obsoleto. Do que precisamos agora é de personalizar a educação, ou seja, utilizar a tecnologia, neste caso a IA, para gerar perfis específicos das necessidades de cada aluno, a fim de “personalizar a sua educação”. 

Há algum tempo, perguntei a colegas aqui na América Latina: como respondemos agora às empresas tecnológicas, quando parece que elas estão a fazer o que exigimos há muito tempo? Ou seja, atender às necessidades de cada aluno. Agora é isso que elas oferecem, em termos de mercado e com um apoio académico realmente frágil quanto à sua funcionalidade. Perante isto, uma pedagogia ludita — ou seja, uma abordagem anticapitalista na educação — revela-se, na minha opinião, importante.

Bem, na verdade, se me permites, não queremos incomodar-te muito, mas eu trabalho muito com escolas, vou a muitas escolas, dou muitas palestras, e o que vejo é que, em primeiro lugar, mesmo dentro da esquerda, a ideia de que a educação é uma ferramenta para o mercado de trabalho, de que a escola não é um lugar de conhecimento e de aprendizagem, está muito disseminada. Até os pais acham que é melhor que os filhos aprendam alguma coisa para poderem trabalhar. Em segundo lugar, a maioria dos sindicatos está a aceitar a inteligência artificial, apenas pedem regulamentação. Achas que é possível regulamentar a inteligência artificial? Essa é uma questão. E a outra é: quando entrávamos na escola há 10 anos, já tínhamos aulas inteiras em PowerPoint, com o auxílio disto e daquilo, e de outra coisa. Então, já vemos os professores “semi-dispostos”, prontos para receber a inteligência artificial. Não achas? Não caiu do céu, porque os professores, muitos deles, já não criavam as suas próprias aulas.

No contexto latino-americano, e também no México, acontece algo semelhante. Ainda prevalece uma série de narrativas sobre a inevitabilidade tecnológica, que sugere que, se os professores não adoptarem a tecnologia educativa — em particular a IA —, ficarão condenados a ficar para trás e, com isso, a prejudicar os seus alunos, ao não os preparar para o “século XXI”. Mesmo sectores mobilizados do magistério, com uma história política de luta, ainda não desenvolveram, até ao momento, uma posição a este respeito, em grande parte porque, nos últimos anos, tiveram de lutar, enquanto organização, contra um conjunto de políticas governamentais em matéria de educação e segurança social que se revelaram prejudiciais aos interesses das comunidades educativas e do corpo docente. Tudo isto porque, recordemos, embora a IA tenha uma história de várias décadas, o seu desenvolvimento, fundamentação teórica e expansão têm muito que ver com o neoliberalismo, seja na sua vertente conexionista-hayekiana, seja através da promoção de políticas de austeridade.

Desculpa, vou repetir: a verdade é que nós, que estudámos teorias da educação, do desenvolvimento da psique, Vygotsky, etc., sabemos que o processo de trabalho é o processo da cultura. Então, a ideia de que me entrego a algo cedo é a negação do trabalho, é a negação da cultura. Porque a paixão de dar aulas... é até passar pelo sofrimento de criar uma turma. Sofrimento e prazer. Até a sublimação, psicanaliticamente, é... Só há sublimação quando há transição do sofrimento para o prazer, não é?

Veio-me à mente a abordagem crítica de Marx relativamente ao divino e à alienação do humano em Deus, presente na obra de Feuerbach. Para Feuerbach, a figura de Deus acaba por privar o ser humano das suas faculdades, porque é essa figura divina que concentra as aspirações, os anseios, etc. Neste sentido, parece-me que algo semelhante acontece, em termos actuais, com a inteligência artificial. Estamos num momento em que, cada vez mais, nós, as pessoas, cedemos ou renunciamos, pelo menos parcialmente, à nossa capacidade criativa, à capacidade de conhecer o mundo, de o interpretar.

É o novo deus?

Se seguirmos à risca a propaganda dos círculos mais radicais do Silicon Valley, parece que sim. Sem querer extrapolar ou exagerar a abordagem, parece que avançamos para o aprofundamento de uma alienação social como talvez nunca tenhamos experimentado antes, como talvez não se tenha experimentado desde tempos em que, retomando o ponto anterior, o centro da sociedade era abertamente Deus ou o divino. Considero que isto é importante, porque estamos, então, a falar de uma tecnologia que, em certa medida, pode moldar processos fundamentais da nossa sociedade. 

Parece que avançamos para o aprofundamento de uma alienação social como talvez nunca tenhamos experimentado antes.

Assim, quando nos perguntamos se é possível regulamentar a IA — um debate promovido, em grande parte, como única perspectiva viável por parte de governos e organizações multilaterais —, teríamos primeiro de responder ao que entendemos por IA. Ou seja, por IA estamos a considerar um conjunto de “ferramentas de produtividade” específicas; os algoritmos que permitem o seu funcionamento; a grande quantidade de dados com que os modelos são treinados, ou também, de forma mais ampla, a sua materialidade? A IA tem como condição sine qua non uma infra-estrutura física composta por centros de dados, cabos submarinos, estruturas que orbitam a Terra, etc. 

Assim, se afirmamos que é necessário regulamentar a IA, parece-me que devemos considerar as suas dimensões e ter em conta que um projecto de tal magnitude implica tocar em interesses profundos do capital tecnológico global; e, neste ponto, parece que a discussão clássica sobre o capitalismo, no que diz respeito aos termos de propriedade em torno do que se poderá designar como meios de produção digitais, ganha nova actualidade. Parece-me que a encíclica recentemente publicada pelo Papa responde, em certa medida, a essas preocupações. Ora, o problema é que tanto a IA como a ideia de Deus são, em última análise, produto de um conjunto de relações sociais. Tal como determinadas forças sociais actuavam, e actuam, para que a ideia de Deus desempenhasse um conjunto de papéis numa determinada ordem social, da mesma forma o capital tecnológico propõe que a IA cumpra ou favoreça uma série de tarefas e condicionamentos sociais. 

Desta forma, esse caminho aceleracionista de inovação sem fim tem também que ver com os debates sobre como regular, em termos legais e políticos, o desenvolvimento tecnológico, por todas as implicações que isso pode ter, entre outras coisas, na educação. Há já algum tempo, foi apresentado na Argentina algo a que chamaram “a primeira professora de inteligência artificial”, que consistia basicamente num programa utilizado na sala de aula e que “dava a aula” em vez de um professor ou professora. Uma iniciativa que, ao que parece, até ao momento não se revelou bem-sucedida. O CEO da empresa que a promovia afirmou num programa de televisão que o uso da IA nas escolas da América Latina era relevante, porque, se não fosse utilizada, a diferença entre a América Latina e os países desenvolvidos não seria de natureza económica ou social, mas sim biológica. Isso, por outro lado, é basicamente uma recuperação do transumanismo que floresceu no Silicon Valley e que é tão impulsionado por setores tecno-reaccionários liderados publicamente por Peter Thiel. 

A tudo isto, a megamáquina educativa, conceito que desenvolvo com base na obra clássica de Lewis Mumford, não consiste num grande aparelho que opera na educação e se situa acima dela, mas sim num conjunto complexo, dinâmico e em constante fluxo de instituições, actores, ideias, narrativas, artefactos e prefigurações. Esta megamáquina é atravessada por narrativas tecno-solucionistas e, de forma cada vez mais clara, também por projectos reaccionários e princípios transumanistas e eugénicos.

O que são o transumanismo e o eugenismo que referes?

Na introdução a Pedagogia Ludita, menciono como um promotor de tecnologias digitais educativas, impulsionador de uma iniciativa capitalista de integração tecnológica nas escolas, que foi alardeada como “a primeira professora de IA na América Latina”, afirma que a adoção de tecnologia nas escolas é uma questão biológica. Este não é um pormenor despiciendo, pois encerra uma tradição transumanista e eugenista complexa, como já referi, de longa data em Silicon Valley, que tem ocupado um espaço cada vez maior na megamáquina educativa.

Este tipo de retórica apresenta a adoção da tecnologia digital como uma possível melhoria da própria condição humana ou como um caminho para alcançar, literalmente, a imortalidade. A este propósito, a entrevista de Ross Douthat a Peter Thiel é extremamente reveladora. Nela, é provável identificar alguns elementos daquilo a que Timnit Gebru e Emile P. Torres chamaram “pacote TESCREAL”. Ou seja, uma amálgama de princípios ideológicos (Transumanismo, Extropianismo, Singularitarismo, Cosmismo, Racionalismo, Altruísmo Eficaz e Longoprazismo) que constituem o tecno-otimismo radical de Silicon Valley, profundamente relacionados, entre outras coisas, com o projeto corporativo de desenvolver aquilo a que os líderes e magnatas da tecnologia chamam inteligência artificial geral (IAG), um sistema tecnológico com capacidade de inteligência e consciência virtualmente humana; uma enteléquia que tem estado no centro das perspetivas mais catastrofistas e otimistas sobre a tecnologia. Embora esta formação ideológica não surja explicitamente quando falamos de educação e tecnologia, a realidade é que o projeto tecnológico na educação, impulsionado pelo capital, agora com conotações abertamente reacionárias, é muito mais do que a procura de maior eficiência. Estamos a assistir a uma tentativa de constituição, a partir de diferentes polos de poder e de dinheiro, de uma mudança civilizacional.

Existem, classicamente, no imaginário, no pensamento socialista, pelo menos duas grandes visões antagónicas sobre o futuro do trabalho nos romances do final do século XIX, e as posições opõem-se, como sabes, com William Morris, por um lado, a defender que todo o trabalho humano é trabalho criativo – assim, todas as oportunidades para produzir mercadorias, desde calças a armários, carros, o que for, teriam quase naturalmente o carácter de trabalho artístico; não se despreza, não há alienação entre trabalho intelectual e trabalho material, e uma série de outras posições que já são apresentadas desde 1890. Esta confronta-se com outra, que surgiu depois da publicação de um romance na América do Norte, que é Olhando para Trás: A utopia futurista de Edward Bellamy (Looking Backward 2000-1887), em que o futuro do trabalho é como um estado super-centralizado, em que só há trabalho entre os 35 e os 45 anos, e tudo o que é a libertação do trabalho é o tempo livre e o lazer, tal como é. Então, queria dizer o seguinte. Imagina uma revolução socialista mundial, na fase superior de desenvolvimento humano já comunista, com a propriedade totalmente comunitária, sem mercadorias, sem hierarquias, sem desigualdade, uma sociedade igualitária. Teríamos algo a ganhar com a inteligência artificial generativa e os modelos de linguagem de grande escala? Pergunto isto porque penso um pouco nos governos progressistas, mas quero ir mais além. Não só aqueles que criticamos, que não são do nosso campo, por assim dizer, mas também os nossos camaradas que pensam: “Bem, isso é mais do que isso, é como um tear, é como um carro, é como um computador”. “Não se pode parar o progresso humano.”

Sim. A questão do tempo livre é, creio eu, algo em que também é preciso refletir bastante. Na educação, qual é uma das supostas vantagens da adopção da tecnologia digital, particularmente da IA, para os professores? Poupar tempo. No discurso das grandes empresas tecnológicas, uma das funções esperadas da tecnologia digital é que os professores poupem tempo. Tempo “livre” que possam dedicar a coisas relevantes, ou mesmo gratificantes. É assim que apresentam a questão do tempo livre, e sabemos disso através de uma discussão clássica no marxismo. Uma obra que considero particularmente interessante, onde isso é discutido de certa forma, é O Direito à Preguiça, de Paul Lafargue. Tem um parágrafo muito bonito em que, essencialmente, se defende que a disputa histórica entre o trabalho e as máquinas não se resolveu com mais tempo livre, mas que o desenvolvimento tecnológico fez que esse tempo, que a tecnologia, digamos, de certa forma, “poupa” ao trabalho tenha sido também dedicado à produção.

Algo semelhante está a acontecer actualmente nas escolas, tal como vários estudos têm demonstrado. Neil Selwyn já publicou alguns artigos nos quais mostra que o uso ou a integração da IA no trabalho em sala de aula, em determinadas tarefas, não gera propriamente mais tempo livre, devido ao conjunto de actividades que rodeiam a adopção tecnológica e que consomem tempo de trabalho dos professores.

Assim, tendo isso em conta, creio que, para mim, uma sociedade comunista deveria essencialmente proporcionar-nos tempo livre, mas a forma tecnológica actual, derivada da sua organização política, não permite que a tecnologia nos proporcione mais tempo livre, porque o tempo excedente, por assim dizer, é também ocupado em processos de produção ou de reprodução social do capital, o que é algo muito mais complexo.

No entanto, se pudéssemos, neste momento, esboçar uma potencial utilidade deste tipo de tecnologia numa sociedade comunista, parece-me que tal utilidade poderia ser encontrada e discutida no debate clássico sobre a possibilidade do cálculo económico, travado nas décadas de 1930 e 1940 entre Oskar Lange, o economista soviético, e Ludwig von Mises, um dos fundadores da Escola Austríaca de Economia.

Naquela época, o que Von Mises defendia era basicamente — o que é interessante, pois esse é um dos pilares teóricos dos reaccionários chamados libertários — que o Estado não tem capacidade para cumprir a sua missão de satisfazer as necessidades da sociedade, essencialmente porque não consegue fazer um cálculo económico sobre o que esta necessita. É claro que o Estado tem uma burocracia e que a burocracia opera na sociedade e, por sua vez, gera, em teoria, informação. No entanto, a informação por ela gerada não tem a qualidade daquela que, segundo ele, é gerada no mercado, o que os economistas austríacos e outras expressões do radicalismo de mercado (como Quinn Slobodian as denomina) conhecem como sistema de preços. Para a tradição económica austríaca, o sistema de preços das mercadorias é basicamente um sistema de informação sobre as necessidades das pessoas, que o Estado não pode ter. Muito menos quando temos um Estado que, por exemplo, impõe determinados preços máximos às mercadorias. Ou seja, um Estado que intervém na economia, essa é a sua formulação. Se considerássemos válido esse debate sobre a impossibilidade do cálculo económico no socialismo, parece-me que esta tecnologia poderia eventualmente vir a ser útil, dada a sua enorme capacidade de acumular e dar algum sentido a volumes gigantescos de dados relativos às necessidades e interesses de cada uma das pessoas na sociedade. Ou seja, se conseguíssemos encontrar uma forma em que esta capacidade de extracção da IA servisse claramente para identificar as necessidades populares e atendê-las através de um diagnóstico preciso em termos quantitativos, geográficos, etc., com o objectivo de gerar correlações e projecções sobre formas de satisfazer tais necessidades, parece-me que, nesse sentido, essa tecnologia poderia ser útil para a construção de uma sociedade comunista, de uma sociedade fundada na igualdade.

Uma megamáquina socialista? Queremos voltar ao termo “megamáquina educativa”: qual seria um programa de acção para o novo ludismo? Para a educação, o que estamos a fazer não é apenas uma integração genética, dessa personalidade em particular, num mecanismo que descreveste de forma brilhante, mas também na reprodução mais ampla do humano, em termos de linguagem, pensamento, sociabilidade, trabalho, coisas diferentes e centrais para a humanização do humano, porque somos uma espécie distinta das outras, que não nascemos prontos como, por exemplo, um antílope, uma abelha, uma árvore. Então, tudo isso não é apenas uma excursão de curto ciclo, mas de longa duração e não apenas do indivíduo, mas do género humano, e essa excursão é mais difícil porque vivemos sob a hegemonia capitalista, que nega a longa duração e a existência do género humano. Nem sequer existe sociedade, como dizia Margaret Thatcher. 

Uma espécie de IA revolucionária. Ora, o problema é que, por definição, este tipo de tecnologia que temos — lembremos o que Langdon Winner defende — requer um determinado desenho social, que é o desenho social do capital. O que acabo de referir está, de certa forma, presente na órbita do chamado aceleracionismo de esquerda, que, em algumas versões, parece-me que acaba por reproduzir uma visão um tanto fetichizada da tecnologia. 

No livro, menciono algumas ideias específicas, a título de proposta, que tenho discutido em diferentes espaços, relativamente à possibilidade de construir uma prática ludita na educação:

• Não aceitar novos acordos com empresas de tecnologia que impliquem aumentar a dependência estrutural das nossas escolas e centros de investigação dos gigantes tecnológicos, com especial ênfase nas empresas que participaram activamente no genocídio contra o povo palestiniano e na repressão e perseguição das comunidades migrantes nos Estados Unidos. 
• Impedir colectivamente a construção de novos centros de dados, principalmente de empresas da Big Tech, considerando publicamente o custo ecológico e para o bem-estar humano que isso representa.
• Defender as culturas indígenas contra a expropriação do seu conhecimento, mascarada de inclusão por parte de empresas produtoras, sobretudo de IA generativa.
• Criar estruturas para um avanço estratégico em diversos âmbitos estatais, com o objectivo de delinear e, eventualmente, construir uma política digital soberana de infra-estruturas e gestão de dados própria.
• Impulsionar o desenvolvimento de plataformas educativas públicas, ou seja, que sejam financiadas e administradas pelo sector público, e não com empresas por trás que designam como público o que é essencialmente um serviço privado, por exemplo, a chamada “nuvem pública” da Microsoft. Impulsionar, assim, uma infra-estrutura que permita desenvolver actividades formativas e de acompanhamento pedagógico reguladas pelo Estado e com controlo democrático, na qual participe uma diversidade de actores educativos, com centralidade e o corpo docente organizado, ou seja, os sindicatos.
• Fortalecimento das capacidades tecnológicas das universidades públicas através de um aumento do seu financiamento à investigação e desenvolvimento tecnológico.
• Políticas fiscais claras e progressivas em relação às empresas tecnológicas, bem como normas rigorosas sobre a utilização de dados por parte das empresas digitais.
• Outra questão é que, na medida do possível e com vista a um projecto de desconexão no futuro, apostemos num afastamento gradual do eco-sistema tecnológico na educação, particularmente no que diz respeito a pacotes de software de escritório, como o Word, motores de busca na Internet, serviços de correio electrónico e programas de IA generativa.

Como podem ver, estas propostas são, na verdade, alguns pontos de partida, que devem ser trabalhados a partir das comunidades educativas, num exercício de discussão aberta e democrática. Na Pedagogia Ludita, o que proponho, na verdade, é a construção de um movimento pedagógico que parta de uma leitura materialista da tecnologia, com vista a construir alternativas viáveis para este contexto tão complicado para a educação pública, o cuidado do planeta e a própria dignidade humana. Ora bem, considero que é necessário traduzir esta discussão em termos didácticos e é aí que encontro um espaço para um aprofundamento necessário. 

LER A PRIMEIRA PARTE DESTA ENTTREVISTA

A IA produz um conhecimento médio medíocre e um bloqueio do conhecimento novo

Entrevista com Mauro Jarquín Ramírez1, 1ª parte Mauro Jarquín, professor da UNAM, México, defende que a IA não é inteligente, produz conhecimento medíocre, bloqueia novos conhecimentos e a criatividade. A cadeia produtiva da IA reconfigura a produção mundial, dos minérios à energia, mas o seu centro é a expropriação maciça

Jornal MaioMauro Jarquín Ramírez

Maio: Estamos a viver uma espécie de invasão apocalíptica do digital nas escolas, que já não parecem escolas. O primeiro argumento da maioria das pessoas é o do bom senso – ou seja, da hegemonia política do Estado e das empresas, passada pelos media –, é que “a inteligência artificial é como um automóvel, é como um computador, uma ferramenta como qualquer outra. A questão é democratizá-la, usá-la bem, etc.” O que pensas sobre isto?

Mauro Jarquín: É o discurso tecno-optimista promovido pelas empresas tecnológicas, que gradualmente vem ocupando também um lugar importante entre as comunidades educativas e os governos; mesmo naquelas com tendências ou narrativas progressistas, anti-imperialistas e soberanistas. Isto deve-se ao facto de, pelo menos em princípio, a tecnologia digital parecer ser tão neutra no seu desenvolvimento e aplicação, quanto inevitável na sua adoção.

O conjunto de métodos estatísticos denominado “inteligência artificial” (um nome, IA, que tem favorecido a proliferação de diversos mitos) tem sido cada vez mais discutido em termos de uma tecnologia de uso geral, ou seja, que não se situa apenas no âmbito da produção ou do aumento da produtividade do trabalho, mas cuja utilização se estende a múltiplas esferas da vida social, nas quais a educação se revela estratégica.

Considero que, em termos epistemológicos e estratégicos, não é possível afirmar que a IA é apenas uma ferramenta, porque se analisarmos a utilização de determinadas ferramentas e artefactos à luz da história da educação, como o quadro de ardósia, a calculadora, etc., deparamo-nos com artefactos que, na sua essência, são objeto da acção humana e que respondem imediatamente a essa acção. O quadro recebe a acção humana de escrever; a calculadora recebe a acção humana de um comando para realizar uma operação; o problema com a IA é que se trata de uma tecnologia que não apenas recebe a acção humana, mas que, no seu funcionamento, produz sentido, reformula práticas sociais. E, em última instância, é uma tecnologia que requer um conjunto de pré-requisitos sociais para funcionar.

Recordando um pouco o ensaio clássico de Langdon Winner, “Do Artefacts Have Politics?” (1980) [Os artefactos têm política?], o autor defendia que um artefacto podia ou não ser político em função de dois critérios centrais: em primeiro lugar, se, para o funcionamento desse artefacto (ou tecnologia), é necessária uma ordem social específica e, além disso, se o seu funcionamento produz uma sociabilidade específica. Nesses termos, esse artefacto funciona também como uma construção sócio-técnica. E quando falamos de IA, podemos ver que ambos os critérios se cumprem de forma clara. Assim, um primeiro mito que é preciso questionar é que a IA seja uma “ferramenta” que se encontra, simplesmente, à disposição de quem a utiliza. A IA não é um mero instrumento. É uma articulação sócio-técnica que tem a capacidade de produzir efeitos naqueles que a utilizam, tanto a nível individual como social.

Não é possível afirmar que a IA é apenas uma ferramenta, porque (…) se trata de uma tecnologia que não apenas recebe a acção humana, mas que, no seu funcionamento, produz sentido, reformula práticas sociais.

Há muito quem diga que a IA não é uma ferramenta, é um agente. Concordas?

Concordo com a primeira parte da proposição, mas a segunda parece-me mais problemática. Portanto, considero que a IA, tomando em consideração a sua capacidade produtiva – particularmente a IA generativa, onde se tem concentrado em grande medida o debate académico – não é uma mera ferramenta. Consiste numa articulação sócio-técnica que, operando, produz. Ainda assim, não assimilaria esta capacidade produtiva de forma directa à condição da IA de agente. É verdade que a noção de “agente de IA” se está a ampliar cada vez mais ao uso comum, tanto no meio empresarial como no universitário. E também é verdade que há una rica tradição de discussão acerca da capacidade de agência dos objectos, na obra de Bruno Latour ou Alfred Gell, por exemplo. 

Ora bem, ainda que a discussão teórica seja bastante rica, afigura-se-me que, neste momento, o ponto de interesse é outro: é político. Discutir se a IA é um agente ou não quando o projecto de inteligência artificial geral (IAG) vai prosperando no seio de uma classe tecno-capitalista eugenista e transumanista, e quando a aposta pela antropomorfização da dita tecnologia dialoga também com a possibilidade de um reconhecimento jurídico nesse sentido, faz que tenhamos de considerar todas as consequências políticas potenciais sobre as nossas posições teóricas ou premissas epistemológicas. 

Até que ponto a aceitação generalizada da IA como agente implicaria abrir caminho a uma interpretação mais humanizada dela? Em que medida pode uma apreciação mais humanizada da IA – não apenas em termos estéticos, mas inclusive ontológicos – aproximar-nos da potencial construção de uma legislação que a invista, por exemplo, de direitos? Em que medida nos pode tal discussão afastar da realidade material de que deriva a sua produção, à qual subjazem forças políticas, tendências ideológicas e interesses humanos? 

Mauro, mas todas as ferramentas nos transformam de alguma maneira. Quando inventámos a faca isso transformou a nossa alimentação, linguagem, etc.

Embora se possa, de maneira geral, dizer que os artefactos e formas tecnológicas têm a capacidade de originar mudanças nas pessoas que as utilizam (por exemplo, a diminuição da capacidade da escrever à mão (no caso do teclado do computador, a potenciação da “força”, no caso de um martelo ou roldana, ou mesmo de reconfigurar os espaços de atenção (como a aposição de um quadro numa sala de aula), estas ferramentas/artefactos são objecto e depositário da acção humana com um fim específico, e a sua operação responde-lhe directamente (escrever, martelar, mostrar letras e/ou figuras), acabando por ampliá-la, intensificá-la ou robustecê-la. 

Algumas diferenças essenciais para o uso acrítico da IA residem em que o uso da tecnologia representa um deslocamento do processo pelo qual se leva a cabo uma acção para um fim; é o utilizador que define, no essencial, o que quer fazer (obter informação, resolver dúvidas, conseguir uma criação gráfica ou textual), mas quem define a maneira de chegar a esse resultado é a IA. Dá-se, então, uma “perda de controle” do processo criativo. Não só isso, porém; encontramo-nos amiúde com um processo de produção subjectiva dos utilizadores da tecnologia a partir da adopção dos resultados conseguidos através dos modelos de IA enquadrados em critérios de verdade devidos ao seu “discernimento técnico” (como sucede quando se dão de barato vieses e/ou imprecisões contidas em respostas textuais ou gráficas relativas a problemáticas sociais). Em termos gerais, há diferença num duplo movimento: delega-se o processo criativo, e toma-se o resultado, alheio ao nosso conhecimento e controle, como ponto de partida para a interpretação do mundo ou para nele tentar incidir.

Embora a produção de artefactos requeira um conjunto de processos sociais articulados, principalmente no contexto da lógica do capital, a produção de IA representa um conjunto de transformações profundas nas forças produtivas a nível global. Estamos, no fundo, a falar de uma revolução tecnológica de uso geral e, concomitantemente, da concretização de um complexo articulado de cadeias globais de valor cujo fim é a produção da IA e da sua materialidade, conforme mostram Kate Crawford e Vladan Joler na sua Anatomy of AI system. Isto implica, de igual modo, a reconfiguração de uma nova morfologia global do trabalho, em que convergem diferentes formas de trabalho, como a extracção de minérios (muitas vezes em condições de super-exploração) no Sul Global, o treino de modelos de IA (também em grande medida em condições de super-exploração) ou, no caso da educação, o Trabalho Educativo Digital (TED) desenvolvido nos centros educativos e pelas comunidades educativas, que discuto no livro.

Podes explicar isso com mais pormenor, por exemplo, para os trabalhadores que nos estão a ouvir, os pais que têm filhos na escola? É possível concretizar um pouco esta teoria?

Quando utilizamos um modelo de linguagem e fazemos uma pergunta, o que o modelo de linguagem faz, essencialmente, é expropriar de forma generalizada o conhecimento existente na sociedade, aquilo que Marx, nos seus “Grundrisse”, discutiria em termos de “intelecto geral”. Essa máquina não pode funcionar sem um processo de expropriação, e a expropriação é, na sua essência, um dos fundamentos da reprodução do capitalismo. É importante referir que falamos de uma expropriação que não se desenvolve apenas em relação ao conhecimento protegido por direitos de autor e publicado por editoras, mas também aos saberes quotidianos das pessoas, expressos em blogues, fóruns, etc. Por exemplo, a empresa tecnológica Anthropic anunciou uma parceria com a Teach for All com o objetivo de promover o uso da IA na educação, garantindo ela que o que se procura é que a posição do corpo docente não seja “de consumidor passivo de ferramentas de IA, mas de co-arquitecto que molda a forma como a IA se desenvolve”, desenvolvendo conteúdos e propostas didácticas locais, integradas no ecossistema da empresa. Produtos do intelecto docente que serão expropriados pelo que denomino a megamáquina educativa do capitalismo digital, através do exercício expropriador da IA.

Quando utilizamos um modelo de linguagem e fazemos uma pergunta, o que o modelo de linguagem faz, essencialmente, é expropriar de forma generalizada o conhecimento existente na sociedade.

Ou seja, professores (e alunos) trabalham, fornecem dados e testes, projectos didácticos às empresas.

Outra dimensão desta discussão, muito mais debatida em termos públicos, é que, quando fazemos uma consulta, quando solicitamos um resultado a um modelo de linguagem ou que produz imagens, o resultado que nos é dado é uma projecção do conhecimento social apropriado, muitas vezes com certos enviesamentos. É neste ponto que reside a discussão sobre a possibilidade de criar novas ideias quando centramos excessivamente o nosso trabalho intelectual nos modelos de linguagem, o que pode conduzir a um círculo vicioso que não promove a ruptura de determinadas ideias nem a constituição de novos conceitos que respondam à nossa realidade em constante mudança.

Um conhecimento médio medíocre que se propaga como o aceitável e um bloqueio ao conhecimento novo… O exacto contrário do que uma escola e uma universidade devem ser…

Sim. Outro ponto a discutir nesta matéria é que, no âmbito estritamente educativo, a IA parece tornar-se um novo local de verdade quando nos referimos à vida quotidiana dos centros educativos. Alguém poderia dizer que isso tem uma função progressista, ao questionar o lugar histórico do corpo docente como sujeito que enuncia a verdade na sala de aula, podendo dar azo a um processo de maior discussão aberta nas salas de aula. No entanto, isto não acontece frequentemente, porque essa deslocação do “lugar da verdade” não é necessariamente acompanhada pela generalização de uma discussão profunda, mas parece ser uma transferência de autoridade, agora para uma instância incontestável, neutra e superior. Isto tem consequências políticas também num sentido mais amplo.

Há algumas semanas, foi anunciado que, em El Salvador, os alunos do ensino básico teriam, cada um, um tutor de IA, que seria o modelo de linguagem utilizado pela “rede social” X, de Elon Musk: o Grok. 

Ora, por que razão escolheu o governo salvadorenho esse modelo de linguagem? Recorde-se que a posição política do presidente de El Salvador, Nayib Nukele, se insere na esfera de influência da Conferência de Acção Política Conservadora (CPAC), que representa uma espécie de extensão da política imperialista norte-americana e, além disso, um foco central da reacção global. O que o governo salvadorenho afirma é que este modelo de linguagem não é um modelo “woke”, é um modelo que busca a verdade. Ou seja, trata-se de um modelo que, nos seus resultados, na sua concepção e, pelo menos em grande parte, na informação que poderá fornecer às consultas das escolas em El Salvador, não irá conter aquilo a que a extrema-direita global chama agora de “wokismo”; isto é, conteúdo que possa ser considerado favorável a temas como a igualdade social, o respeito pelos direitos das mulheres, o respeito pela diversidade sexual, etc.

A questão para os educadores, parece-me, passa também pela palavra-chave “linguagem”. Porque expropriar a linguagem é expropriar aquilo que nos torna especificamente humanos e converter — converter mal, de forma pobre e completamente plana — aquilo que é um património público a que Marx chamou “intelecto geral”, em algo que pode ser traduzido em zeros e uns, com uma recombinação algorítmica que é probabilística. Ou seja, a máquina não sabe nada, não pode saber nada, e o seu tratamento é... vamos ver, queijo azul ou amarelo? E depois, no contexto, chega a uma resposta.

O exercício de expropriação da linguagem e sua consequente produção manipulada e sem alma pela IA generativa dominante colocam-nos num cenário onde o conhecimento colectivo também faz parte da subsunção tecnológica desenvolvida pela tecnologia do capital. Raymond Williams costumava dizer que a linguagem era uma forma de indicar a realidade. E, neste sentido, é também uma estrutura a partir da qual moldamos os nossos quadros interpretativos do imediato, problematizamos o mundo e concebemos formas de nele intervir. Para além do debate clássico sobre se a linguagem é ou não uma superestrutura, no qual até Estaline se aventurou, a verdade é que esta apropriação subtil e — aparentemente — voluntária da linguagem colectiva por artefactos e tecnologias privadas representa, como afirmas, uma subsunção desse “intelecto geral”. Ora, quando consideramos este cenário em termos educativos, deparamo-nos com que a adoção acrítica da IA generativa aumenta consideravelmente a probabilidade de as mediações que ocorrem nas salas de aula e viabilizam os processos de ensino e aprendizagem serem determinadas, ou pelo menos moduladas, por agentes externos através das suas tecnologias digitais, como os modelos de linguagem. Assim, os significados, a construção discursiva, em suma, as formas de indicar a realidade que se pretende sejam conhecidas colectivamente a partir das instituições educativas, estão imbuídos de conteúdos ideológicos específicos sob a forma de enviesamentos. Isto não é difícil de verificar. Façamos perguntas a diferentes modelos linguísticos sobre a guerra entre a Rússia e a Ucrânia (que se estende à NATO) ou entre os Estados Unidos, Israel e o Irão, e veremos como representam o que se passa no mundo e em que medida o resultado desta manipulação linguística projecta formas ideológicas específicas.

(continua)

LER A SEGUNDA PARTE DA ENTREVISTA

A IA produz um conhecimento médio medíocre e um bloqueio do conhecimento novo

Entrevista com Mauro Jarquín Ramírez1, 2ª parte Mauro Jarquín, professor da UNAM, México, defende que a IA não é inteligente, produz conhecimento medíocre, bloqueia novos conhecimentos e a criatividade. A cadeia produtiva da IA reconfigura a produção mundial, dos minérios à energia, mas o seu centro é a expropriação maciça

Jornal MaioMauro Jarquín Ramírez

Depois de se apagarem as agitações revolucionárias da década de 1790 na Europa, as lutas e a organização da classe operária continuaram. Na primeira grande greve de operários organizada segundo o modelo moderno, a greve geral dos fiadores de algodão de Manchester, em 1810, vários milhares de homens distribuíram entre si o fundo de greve, primeira instituição económica de combate dos trabalhadores industriais, que atingiu a cifra de 1500 libras por semana. O antecedente fora a grande greve de 1804-1805 realizada pelos tecelões de Glasgow, quando 40 mil trabalhadores de toda a Escócia pararam os teares. Em inícios do século XIX surgiu também o ludismo (“os destruidores de máquinas”), movimento que se insurgiu contra as profundas alterações sociais e laborais trazidas pela revolução industrial. As reclamações contra as máquinas e a substituição que elas faziam da mão de obra humana eram “normais”, costumeiras. Movimentos esparsos de “destruidores de máquinas” desenvolveram-se a partir de meados do século XVIII, com tal força e extensão que levaram o Parlamento britânico a aprovar em 1769 uma lei que punia a destruição de fábricas e máquinas com a pena de morte. Vários trabalhadores foram executados devido a essa lei, o que não impediu que o movimento ganhasse amplidão.

Foi em 1811, na Inglaterra, que o movimento de destruição de máquinas “estourou”, superando o nível da revolta espontânea e local, ganhando dimensão nacional. O seu nome derivava de Ned Ludd, um dos seus líderes, quem, em Nottingham, aborrecido com o patrão, destruiu a sua oficina têxtil. Os luditas invadiam fábricas e destruíam máquinas que, por incrementarem a produtividade dos trabalhadores, lhes tiravam também os empregos, requerendo, contudo, duras horas de jornada de trabalho dos operários remanescentes. As fábricas eram também ambientes com péssima iluminação, abafados e sujos. Numa carta ameaçadora que Ned Ludd endereçou a certo empresário de Hudersfield, em 1812, lia-se: "Recebemos a informação de que é dono dessas detestáveis tosquiadoras mecânicas. Fica avisado de que se elas não forem retiradas até ao fim da próxima semanal eu mandarei imediatamente um de meus representantes destruí-las. E se o senhor tiver a imprudência de disparar contra qualquer dos meus homens, eles têm ordem de matá-lo e queimar a sua casa.” Uma canção refletia o espírito do movimento ludita:

Brave ludits we are, for the breaking we come! / God save Ned Ludd! / Machines to hell, we want our dignity! / Breaking is good, join us and save the Europe! / Break! Break! Break or die working! / Monsters of industrialism, we want you broken! / Machines to the ground! / Crash! Crash! Bang! Bang! The sound of freedom these are! / Break one, break two, break three, break all! All!

O ludismo teve o seu momento culminante no assalto noturno à manufatura de William Cartwright, no condado de York, em abril de 1812. No ano seguinte, na mesma cidade, teve lugar o maior processo contra os luditas: dos 64 acusados de terem atentado contra a manufatura de Cartwright, treze foram condenados à morte e dois a deportação para as colónias. Apesar da dureza das penas, o movimento não amainou até 1817, refletindo as péssimas condições de vida dos operários. Finalmente, a generalização da indústria (factory system) e a criação das primeiras trade unions (futuros sindicatos) limitaram o alcance e as possibilidades das revoltas luditas, fazendo que entrassem em declínio. Para o historiador Eric Hobsbawm, o ludismo “foi uma mera técnica de sindicalismo no período que precedeu a revolução industrial e nas suas primeiras fases”. O ludismo não foi um movimento exclusivamente inglês, tendo-se registado movimentos semelhantes na Bélgica, na Renânia, na Suíça e na Silésia; no mesmo período houve um movimento camponês inglês “primitivo” de revolta contra a modernização capitalista, em 1830, sob uma forma assemelhada ao “ludismo”, dirigido pelo lendário “Capitão Swing”. Karl Marx escreveu a respeito desses movimentos no Manifesto Comunista: “(Os operários) não se contentam com dirigir os seus ataques contra as relações burguesas de produção, e dirigem-se contra os próprios instrumentos de produção: destroem as mercadorias estrangeiras que lhes fazem concorrência, quebram as máquinas, incendeiam as fábricas, tentam reconquistar pela força a posição perdida do artesão da Idade Média.” No verão de 1812, doze mil soldados foram destacados para Leicester e York, na tentativa de deter o movimento de revolta. O valor das propriedades e máquinas destruídas ultrapassou 100 mil libras esterlinas. Lord Byron, nobre e poeta, membro da Câmara Alta (a Câmara dos Lordes), discursou em 1811 em defesa dos luditas e contra as inumanas condições de trabalho: "Não existem já bastantes coalhos de sangue nos vossos códigos, para que ainda queirais mais, até que os céus gritem e clamem contra vós? São esses os remédios com os quais quereis curar um povo faminto e desesperado?”

Quando, em 1819, se reuniram cem mil trabalhadores em Manchester, o Estado, através da cavalaria, provocou o ‘massacre de Peterloo’, que semeou de cadáveres o campo do mesmo nome.

A extraordinária “marcha da fome” sobre Londres (de 1817), ou o comício de Saint Peter’s Field em 1819, que reuniu a quantidade (inusitada para a época) de oitenta mil pessoas, produziram-se no meio do clima criado pela revolta dos operários e artesãos. No Norte do país eles decidiram eleger, fora do quadro legal, deputados para o Parlamento que os representassem; quando, em 1819, se reuniram cem mil trabalhadores em Manchester, o Estado, através da cavalaria, provocou o “massacre de Peterloo”, que semeou de cadáveres o campo do mesmo nome. Em 1824 foram criados na Inglaterra os primeiros centros de ajuda mútua e de formação profissional para operários. Não é correto, portanto, datar o nascimento do movimento operário em França e na Inglaterra entre 1832 e 1836. Ele tinha tido a sua origem, pelo menos, na última década do século precedente. Na Grã-Bretanha, as tentativas para unir todos os operários em “sindicatos gerais”, isto é, em entidades que superassem o isolamento local e regional dos grupos particulares de trabalhadores, levando-lhes uma solidariedade nacional e até universal da classe trabalhadora, começaram em 1818 e foram continuadas depois.

Com a extensão da revolução industrial, os núcleos mais numerosos e concentrados de operários situaram-se nos setores mais desqualificados, ou seja, nos setores fabris dominados pelo maquinismo. As leis antissindicais inglesas haviam sido promulgadas em plena revolução industrial. Elas foram sendo derrotadas pelas greves e pelas lutas operárias, que obtiveram em 1825 a sua revogação. As leis contra as “coalizões” de trabalhadores entraram em colapso em 1825, diante da atitude ameaçadora do proletariado. Em consequência disso, na década de 1830, os trabalhadores ingleses organizaram os primeiros sindicatos (trade unions) sob a forma de associações de base local, ou por ofício, para obter melhores condições de trabalho e de vida. Nesse ano, formou-se o Sindicato dos Operários da Construção (Operative Builders Union), e em 1834 a primeira central de trabalhadores (Grand National Consolidated Trade Unions). Para atender aos acidentes de trabalho, doenças ou desemprego, os operários criaram as primeiras associações de auxílio mútuo, que funcionavam por meio de quotizações. Aos poucos, as trade unions inglesas foram-se consolidando, dirigindo mais greves, maiores protestos. Deixaram o patronato num dilema: já que eram proibidas, o empresário não tinha como negociar em momentos de greve. Isso gerava grandes prejuízos, principalmente quando não havia stocks e surgiam encomendas de produtos. Perante esse crescimento das lutas operárias, o Parlamento da Inglaterra aprovou, em 1824, a primeira lei sobre o direito de organização sindical dos trabalhadores. Em 1825 foi abolida a proibição do direito de associação, os Combination Acts, e surgiu paralelamente uma onda grevista. Foi só a partir do Factory Act de 1833, visando as manufaturas de algodão, lã, linho e seda, que foi fixado para a indústria um “dia normal de trabalho”. Em 1833 surgiu a primeira lei limitando a oito horas de trabalho a jornada das crianças operárias. Em 1842 proibiu-se o trabalho de mulheres em minas. Gradativamente, as associações operárias conquistaram a proibição do trabalho infantil, a limitação do trabalho feminino, o direito de greve e a limitação da jornada de trabalho dos adultos, o que teria efeitos decisivos: as horas de trabalho semanais para trabalhadores adultos nas indústrias têxteis eram, em 1780, em torno de 80 horas; em 1820, estavam reduzidas a 67 horas; em 1860, a 53 horas.