Trotsky e a inteligência artificial

Há cem anos, o brilhante panfletista e crítico literário Lev Trotsky — tal avatar do dirigente da revolução será, para muitos, uma descoberta — antecipou o futuro. Especificamente, as discussões dos nossos dias sobre os grandes modelos linguísticos (GML) e as redes neuronais. O ensejo foi a famosa e emblemática polémica da década de 1920 acerca do método formal, da “escola formal” da literatura. Surdem do passado as sombras de Chklovski e Jakobson, Tynyanov e Eichenbaum — restando imaginar, interviesse a OPOIAZ (Sociedade para o Estudo da Linguagem Poética) com as ideias e métodos que eram os seus nos nossos dias, como se reflectiria a prática da inteligência artificial no processo literário contemporâneo.

Com característica agudeza e sarcasmo, Lev Davidovich caiu, pois, sobre os formalistas. Por via das dúvidas, rememore-se o contexto histórico, citando Victor Chklovsky: “A arte sempre foi livre, nunca na sua cor se reflectiu a cor da bandeira que ondeava no castelo.” Reitere-se, entretanto, que o nosso assunto é a incrível intuição de Trotsky no contexto da polémica contemporânea sobre grandes modelos linguísticos, redes neuronais e inteligência artificial.

Trotsky escreve:

“No fundo, os formalistas não levam às últimas consequências a maneira como encaram a arte. Encarar o processo de criação poética apenas como combinação de sons ou de palavras, desse modo tentando resolver todos os problemas da poesia, dá em que a única fórmula definitiva de ‘poética’ seja esta: munidos de Dalh¹, criar por combinação e permutação algébrica de elementos literários todas as obras poéticas do mundo já criadas e todas as ainda por criar. Raciocinando ‘formalmente’, é possível chegar a Eugénio Onegin por dois caminhos: ou submetendo a escolha dos elementos literários a uma ideia artística pré-concebida (caso do próprio Pushkin), ou resolvendo o problema algebricamente. Sempre desse ponto de vista “formal”, o mais correcto é o segundo caminho, que não depende de estados de espírito, da inspiração e de outras coisas tremidas, tendo a vantagem adicional de, a caminho do Eugénio Onegin, nos proporcionar incontáveis outras grandes obras (…)”

Se analisarmos esta citação de Literatura e Revolução (1924) pelo prisma da arquitectura dos grandes modelos linguísticos contemporâneos, vemos que, ao criticar os formalistas, Trotsky descreve com precisão assustadora, quase radiográfica, o “motor”. Sem se dar conta disso, o comissário do povo para o Exército e a Marinha estava a descrever não só o formalismo radical, mas também o sonho assaz assustador de uma máquina de produção de arte que pegasse nos elementos literários, fixasse as suas regras combinatórias, percorresse o espaço das combinações e delas extraísse o Eugénio Onegin. E, do mesmo passo, um número infinito (no sentido da teoria dos conjuntos) de outras obras-primas. É uma caricatura intelectual quase perfeita (oxalá apenas uma caricatura!) daquilo que hoje conhecemos como grande modelo linguístico (GML), que, partindo do corpus da linguagem humana (da alta poesia e da gíria jurídica ao dialogar quotidiano e à voz de comando militar), procede, por combinações e permutações algébricas, à previsão probabilística do próximo token. Magia, nenhuma, apenas geometria multidimensional pura, álgebra linear e estatística.

Pois não, a IA “não depende de estados de espírito, da inspiração e de outras coisas tremidas” — os GML/LLM não têm ritmos circadianos de sono e vigília, não sofrem de “névoa matinal”, não têm nem medo nem esperança; eles não se comovem com o trágico da cena de Pushkin em que os miúdos roubam a moeda ao tolo e este pede a morte deles, nem distinguem armagnac de zubrovka.

Há, porém, um matiz que Trotsky, no seu sarcasmo, deixou escapar e que, hoje em dia, é fundamental. Sim, os GML são capazes de gerar algebricamente um texto que será formalmente irrepreensível pela gramática, pelo estilo e até pela argumentação — mas o que confere sentido ao texto é (oxalá!) o ser humano. O mesmo ser humano, a mesma “ideia artística pré-concebida”, como lhe chama Chklovsky, a que subjaz a experiência de vida, a mulher amada, os “homenzinhos”, a dor pessoal ou a ironia e a auto-ironia, a compreensão de que o bem e o mal podem ser relativos, mas sem anular a diferença entre o bem e o mal. A ideia artística pré-concebida, no mais elevado sentido pushkiniano, transforma as “permutações algébricas” naquele texto vivo e certeiro, que um GML pode polir, eliminando gralhas e distracções.

Trotsky parte do princípio de que, uma vez que uma obra é composta por elementos literários, é possível obtê-la através de uma permutação algébrica desses elementos. Obter um enorme conjunto de sequências linguísticas já existentes, construir um modelo estatístico-estrutural complexo das suas inter-relações e, em seguida, gerar novas sequências. Com isso, ele está, na prática, a dar de barato um pressuposto fundamental: o de que o espaço da forma é suficiente para gerar conteúdo. Trotsky vislumbrou com absoluta perfeição a possibilidade de gerar automaticamente uma quantidade infinita de novos textos, mas talvez tenha errado precisamente quanto ao ponto em que a arte começa.

Coisa esta notável: o GML produz cem mil milhões de textos gramaticalmente impecáveis; um milhão de poemas perfeitos; dez mil textos com aspecto pushkiniano; mil textos que um literato confundiria com o Pushkin da juventude, mas é seriamente de duvidar que o modelo conseguisse, mesmo assim, produzir um único Onegin.

A arte até num castelo de marfim é social. Não se pode, numa sociedade, escrever poesia ou prosa, vendo-se livre da sociedade. Eugénio Onegin não é apenas uma dada combinação de palavras. Mesmo assumindo a posição mais formalista possível, nele existe uma estrutura do mais alto nível: a escolha do tema, da composição, do herói, da distância irónica, do aparelho de referências culturais, do ritmo, da relação do autor com o leitor, a consideração de questões de censura e assim por diante.

Se descrevermos de forma suficientemente completa e densa o espaço das regularidades formais da língua, conseguiremos obter automaticamente obras que antes exigiam criatividade humana?

Mas ainda mais interessante é que o GML moderno demonstra precisamente que a fronteira entre uma “combinação de palavras” e algo que se assemelhe ao pensamento é muito mais instável, menos óbvia do que até há pouco parecia. O modelo não se limita a percorrer palavra n.º 1 + palavra n.º 2 + palavra n.º 3, num sentido combinatório primitivo. Contempla um enorme espaço multidimensional de relações probabilísticas, seleccionando em seguida as continuações que condigam com o contexto. Ou seja, estamos bem mais perto de uma álgebra das relações entre elementos linguísticos do que da permutação mecânica de palavras tiradas do Dalh. É por isso que a frase de Trotsky se lê hoje quase como uma formulação preliminar do grandioso problema da IA generativa: se descrevermos de forma suficientemente completa e densa o espaço das regularidades formais da língua, conseguiremos obter automaticamente obras que antes exigiam criatividade humana?

Sabemos hoje que é tecnicamente fácil produzir um número incontável de obras; mas produzir um número incontável de grandes obras é outra história. Aí está o busílis! Para o ser humano, são importantes a situação social, o sujeito da narração, o grau de proximidade, o subtexto sexual, a marca do poder e da ternura. Ou seja, o que há de mais interessante na linguagem não mora apenas nas relações entre palavras, mas também em quem as diz, a quem, quando e para quê.

Porém, uma questão ainda mais fundamental se levanta então: se a linguagem não surgiu para transmitir a “verdade”, nem sequer para transmitir pensamentos prontos, mas sim como instrumento de coordenação da actividade conjunta e orientada dos primatas, que acontece exactamente quando o instrumento dessa actividade começa autonomamente a produzir linguagem?

Acaba por ser esta a questão ontológica e antropológica mais fundamental que se põe hoje à filosofia da consciência, à linguística e à teoria da IA. Se rejeitarmos a ilusão idealista de que a linguagem é um “espelho da verdade” ou um “telégrafo de transmissão de pensamentos” e regressarmos à visão materialista, evolucionista e baseada na praxis (da escola soviética de Vygotsky-Leontiev à antropologia evolucionista contemporânea de Michael Tomasello), o quadro não pode ficar mais rigoroso e claro.

A linguagem é um instrumento da física social. É necessária aos primatas para chegarem a acordo sobre como atrair o mamute para a armadilha, quem há-de ficar de vigia, quem acasala com quem, como se há-de repartir a carne e contra quem nos aliamos. A linguagem é a continuação do grooming (o “catar social” dos animais) que permite manter a coesão do grupo para lá do “número de Dunbar” (150 indivíduos). Como entram os grandes modelos linguísticos neste esquema?

Pode dizer-se que, no sentido hegeliano, marxista e não só, os GML representam a máxima “alienação” da actividade linguística colectiva do sujeito biológico e social. O modelo absorveu toda a soma de textos, ou seja, toda a pegada que a coordenação humana deixou ao longo de vários milénios, aprendendo a sintaxe da persuasão, do comando, do consolo e da mobilização, mas sem que nada de biológico esteja em jogo.

Quando um primata diz a um congénere: “Está ali um predador, toca a andar, escapemo-nos”, o que está por trás destas palavras é o medo da morte, a adrenalina e a necessidade evolutiva de sobrevivência do grupo. Quando os GML geram o texto “unamo-nos face à ameaça”, trata-se da reconstrução estatística de um padrão, sem intencionalidade de espécie alguma (intenção) e sem consequências para o seu “corpo”. O GML domina a forma da actividade colectiva, mas está totalmente excluído da sua prática material.

O popular psicólogo evolucionista norte-americano Michael Tomasello considerava que a principal diferença entre o ser humano e os outros primatas estava na capacidade de “intencionalidade partilhada”, ou seja, nós sermos capazes de criar o espaço mental comum do “NÓS”, onde um fim comum se situa. Também o GML imita de forma genial esta “posição do NÓS”, servindo-se para isso de marcadores de solidariedade, de técnicas retóricas de criação de coligações e de disparadores emocionais.

O problema é ser um simulacro, uma vez que o modelo não participa da definição de objectivos, limitando-se a prever quais as palavras que com maior frequência estatística deram azo a que, no passado, os primatas iniciassem uma acção conjunta. É irónico ser precisamente esta a razão de os GML estarem tão bons a gerar ideologias, manifestos e propaganda e, de um modo geral, a ser excepcionalmente úteis aos estrategas políticos: eles copiam na perfeição o instrumentário da coordenação, sem se preocuparem aonde a coordenação conduz.

Ao longo da história da nossa espécie biológica, mitos, religiões, ideologias e mentiras descaradas saíram-se muito mais eficazmente na coordenação de milhões de pessoas do que a seca verdade empírica.

Se o objectivo da actividade linguística não é a verdade (seja lá o que por isso se entenda), mas sim a coordenação, então as famosas “alucinações” (invenções) das redes neuronais deixam de ser erro técnico e passam a ser norma evolutiva. Ao longo da história da nossa espécie biológica, mitos, religiões, ideologias e mentiras descaradas saíram-se muito mais eficazmente na coordenação de milhões de pessoas do que a seca verdade empírica.

Aprendendo de textos humanos, os GML assimilaram este princípio: o discurso que une e mobiliza é mais importante do que factos. É pedir ao modelo para escrever um discurso motivacional para uma start-up ou um programa político, e ele fornece exactamente aquilo que faz as pessoas agirem em conjunto, ainda que para tal seja preciso “dar um jeito” aos factos! Por outras palavras, o que os GML exactamente são é máquinas de produção de mitos coordenadores.

É lícita a pergunta: é directa a relação entre GMLs e actividade colectiva? Obviamente que não, pois o modelo não é um primata, não se pode sentar num círculo à volta da fogueira e participar dos riscos connosco. No entanto, vêm a ser uma nova ferramenta de trabalho e um novo meio de coordenação nossa.

Tal como o machado não corta a árvore sozinho, é uma extensão da mão do primata, também os GML vêm a ser uma extensão do nosso aparelho vocal. Nós (primatas) servimo-nos de GMLs para escrever código mais rapidamente, redigir contratos jurídicos, planear logística e articular textos políticos. Os GML não se coordenam connosco, mas medeiam a coordenação entre nós.

Segue-se que os GML são experiência social cristalizada, digitalizada e alienada da experiência colectiva da nossa espécie, uma espécie de mapa gigantesco de todas as interacções sociais possíveis alguma vez descritas pelos humanos. Mas o mapa não é o território e, no âmbito da nossa analogia, o território somos nós próprios, os primatas superiores, mortais, que continuam a servir-se desta ferramenta poderosíssima para negociar, guerrear, construir Estados e escrever artigos sobre inteligência artificial.

A responsabilidade por qual caminho esta linguagem assim gerada fará enveredar a nossa actividade colectiva — o caminho da criação ou o da aniquilação mútua — recai exclusivamente em nós, seres de carne e osso e instintos sociais. Encontrar-nos-emos então num ponto em que os mortais, sem se darem conta disso, transferiram a função de “manter a coesão do grupo” para um algoritmo? A pergunta requer resposta separada.

Trotsky enganou-se numa coisa: pensou que a máquina escreveria Onegin, mas não previu que a máquina escrevesse um milhão de textos sobre a razão de não ser possível o Onegin — e é exactamente nisso que há-de consistir a principal literatura do novo século.