Por Charlley Luz, doutorando da Escola de Comunicações e Artes da USP

Existe um momento preciso em que um arquivo deixou de ser um lugar e passou a ser um processo. Não é fácil datá-lo. Mas, se alguém me pedisse um palpite, eu diria que aconteceu quando os sistemas de inteligência artificial deixaram de apenas recuperar documentos para começar a produzi-los.
E isso é assustador, a inteligência artificial não é uma ferramenta. É uma máquina cultural, como já abordei aqui mesmo nesse jornal. A distinção parece sutil, mas é enorme. Uma ferramenta executa. Uma máquina cultural produz sentido, distribui visibilidade, determina o que circula e o que silencia. Ela não apenas processa informação, ela a organiza segundo uma lógica própria, moldando o que as pessoas encontram, consomem, lembram.

Nesse sentido, a inteligência artificial generativa está mais próxima de um uma editora, de um museu ou de uma rádio do que de um martelo ou de uma calculadora. Ela toma decisões curatoriais. E toma essas decisões em escala industrial, vinte e quatro horas por dia, em todas as línguas ao mesmo tempo.

Durante séculos, a ideia de arquivo foi a de um depósito. Um lugar onde os rastros do passado se acumulam, se organizam, se tornam consultáveis. Havia uma lógica clara, primeiro acontecia algo, depois esse algo era registrado, depois o registro era guardado. A sequência importava. O documento era a prova de que algo havia existido antes dele.

Essa sequência foi interrompida. Hoje, sistemas de inteligência artificial generativa produzem documentos sem que nenhum evento prévio os justifique. Um texto é gerado por cálculo estatístico, não por testemunho. Uma imagem emerge de distribuições de probabilidade aprendidas sobre milhões de outras imagens, não de uma cena fotografada.

O resultado é funcionalmente idêntico a um documento, tem aparência, estrutura, coerência, mas sua genealogia é radicalmente outra. É o que venho chamando de documento algorítmico, não o traço de uma ação, mas a materialização de uma inferência.

Isso muda tudo para quem trabalha com arquivos.

A Arquivologia foi construída sobre uma pergunta, como garantir que o registro seja confiável? A resposta clássica envolvia autenticidade, verificar que o documento é o que parece ser, que foi produzido por quem diz ter sido, no momento em que diz ter sido.

Envolvia proveniência, saber de onde veio cada documento, mantê-lo vinculado ao contexto de sua criação. Envolvia custódia, garantir que o documento não foi adulterado ao longo do tempo.

Todas essas categorias pressupõem uma coisa simples, que existe um autor humano identificável, um ato que originou o documento, um momento de criação rastreável.

O documento algorítmico dissolve cada um desses pressupostos. Seu “autor” é uma rede neural com bilhões de parâmetros. Seu ato de origem não é uma decisão humana, mas uma operação matemática. E seu momento de criação está espalhado entre o treinamento do modelo, que pode ter levado meses, e a execução da inferência, que leva frações de segundo.

Não digo que documentos algorítmicos são falsos. Digo que as ferramentas que temos para avaliá-los foram projetadas para outro tipo de objeto.

Quem ajuda a pensar essa mudança não vem necessariamente da Arquivologia. Vilém Flusser já havia diagnosticado algo parecido quando analisou as imagens técnicas, a fotografia, o cinema, a televisão. Ele chamou atenção para o fato de que essas imagens geradas por máquinas, simulam coerência referencial sem necessariamente derivar de um referente empírico direto. Uma fotografia parece mostrar o mundo, mas na verdade mostra o que a câmera e o fotógrafo, juntos, decidiram que era possível mostrar. O documento algorítmico vai além, dispensa até mesmo a câmera. Não há cena. Há apenas probabilidade.

Michel Foucault, por sua vez, desenvolveu o conceito de arquivo não como um depósito de textos, mas como o sistema que determina o que pode ser dito em uma época. O arquivo, para ele, delimita o campo do dizível, o que é possível enunciar, em que condições, por quem. Essa ideia sempre me pareceu abstrata demais para o dia a dia da prática arquivística. Hoje ela se tornou concreta de um modo perturbador, os grandes modelos de linguagem são exatamente isso.

São sistemas que delimitam o que pode ser gerado, o que é estatisticamente plausível, o que o modelo considera um enunciado coerente. São, em sentido muito preciso, arquivos do possível. Proponho chamá-los de protoarquivos, infraestruturas que antecedem o documento e condicionam sua emergência, organizando não textos finalizados, mas domínios de possibilidade.

A diferença crucial é que o arquivo foucaultiano é histórico, constituído por práticas sociais, relações de poder, tradições discursivas acumuladas. O protoarquivo algorítmico é estatístico. Um protoarquivo, como venho usando o conceito em minha pesquisa, é a infraestrutura que antecede o documento. Não é onde os registros são guardados, é onde as condições de emergência dos registros são estabelecidas.

Os grandes modelos de linguagem são treinados sobre bilhões de textos, imagens, sons, documentos de toda espécie. Esses corpora de treinamento funcionam como uma memória comprimida da cultura humana ou, mais precisamente, das partes da cultura humana que foram digitalizadas, publicadas online e incorporadas nos dados de treinamento.

O modelo aprende os padrões dessa memória e passa a gerar conteúdo segundo esses padrões. Toda vez que alguém pede a um sistema de IA que escreva, responda, sintetize ou crie, a resposta emerge desse protoarquivo invisível.

Ele não delimita o dizível a partir de lutas históricas ou saberes sedimentados, delimita a partir de distribuições de frequência aprendidas nos corpora de dados. O efeito prático é que ele tende a reproduzir e amplificar o que já é dominante. O que é marginal, heterodoxo, sub-representado nos dados de treinamento tem menor probabilidade de emergir. Não por censura consciente, mas por matemática. Esse é o ponto onde a questão técnica se torna política.

Preservar, nesse contexto, não pode mais significar apenas guardar. Precisa significar projetar condições de visibilidade para o que seria invisível.

A autoria do documento algorítmico é distribuída em rede e nenhum nó dessa rede pode ser responsabilizado sozinho pelo que emerge. É por isso que Frank Pasquale, em seu estudo sobre a sociedade da caixa-preta, insiste na necessidade de abrir esses sistemas à auditoria. Bruno Latour nos ensinou a não separar humanos e não-humanos quando tentamos entender como o mundo funciona.

Os artefatos técnicos não são ferramentas passivas, agem, distribuem papéis, reconfiguram possibilidades. Um modelo de linguagem não é uma ferramenta que o arquivista usa. É um agente não-humano que co-produz os documentos ao lado do arquivista, do engenheiro que o treinou, do usuário que formulou o prompt, dos dados que moldaram seus parâmetros.

A caixa-preta não é apenas uma metáfora, é a condição técnica que torna impossível a responsabilização. Se não sabemos como um modelo foi treinado, com quais dados, com quais escolhas de filtragem, não podemos avaliar criticamente o que ele produz. E se não podemos avaliar criticamente, também não podemos preservar responsavelmente.

Daí a importância do que, no campo da arquivologia digital e da ciência de dados, se chama de paradados, dados e metadados sobre o processo, não apenas sobre o produto. Em vez de registrar apenas o documento gerado, registrar o modelo que o gerou, sua versão, seu corpus de treinamento, o prompt que o ativou, as condições da inferência.

Os paradados são a tentativa de devolver ao documento algorítmico algo que ele não tem por natureza, uma genealogia rastreável.

Bernard Stiegler argumentou que cada nova tecnologia de inscrição, da escrita à fotografia, do cinema ao disco, representa uma etapa na exteriorização técnica da memória humana. A memória deixa de estar apenas nos corpos e nas mentes, passa a habitar suportes externos que transformam nossa relação com o tempo. A inteligência artificial generativa é a etapa mais radical dessa exteriorização, não apenas armazena a memória, mas passa a geri-la, reorganizá-la, recalculá-la de forma autônoma.

Novo jeito de memória
A memória deixa de ser retrospectiva, um olhar para o passado e se torna processual e prospectiva. O sistema não apenas recupera o que foi dito, ele antecipa o que poderá ser dito, reconfigura narrativas em tempo real, produz sínteses que nunca existiram na forma em que são apresentadas. O arquivo não é mais onde o tempo se deposita. Passou a ser onde o tempo se produz.

Terry Cook já alertava, há décadas, que o arquivista precisava abandonar uma postura puramente custodial e assumir um papel ativo na construção da memória social. Na era algorítmica, essa proposta se torna urgente e ganha novos contornos. O arquivista precisa ser também um arquiteto das infraestruturas que produzem memória. Seu objeto de trabalho precisa se ampliar, do documento estabilizado para o ecossistema técnico que o torna possível.

Jacques Derrida havia identificado que o poder arquivístico, o poder de decidir o que merece ser guardado e o que pode ser esquecido é sempre, também, um poder político. Esse poder migrou. Ele habita agora os centros de dados, os algoritmos de treinamento, as políticas de curadoria das grandes empresas de tecnologia. Quem controla o protoarquivo controla, em boa medida, o que poderá ser lembrado.

Não pretendo ser catastrofista. Os sistemas algorítmicos também ampliam o acesso, permitem recombinações criativas, tornam consultáveis acervos que seriam inacessíveis de outra forma. A questão não é se devemos usá-los, já estamos usando, mas em que condições, com que transparência, com que mecanismos de responsabilização?

O arquivo sempre foi um campo de poder. Decidir o que merece ser guardado é decidir o que merece ser lembrado, e decidir o que merece ser lembrado é, em parte, decidir o que existe. A novidade algorítmica não inventou essa dimensão política, subtraiu o humano, radicalizou-a e a tornou mais opaca.

Se os sistemas de inteligência artificial vão mesmo se tornar a infraestrutura central da memória coletiva, e há bons motivos para acreditar que sim, então a Arquivologia precisa estar dentro dessa infraestrutura, não apenas diante dela. Precisa participar das decisões sobre como os dados são curados, como os modelos são treinados, como as saídas são documentadas. Precisa transformar a custódia sociotécnica de conceito em prática.

O arquivo que não guarda — que calcula, projeta, reconfigura — ainda é um arquivo. Mas é um arquivo que exige de nós uma nova forma de atenção. jornal.usp.br