Sétima Trienal de Arquitectura de Lisboa

A forma de compreender as operações da tecnologia e do poder na nossa era é observá-las no contexto mais amplo do império ao longo dos séculos. Ao traçar a evolução das tecnologias de comunicação, computação, classificação e controlo desde 1500, podemos perceber como as infraestruturas coloniais, militares e automatizadas atuais são ecos de um passado imperial e uma continuação das suas lógicas.

Calculating Empires - A Genealogy of Technology and Power Since 1500
Ano de produção: 2023
Media: impresso

Uma imagem de um caça F-35 norte-americano abatido — com as asas destruídas e o pós-combustor ainda incandescente — está a tornar-se viral.1 Milhões de pessoas assistem a um vídeo de Telavive em ruínas fumegantes após um ataque iraniano. Imagens de um bombardeamento norte-americano a Teerão são notícia de última hora de um ataque que, na verdade, ainda está para acontecer. Olhando com mais atenção, notam-se erros de imagem e artefactos estranhos, como a relva sob o F-35, que parece inexplicavelmente intacta. Todas estas imagens foram geradas por inteligência artificial, convincentes à primeira vista, e amplamente partilhadas nas redes sociais e não só. É a era do slop (lixo; conteúdo indesejado) de IA.

Os líderes políticos são figuras centrais no “slopocalypse” (apocalixo). A conta oficial do líder supremo aiatolá Ali Khamenei no X mostrou uma imagem gerada por IA de mísseis a serem lançados sob versículos do Alcorão, vista mais de seis milhões de vezes.2 O presidente Trump partilha frequentemente representações artificiais de si mesmo como uma estrela de rock, rei ou estátua de ouro no centro do seu resort em Gaza.3 De certa forma, estas imagens são “slop clássico”: hiperfotorrealistas, com iluminação de mecânica de videojogo e perspetivas geometricamente impossíveis. É uma mistura de IA reconstruída a partir de bancos de imagens, anúncios, Reddit e Pinterest. Basta juntar água.

Jean Baudrillard disse uma vez que a simulação vem primeiro e, em última instância, substitui o real.4 Agora o slop de IA cria realidades revisionistas, desviando a atenção enquanto as bombas verdadeiras caem. Mas, noutro sentido, o slop de IA não se preocupa com a ordem dos acontecimentos nem com parecer real. O slop não é o território: limita-se a sufocá-lo com uma pasta sintética. Está a invadir tudo com lixo de IA.

A estética do slop de IA revela-se, assim, como algo mais do que um artefacto técnico ou uma curiosidade cultural. É o produto ideológico do capitalismo computacional, à medida que transforma a cultura humana numa reserva permanente de dados. Cada imagem estranha, cada influenciador sintético, cada artigo gerado por IA faz parte de uma transformação muito mais ampla. O slop é desperdício, mas também é combustível. O slop é o produto de um outro tipo de ciclo de Krebs.5 Os modelos de IA são treinados ingerindo milhares de milhões de imagens, vídeos e textos da Internet, através de redes neurais com biliões de parâmetros que aprendem a identificar padrões, relações e estruturas nos dados. Isto exige quantidades enormes de energia. Os resultados sintéticos são excretados e depois disseminados online antes de serem ingeridos novamente. 

Este é o capítulo mais recente de uma longa evolução dos meios de comunicação industriais, que têm sido reconhecidos por teóricos e artistas ao longo de décadas. Podemos pensar nas “imagens técnicas” de Vilém Flusser nos anos 1980 ou nas “imagens operacionais” de Harun Farocki no início dos anos 2000. Agora temos aquilo a que chamo “imagens metabólicas”: material visual produzido a partir da digestão de milhares de milhões de outras imagens, decompostas e absorvidas por modelos de IA através de uma infraestrutura gigantesca que consome energia e excreta meios de comunicação, carbono atmosférico e outros poluentes. A IA generativa, incluindo texto, imagens, código e vídeo, é, na sua essência, um meio de comunicação metabólico. Funciona a um ritmo de combustão astronómico, em crescimento constante, e está agora a competir diretamente com os seres humanos por recursos básicos como terra, energia, minerais e água.

Outrora, Karl Marx descreveu a passagem da vida no campo para a cidade no contexto do capitalismo como uma interação metabólica.9 Nas sociedades pré-industriais, a “troca de estrume” era um processo fundamental: os resíduos humanos e animais das pequenas explorações agrícolas eram devolvidos ao solo como fertilizante, mantendo a fertilidade do solo e sustentando a agricultura.10 Mas com o advento da modernidade industrial e a migração em massa das pessoas para as cidades, esse ciclo foi interrompido. Os resíduos humanos que antes fertilizavam os campos começaram a acumular-se nas cidades sob a forma de poluição. As pessoas lançavam excrementos para as ruas, enquanto os solos rurais eram privados de nutrientes essenciais. O empobrecimento dos solos acabou por exigir o uso de fertilizantes artificiais, agravando um ciclo de degradação ambiental.

John Bellamy Foster viria mais tarde a designar esta situação como uma “rutura metabólica”: a perturbação sistémica dos processos ecológicos e metabólicos causada pela produção capitalista.11 Sociólogos como Jason W. Moore defendem que essas ruturas metabólicas se repetem desde o advento do capitalismo no século XVI, à medida que diferentes fases do desenvolvimento industrial foram surgindo e reorganizando o planeta.12

A viragem para uma IA generativa massiva, dependente de grandes volumes de recursos intensivos, está a provocar uma nova e dramática forma de rutura metabólica. Afeta o ambiente, os padrões de trabalho, as cadeias de abastecimento, a cultura e até a própria visualidade. E está também a encher os ecossistemas de informação com fluxos avassaladores de lixo, que voltam a ser introduzidos no sistema como matéria-prima para a próxima geração de modelos. São ciclos materiais básicos de consumo e excreção de IA — o processo através do qual as imagens produzidas por IA têm consequências materiais e consequências para os nossos próprios materiais. O uso generalizado de interfaces generativas como o ChatGPT, o Claude ou o Gemini da Google está a substituir as fontes de informação baseadas na web. Por que haveríamos de visitar um site de notícias ou a Wikipédia se o Claude pode fazer um resumo imediato? Isto afasta os utilizadores da web como ela era e encaminha-os para o resumo da IA como a nova plataforma de informação. O trabalho de escolher entre listas de diferentes sites é substituído pela conveniência de receber uma resposta única e simplificada. Esta mudança tem ainda o efeito adicional de canibalizar lentamente as economias das quais depende a produção de conteúdo online. Os criadores humanos de conteúdo terão menos leitores, menos interação e, em última análise, deixarão de ter receitas publicitárias. Trata-se de mais uma rutura metabólica, à medida que a relação entre as empresas de pesquisa como a Google, os anunciantes e as economias de conteúdo digital se quebra. O slop passará rapidamente a dominar as plataformas online, criando domínios amaldiçoados de notícias falsas, imagens de operações psicológicas (psyops) e influenciadores sintéticos concebidos para gerar cliques de raiva e obter os patrocínios pagos que antes pertenciam a humanos. 

Mas isto também coloca um problema para as próprias empresas de IA. Vários estudos demonstraram que os sistemas de IA vão lentamente degenerando quando se alimentam em excesso dos seus próprios resultados.13 Um grupo de investigadores descreve este fenómeno como MAD (sigla para Model Autophagy Disease, ou Doença de Autofagia dos Modelos). Em outras palavras, quando a IA se alimenta de si mesma, acaba por colapsar gradualmente em disparates sem sentido.14 No início, o processo é lento, mas depois ocorre de forma repentina. Os investigadores comparam-no à doença das vacas loucas. A indústria está a tentar combater este efeito criando derivados sintéticos de maior qualidade para as suas operações de autoalimentação artificial e, talvez, complementando-os com produções de geradores humanos de conteúdo mal remunerados.

Para os seres humanos, está a nascer uma nova economia de slop. E, do ponto de vista infraestrutural, todo este ciclo ameaça ultrapassar aquilo que as redes elétricas, as minas e os aquíferos conseguem manter. 

Há um anúncio para iPads da Apple que é uma metáfora perfeita, ainda que involuntária, para a ingestão de conteúdo pela IA.15 Um compactador hidráulico enorme vai esmagando lentamente instrumentos musicais, videojogos, livros, latas de tinta, uma máquina de escrever, uma câmara fotográfica. O anúncio mostra a inevitabilidade absoluta do processo: nenhum instrumento ou obra de arte resiste ao peso. Séculos de cultura e criatividade são reduzidos a uma pasta fina para treinar a IA. Esta é a boca hidráulica da IA: a colheita massiva de imagens, palavras e vídeos, tudo comprimido no espaço latente das redes neurais. Tudo o que fizemos ou faremos, uma vez digitalizado, transforma-se em matéria-prima para os armazéns de alimentação.

O volume de dados atualmente necessário para treinar sistemas de IA generativa pode em breve atingir os limites do que está disponível na web aberta. Alguns investigadores afirmam que isso acontecerá até 2026.16 Elon Musk argumenta que já atingimos o “pico de dados”.17 A indústria de IA recusa-se a dar detalhes exatos, mas sabe-se que versões anteriores do GPT-3 foram treinadas com mais de 45 terabytes de conteúdo comprimido da internet, pelo menos 3,2 biliões de palavras extraídas de sites, livros, artigos e publicações em redes sociais criadas por milhões de autores humanos. Os conjuntos de dados públicos mais recentes, como o Public Domain 12M (PD12M), incluem mais de 12,4 mil milhões de imagens e legendas de texto.18 As empresas de IA têm vindo a adquirir plataformas inteiras de redes sociais, a negociar acordos exclusivos com bibliotecas e editoras de revistas académicas, mas mesmo isso pode não ser suficiente para satisfazer o apetite dos modelos de IA, à medida que continuam a crescer.

Digerir todos esses meios de comunicação exige a energia de um país industrializado. As estimativas de quanta eletricidade será necessária para a IA generativa são habitualmente expressas na unidade de Estados-nação. A Agência Internacional de Energia afirma que, até 2030, a IA necessitará da quantidade de eletricidade atualmente consumida pelo Japão.19 A Bloomberg prevê que, até essa data, precisará de tanta energia quanto a Índia.20 Mas as exigências da IA estão a crescer mais rapidamente do que as de qualquer país isolado. Cada consulta em IA generativa consome pelo menos dez vezes mais energia do que uma pesquisa tradicional na web; já a geração de texto para imagem é mais intensiva, e a de vídeo é de uma ordem de magnitude ainda superior. Esta escalada de procura industrial segue a lógica recursiva do próprio desenvolvimento da IA: mais dados, modelos maiores, meios de comunicação com resoluções mais altas, mais capacidade de cálculo, mais energia e assim sucessivamente.

Veja-se o mais recente centro de dados de grande escala da OpenAI em Abilene, no Texas, com o nome de código “Project Ludicrous”. Quando estiver concluído, terá uma área superior a dezassete campos de futebol. No caso da empresa xAI de Elon Musk, o seu enorme centro de dados em South Memphis, chamado Colossus, já atingiu o limite da rede elétrica, levando a empresa a instalar geradores a gás metano que emitem dióxido de azoto e formaldeído tóxicos para a atmosfera. A comunidade historicamente negra da região já sofre de níveis elevados de asma e outras doenças respiratórias.21 E isso é apenas o começo. O Stargate Project do presidente Trump prevê a construção de pelo menos vinte centros de dados gigantes nos Estados Unidos.22 São conhecidos como fábricas de IA.

Depois há a água. Tal como os fluidos digestivos, os centros de dados de grande escala necessitam de sistemas de refrigeração contínuos que consomem milhões de litros de água todos os dias. Em todo o mundo, com os milhares de milhões de pessoas a usar IA generativa, isto resulta em enormes aquíferos de água potável queimados apenas para arrefecer os chips de IA. Trata-se de uma redistribuição atmosférica dos recursos hidrológicos, afastando-os dos ecossistemas de origem.

Finalmente, os elementos minerais necessários para a infraestrutura de IA enfrentam agora uma procura crescente, o que acarreta mais danos ambientais. Os metais de terras raras necessários para as GPUs, predominantemente extraídos e processados na China, deixam atrás lagos gigantes de resíduos radioativos. O lítio para os sistemas de backup dos centros de dados provém de salinas no Chile e na Bolívia, onde os processos de extração perturbam os sistemas hídricos locais e afetam os direitos das populações indígenas sobre a terra. O cobalto necessário para as baterias dos servidores depende de operações de mineração na República Democrática do Congo, que empregam trabalho infantil e operam com fiscalização ambiental mínima. O desenvolvimento do capital computacional reproduz as dinâmicas centro-periferia dos impérios anteriores — extraindo do Sul Global para enriquecer o Norte —, tudo isso enquanto escava milhares de milhões de anos de processos geológicos para aumentar a velocidade da conveniência algorítmica. Depois de se alimentar numa escala planetária, esse monstro industrial liberta agora uma maré de slop.

Como é que os humanos que vivem à mercê dos modelos de IA se estão a adaptar? Nadam a favor ou contra a corrente de resíduos sintéticos? Se a rutura metabólica dizimar todos os nossos ecossistemas — incluindo o ecossistema da informação — o que acontecerá aos influenciadores? Eles tornar-se-ão coprófagos, ou comedores de estrume: colonizadores fecais que consomem e lucram com o slop.

Isto, claro, já começou. Personas potenciadas por IA, como Lil Miquela, alcançam taxas de interação muito superiores às dos influenciadores humanos.23 Os seus criadores testam sistematicamente, em experiências A/B, estéticas visuais, traços de personalidade e formatos de conteúdo para maximizar o tempo de atenção. Estas personas são indistinguíveis de seres humanos vivos, mas estão otimizadas para a resposta do público e para a máxima eficácia comercial. As equipas de criação de conteúdo usam ferramentas de IA para gerar centenas de publicações, imagens e segmentos de vídeo potenciais, e depois recorrem a análises de interação para selecionar as combinações mais eficazes para publicação. Contas inteiras no Instagram são dedicadas a influenciadores falsos gerados por IA, concebidos para ofender, irritar e provocar reações negativas online. As personalidades sintéticas são continuamente refinadas com base em métricas de desempenho, com traços menos eficazes eliminados e características bem-sucedidas amplificadas através de ciclos iterativos que dão origem a novas contas.

A industrialização de conteúdo viral é uma prática consolidada no capitalismo das plataformas. O Instagram não revela quanto paga aos criadores quando as suas publicações são amplamente partilhadas, mas reportagens recentes indicam que o valor ronda os 120 dólares por cada milhão de visualizações.24 O sistema mostra-se tão indiscriminado que imagens geradas por IA passam a render aos criadores centenas de dólares por cada sucesso viral, transformando o fundo de 2 mil milhões de dólares da Meta para criadores num subsídio involuntário de conteúdo sintético. A plataforma criou assim a estrutura de incentivo económico perfeita para o slop: recompensar quem consegue atrair mais eficientemente a atenção humana com gatos dançarinos gerados por IA, Shrimp Jesus ou caças abatidos. A Meta afirma que está a “apoiar os criadores”, mas com cada vez mais pessoas a monetizar a IA generativa, o que na realidade sustenta são fábricas de slop.

A geografia global da produção de conteúdo sintético revela a divisão internacional do trabalho subjacente a estas novas relações económicas. As fábricas de conteúdo em regiões com custos laborais mais baixos usam ferramentas de IA para gerar milhares de publicações sintéticas nas redes sociais, artigos de notícias e avaliações de produtos direcionados para mercados publicitários de maior valor nos países ricos. É uma forma bem oleada de arbitragem sintética: a extração de receitas publicitárias das economias desenvolvidas através da produção em massa de slop de IA em regiões de baixos rendimentos. Será que a produção de slop de IA acabará por esgotar o solo dos espaços online? As pessoas vão fugir do slop, tolerá-lo ou até aceitá-lo? Será que acabaremos por adorar o slop?

O slop de IA não representa uma aberração, mas sim uma característica inevitável do funcionamento dos meios de comunicação generativos. No entanto, os sistemas atuais são ao mesmo tempo sistemáticos e intrinsecamente instáveis. A rutura metabólica entre humanos e IA ameaça múltiplas formas de colapso: colapso do modelo, colapso ecológico e colapso da atenção e cognição humanas. Isso significa que a abordagem atual à IA não pode sustentar-se indefinidamente. Não se trata de saber se as economias de slop de IA irão colapsar, mas sim quando isso acontecerá.

Tal dinâmica cria espaço para o que poderíamos chamar de organização cultural “pós-sintética”: formas de cultura que funcionam com lógicas metabólicas diferentes, seja por design ou por necessidade. Estas alternativas exigiriam uma transformação fundamental dos sistemas técnicos e económicos atuais — sistemas de energia alternativa, modelos de propriedade cooperativa, protocolos culturais que resistam a serem ingeridos como matéria-prima para o treino de IA. Não se trata de um regresso nostálgico às formas culturais pré-digitais, mas sim do desenvolvimento de práticas adequadas ao nosso momento ecológico e social.

A questão que permanece é se iremos escolher adorar o slop ou aprender a desejar algo completamente diferente: formas de cultura orientadas para o florescimento em vez da extração, que vão para além dos modos atuais de reprodução sintética e conduzam a uma regeneração ecológica, não a um estado hipermetabólico de exaustão e colapso.