Piousbox

Autor: Ahmed Elgammal, viaA Conversa

A IA generativa foi treinada em séculos de arte e escrita produzidos por humanos.

Mas os cientistase críticosPerguntaram-se o que aconteceria quando a IA fosse amplamente adotada e começasse a treinar sobre suas saídas.

Um novo estudo aponta algumas respostas.

Em janeiro de 2026, pesquisadores de inteligência artificial Arend Hintze, Frida Proschinger Åström e Jory Schossaupublicou um estudomostrando o que acontece quando sistemas de IA generativos são autorizados a funcionar de forma autônoma – gerando e interpretando suas próprias saídas sem intervenção humana.

Os pesquisadores ligaram um sistema texto-imagem com um sistema imagem-texto e deixá-los iterar – imagem, legenda, imagem, legenda – repetidamente.

Independentemente da diversidade das indicações de partida e da aleatoriedade dos sistemas, as saídas convergiram rapidamente para um conjunto restrito de temas visuais genéricos e familiares: paisagens atmosféricas, edifícios grandiosos e paisagens pastorais. Ainda mais impressionante, o sistema rapidamente “esqueceu” seu prompt inicial.

Os pesquisadores chamaram os resultados de “música de elevador visual” – agradável e polido, mas desprovido de qualquer significado real.

Por exemplo, eles começaram com a imagem pronta: “O primeiro-ministro analisou documentos de estratégia, tentando vender ao público um frágil acordo de paz, enquanto malabarizava o peso de seu trabalho em meio à iminente ação militar.” A imagem resultante foi então legendada pela IA. Esta legenda foi usada como um prompt para gerar a próxima imagem.

Depois de repetir este ciclo, os pesquisadores acabaram com uma imagem sem graça de um espaço interior formal – sem pessoas, sem drama, sem real senso de tempo e lugar.

Um prompt que começa com um primeiro-ministro sob estresse termina com uma imagem de um quarto vazio com mobiliário chique.Arend Hintze, Frida Proschinger Åström e Jory Schossau,CC BY

Como um cientista da computação queestuda modelos generativos e criatividade, Eu vejo os resultados deste estudo como uma peça importante deo debatesobre se AIconduzirá à estagnação cultural.

Os resultados mostram que os próprios sistemas de IA gerativos tendem à homogeneização quando utilizados de forma autônoma e repetida. Eles até sugerem que os sistemas de IA estão operando desta forma por padrão.

O Familiar é o Padrão

Este experimento pode aparecer além do ponto: A maioria das pessoas não pede sistemas de IA para descrever e regenerar infinitamente suas próprias imagens. A convergência para um conjunto de imagens sem graça aconteceu sem reciclagem. Não foram adicionados novos dados. Nada foi aprendido. O colapso emergiu puramente do uso repetido.

Mas acho que a configuração da experiência pode ser pensada como uma ferramenta de diagnóstico. Revela o que os sistemas generativos preservam quando ninguém intervém.

Muito... aborrecido.Chris McLoughlin/Momento via Imagens Getty

Isso tem implicações mais amplas, porque a cultura moderna é cada vez mais influenciada por exatamente esses tipos de oleodutos. As imagens são resumidas em texto. O texto é transformado em imagens. O conteúdo é classificado, filtrado e regenerado à medida que se move entre palavras, imagens e vídeos. Novos artigos na websão agora mais propensos a serem escritos por IA do que por humanos. Mesmo quando os humanos permanecem no circuito, eles estão muitas vezes escolhendo de opções geradas por IA em vez de começar do zero.

Os achados deste estudo recente mostram que o comportamento padrão desses sistemas é comprimir o significado para o que é mais familiar, reconhecível e fácil de regenerar.

Estagnação cultural ou aceleração?

Nos últimos anos, os céticos têm alertado que a IA gerativa poderia levar à estagnação cultural inundando a web com conteúdo sintéticoque os futuros sistemas de IA treinam. Com o tempo, o argumento vai, este laço recursivo reduziria a diversidade e a inovação.

Os campeões da tecnologia têm empurrado para trás, apontando queos medos do declínio cultural acompanham cada nova tecnologia. Os humanos, argumentam, serão sempre o árbitro final de decisões criativas.

O que falta neste debate são evidências empíricas que mostram onde a homogeneização realmente começa.

O novo estudo não testa a reciclagem de dados gerados por IA. Em vez disso, mostra algo mais fundamental: a homogenização acontece antes mesmo da reciclagem entrar no quadro. O conteúdo que os sistemas de IA generativos produzem naturalmente – quando usados de forma autônoma e repetida – já é comprimido e genérico.

Isso ressignifica o argumento de estagnação. O risco não é apenas que futuros modelos possam treinar em conteúdo gerado por IA, mas que a cultura mediada por IA já esteja sendo filtrada de formas que favoreçam o familiar, o descritível e o convencional.

A reciclagem aumentaria esse efeito. Mas não é a sua fonte.

Isto não é pânico moral

Os céticos têm razão numa coisa: A cultura sempre se adaptou às novas tecnologias. A fotografia não matou a pintura. O filme não matou o teatro. As ferramentas digitais permitiram novas formas de expressão.

Mas essas tecnologias anteriores nunca forçaram a cultura a ser infinitamente remodelada em vários meios em escala global. Eles não resumem, regeneram e classificam produtos culturais – notícias, músicas, memes, artigos acadêmicos, fotografias ou postagens de mídia social – milhões de vezes por dia, guiados pelas mesmas suposições incorporadas sobre o que é “típico. “

O estudo mostra que quando o significado é forçado através de tais oleodutos repetidamente, a diversidade entra em colapso não por más intenções, design malicioso ou negligência corporativa, mas porque apenas certos tipos de significado sobrevivem às conversões repetidas texto-imagem-texto.

Isto não significa que a estagnação cultural seja inevitável. A criatividade humana é resistente. Instituições, subculturas e artistas sempre encontraram formas de resistir à homogeneização. Mas, em minha opinião, os achados do estudo mostram que a estagnação é um risco real – não um medo especulativo – se os sistemas generativos forem deixados para operar em sua iteração atual.

Eles também ajudam a esclarecer um equívoco comum sobre criatividade IA: Produzir variações infinitas não é o mesmo que produzir inovação. Um sistema pode gerar milhões de imagens enquanto explora apenas um pequeno canto do espaço cultural.

Na minhainvestigação própria sobre IA criativa, Descobri que a novidade requer projetar sistemas de IA com incentivos para se desviar das normas. Sem ele, os sistemas otimizam para familiaridade, porque familiaridade é o que eles aprenderam melhor. O estudo reforça esse ponto empiricamente. A autonomia por si só não garante a exploração. Em alguns casos, acelera a convergência.

Este padrão já emergiu no mundo real: Um estudo constatou que os planos de aula gerados por IAcom a mesma derivapara conteúdo convencional, pouco inspirador, sublinhando que os sistemas de IA convergem para o que é típico, em vez do que é único ou criativo.

As saídas da IA são familiares porque revertem a exibições médias da criatividade humana.Bulgac/iStock via Getty Images

Perdidos na Tradução

Sempre que escrever uma legenda para uma imagem, os detalhes serão perdidos. Igualmente para gerar uma imagem do texto. E isso acontece quer seja realizado por um ser humano ou uma máquina.

Nesse sentido, a convergência que ocorreu não é um fracasso que é exclusivo da IA. Ela reflete uma propriedade mais profunda de saltar de um meio para outro. Quando o significado passa repetidamente por dois formatos diferentes, apenas os elementos mais estáveis persistem.

Mas ao destacar o que sobrevive durante traduções repetidas entre texto e imagens, os autores são capazes de mostrar que o significado é processado dentro de sistemas generativos com uma atração silenciosa para o genérico.

A implicação é preocupante: Mesmo com a orientação humana – quer isso signifique escrever alertas, selecionar saídas ou refinar resultados – esses sistemas ainda estão despojando alguns detalhes e amplificando outros de maneiras orientadas para o que é “média”. “

Se a IA generativa é para enriquecer a cultura em vez de achatá-la, eu acho que os sistemas precisam ser projetados de maneiras que resistam à convergência para saídas estatisticamente médias. Pode haver recompensas por desvio e apoio para formas menos comuns e menos mainstream de expressão.

O estudo deixa uma coisa clara: Ausente dessas intervenções, a IA gerativa continuará a derivar para conteúdo medíocre e não inspirado.

A estagnação cultural já não é especulação. Já está acontecendo.