Piousbox

Autorizado por Ahmed Elgammal, viaLa Conversación

Generative AI fue entrenado en siglos de arte y escritura producidos por humanos.

Pero los científicosy críticosse han preguntado qué sucedería una vez que la AI se adoptara ampliamente y comenzara la capacitación sobre sus productos.

Un nuevo estudio apunta a algunas respuestas.

En enero de 2026, investigadores de inteligencia artificial Arend Hintze, Frida Proschinger Åström y Jory Schossaupublicado un estudiomostrar lo que sucede cuando los sistemas de IA generativos se permiten funcionar de forma autónoma, generando e interpretando sus propias salidas sin intervención humana.

Los investigadores vincularon un sistema de texto a imagen con un sistema de imagen a texto y les permitieron iterar – imagen, capción, imagen, capción – una y otra vez.

Independientemente de la diversidad de los impulsos de inicio fueron – e independientemente de la cantidad de aleatoriedad que se permitían los sistemas – las salidas rápidamente convergeron en un conjunto estrecho de temas visuales genéricos y familiares: paisajes urbanos atmosféricos, edificios grandiosos y paisajes pastorales. Aún más llamativo, el sistema rápidamente “olvió” su impulso inicial.

Los investigadores llamaron los resultados “música visual del ascensor” – agradable y pulido, pero carente de cualquier significado real.

Por ejemplo, comenzaron con el impulso de imagen, “El Primer Ministro se entregó a los documentos de estrategia, tratando de vender al público en un frágil acuerdo de paz mientras jugaba el peso de su trabajo en medio de una acción militar inminente”. The resulting image was then captioned by AI. Esta capción se utilizó como un impulso para generar la siguiente imagen.

Después de repetir este bucle, los investigadores terminaron con una imagen bland de un espacio interior formal – ninguna gente, ningún drama, ningún sentido real del tiempo y el lugar.

Un impulso que comienza con un primer ministro bajo estrés termina con una imagen de una habitación vacía con muebles elegantes.Arend Hintze, Frida Proschinger Åström y Jory Schossau,CC BY

Como un científico informático queestudios generativos modelos y creatividad, veo los hallazgos de este estudio como una pieza importanteel debatesobre siconducirá al estancamiento cultural.

Los resultados muestran que los sistemas de IA generativos tienden a la homogeneización cuando se utilizan de forma autónoma y repetida. Incluso sugieren que los sistemas AI están operando de esta manera por defecto.

El familiar es el defecto

Este experimento puede aparecer al lado del punto: La mayoría de las personas no piden sistemas de inteligencia artificial para describir y regenerar sus propias imágenes. La convergencia a un conjunto de bland, las imágenes de stock sucedieron sin reentrenar. No se agregaron nuevos datos. Nada fue aprendido. El colapso surgió puramente del uso repetido.

Pero creo que la configuración del experimento puede ser considerada como una herramienta de diagnóstico. Revela lo que preservan los sistemas generativos cuando nadie interviene.

Bastante aburrido.Chris McLoughlin/Moment via Getty Images

Esto tiene implicaciones más amplias, porque la cultura moderna está cada vez más influenciada por este tipo de tuberías. Las imágenes se resumen en el texto. El texto se convierte en imágenes. El contenido está clasificado, filtrado y regenerado a medida que se mueve entre palabras, imágenes y videos. Nuevos artículos en la webson ahora más propensos a ser escritos por AI que los humanos. Incluso cuando los humanos permanecen en el bucle, a menudo están eligiendo de opciones generadas por AI en lugar de empezar desde cero.

Los hallazgos de este estudio reciente muestran que el comportamiento predeterminado de estos sistemas es comprimir significado hacia lo más familiar, reconocible y fácil de regenerar.

¿Embarazo o aceleración cultural?

Durante los últimos años, los escépticos han advertido que la IA generativa podría conducir al estancamiento cultural inundando la web con contenido sintéticoque los futuros sistemas de inteligencia artificial se entrenan. Con el tiempo, el argumento va, este bucle recursivo reduciría la diversidad y la innovación.

Los campeones de la tecnología han retrocedido, señalando quemiedos al declive cultural acompañan cada nueva tecnología. Los humanos, argumentan, siempre serán el árbitro final de las decisiones creativas.

Lo que ha faltado de este debate es evidencia empírica que muestra dónde comienza la homogeneización.

El nuevo estudio no prueba la readiestración de los datos generados por AI. En su lugar, muestra algo más fundamental: la homogenización ocurre antes de volver a entrenar incluso entra en la imagen. El contenido que generan sistemas de IA produce naturalmente –cuando se utiliza autónoma y repetidamente – ya es comprimido y genérico.

Esto revuelve el argumento de estancamiento. El riesgo no es sólo que los modelos futuros puedan entrenar en contenido generado por IA, sino que la cultura mediada por IA ya está siendo filtrada de maneras que favorecen lo familiar, lo descriptible y lo convencional.

El reciclaje amplificaría este efecto. Pero no es su fuente.

Esto no es un pánico moral

Los escépticos tienen razón sobre una cosa: La cultura siempre se ha adaptado a las nuevas tecnologías. La fotografía no mató a la pintura. El cine no mató al teatro. Las herramientas digitales han permitido nuevas formas de expresión.

Pero esas tecnologías anteriores nunca obligaron a la cultura a ser infinitamente reconfigurada a través de varios medios a escala mundial. No resumieron, regeneraron y clasificaron productos culturales –noticias, canciones, memes, documentos académicos, fotografías o publicaciones de redes sociales – millones de veces al día, guiados por las mismas suposiciones incorporadas sobre lo que es “típico. ”

El estudio muestra que cuando el significado se ve forzado a través de tales oleoductos repetidamente, la diversidad se derrumba no por malas intenciones, diseño malintencionado o negligencia corporativa, sino porque sólo ciertos tipos de significado sobreviven las conversiones repetidas de texto a imagen.

Esto no significa estancamiento cultural es inevitable. La creatividad humana es resistente. Las instituciones, subculturas y artistas siempre han encontrado formas de resistir la homogeneización. Pero en mi opinión, los hallazgos del estudio muestran que el estancamiento es un riesgo real – no un miedo especulativo – si los sistemas generativos se dejan operar en su actual iteración.

También ayudan a aclarar una concepción errónea común sobre la creatividad AI: Producir variaciones interminables no es lo mismo que producir innovación. Un sistema puede generar millones de imágenes mientras explora un pequeño rincón del espacio cultural.

En miinvestigación propia sobre IA creativa, encontré que la novedad requiere diseñar sistemas AI con incentivos para desviarse de las normas. Sin ella, los sistemas optimizan la familiaridad porque la familiaridad es lo que han aprendido mejor. El estudio refuerza este punto empíricamente. La autonomía por sí sola no garantiza la exploración. En algunos casos, acelera la convergencia.

Este patrón ya surgió en el mundo real: Un estudio encontró que los planes de lección generados por AIpresentó la misma derivahacia el contenido convencional, no inspirador, subrayando que los sistemas AI convergen hacia lo típico en lugar de lo único o creativo.

Las salidas de AI son familiares porque revierten a pantallas promedio de creatividad humana.Bulgac/iStock via Getty Images

Perdido en Traducción

Cada vez que escriba una leyenda para una imagen, los detalles se perderán. Igualmente para generar una imagen del texto. Y esto sucede si es realizado por un humano o una máquina.

En ese sentido, la convergencia que tuvo lugar no es un fracaso que es único a AI. Refleja una propiedad más profunda de rebotar de un medio a otro. Cuando el significado pasa repetidamente a través de dos formatos diferentes, sólo persisten los elementos más estables.

Pero al resaltar lo que sobrevive durante traducciones repetidas entre texto e imágenes, los autores pueden demostrar que el significado se procesa dentro de sistemas generativos con un tirón silencioso hacia el genérico.

La implicación es sobria: Incluso con la orientación humana – ya sea que eso signifique la escritura de los impulsos, la selección de salidas o los resultados de refinación – estos sistemas todavía están despojando algunos detalles y amplificando a otros de maneras que están orientadas hacia lo que es “medio”. ”

Si la IA generativa es enriquecer la cultura en lugar de aplanarla, creo que los sistemas deben ser diseñados de maneras que resisten la convergencia hacia salidas promedio estadísticamente. Puede haber recompensas por la desviación y el apoyo a formas de expresión menos comunes y menos comunes.

El estudio aclara una cosa: A pesar de estas intervenciones, la IA generativa seguirá encaminando hacia contenidos mediocres y no inspirados.

El estancamiento cultural ya no es especulación. Ya está sucediendo.