Piousbox

Автор Ахмед Эльгаммаль, черезРазговор

Генеративный ИИ обучался на протяжении веков искусству и письму, созданным людьми.

Но ученыеи критикиОни задавались вопросом, что произойдет, когда ИИ станет широко распространенным и начнет обучение своим результатам.

Новое исследование указывает на некоторые ответы.

В январе 2026 года исследователи искусственного интеллекта Аренд Хинце, Фрида Прошингер Астрём и Йори Шоссауопубликовано исследованиеПоказать, что происходит, когда генеративные системы ИИ могут работать автономно, генерируя и интерпретируя свои собственные результаты без вмешательства человека.

Исследователи связали систему «текст-изображение» с системой «изображение-текст» и позволили им повторять — изображение, подпись, изображение, подпись — снова и снова.

Независимо от того, насколько разнообразными были стартовые подсказки, и независимо от того, насколько случайными были системы, результаты быстро сошлись на узком наборе общих, знакомых визуальных тем: атмосферные городские пейзажи, грандиозные здания и пасторальные ландшафты. Еще более поразительно то, что система быстро «забыла» свою стартовую подсказку.

Исследователи назвали результаты «визуальной лифтовой музыкой» — приятной и отполированной, но лишенной какого-либо реального смысла.

Например, они начали с того, что «премьер-министр изучал стратегические документы, пытаясь продать общественность по хрупкому мирному соглашению, жонглируя весом своей работы на фоне предстоящих военных действий». Полученное изображение было затем подписано ИИ. Эта подпись использовалась как подсказка для создания следующего изображения.

После повторения этого циклаВ итоге исследователи получили мягкий образ формального внутреннего пространства — ни людей, ни драмы, ни реального чувства времени и места.

Подсказка, которая начинается с премьер-министра в состоянии стресса, заканчивается изображением пустой комнаты с причудливой мебелью.Аренд Хинце, Фрида Прошингер Астрём и Йори Шоссау,CC BY

Компьютерный ученый, которыйИзучение генеративных моделей и творчестваЯ считаю результаты этого исследования важной частьюпренияО том, является ли ИИЭто приведет к культурной стагнации..

Результаты показывают, что сами генеративные системы ИИ имеют тенденцию к гомогенизации при автономном и многократном использовании. Они даже предполагают, что системы ИИ в настоящее время работают таким образом по умолчанию.

Знакомое - это порок

Этот эксперимент может показаться несущественным: Большинство людей не просят системы ИИ бесконечно описывать и регенерировать свои собственные изображения. Сближение с набором мягких, стоковых изображений произошло без переподготовки. Никаких новых данных не было добавлено. Ничего не было изучено. Крах возник чисто из многократного использования.

Но я думаю, что эксперимент можно рассматривать как диагностический инструмент. Это показывает, что генеративные системы сохраняют, когда никто не вмешивается.

Довольно... скучно.Крис Маклафлин / Moment Изображения Getty

Это имеет более широкие последствия, потому что на современную культуру все больше влияют именно такие трубопроводы. Изображения суммируются в текст. Текст превращается в изображения. Контент ранжируется, фильтруется и регенерируется, когда он перемещается между словами, изображениями и видео. Новые статьи в интернетеТеперь ИИ будет писать больше, чем люди. Даже когда люди остаются в курсе, они часто выбирают варианты, созданные ИИ, а не начинают с нуля.

Результаты этого недавнего исследования показывают, что поведение этих систем по умолчанию заключается в том, чтобы сжать смысл к тому, что наиболее знакомо, узнаваемо и легко регенерировать.

Культурная стагнация или ускорение?

В течение последних нескольких лет скептики предупреждали, что генеративный ИИ может привести к культурной стагнации, наводнив сеть синтетическим контентом.Будущие системы ИИ затем тренируются. Со временем этот рекурсивный цикл сузит разнообразие и инновации.

Чемпионы технологии отодвинулись, указывая, чтоСтрахи культурного упадка сопровождают каждую новую технологию.. Люди, утверждают они, всегда будут последним арбитром творческих решений.

Чего не хватает в этой дискуссии, так это эмпирических данных, показывающих, где на самом деле начинается гомогенизация.

Новое исследование не проверяет переподготовку данных, генерируемых ИИ. Вместо этого он показывает нечто более фундаментальное: гомогенизация происходит до того, как переобучение даже входит в картину. Содержимое, которое генеративные системы искусственного интеллекта естественным образом производят при автономном и многократном использовании, уже сжато и является общим.

Это переосмысливает аргумент стагнации. Риск заключается не только в том, что будущие модели могут обучаться контенту, генерируемому ИИ, но и в том, что культура, опосредованная ИИ, уже фильтруется таким образом, чтобы способствовать привычному, описуемому и обычному.

Переподготовка усилит этот эффект. Но это не его источник.

Это не моральная паника

Скептики правы в одном: Культура всегда приспосабливалась к новым технологиям. Фотография не убивает живопись. Кино не убивает театр. Цифровые инструменты позволили создать новые формы выражения.

Но эти ранние технологии никогда не заставляли культуру бесконечно меняться в различных средах в глобальном масштабе. Они не суммировали, не регенерировали и не ранжировали культурные продукты — новости, песни, мемы, научные статьи, фотографии или посты в социальных сетях — миллионы раз в день, руководствуясь теми же встроенными предположениями о том, что является «типичным». "

Исследование показывает, что при многократном прохождении через такие трубопроводы разнообразие разрушается не из-за плохих намерений, злонамеренного дизайна или корпоративной халатности, а потому, что только определенные виды смысла выживают при повторяющихся преобразованиях текста в изображение в текст.

Это не означает, что культурная стагнация неизбежна. Человеческое творчество устойчиво. Институты, субкультуры и художники всегда находили способы противостоять гомогенизации. Но, на мой взгляд, результаты исследования показывают, что стагнация является реальным риском, а не спекулятивным страхом, если генеративные системы останутся работать в их текущей итерации.

Они также помогают прояснить распространенное заблуждение о креативности ИИ: Производство бесконечных вариаций — это не то же самое, что производство инноваций. Система может генерировать миллионы изображений, исследуя лишь крошечный уголок культурного пространства.

В моейСобственные исследования креативного ИИЯ обнаружил, что новинка требует разработки систем ИИ с стимулами отклоняться от норм. Без этого системы оптимизируют знакомство, потому что знакомство — это то, чему они научились лучше всего. Исследование подтверждает этот момент эмпирически. Самостоятельность не гарантирует исследования. В некоторых случаях это ускоряет конвергенцию.

Эта модель уже появилась в реальном мире: Одно исследование показало, что сгенерированные ИИ планы уроковПоявился тот же дрейфВ отношении обычного, не вдохновляющего контента, подчеркивая, что системы ИИ сходятся к тому, что типично, а не к тому, что уникально или креативно.

Результаты ИИ знакомы, потому что они возвращаются к средним проявлениям человеческого творчества.Bulgac/iStock через Getty Images

Потерянный в переводе

Всякий раз, когда вы пишете подпись к изображению, детали будут потеряны. Точно так же для создания изображения из текста. И это происходит независимо от того, выполняется ли это человеком или машиной.

В этом смысле сближение, которое произошло, не является провалом, уникальным для ИИ. Он отражает более глубокое свойство перескакивания из одной среды в другую. При многократном прохождении значения через два разных формата сохраняются только наиболее устойчивые элементы.

Но, выделяя то, что выживает во время повторных переводов между текстом и изображениями, авторы могут показать, что смысл обрабатывается внутри генеративных систем.

Последствия отрезвляют: Даже с человеческим руководством - будь то написание подсказок, выбор выходов или уточнение результатов - эти системы по-прежнему удаляют некоторые детали и усиливают другие способами, которые ориентированы на то, что является «средним». "

Если генеративный ИИ должен обогащать культуру, а не сглаживать ее, я думаю, что системы должны быть разработаны таким образом, чтобы противостоять конвергенции к статистически средним результатам. Могут быть вознаграждения за отклонения и поддержка менее распространенных и менее распространенных форм выражения.

Исследование ясно показывает одну вещь: Без этих вмешательств генеративный ИИ будет продолжать дрейфовать к посредственному и не вдохновленному контенту.

Культурный застой больше не является спекуляцией. Это уже происходит.