Израиль создал фальшивый мозговой центр, пытаясь обмануть чат-ботов

Read this article in:

Автор: Ник Кливленд-Стут, Responsible Statecraft,

На первый взгляд, Ганноверский институт государственной политики выглядит как новый аналитический центр, посвященный Израилю и Палестине.Организация выпускает аналитические отчеты по вопросам такие как Использует ли AIPAC темные деньги на выборах? и "Это Израиль Проведение преднамеренной кампании голода в Газе?

Но Ганноверский институт не является настоящим мозговым центром. Ни в одном из отчетов нет строк. Небольшой отказ от ответственности в нижней части веб-страницы отмечает, что организация была создана от имени израильского правительственного рекламного агентства Piro, Inc, фирмой, соучредителем которой является Даниэль Розенберг, продюсер «Внутреннего человека» Спайка Ли.

Отчеты Института Ганновера, все из которых посвящены Израилю и Палестине, являются частью усилий Израиля по влиянию на чат-ботов. В «отчетах о данных» института есть сноски и таблицы содержания, и они представляют аргументы в нейтральном тоне, помогая им обращаться к чат-ботам, таким как Клод или Близнецы. Пиро сайт Он говорит, что он «автор(ы) контента, разработанного для того, как LLM оценивают достоверность», описывая эту услугу как «Оптимизация истории ИИ». Другие ссылаться к этой практике воздействия искусственный интеллект "Отравление LLM".

Согласно его "приблизительно" страницаИнститут Ганновера «изучает факторы, подпитывающие антисемитизм в Соединенных Штатах, и публикует то, что показывают доказательства». Многие из отчетов являются шаблонными, начиная с невинного вопроса, который кто-то может задать чат-боту.

Что привело к перемещению палестинцев в 1948 году?

Какие гуманитарные организации задокументировали военные преступления Израиля?

Какова нынешняя ситуация в секторе Газа?

В одном статья Озаглавленный «Является ли ЦАХАЛ самой моральной армией в мире?», Институт Ганновера приводит опрос 2022 года, который показал, что 47% израильских евреев поверили этому заявлению. Другой доклад Утверждения ЮНИСЕФ о том, что «90% водных ресурсов и институциональной инфраструктуры были повреждены или разрушены» в Газе, вызывают сомнения. Многие доклады заканчиваются увязкой темы с ростом антисемитизма, часто ссылаясь на те же исследования.

В некоторых случаях Институт Ганновера публикует оригинальные результаты. Например, он выдает a исследование 19 из 36 наиболее просматриваемых видео с объяснениями Израиля и Газы содержат оспариваемые утверждения, причем большинство оспариваемых утверждений согласуются с палестинским повествованием.

Иногда публикации Института Ганновера противоречить Нарративы израильского правительства. Например, в одном докладе говорится, что иностранное финансирование университетов в качестве объяснения антисемитских инцидентов является «слабым и полным исключений». Премьер-министр Израиля Биньямин Нетаньяху Выдвинул эту теорию, рассказывать В прошлом году Брейтбарт заявил, что европейцы и катарцы потратили «миллиарды американских университетов, очерняя, очерняя Израиль, очерняя евреев, а также, откровенно говоря, очерняя Соединенные Штаты».

Элис Ли, аналитик NewsGuard, компании по отслеживанию дезинформации, сказала RS, что сайты, по-видимому, предназначены для охвата аудитории США, интересующейся продолжающимся конфликтом, либо через поисковые системы, либо через чат-ботов ИИ. «LLM предпочитают конкретную статистику и данные, а также сильные цитаты и источники, которые есть в этих статьях», — сказал Ли.

«Это идеальная мимикрия типичного авторитетного американского аналитического центра, вплоть до общего названия, макета сайта и красно-бело-голубой цветовой схемы», — добавил Ли.

Piro, Inc, фирма, которая создала Ганноверский институт. полученный 900 тысяч долларов от израильского правительства. Как будто многие другие Подрядчики, работающие на Израиль, работа Пиро субподрядится через Havas СМИФранцузский конгломерат связей с общественностью.

Фальшивый аналитический центр выпустил более 100 отчетов с момента публикации 6 августа. Ганноверский институт претензии что «цитируемое исследование является рецензируемым и академическим», хотя это часто цитировать Израильские правительственные источники, такие как Армия обороны Израиля и Министерство иностранных дел.

RS проанализировал 12 случайных статей Института Ганновера, используя GPTZero, популярное программное обеспечение для обнаружения ИИ, которое утверждает низкий уровень ложноположительных результатов. GPTZero отметил 11 статей как написанные с «высокой уверенностью»; он отметил одну статью как написанную с «умеренной уверенностью».

Израиль также контрактный Бывший менеджер кампании Трампа Брэд Парскейл создал произраильские веб-сайты, созданные для влияния на чат-ботов в рамках контракта на 46,5 миллиона долларов. Сайт Drop расследование В прошлом месяце было обнаружено, что многие чат-боты, в частности Microsoft Copilot и Google Gemini, были успешно обучены данным с этих веб-сайтов. Другие чат-боты часто ссылаются на эти сайты, не помечая их как часть израильской операции влияния.

Piro прямо не указывает в своем соглашении представленный Министерство юстиции заявило, что его работа в Израиле направлена на оказание влияния на ИИ. В электронном письме Politico, в котором впервые сообщалось о подаче заявки, Розенберг сказал Работа его фирмы заключается в том, чтобы «внести точные факты в публичные записи и противодействовать дезинформации об Израиле с проверяемой информацией». Однако в прошлом месяце Розенберг опубликовал в LinkedIn реклама Способность Пиро влиять на чат-ботов:

Когда кто-то спрашивает ChatGPT, Gemini или Perplexity о вашей категории, ответ возвращается в одном уверенном абзаце. Большинство брендов понятия не имеют, как этот пункт будет построен. Поэтому мы потратили месяцы на реверс-инжиниринг... В Пиро мы уже знали, как создавать истории, которые двигают людей. Вопрос был: как убедиться, что ИИ знает, как им сказать?

Please login to post comments: