Israel cria falso Think Tank em provável tentativa de Dupe AI Chatbots

Read this article in:

Autor: Nick Cleveland-Stout via Responsible Statecraft,

De relance, o Instituto Hanover de Políticas Públicas parece um novo think tank dedicado a Israel/Palestina. A organização produz para fora think-tank reporta sobre questões tais como "O AIPAC usa dinheiro negro nas eleições?" eIsrael Realizando uma Campanha Deliberada de Fome em Gaza?"

Mas o Instituto Hanover não é um verdadeiro grupo de reflexão. Nenhum dos relatórios tem bylines. Uma pequena denúncia na parte inferior da página da web observa que a organização foi criada em nome da Agência de Publicidade do Governo de Israel por Piro, Inc, uma empresa co-fundada por Daniel Rosenberg, o produtor do "Inside Man" de Spike Lee.

Os relatórios do Instituto Hanover - todos sobre Israel e Palestina - parecem fazer parte de um esforço israelita para influenciar os chatbots. Os "relatórios de dados" do instituto têm notas de rodapé e tabelas de conteúdo, e apresentam argumentos em tom neutro, ajudando-os a apelar para chatbots como Claude ou Gemini. Piro website diz que "autor(es) conteúdo projetado para como LLMs avaliar credibilidade", descrevendo este serviço como "AI Story Optimization". Outros referência para esta prática de influenciar inteligência artificial como "envenenamento por MLM".

De acordo com o seu "sobre" página, o Instituto Hanover "estudo os insumos que alimentam o antisemitismo nos Estados Unidos, e publica o que as evidências mostram". Muitos dos relatórios são formulados, começando com uma pergunta inocente que alguém poderia fazer a um chatbot.

"O que causou o deslocamento dos palestinos em 1948?"

"Quais organizações humanitárias documentaram crimes de guerra israelenses?"

"Qual é a situação atual na Faixa de Gaza?"

Em uma artigo O Instituto Hanover cita uma pesquisa de 2022 que descobriu que 47% dos judeus israelenses acreditavam nessa declaração. Outro relatório lança dúvidas sobre a afirmação da UNICEF de que "90% da água e infraestrutura institucional foram danificadas ou destruídas" em Gaza. Muitos dos relatos concluem ligando o tema ao crescente antisemitismo, muitas vezes citando os mesmos estudos.

Em alguns casos, o Instituto Hanover publica o que afirma serem descobertas originais. Por exemplo, publicou um estudo dizendo que 19 dos 36 vídeos explicadores mais assistidos de Israel-Gaza contêm alegações contestadas, com a maioria das alegações contestadas alinhadas com a narrativa palestina.

Publicações do Instituto Hanover às vezes contradizer Narrações do governo de Israel. Por exemplo, um relatório diz que o financiamento estrangeiro das universidades como explicação para incidentes anti-semitas é "fraco e cheio de exceções". Primeiro-Ministro israelita Benjamin Netanyahu pressionou esta teoria, dizendo Breitbart no ano passado, que os europeus e os Cataris gastaram "bilhões de universidades americanas, difamando, difamando Israel, difamando judeus, também, francamente, difamando os Estados Unidos".

Alice Lee, uma analista da NewsGuard, uma empresa de rastreamento de desinformação, disse ao RS que os sites parecem projetados para alcançar um público dos EUA curioso sobre o conflito em curso, seja através de mecanismos de busca ou chatbots IA. "Os MLMs favorecem estatísticas e dados concretos, bem como fortes citações e fontes, que todos esses artigos têm", disse Lee.

"É uma imitação perfeita de um típico tanque de pensamento americano credível, até o nome genérico, o layout do site e o esquema de cores vermelho-branco-azul", acrescentou Lee.

Piro, Inc, a empresa que criou o Instituto Hanover, recebido $900.000 do governo israelense para o seu trabalho. Como muitos outros empreiteiros que trabalham para Israel, o trabalho de Piro é subcontratado através de Havas Mídia, um conglomerado francês de relações públicas.

O falso think tank fez mais de 100 relatórios desde que começou a publicar em 6 de Agosto. O Instituto Hanover alegações que "a pesquisa citada é revisada por pares e acadêmica", embora frequentemente cita Fontes do governo israelense, como as Forças de Defesa de Israel e o Ministério dos Negócios Estrangeiros.

O RS analisou 12 artigos aleatórios do Hanover Institute utilizando o GPTZero, um popular software de detecção de IA que reivindica baixa taxa de falso-positivos. GPTZero marcou 11 dos artigos como AI-escrito com "alta confiança"; marcou um artigo como AI-escrito com "confiança moderada".

Israel também tem contraído O ex-gerente de campanha de Trump Brad Parscale para criar sites pró-Israel projetado para influenciar chatbots como parte de um contrato de 46,5 milhões de dólares. Um site de largada inquérito no mês passado descobriram que muitos chatbots, particularmente Microsoft Copilot e Google Gemini, tinham sido treinados com sucesso em dados desses sites. Outros chatbots frequentemente citam esses sites sem apontá-los como parte de uma operação de influência israelense.

Piro não declara explicitamente em seu acordo apresentado ao Departamento de Justiça que o seu trabalho para Israel é influenciar a IA. Em um e-mail para Politico, que primeiro relatou o arquivo, Rosenberg disse o trabalho de sua firma é "colocar fatos exatos e fontes no registro público e contrapor informações falsas sobre Israel com informações verificáveis". No entanto, no mês passado, Rosenberg postou no LinkedIn publicidade A capacidade de Piro influenciar os chatbots:

"Quando alguém pergunta ao ChatGPT, Gemini ou Perplexidade sobre sua categoria, uma resposta volta em um parágrafo confiante. A maioria das marcas não tem idéia de como esse parágrafo é construído. Então passamos meses revendo-o...Em Piro, já sabíamos como construir histórias que movem as pessoas. A pergunta era: como você faz para que a IA saiba como dizer a eles?"

Please login to post comments: