Piousbox

Escrito por Andrew Fenton via CoinTelegraph.com,

Se o seu agente pessoal de IA for desonesto e causar danos ou danos financeiros no mundo real, você pode ser responsabilizado?

Agentes de IA autônomos podem se comportar de formas altamente imprevisíveis. Dar a um agente de IA um objetivo como passar em um teste de suas capacidades, e ele pode apenas decidir a melhor maneira de marcar altamente é quebrar a contenção e hack em uma empresa concorrente em busca da folha de respostas.

Isso é o que aconteceuquando o GPT-5.6 Sol do Open AI invadiu o Hugging Face no mês passado. Anthropic e Meta posteriormente admitiram que seus modelos também tinham escapado de testar sandboxes para hackear terceiros também.

Mas quem é legalmente responsável por agentes que têm mente própria? O OpenAI não pretendia que o modelo fosse desonesto, e não deu instruções para que o fizesse. Se seu agente pessoal de IA decidir sobre um curso de ação que resulta em danos ou danos financeiros no mundo real, você pode ser responsabilizado se é algo que você poderia razoavelmente prever?”

Revista falou com Rikka Law Group proprietário e CEO Charlyn Ho para descobrir o estado de jogo neste campo jurídico emergente.

Esta entrevista foi editada por clareza e duração.

Revista:Quando um modelo de IA hackeia uma empresa externa, que é responsável. O Hugging Face pode processar o OpenAI sobre o incidente em Julho?

Charlyn Ho:Qualquer um pode processar qualquer um por qualquer coisa. Atualmente, não há lei federal de responsabilidade por agentes de IA, então teríamos que olhar para a lei existente. Com relação ao Hugging Face e OpenAI, para definir a linha de base, o próprio agente de IA não pode ser responsável, não é uma entidade jurídica separada.

Os termos que são usados em algumas das leis de IA são "desenvolver" e "deployer". O desenvolvedor faz com que a IA, o implementador realmente implante e use a IA. As linhas de responsabilidade também não são inteiramente claras. Você tem que olhar para os fatos e circunstâncias.

Por exemplo, se o desdobrador instruísse o agente, mesmo que eles realmente não lhes dissessem para ir e quebrar o Hugging Face, mas se eles fossem negligentes na criação dos parâmetros em que o agente IA operava, eu diria que você teria que olhar para a lei padrão tort e passar pela análise de negligência.

Revista:No caso de modelos de código aberto que foram lançados por desenvolvedores anônimos, há alguém que você pode ir atrás nessas instâncias?

Ho:Nem por isso. Muitas vezes, se for de código aberto, a licença geralmente tem um responsabilidade muito forte. A pessoa ou empresa que usa esse código de código aberto vai ter que entender que o tradeoff de ter código livre é que você tem que cumprir com a licença de código aberto, que também geralmente define os parâmetros de responsabilidade.

Se você pensar sobre isso de uma perspectiva diferente, outra analogia é Tesla e os acidentes auto-dirigidos. Se o produto tiver avariado e existir uma alegação de responsabilidade sólida por produtos, a Tesla poderá ser responsável. Mas, muitas vezes, é uma determinação de fatos e circunstâncias, em que o motorista humano — que talvez apenas tenha colocado o piloto automático e ido dormir — também poderia arcar com a responsabilidade. Eu acho que isso é um tanto análogo aqui porque Tesla seria o desenvolvedor, e o implante seria o motorista.

Revista:Se eu desse a um agente uma instrução, “me fazer cem mil dólares até a próxima semana” e ele vai e quebra a lei para alcançar esse objetivo, eu seria responsável porque eu lhe dei uma instrução imprudente? Ou será o laboratório que desenvolveu o agente?

Ho:Neste caso em particular, diria que seria muito mais responsável do que o laboratório. A razão é que, se você diz a um agente para ir e fazer você cem mil dólares na próxima semana, você precisa ter pelo menos algumas instruções básicas, razoáveis, de segurança nesses tipos de tarefas.

Se você fosse um advogado, por exemplo, poderíamos basicamente dizer que você não seguiu suas regras de responsabilidade profissional porque você não usou competentemente a IA. Como um leigo normal, teríamos de ver se havia outras responsabilidades por que vocês estavam vinculados. Mas, mesmo que não houvesse, ainda há um padrão geral de negligência ou desrespeito imprudente pela segurança humana, dependendo do que exatamente o agente de IA acabou fazendo.

A Lei de Fraude e Abuso de Computador é um antigo Estatuto dos EUA que fala sobre acesso não autorizado a sistemas de computador. Se o seu agente de IA inferiu de suas instruções que ele deve invadir uma conta bancária para obter que cem mil dólares, eu acho que você está olhando para a responsabilidade criminal sob uma série de fontes diferentes.

Só porque a palavra IA e agente está na conversa não significa que antigos corpos de lei tenham sido agora expulsos.

Revista:Digamos que eu sou um cara mau, e eu consigo convencer a IA a me dar instruções para criar uma arma biológica. Obviamente, sou responsável porque você não está autorizado a fazer isso. Mas será que as pessoas que criaram o modelo também são responsáveis porque não colocaram salvaguardas rigorosas para evitá-lo?

Ho:Possivelmente, mas difere com base nas leis que estão em vigor. Por exemplo, na UE, tem a Lei da AI da UE. Se um modelo fundacional ou modelo de propósito geral é capaz de criar esse nível de dano, isso é algo pelo qual o desenvolvedor teria que ter alguma responsabilidade.

Nos Estados Unidos, não temos um estatuto federal de alcance semelhante. Se é um modelo de propósito geral, se alguém instrui o modelo para fazer algo ruim, geralmente o modelo vai fazer o que você pede para fazer. Provavelmente não há uma base legal muito forte para ir atrás dos laboratórios neste exemplo.

Revista:É semelhante a processar o Google por permitir que você encontre instruções sobre fazer uma arma biológica online?

Ho:Exactamente. Isto remonta a algumas das discussões sobre moderação de conteúdo. Por exemplo, se no Facebook você tem alguém que está transmitindo ao vivo um massacre, e isso cria danos, sob a Seção 230 do CDA, existe uma espécie de escudo para uma plataforma que não cria ou publica ativamente esse material. Na verdade, são os usuários independentes que estão colocando isso. Eu acho que a analogia que você acabou de dar é uma espécie de perfeito: Google é responsável porque você acontece de encontrar algo em um site em algum lugar que fala sobre como fazer uma bomba?

Revista:Esta é uma questão de debate, mas a minha opinião pessoal é que não atingimos uma inteligência geral artificial genuína. A IA não tem suas próprias motivações e não é semelhante à inteligência humana no momento. Mas digamos que chegamos ao AGI. Acha que precisamos de leis que tornem o próprio AGI legalmente responsável pelas suas próprias acções?

Ho:Eu não. Blockchain não é AGI, mas pode auto-executar. Havia uma questão de se um contrato inteligente poderia ou não ser responsável. De um modo geral, penso que a resposta é actualmente não. Eu não acho que eles devem ser responsáveis porque o objetivo das leis é fornecer proteção para a sociedade e fornecer um meio de incentivos negativos para fazer coisas ruins que prejudicam a sociedade.

Este é um pouco mais de um tópico filosófico, mas se tornássemos um AGI uma entidade jurídica independente, qual seria o remédio se alguém fosse prejudicado? Não haveria nenhum porque não tem dinheiro. Não é realmente uma pessoa.

Revista:Podes desligar? Já vimos que os LLMs tentam evitar ser desligados.

Ho:Talvez, mas não resolve o problema do dano. Digamos apenas que o robô desenvolveu agora o medo da morte, como ser desligado. Na minha opinião, se alguém comete suicídio por causa da AGI, e isso já está acontecendo, e ainda nem estamos na AGI, mas alguém se apaixona e toma algumas ações, qual seria o recurso para a família de luto se essa pessoa se prejudicasse? Nada, na minha opinião, se não há alguém com autoridade legal real, como uma empresa ou uma pessoa que pode realmente ser responsabilizadaRobôs – pelo menos agora – não têm sentimentos, não têm medos. Esse é o tipo de fator distintivo.