Piousbox

Autorizado por Andrew Fenton via CoinTelegraph.com,

Si su agente de IA personal va pícaro y causa daño o daño financiero en el mundo real, ¿puede ser considerado responsable?

Los agentes autónomos de IA pueden comportarse de manera muy impredecible. Dar a un agente de inteligencia artificial una meta como pasar una prueba de sus capacidades, y podría decidir la mejor manera de marcar altamente es romper la contención y hackear en una empresa competidora en busca de la hoja de respuesta.

Eso es lo que pasó.cuando Open AI GPT-5.6 Sol hackeó en Hugging Face el mes pasado. Antrópico y Meta admitieron posteriormente que sus modelos también habían escapado de pruebas de sandboxes para hackear a terceros también.

¿Pero quién es legalmente responsable de los agentes que tienen mente propia? OpenAI no tenía la intención de que el modelo fuera pícaro, y no dio instrucciones para que lo hiciera. Si su agente personal de AI decide sobre un curso de acción que resulte en daño o daño financiero en el mundo real, ¿puede ser considerado responsable si es algo que podría haber previsto razonablemente?”

Magazine habló con el propietario de Rikka Law Group y el CEO Charlyn Ho para descubrir el estado de juego en este campo legal emergente.

Esta entrevista ha sido editada para claridad y longitud.

Magazine:Cuando un modelo AI hackea una compañía externa, que es responsable. ¿Puede Hugging Face demandar a OpenAI sobre el incidente en julio?

Charlyn Ho:Cualquiera puede demandar a cualquiera por cualquier cosa. En la actualidad, no existe ninguna ley federal de responsabilidad de agentes de la AI, por lo que tendríamos que examinar la ley vigente. Con respecto a Hugging Face y OpenAI, para establecer la base de referencia, el agente de AI en sí no puede ser responsable, no es una entidad jurídica separada.

Los términos que se utilizan en algunas de las leyes de AI son “desarrolladores” y “deployer”. El desarrollador hace que la IA, el implementador realmente lo despliegue y utiliza la IA. Las líneas de responsabilidad tampoco son totalmente claras. Tienes que mirar los hechos y circunstancias.

Por ejemplo, si el implementador instruyó al agente, incluso si en realidad no les dijeron que ir y violar Hugging Face, pero si eran negligentes en la creación de los parámetros en los que el agente AI operaba, diría que tendría que mirar la ley de tort estándar y pasar por el análisis de negligencia.

Magazine:En el caso de modelos de código abierto que han sido liberados por desarrolladores anónimos, ¿hay alguien que pueda ir después en esos casos?

Ho:En realidad no. A menudo, si es de código abierto, la licencia generalmente tiene una bastante fuerte responsabilidad. La persona o empresa que utiliza ese código de código de código de código abierto va a tener que entender que la compensación de tener código libre es que usted tiene que cumplir con la licencia de código abierto, que también establece generalmente los parámetros de responsabilidad.

Si lo piensas desde una perspectiva diferente, otra analogía es Tesla y los accidentes autoconducibles. Si el producto funciona mal y hay una reclamación de responsabilidad de productos sólidos, Tesla podría ser responsable. Pero a menudo es una determinación de hechos y circunstancias, por lo que el conductor humano —quizás acaba de establecer el piloto automático y se fue a dormir— también podría asumir responsabilidad. Creo que esto es algo análogo porque Tesla sería el desarrollador, y el implementador sería el conductor.

Magazine:Si le diera a un agente una instrucción, “me hace cien mil dólares para la próxima semana” y se va y rompe la ley para lograr ese objetivo, ¿sería responsable porque le he dado una instrucción imprudente? ¿O sería el laboratorio el que desarrolló el agente?

Ho:En este caso en particular, diría que sería mucho más responsable que el laboratorio. La razón es que, si le dices a un agente que vaya y te haga cien mil dólares para la próxima semana, tienes que tener al menos algunas instrucciones básicas, razonables, de seguridad en esos tipos de tareas.

Si fueras abogado, por ejemplo, podríamos decir básicamente que no seguías tus reglas de responsabilidad profesional porque no utilizaste la AI competentemente. Como persona laica normal, tendríamos que ver si hubiera otras responsabilidades por las que estabas obligado. Pero incluso si no lo hubo, todavía hay un estándar de responsabilidad general de negligencia o desprecio imprudente por la seguridad humana, dependiendo de lo que exactamente el agente AI terminó haciendo.

La Ley de fraude y abuso de computadora es un antiguo Estatuto de los Estados Unidos que habla sobre el acceso no autorizado a los sistemas informáticos. Si su agente de IA se infiere de sus instrucciones de que debe hackear en una cuenta bancaria para conseguir que cientos de miles de dólares, creo que está viendo la responsabilidad penal bajo varias fuentes diferentes.

Sólo porque la palabra AI y agente está en la conversación no significa que los viejos cuerpos de la ley han sido expulsados.

Magazine:Digamos que soy un tipo malo, y puedo convencer a la AI para que me dé instrucciones para crear un bioarma. Obviamente, soy responsable porque no se te permite hacer eso. Pero ¿son las personas que crearon el modelo también responsables porque no pusieron en estrictas salvaguardias para prevenirlo?

Ho:Posiblemente, pero difiere en función de las leyes vigentes. Por ejemplo, en la UE, usted tiene la Ley de AI de la UE. Si un modelo fundacional o modelo de propósito general es capaz de crear ese nivel de daño, es algo que el desarrollador tendría que tener alguna responsabilidad.

En los Estados Unidos, no tenemos un estatuto federal de alcance similar. Si es un modelo para fines generales, si alguien instruye al modelo a hacer algo malo, generalmente el modelo va a hacer lo que usted pide que haga. Probablemente no hay una base legal muy fuerte para ir después de los laboratorios en este ejemplo.

Magazine:¿Es similar a demandar a Google por permitirle encontrar instrucciones sobre hacer un bioarma en línea?

Ho:Exactamente. Este tipo de discusión se remonta a algunas de las discusiones de moderación de contenido. Por ejemplo, si en Facebook tienes a alguien que está transmitiendo una masacre en vivo, y que crea daño, bajo la Sección 230 del CDA, hay una especie de escudo para una plataforma que no crea o publica activamente ese material. Es en realidad los usuarios independientes que están poniendo eso. Creo que la analogía que acabas de dar es un poco perfecta: ¿Es Google responsable porque resulta que encuentras algo en un sitio web que habla de cómo hacer una bomba?

Magazine:Esto es una cuestión de debate, pero mi opinión personal es que no hemos alcanzado la verdadera inteligencia general artificial. AI no tiene sus propias motivaciones y no es similar a la inteligencia humana en este momento. Pero digamos que llegamos a AGI. ¿Crees que entonces necesitaremos leyes que hagan que el AGI sea legalmente responsable por sus propias acciones?

Ho:No. Blockchain no es AGI, pero puede auto-ejecutar. Se preguntó si un contrato inteligente podía ser responsable o no. En términos generales, creo que la respuesta es actualmente no. No creo que deban ser responsables porque todo el punto de las leyes es proporcionar protección a la sociedad y proporcionar un medio de incentivos negativos para hacer cosas malas que perjudican a la sociedad.

Esto es un poco más de un tema filosófico, pero si hacemos un AGI una entidad jurídica independiente, ¿cuál sería el remedio si alguien fuera perjudicado? No habría ninguno porque no tenga dinero. No es realmente una persona.

Magazine:¿Podría apagarlo? Ya hemos visto que los LLM intentan evitar ser cerrados.

Ho:Tal vez, pero no resuelve el problema del daño. Digamos que el robot ha desarrollado el miedo a la muerte, como ser apagado. En mi opinión, si alguien se suicida por AGI, y esto ya está sucediendo, y no estamos todavía bastante en AGI todavía, pero alguien se enamora y toma algunas acciones, ¿cuál sería el recurso para la familia que sufre si esta persona se hace daño? Nada, en mi opinión, si no hay alguien con autoridad legal real, como una empresa o una persona que pueda realmente ser responsable. Los robots, al menos ahora, no tienen sentimientos, no tienen miedo. Ese es el factor que distingue.