Piousbox

Автор Эндрю Фентон через CoinTelegraph.com,

Если ваш личный агент ИИ станет мошенником и причинит вред или финансовый ущерб в реальном мире, вы можете быть привлечены к ответственности?

Автономные агенты ИИ могут вести себя непредсказуемо. Дайте агенту ИИ такую цель, как прохождение теста его возможностей, и он может просто решить, что лучший способ получить высокую оценку - это взломать сдерживание и взломать конкурирующую компанию в поисках листа ответов.

Вот что случилосьВ прошлом месяце GPT-5.6 Sol от Open AI взломал Hugging Face. Антропик и Мета впоследствии признали, что их модели также избежали тестирования песочниц для взлома третьих сторон.

Но кто несет юридическую ответственность за агентов, которые имеют собственные умы? OpenAI не намеревался, чтобы модель стала изгоем, и не давал никаких инструкций для этого. Если ваш личный агент ИИ принимает решение о порядке действий, который приводит к ущербу или финансовому ущербу в реальном мире, вы можете быть привлечены к ответственности, если это то, что вы могли разумно предвидеть?

Журнал побеседовал с владельцем и генеральным директором Rikka Law Group Шарлином Хо, чтобы узнать состояние игры в этом новом правовом поле.

Это интервью было отредактировано для ясности и длины.

Журнал:Когда модель ИИ взламывает внешнюю компанию, кто несет ответственность. Может ли Hugging Face подать в суд на OpenAI из-за инцидента в июле?

Шарлин Хо:Любой может подать в суд на кого угодно за что угодно. В настоящее время нет федерального закона об ответственности агента ИИ, поэтому мы должны рассмотреть существующий закон. В отношении Hugging Face и OpenAI, чтобы установить базовый уровень, сам агент ИИ не может нести ответственность, это не отдельное юридическое лицо.

Термины, которые используются в некоторых законах об ИИ, являются «разработчик» и «разработчик». Разработчик создает ИИ, разработчик фактически развертывает его и использует ИИ. Линии ответственности также не совсем ясны. Нужно смотреть на факты и обстоятельства.

Например, если разработчик проинструктировал агента, даже если он на самом деле не сказал им пойти и нарушить Hugging Face, но если они были небрежны в создании параметров, в которых действовал агент ИИ, я бы сказал, что вам придется взглянуть на стандартный закон о правонарушениях и пройти анализ халатности.

Журнал:В случае моделей с открытым исходным кодом, выпущенных анонимными разработчиками, есть ли кто-то, кого вы можете преследовать в этих случаях?

Хо:Не совсем. Часто, если это открытый исходный код, лицензия обычно имеет довольно сильный отказ от ответственности. Лицо или компания, использующая этот открытый исходный код, должны понимать, что компромиссом наличия свободного кода является соблюдение лицензии с открытым исходным кодом, которая также обычно устанавливает параметры ответственности.

Если посмотреть на это с другой точки зрения, то можно провести аналогию с Tesla и автокатастрофами. Если продукт неисправен, и есть твердая ответственность за продукцию, Tesla может нести ответственность. Но это часто определяется фактами и обстоятельствами, в результате чего водитель, который, возможно, просто установил автопилот и лег спать, также может нести ответственность. Я думаю, что это несколько аналогично здесь, потому что Tesla будет разработчиком, а разработчик будет драйвером.

Журнал:Если я дам агенту инструкцию: «Сделайте мне сто тысяч долларов на следующей неделе», и она нарушит закон, чтобы достичь этой цели, я буду нести ответственность, потому что я дал ей безрассудную инструкцию? Или это лаборатория, которая разработала агент?

Хо:В данном случае я бы сказал, что вы будете гораздо более ответственны, чем лаборатория. Причина в том, что если вы скажете агенту пойти и заработать вам сто тысяч долларов на следующей неделе, вам нужно иметь хотя бы некоторые базовые, разумные инструкции по безопасности в таких задачах.

Например, если бы вы были юристом, мы могли бы сказать, что вы не соблюдали свои правила профессиональной ответственности, потому что вы не использовали ИИ. Как обычный мирянин, мы должны были бы увидеть, есть ли другие обязанности, которые вы были связаны. Но даже если бы этого не было, все равно существует общий критерий халатности или безрассудного пренебрежения безопасностью человека, в зависимости от того, что именно сделал агент ИИ.

Закон о компьютерном мошенничестве и злоупотреблениях - это очень старый Устав США, в котором говорится о несанкционированном доступе к компьютерным системам. Если ваш агент искусственного интеллекта вывел из ваших инструкций, что он должен взломать банковский счет, чтобы получить вам эти сто тысяч долларов, я думаю, что вы рассматриваете уголовную ответственность по ряду различных источников.

То, что в разговоре есть слово «ИИ» и «агент», не означает, что старые законы были выброшены.

Журнал:Допустим, я плохой парень, и мне удается убедить ИИ дать мне инструкции по созданию биологического оружия. Конечно, я несу ответственность, потому что вам не разрешено это делать. Но несут ли люди, создавшие модель, ответственность за то, что они не ввели строгие меры предосторожности, чтобы предотвратить это?

Хо:Возможно, но она отличается в зависимости от действующих законов. Например, в ЕС у вас есть закон ЕС об искусственном интеллекте. Если базовая модель или модель общего назначения способна создать такой уровень вреда, это то, за что разработчик должен нести некоторую ответственность.

В США нет федерального закона аналогичного масштаба. Если это модель общего назначения, если кто-то инструктирует модель делать что-то плохое, как правило, модель будет делать то, что вы просите. Вероятно, в этом примере нет очень сильной правовой основы для преследования лабораторий.

Журнал:Это похоже на судебный процесс против Google за то, что он позволил вам найти инструкции по созданию биологического оружия в Интернете?

Хо:Именно. Это восходит к некоторым обсуждениям модерации контента. Например, если на Facebook есть кто-то, кто в прямом эфире транслирует бойню, и это наносит вред, в соответствии с разделом 230 CDA, есть своего рода щит для платформы, которая активно не создает или не публикует этот материал. На самом деле это независимые пользователи. Я думаю, что аналогия, которую вы только что дали, является идеальной: Google несет ответственность, потому что вы случайно нашли что-то на веб-сайте, где говорится о том, как сделать бомбу?

Журнал:Это вопрос дебатов, но мое личное мнение заключается в том, что мы не достигли подлинного искусственного общего интеллекта. У ИИ нет собственной мотивации, и он не похож на человеческий интеллект. Допустим, мы перейдем к AGI. Считаете ли вы, что нам нужны законы, которые сделают сам AGI юридически ответственным за свои действия?

Хо:Я не знаю. Блокчейн не является AGI, но он может самореализоваться. Был вопрос о том, может ли умный контракт нести ответственность. Вообще говоря, я думаю, что ответ в настоящее время нет. Я не думаю, что они должны нести ответственность, потому что весь смысл законов заключается в том, чтобы обеспечить защиту общества и предоставить средства негативных стимулов для совершения плохих вещей, которые вредят обществу.

Это скорее философская тема, но если мы сделаем AGI независимым юридическим лицом, каково будет средство правовой защиты, если кому-то будет причинен вред? Их не будет, потому что у них нет денег. Это на самом деле не человек.

Журнал:Можешь выключить? Мы уже видели, что LLM пытаются избежать закрытия.

Хо:Возможно, но это не решает проблему вреда. Допустим, у робота развился страх смерти, как будто его выключили. На мой взгляд, если кто-то совершает самоубийство из-за ОИИ, и это уже происходит, а мы еще даже не совсем в ОИИ, но кто-то влюбляется и предпринимает какие-то действия, каково было бы обращение к скорбящей семье, если этот человек вредит себе? Ничего, на мой взгляд, если нет кого-то с реальными юридическими полномочиями, как компания или человек, который действительно может быть привлечен к ответственности.Роботы — по крайней мере, сейчас — у них нет чувств, у них нет страхов. Это своего рода отличительный фактор.