Кто отвечает, когда ИИ-агент нарушает правила

30 октября 2026 года вышел материал о том, как компании используют ИИ-агентов (программы, которые сами выполняют задачи: переводят деньги, правят код, ведут продажи) и кто отвечает, если такой агент нарушает правила. В заметке поставлены два вопроса: как подтвердить личность каждого агента и на кого ложится ответственность за его действия. Данных о конкретных инцидентах, компаниях или судебных решениях в источнике нет.

Отличие от прежних обсуждений в том, что раньше речь шла в основном о чат-ботах, которые лишь советуют человеку. Здесь агент получает доступ к деньгам, коду и продажам и действует сам. Поэтому вопрос смещается с качества ответов на учёт действий: кто именно сделал операцию и по чьему поручению. Это задача про идентификацию (привязку действия к конкретному агенту и его владельцу), а не про качество модели.

На практике компаниям нужен способ выдавать агенту учётные данные, ограничивать его права и хранить журнал действий. Без этого нельзя ни отозвать доступ, ни разобрать спорный случай. Ответственность при этом зависит от того, что записано в договоре и в логах: кто владелец агента, какие права ему выдали и кто утвердил действие. Источник не приводит примеров, как это устроено у конкретных компаний, поэтому детали остаются открытыми.

Что осталось неизвестным: как именно компании подтверждают личность агентов и какие правила ответственности уже применяются. В заметке нет ни примеров, ни цифр, ни ссылок на регуляторов.