OpenAI на Guidewire Connections 2026: защита ИИ-агентов в страховании строится из нескольких слоёв

30 октября 2026 года на конференции Guidewire Connections в Лас-Вегасе Бен Чанг, вице-президент по инженерии Guidewire, поговорил с Виятом Бхалодией, членом технического штата OpenAI. Сессию назвали «Agent Security 101». Бхалодия сказал, что руководит security-направлением для Codex и агентных продуктов на базе Codex и ChatGPT.

Поводом стал конкретный сценарий. ИИ-агент (программа, которая сама выполняет шаги задачи) разбирает страховой случай: читает полицейский отчёт, медицинские записи, смету на ремонт. Что будет, если в одном из документов спрятана инструкция, которую агент не должен выполнять? Чанг и Бхалодия обсуждали это на фоне перехода страховщиков от пилотов к промышленной эксплуатации агентов.

Раньше такие системы чаще работали с жёстко заданными входами и выходами. Агент с доступом к файлам и правом совершать операции — другой класс риска. Бхалодия сказал: «Не стоит полагаться только на один слой программной защиты, потому что если он откажет, вы окажетесь полностью уязвимы». По его словам, модели обучают сопротивляться подобным атакам, но страховщикам всё равно нужно планировать, что атака пройдёт.

На практике это означает ограничения на доступ к файлам и сети, лимиты на полномочия по транзакциям, временные учётные данные, автоматическую проверку и эскалацию человеку, когда ставки высоки. Чанг обещал участникам задание для своих организаций.

Что осталось неизвестным: какие именно модели и версии упоминались, как измерялась устойчивость к атакам и какие сроки внедрения обсуждались. Данных об этом в заметке нет.