- У 2025 році великі страховики просили регуляторів дозволити виключення AI-пов’язаних вимог із корпоративних полісів, а Insurance Services Office випустило стандарт generative AI exclusion.
- У матеріалах наводиться, що андеррайтери пов’язують відмову від покриття з неможливістю оцінити та пояснити ризик і відтворити причини рішень AI.
- Окремі матеріали про агентний AI підкреслюють значення даних, контексту та governance для роботи систем у реальних процесах.
У 2025 році, за даними TechCrunch, великі страховики звернулися до регуляторів штатів із проханням дозволити виключити вимоги, пов’язані з рішень на основі штучного інтелекту, з корпоративних полісів. Серед компаній, які фігурують у матеріалі, названі Great American, Chubb та W.R. Berkley, а також згадується, що частина виключень може поширюватися на directors and officers та errors and omissions.
Також у матеріалі йдеться, що Insurance Services Office випустило стандарт generative AI exclusion, який дає страховикам можливість додавати такі виключення до поновлень commercial general liability на початку цього року.
У матеріалі зазначається, що андеррайтери називають спільну причину відмови: вони не можуть оцінити ризик і пояснити його, а модель, вихід якої неможливо відтворити чи обґрунтувати, створює для страховика відкритий фінансовий ризик у разі завдання шкоди.
Автор матеріалу звертає увагу на те, що в системах, де AI не лише пропонує варіанти, а й змінює процеси, запускає технічне обслуговування або координує обладнання на промислових майданчиках, першочергове значення має можливість відновити, чому система ухвалила конкретне рішення, та довести, що вона діяла в межах, заданих організацією.
У матеріалі також описується підхід до того, що має бути забезпечено для «accountable AI»: наявність тривалого запису про те, що система «знала», як зважувала інформацію та які правила чи цілі визначали вибір; а також обмеження, які не дозволяють AI діяти поза встановленими операційними межами. Окремо вказується, що контроль має бути вбудований у момент ухвалення рішення, а не зводитися до періодичних переглядів.
Паралельно в іншому матеріалі на тему агентного AI зазначається, що проблеми в роботі агентів у підприємствах можуть виникати не через модель, а через те, що агенту «надають до роботи» — зокрема, через різницю між тим, як процес описаний у документації, та як він реально виконується. У матеріалі згадується, що дані збирають із документації, системних журналів та CRM або ERP, але такі джерела не відображають «шар міркувань», який присутній у реальних рішеннях.
Ще один матеріал пов’язує роботу агентного AI з потребою в узгодженому семантичному шарі даних і вказує, що відсутність семантичного контексту може бути бар’єром для операційних розгортань. У ньому також зазначається, що дані для агентів мають бути доступні в реальному часі з операційних систем, а governance та безпека мають застосовуватися динамічно під час доступу до різних систем.