ШІ-агенти у фінансах потребують контролю за всіма етапами роботи

Фінансовим установам потрібно контролювати не лише рішення моделей штучного інтелекту, а й увесь ланцюг дій ШІ-агентів у різних системах, ідеться в матеріалі TechRadar. Це стає актуальним, оскільки технології переходять від генерації відповідей до самостійного виконання операцій — зокрема перевірки сигналів про шахрайство, обробки страхових вимог і підтримки команд із дотримання вимог.

Ризик непрозорих процесів

За наведеними у публікації даними, 48% керівників фінансових компаній у Великій Британії заявили, що їхні установи використовують агентний ШІ. Водночас понад чверть респондентів повідомили про відсутність або обмеженість контролю, який мав би забезпечувати дотримання законів і регуляторних норм.

ШІ-агенти можуть переміщуватися між системами, інтерпретувати інформацію, обирати інструменти та визначати подальші кроки. Через це рішення може формуватися в кількох технологічних середовищах, а відповідальну сторону важко встановити. Наприклад, у процесі розгляду страхової вимоги один агент здатен збирати докази та зіставляти їх з умовами полісу, а інший — контактувати з клієнтом або рекомендувати не здійснювати виплату.

Аудит дій і людський нагляд

У матеріалі зазначається, що помилка агента може повторюватися та посилюватися в автоматизованому процесі. Неправильна деталь здатна спричинити обмеження рахунку, повідомлення клієнту або регуляторний звіт ще до того, як її виявлять працівники.

Автор наголошує, що присутність людини в процесі не гарантує змістовного нагляду. Працівник, який отримує рекомендацію агента, має бачити використані системи й дані, попередні кроки та мати змогу оскаржити або скасувати дію. Вищий рівень такого контролю потрібен для рішень із суттєвими наслідками, зокрема блокування банківського рахунку, відхилення страхової вимоги або ескалації підозри у шахрайстві.

Для аудиту установам пропонують фіксувати, який агент діяв, які дані отримував, якими інструментами користувався, які правила застосовував і де людина переглядала або змінювала рішення. Така прозорість має поширюватися і на сторонніх постачальників, залучених до автоматизованого процесу.