У Британії можуть розслідувати використання ШІ у справах про притулок
Британський наглядовий орган може перевірити використання ШІ Міністерством внутрішніх справ у справах про надання притулку.
Незалежний головний інспектор з питань кордонів та імміграції Великої Британії (ICIBI) розглядає можливість перевірки того, як Міністерство внутрішніх справ використовує генеративні інструменти штучного інтелекту під час опрацювання заяв про надання притулку. Потенційне розслідування пов’язане із запитаннями щодо точності цих систем та прозорості їхнього застосування, повідомляє Wired.
Правозахисна організація Open Rights Group передала інспектору інформацію, зібрану за шість місяців. Її дослідження включало 11 парламентських запитів, два листи міністрам і 10 запитів щодо доступу до публічної інформації. ICIBI не підтвердив, які саме теми зараз розглядає для плану інспекцій на наступний рік, але заявив, що обізнаний зі стурбованістю щодо ШІ.
Інструменти для працівників
Відомство застосовує Asylum Case Summarisation (ACS) та Asylum Policy Search (APS), створені на базі мовної моделі GPT-4 від OpenAI 2023 року та Microsoft Foundry. ACS узагальнює стенограми інтерв’ю з шукачами притулку, а APS допомагає шукати та стисло викладати інформацію про політику й умови у країнах походження заявників.
Пілотне використання систем почалося наприкінці 2024 року на тлі спроб уряду скоротити чергу приблизно зі 100 тисяч справ про надання притулку. За оцінками уряду, спільне використання двох інструментів могло заощаджувати близько години роботи над кожною справою.
Представник Міністерства внутрішніх справ заявив Wired, що рішення у справах ухвалюють навчені працівники, а ШІ лише допомагає орієнтуватися в записах інтерв’ю та політичній інформації. За його словами, інструменти не використовуються ізольовано та не ухвалюють рішення щодо заяв, а їхню роботу регулярно перевіряють у межах процедур контролю якості.
Зауваження до точності та прозорості
Open Rights Group стверджує, що частка зведень ACS, непридатних для використання через фактичні помилки або викривлення, є істотно вищою за оприлюднений під час пілоту показник помилок у 9%. Організація також заявила, що для зведень, створених APS, контролю якості немає.
У липні британський суддя звинуватив Міністерство внутрішніх справ у посиланні на документ, який, за його оцінкою, був згенерований ШІ з вигаданою інформацією, коли відомство відмовило громадянці Марокко та її дитині у притулку. Дослідники та правозахисники також висловлюють занепокоєння можливими культурними упередженнями моделей GPT, мовними бар’єрами та втратою культурних нюансів у зведеннях.
За даними видання, ACS і APS відсутні у публічному реєстрі алгоритмічних інструментів, хоча британський AI Playbook вимагає від державних органів прозорості щодо таких систем. Шукачів притулку також не інформують, коли ці інструменти застосовують у їхніх справах.
