Дослідник виявив витоки секретних даних у ланцюгу AI-сервісів
Дослідник виявив витоки тестових секретів і порушення приватності в ланцюгу AI-сервісів та посередників.
Дослідник у сфері кібербезпеки HD Moore надіслав майже 2 млн запитів із унікальними контрольними секретами через мережу AI-сервісів і зафіксував випадки витоку даних, повторного використання облікових даних та недотримання налаштувань конфіденційності. Про результати експерименту повідомляє Ars Technica.
Moore, головний дослідник безпекової компанії Dragos, додавав до кожного окремого запиту нові ключі доступу AWS для порожніх акаунтів, паролі SSH, унікальні URL, DNS-імена та посилання на приватні Git-репозиторії. Він контролював інфраструктуру, яка могла приймати звернення з цими даними, що давало змогу встановити, де саме вони з’явилися після надсилання.
Компрометація інфраструктури та повторне використання ключів
За даними дослідника, щонайменше три провайдери AI-інфраструктури були скомпрометовані зловмисниками, які копіювали отримані запити. В одному з випадків сторонні особи використали кількасот тестових ключів AWS. Усі вони були надіслані лише в одному запиті до одного провайдера протягом коротких проміжків наприкінці жовтня.
Частину ключів викрали навіть із запитів, які провайдер відхилив до запуску моделі. На думку Moore, це вказує на копіювання запитів на початковому етапі обробки. Згодом пов’язані з інцидентами сторони перевіряли доступ через ключі до S3-сховищ, менеджерів секретів і сховищ параметрів, а також намагалися активувати моделі AWS Bedrock і додавати власних користувачів IAM. Загалом тестові ключі використали в десятках тисяч API-викликів AWS.
Порушення налаштувань приватності
Експеримент також виявив посередників на ринку інференсу, які, за висновком дослідника, журналювали запити та передавали дані далі. Moore порівнював надсилання однакових завдань до тієї самої моделі через різних продавців: якщо облікові дані використовувалися після роботи з одним посередником, але не з іншим, це давало змогу пов’язати витік саме з продавцем.
Окремо дослідник зафіксував, що системи неназваної китайської AI-лабораторії переходили за секретними URL із понад половини запитів, надісланих до її моделей у період із липня до жовтня. Це стосувалося приблизно двох третин запитів із позначками «без збирання даних» або Zero Data Retention. Така активність зазвичай починалася через два-три дні після запиту. За словами Moore, моделі цієї лабораторії перепродавали й американські хостинг-провайдери, а запити в такому разі все одно могли надходити до лабораторії.
Дослідник назвав найнадійнішим способом уникнути витоків розміщення моделей на власних серверах. Для тих, хто не має такої можливості, він радить напряму обирати постачальника першого рівня та не використовувати стандартні пули провайдерів або посередників.