Google попередила про продаж викраденого доступу до ШІ-сервісів
Google повідомила про LLM Mixers, які продають викрадений доступ до корпоративних ШІ-сервісів і можуть спричиняти великі витрати.
Група Google Threat Intelligence повідомила про поширення незаконних майданчиків LLM Mixers, де продають доступ до корпоративних сервісів штучного інтелекту, отриманий через викрадені облікові дані та API-ключі. За даними ZDNET, такі пропозиції дозволяють покупцям користуватися чужими обчислювальними ресурсами за ціною від 0,10 до 25 доларів за токени.
У Google називають викрадення облікових даних для ШІ-систем LLMjacking. Отримавши доступ, сторонні особи можуть запускати ресурсоємні завдання, використовувати моделі для власних розгортань, а також потенційно отримувати корпоративні дані з пам'яті ШІ або впливати на навчальні дані.
Ціни та масштаби витрат
Дослідники Google Threat Intelligence проаналізували оголошення постачальників LLMjacking на російськомовних і китайськомовних майданчиках. Там пропонують доступ як до передових моделей ШІ, так і до зламаних моделей, які рекламують для шкідливих цілей. Вартість залежить від моделі та типу облікових даних: доступ через пробні акаунти коштує менше, ніж через корпоративні.
Один із продавців, APIMart, підвищував ціну токенів у п'ять разів, якщо запит перевищував 100 тисяч токенів. Інші використовують підписну модель оплати. За оцінкою Sysdig, LLMjacking на базі ранніх моделей може обійтися жертві приблизно у 46 тисяч доларів, а у випадку новітніх моделей — більш як у 100 тисяч доларів на добу.
Дослідження Mandiant, оприлюднене цього місяця, зафіксувало випадки незаконного використання ШІ з витратами понад 100 тисяч доларів за 24 години. Сукупні нарахування в окремих організаціях досягали 1 мільйона доларів до відкликання доступу.
Як працюють LLM Mixers
Google описує LLM Mixers як незаконні вітрини, що продають не лише викрадені облікові дані, а й інфраструктуру для доступу до моделей. За оцінкою фахівців компанії, така інфраструктура може спрямовувати трафік покупців через пул скомпрометованих облікових даних і обчислювальних ресурсів, розподіляючи запити між середовищами різних жертв, аби зменшити ймовірність виявлення.
Для зниження ризиків Google рекомендує встановлювати ліміти на використання токенів і витрати, налаштовувати сповіщення про різкі стрибки активності, безпечно зберігати та регулярно змінювати API-ключі. Також компанія радить проводити аудити для виявлення прихованого зондування, помилкових конфігурацій і несанкціонованих облікових записів, а також застосовувати багатофакторну автентифікацію та захист від фішингу.