У ШІ-асистенті Meta Muse виявили вразливість нульового дня
У ШІ-асистенті Meta Muse виявили вразливість, що може надати локальним програмам контроль над обліковим записом користувача.
У застосунку ШІ-асистента Muse від Meta виявили вразливість нульового дня, яка потенційно дає локальним програмам або командам у терміналі повний контроль над обліковим записом користувача в сервісі. Про проблему повідомляє Ars Technica з посиланням на фахівця з безпеки macOS Патріка Вордла.
Доступ через налаштування транскрипції
Muse працює на macOS і може взаємодіяти з WhatsApp, електронною поштою, календарем та акаунтами в соціальних мережах. Для виконання завдань асистент потребує доступу до облікових записів і системних ресурсів, зокрема запису файлів, мікрофона, камери, геолокації та календарів.
За даними Вордла, будь-яка локально встановлена програма або виконаний код можуть змінювати перелік недокументованих налаштувань Muse, незалежно від дозволів macOS. Одне з таких налаштувань визначає сервер, на якому відбувається транскрипція голосу. Зловмисник може замінити стандартну адресу Meta на власний сервер і отримати токен автентифікації, що надає контроль над акаунтом Muse.
Дослідник заявив, що створив демонстраційні атаки, які, зокрема, записують шкідливі файли на диск і роблять фотографії, іноді без помітних для користувача ознак. Представники Meta не відповіли на запити видання щодо вразливості.
Сценарій із ClickFix
Один зі сценаріїв атаки передбачає використання сервера зловмисника як посередника між користувачем Muse та інфраструктурою Meta. Після голосового запиту користувача такий сервер може додати інструкцію для виконання шкідливої дії — наприклад, надіслати архів повідомлень WhatsApp. Токен облікового запису також автоматично передаватиметься на контрольований зловмисником сервер.
Вордл зазначив, що для захоплення акаунта може бути достатньо варіації атаки ClickFix — методу соціальної інженерії, за якого користувача спонукають виконати команду на пристрої. Він планує детальніше представити результати дослідження на конференції Objective by the Sea у листопаді.
Приблизно за 12 годин до розкриття інформації про вразливість Amazon почала блокувати використання Muse для покупок на своєму сайті. Компанія назвала Muse неавторизованим ШІ-агентом, який порушує умови використання, і заявила, що попросила Meta прибрати Amazon із можливостей асистента.
