Дослідники створили інструмент для відновлення видалених чатів ШІ на Android

Дослідники з Технологічного інституту Джорджії створили експериментальний інструмент ORISA, який може відновлювати фрагменти видалених розмов із локальними ШІ-асистентами на пристроях Android. Він шукає в оперативній пам’яті телефона дані, що залишилися після завершення або видалення чатів.

Про розробку повідомляє ZDNET. Локальні ШІ-асистенти працюють на пристрої без передавання інформації в хмарні сервіси, однак частина даних сесії може зберігатися у робочій пам’яті телефона.

Результати експерименту

Для перевірки ORISA команда створила тестовий ШІ-асистент для нотаток на базі Android-застосунку ChatterUI. Дослідники внесли до нього 100 вигаданих фактів про проєкт, після чого видалили ці дані.

Після аналізу пам’яті пристрою ORISA знайшов достатньо інформації, щоб сформувати нову робочу сесію з 26 фактами з початкового набору. Це більше, ніж 14 фактів, доступних оригінальній сесії асистента: решта даних уже не перебувала в її активній пам’яті.

Для чого призначений ORISA

Розробники позиціонують інструмент як засіб для кібербезпекових розслідувань. За словами провідного автора дослідження, аспіранта Кена Сю, ORISA «може допомогти встановити, якою інформацією людина поділилася з ШІ-асистентом і яку допомогу вона отримала».

Дослідники зазначили, що локальний ШІ не має централізованого журналювання та контролю, тому після видалення моделей або чатів відстежити потенційно протиправну активність може бути складніше. ORISA використовує збережені в пам’яті пакетні токени та кеші ключів і значень, щоб відновити послідовності токенів і стан сесії.

Ефективність відновлення залежить від часу: з новою активністю на телефоні робоча пам’ять перезаписується, тому вилучити залишки видалених даних стає важче. Видання також зауважує, що технологія теоретично могла б використовуватися для відтворення запитів із видалених чатів, якщо подібний інструмент опиниться в руках зловмисників.