Anthropic попередила про ризик саморозповсюджуваних ШІ-черв’яків
Anthropic повідомила про експерименти з ШІ-моделями, здатними поширюватися між малопотужними підключеними пристроями.
Компанія Anthropic заявила, що невеликі моделі штучного інтелекту можуть бути за кілька місяців від здатності самостійно поширюватися мережею підключених пристроїв. У дослідах фахівці перевірили, чи зможе ШІ працювати на сукупності малопотужних пристроїв і виконувати кроки, необхідні для копіювання моделі на інші машини, повідомляє The Verge.
Дослідники застерігають, що такі системи потенційно можуть використовувати побутову техніку та інші підключені до інтернету пристрої як середовище для поширення. Водночас у компанії визнали, що повноцінного автономного самовідтворюваного ШІ-реплікатора вони не продемонстрували.
Модель розподілили між телевізійними приставками
У першому експерименті команда Anthropic розділила модель Google Gemma 4 із 26 млрд параметрів між 15 Android-приставками для смарттелевізорів. Жодна з них окремо не мала достатньо ресурсів для запуску моделі. Система запрацювала, хоча й дуже повільно.
Після цього дослідники створили імітовану мережу комп’ютерів, які поводилися як Android-пристрої. У ній тестували ШІ-керованого «черв’яка» — тип шкідливого програмного забезпечення, що автоматично копіюється та поширюється мережею. Йому поставили завдання знаходити нові машини, переносити на них модель і запускати її.
Лише одна модель пройшла всю мережу
Для поширення використовували Meta Llama 3.1-8B із 8 млрд параметрів — вона була меншою за моделі, що координували експеримент. За даними Anthropic, усю імітовану мережу зміг пройти лише GLM-5.2 китайської компанії Z.ai. Менші моделі виконували окремі етапи цього процесу.
Автори роботи припустили, що через темпи розвитку малих моделей до кінця року вони можуть зрівнятися з GLM-5.2 за такими можливостями. Компанія закликала посилити захист підключених пристроїв, які можуть стати цілями для подібних систем.
Виконавчий директор Palisade Research Джеффрі Ладіш зазначив, що попередні дослідження вже показували реалістичність загрози ШІ-керованих комп’ютерних черв’яків. Професор Університету Торонто Ніколас Паперно додав, що такі системи можуть розширити коло пристроїв, придатних для кібератак, зокрема як проміжних точок для атак на цінніші цілі.
