VicOne заявила про ризики маніпуляцій даними для безпеки роботів
VicOne описала, як підміна даних сенсорів, повідомлень або аудіосигналів може впливати на захисні функції роботів.
Компанія VicOne у спонсорованому матеріалі для IEEE Spectrum заявила, що системи безпеки роботів можуть діяти за заданими правилами, але отримувати неправдиві або навмисно змінені вхідні дані. Це, за оцінкою компанії, здатне впливати на реакції мобільних роботів, колаборативних маніпуляторів і гуманоїдних машин, які покладаються на показники відстані, координати або сигнали зупинки.
У VicOne навели приклади, коли робот може помилково оцінити коридор як вільний, відстань до працівника — як більшу за фактичну, або не отримати сигнал про людину на своєму шляху. Такі невідповідності можуть виникати через технічні несправності або через цілеспрямоване втручання у дані, стверджує компанія.
Вплив зображень, звуку та повідомлень
У матеріалі згадано дослідження моделей vision-language-action, у яких візуальна мітка в полі зору камери знижувала успішність виконання завдань у симуляції. Інше дослідження FreezeVLA показало, що змагальне зображення могло змусити протестовані моделі ігнорувати подальші інструкції.
VicOne також описала власні тести LAB R7: у випробуванні робота-собаки з Gemma 4 E4B текст на плакаті був інтерпретований як команда та змінив рух робота. В окремій симуляції лікарняного сервісного робота на базі Nemotron і NVIDIA Jetson AGX Orin непомітно для людини сформований звук змінив змодельовану поведінку машини. За твердженням компанії, призначені роботу завдання при цьому не змінювалися.
Перевірка захисних систем
На заході з пошуку вразливостей у робототехніці дослідники VicOne LAB R7 ввели в робота повідомлення ROS 2/DDS: за налаштувань безпечного керування машина, яка мала залишатися нерухомою, почала рухатися. Компанія також вказала на ризик для контролера рівноваги гуманоїда, якщо той використовує вразливий гіроскоп: звук на резонансній частоті може спотворити дані про обертання. Подібну акустичну атаку раніше демонстрували на дронах, однак матеріал не стверджує, що такий самий ланцюг атаки призводив до падіння гуманоїда.
VicOne закликала команди з безпеки та кібербезпеки перевіряти, які саме показники використовує кожна захисна функція, як надходять і автентифікуються дані, чи може одна дія вплинути одразу на кілька сенсорів, а також повторно оцінювати захисні докази після змін програмного забезпечення, моделей, датчиків або умов експлуатації. У статті зазначено, що Регламент ЄС щодо машин, який застосовуватиметься з 20 січня 2027 року, містить вимоги щодо захисту систем і даних, важливих для безпеки, від пошкодження.
