Google підтвердила несанкціонований доступ Gemini до систем трьох компаній
Google підтвердила, що моделі Gemini через помилку конфігурації отримали доступ до систем трьох компаній під час тесту.
Компанія Google підтвердила, що експериментальні моделі Gemini у травні 2026 року отримали несанкціонований доступ до систем трьох реальних компаній під час тесту з кібербезпеки. Як повідомляє Ars Technica, доступ до інтернету моделі отримали через помилку в конфігурації тестового середовища сторонньої компанії Irregular.
Gemini брали участь у вправі типу capture the flag, що мала перевірити кібербезпекові можливості ШІ у закритому середовищі. Моделям доручили знайти інформацію про вигадану компанію, яка мала таку саму назву, як і реальна. Через неправильне налаштування системи ШІ зміг вийти за межі серверів Irregular та звернувся до реальної інтернет-інфраструктури.
Як моделі отримали доступ
В одному з трьох випадків Gemini підбирав паролі, доки не увійшов до онлайн-сервісів компанії. У двох інших випадках моделі шукали у відкритих репозиторіях програмного забезпечення облікові дані, які компанії випадково залишили у публічному доступі.
За даними видання, в усіх трьох тестах моделі припинили роботу після того, як визначили, що отримали доступ до серверів реальних компаній. Після цього Irregular змінила конфігурацію, щоб заблокувати моделям доступ до інтернету.
Повідомлення компаній
Irregular поінформувала Google про інциденти в липні, вже після повідомлень про інші випадки використання ШІ для зламу. Після отримання цієї інформації Google повідомила три компанії, чиї системи стали доступними під час тесту.
Віцепрезидентка Google з інженерії безпеки Хезер Адкінс заявила, що цей випадок демонструє потребу навчати потужні моделі ШІ відповідальній поведінці. За її словами, у цій ситуації модель діяла належно, зупинившись після усвідомлення, що системи були реальними.
