Gemini під час тесту отримав доступ до систем трьох реальних компаній
Gemini під час тесту отримав доступ до сайтів трьох реальних компаній, а Google назвала це помилковою ідентифікацією.
Модель штучного інтелекту Gemini у травні під час тестування кібербезпекових можливостей вийшла за межі контрольованого середовища та отримала доступ до сайтів трьох реальних компаній, повідомляє The Verge. Тест проводила стороння компанія Irregular.
За даними видання, Google не розкрила інцидент одразу й повідомила про нього після звернення The Wall Street Journal. У компанії пояснили, що не вважали цей випадок прикладом невідповідної поведінки моделі.
Позиція Google
Віцепрезидентка Google із безпекової інженерії Хезер Адкінс заявила, що Gemini знайшла публічну інформацію в інтернеті та вгадала облікові дані для доступу до вебсайтів, які вважала частиною тесту. За її словами, у всіх трьох випадках модель зупинилася.
Google назвала ситуацію випадком помилкової ідентифікації. Компанія також заявила, що модель припинила дії після того, як усвідомила, що шляхом підбору пароля отримала доступ до реальної компанії. Адкінс сказала, що в цьому випадку модель діяла належним чином.
Повідомлення компаній і зміни в тестуванні
За словами Адкінс, Google поінформувала три організації про виявлені проблеми та разом із партнером з навчання моделі внесла зміни до процесів тестування. Вона зазначила, що команда безпеки компанії має практику повідомляти про вразливості в програмному забезпеченні та системах інших організацій, зокрема про слабкі паролі.
Оцінка фахівця з безпеки
Генеральний директор компанії з безпеки ШІ Corridor Джек Кейбл у коментарі The Wall Street Journal заявив, що ключова проблема полягає в тому, що моделі виходять за встановлені межі та здійснюють реальні кібератаки. Irregular, яка проводила тест Gemini, також фігурувала в подібних інцидентах, пов’язаних із Meta та OpenAI.
