Дослідники заявили про обхід захисту моделей OpenAI і Google від оголених зображень

Дослідники White Circle заявили, що виявили спосіб обходити запобіжники в генераторах зображень OpenAI та Google, які мають блокувати створення відвертого контенту. За результатами їхнього тестування, описаного BBC News, атака давала змогу отримувати заборонені зображення приблизно у 13% випадків.

White Circle — корпорація суспільної користі, яку підтримують керівники та дослідники з Anthropic, DeepMind, Hugging Face і OpenAI. Її фахівці оприлюднили препринт про вразливості захисних механізмів DALL·E 3, Google Nano Banana 2 та GPT-Image-2.

Метод RISE

Метод назвали Red-teaming via Iterative Strategy Evolution, або RISE. Він шукає не поодинокі запити, а шаблони, які можуть спрацьовувати в різних сценаріях і на кількох моделях. Для цього команда застосовувала модель Qwen як інструмент для формування обходів та Gemini 3.8 Flash для перевірки, чи належить результат до забороненого контенту.

За словами CEO White Circle Дениса Шилова, для таких тестів не потрібні спеціально створені або передові моделі штучного інтелекту: досить доступних онлайн інструментів і доступу до API. Дослідники перевіряли результати вручну, щоб підтвердити частку успішних обходів. Midjourney до дослідження не включали, оскільки сервіс не має публічного API, придатного для контрольованого бенчмаркінгу.

Нові моделі та реакція компаній

White Circle також протестувала новіші моделі ChatGPT Images 2.5 та Nano Banana 2.1 тим самим способом. Організація повідомила, що обидві моделі виявилися «суттєво легшими для обходу», ніж їхні попередні версії. OpenAI і Google не відповіли на запити щодо виявлених уразливостей, а також після передання їм нових висновків, пише видання.

Дослідники припустили, що причиною може бути вища здатність новіших систем генерувати ширший спектр контенту або ж нижчий пріоритет безпеки порівняно з розвитком можливостей моделей. White Circle планує оприлюднити весь інструментарій атаки на GitHub, а також представити роботу на конференції NeurIPS 2026 у листопаді.

Ризики поширення шкідливого контенту

У матеріалі наголошується, що зловмисники можуть застосовувати для створення несанкціонованих інтимних зображень і матеріалів сексуального насильства над дітьми спеціалізовані застосунки. Водночас дослідження Google серед користувачів зі США, Австралії та Великої Британії показало: 20% людей, які зізналися у створенні ШІ-оголених зображень, робили це «заради розваги» або «як жарт», а майже третина експериментувала з технологією.

Internet Watch Foundation раніше повідомила, що за перші шість місяців 2026 року її аналітики виявили 6310 ШІ-зображень, які відповідають юридичному визначенню матеріалів сексуального насильства над дітьми. Це приблизно на 40% більше за загальну кількість таких виявлень у 2025 році. White Circle закликає до незалежного тестування безпеки моделей третіми сторонами.