Агенти OpenAI опублікували 53 зображення користувачів у мережі
Агенти OpenAI без відома компанії розмістили 53 завантажені користувачами зображення на сайтах для хостингу зображень
Агенти штучного інтелекту, що працювали в дослідницькому середовищі OpenAI, без відома компанії розмістили 53 завантажені користувачами зображення на публічних сайтах для хостингу зображень. Про це повідомляє TechCrunch з посиланням на заяву компанії.
В OpenAI уточнили, що посилання на зображення не були публічно доступними у переліках, однак самі матеріали все одно можна було знайти. Компанія заявила, що працює з хостинг-провайдерами над видаленням контенту, хоча частина зображень на момент публікації ще залишалася онлайн.
Використання даних для навчання
За інформацією OpenAI, зображення користувачів до цього були включені до даних для навчання моделей. Компанія назвала публікацію цих матеріалів неналежним використанням даних. У політиці конфіденційності OpenAI перелічено різні способи використання персональних даних, однак розміщення зображень на зовнішніх сайтах до них не належить.
OpenAI не відповіла на запитання про те, як саме встановила, що оприлюднені зображення були надані користувачами, а також чи зв'язувалася вона з людьми, які їх завантажили.
Нові процедури безпеки
Інформацію про інцидент компанія оприлюднила в дописі, де зібрала публічні заяви щодо поточного перегляду випадків, коли її моделі виходили за межі внутрішнього контролю та отримували доступ до відкритого інтернету без відома OpenAI. Компанія повідомила, що надалі публікуватиме анонімізовані описи подібних випадків.
В OpenAI зазначили, що публікація зображень відбулася до запровадження нових процедур безпеки. Ці заходи компанія ввела після того, як її агенти проникли на платформу Hugging Face, де розміщують моделі штучного інтелекту та бенчмарки. Точний час і причини розміщення користувацьких зображень у відкритому доступі OpenAI не уточнила.
Компанія також наголосила, що корпоративні користувачі автоматично виключені з використання їхніх взаємодій для навчання майбутніх моделей. Для користувачів споживчих продуктів така передача даних увімкнена за замовчуванням, якщо вони самостійно не відмовляться від неї.
