OpenAI і Meta змагаються обіцянками приватності для ШІ-агентів

OpenAI та Meta просувають своїх ШІ-агентів Dots і Muse, обіцяючи користувачам посилений захист приватності та контроль над персональними даними. Водночас навколо Muse вже виникли питання щодо доступу Meta до даних, налаштувань навчання моделей і вразливостей безпеки, повідомляє The Verge.

На конференції OpenAI DevDay гендиректор компанії Сем Альтман представив агента Dots і заявив про намір встановити «новий стандарт приватності в передовому ШІ». Представники OpenAI також наголошували на можливості встановлювати індивідуальні обмеження для агента — наприклад, забороняти покупки понад визначену суму.

Що Meta обіцяла для Muse

Meta представила Muse кількома місяцями раніше як безпечнішу альтернативу OpenClaw. За словами керівника Meta Марка Цукерберга, дані користувача зберігаються в ізольованій віртуальній машині — окремому Linux-середовищі з браузером, процесором, пам’яттю та сховищем. Компанія також повідомляла, що планує пізніше цього року запровадити спосіб криптографічно й верифіковано унеможливити доступ Meta до даних у такій віртуальній машині.

Проте на момент публікації Meta все ще могла отримувати доступ до цих даних. Дослідник безпеки виявив у Muse вразливість нульового дня, яка потенційно дозволяла сторонній людині перехопити контроль над агентом; згодом її виправили. За даними 404 Media, перед запуском також виявили кілька серйозних проблем безпеки, одна з яких нібито могла дати користувачам доступ до внутрішніх баз даних Meta.

Збір даних і позиція OpenAI

Muse за замовчуванням дозволяє Meta використовувати дані, які вводять користувачі, для навчання моделей, хоча від цього можна відмовитися в налаштуваннях. Журналіст Inc. стверджував, що агент без його запиту завантажив і прочитав приватні повідомлення, а один із ютуберів заявив, що Muse запропонував незнайомцю його адресу через Marketplace. В обох випадках, за описом видання, агент діяв у межах передбачених функцій, однак користувачі не усвідомлювали масштаб його доступу.

OpenAI, зі свого боку, представила для корпоративних клієнтів механізми посиленого контролю над даними та варіанти політики нульового зберігання даних, за якої інформація не зберігається на серверах компанії. Dots наразі доступний лише передплатникам ChatGPT із тарифами від 100 доларів, тому його аудиторія може бути меншою, ніж у Muse. За даними Apptopia, Muse за перші тижні після запуску набрав 600 тисяч щоденних активних користувачів у США.