Звільнені дослідники OpenAI заперечили звинувачення у порушенні правил

Троє звільнених дослідників безпеки OpenAI — Джасмін Ван, Томек Корбак і Мікіта Балесні — опублікували відкритий лист, у якому заперечили неналежне поводження з конфіденційною інформацією. Вони заявили, що їхнє звільнення створює в компанії атмосферу страху, яка може завадити працівникам відкрито порушувати питання безпеки штучного інтелекту, повідомляє TechCrunch.

OpenAI звільнила дослідників минулого тижня після звинувачень у передаванні конфіденційної інформації сторонній організації, що займається безпекою ШІ. У компанії заявили, що працівники порушили правила доступу до та поводження з чутливою дослідницькою інформацією.

Побоювання щодо культури безпеки

У листі Ван, Корбак і Балесні наголосили, що фахівці з безпеки мають співпрацювати із зовнішніми експертами, аби виявляти та усувати ризики. За їхніми словами, працівники OpenAI тепер не розуміють, яка поведінка допустима, якщо дії, які ще місяць тому вважалися звичайними, можуть стати підставою для звільнення.

Дослідники також заперечили причетність до витоку в The Information щодо архітектур нових моделей OpenAI, які нібито складніше контролювати через моніторинг ланцюжка міркувань. Вони відкинули й твердження, що контактували із зовнішніми сторонами поза межами своїх робочих повноважень.

Позиція OpenAI та пояснення дослідників

OpenAI передала виданню внутрішню записку, авторство якої приписують одному з керівників досліджень. У ній зазначено, що рішення щодо звільнення не було пов’язане з висловленням працівниками застережень про безпеку. Представник компанії додав, що внутрішнє розслідування виявило, за її оцінкою, систематичні порушення правил поводження з дослідницькою інформацією, які не обмежувалися обміном даними із зовнішньою групою оцінювання ШІ.

Водночас OpenAI не відповіла безпосередньо на запитання про конкретні правила, які, за її твердженням, порушили дослідники, обставини звільнення та механізми захисту працівників, що повідомляють про ризики.

У окремому дописі в X Ван повідомила, що причиною її звільнення назвали доступ до електронної пошти керівника. Вона стверджує, що цей доступ надали їй для рекрутингу, а після випадкового відкриття чутливого листа вона невдовзі поінформувала керівника та повторно звернулася до ІТ-служби з проханням відкликати доступ.

У відкритому листі дослідники закликали OpenAI дотримуватися публічних зобов’язань щодо залучення незалежних аудиторів безпеки, збереження можливостей моніторингу передових моделей і відкритого діалогу між фахівцями з безпеки та ширшою екосистемою ШІ.