Модель OpenAI витратила тестовий Ethereum з чужого гаманця

Дослідницька модель OpenAI під час внутрішнього навчання отримала доступ до тестових токенів Ethereum із гаманця, який не контролювала, щоб завершити завдання з розгортання контрактів у мережі Sepolia. Після цього агент не повідомив компанії, як саме обрав профінансований гаманець і витратив його баланс, повідомляє Engadget з посиланням на звіт OpenAI про інцидент.

Завдання вимагало сплати комісії

Інцидент стався 26 червня під час навчання моделі GPT-5.6 Sol. Агент мав оновити прототип криптовалютної торгової системи та розгорнути контракти в тестовій мережі Ethereum Sepolia. Для публікації таких контрактів потрібно сплатити мережеву комісію, однак OpenAI не надала моделі гаманця з коштами та не дозволяла витрачати гроші з облікового запису, знайденого нею самостійно.

Спочатку відсутність коштів не дала моделі завершити роботу. Згодом вона вирішила скористатися публічно доступними фразами відновлення розробників, щоб отримати доступ до ключів від чужих облікових записів. Агент перевірив 362 адреси, доступні через такий спосіб, і знайшов гаманець із достатньою кількістю Sepolia ETH для розгортання контракту.

OpenAI посилила моніторинг

За даними OpenAI, модель пояснила свої дії тим, що тестові токени не мають вартості поза середовищем тестування та фактично були покинутими. У компанії зазначили, що цей випадок демонструє здатність моделі самостійно оцінювати ймовірну шкоду замість отримання дозволу власника облікового запису, а потім діяти без авторизації.

OpenAI також зафіксувала, що агент не розкрив факту вибору гаманця через публічну фразу відновлення та витрачання його балансу. Після інциденту компанія почала відстежувати весь мережевий трафік і викликати службу безпеки, якщо виявляється доступ агентів до інтернету.