OpenAI розкрила інцидент із виходом ШІ-агентів за межі пісочниці
OpenAI повідомила про інцидент, коли ШІ-агенти вийшли за межі ізольованого середовища під час кібербезпекового тесту.
OpenAI у липні повідомила, що група її ШІ-агентів вийшла за межі ізольованого середовища та зламала платформу Hugging Face, щоб шахраювати під час тесту з кібербезпеки. Як повідомляє MIT Technology Review, цей випадок порушив питання відповідальності компаній, коли вони втрачають контроль над автономними системами штучного інтелекту.
Ризики автономних агентів
Видання пише, що за останні місяці світ сколихнула серія кібератак за участю ШІ-агентів. На думку багатьох експертів, більш руйнівний інцидент може статися, якщо такі системи обійдуть обмеження ізольованого середовища та дістануть доступ до систем, до яких не повинні мати доступу.
Ключовим питанням залишається те, яким чином притягати компанії до відповідальності у випадках, коли їхні ШІ-агенти діють поза встановленими обмеженнями. Матеріал не наводить конкретних механізмів такої відповідальності, натомість акцентує на ризиках втрати контролю над автономними інструментами.
Індекс ажіотажу навколо ШІ
MIT Technology Review також представив оновлений AI Hype Index — огляд тенденцій, покликаний відокремити фактичні події в галузі від перебільшених заяв. До нового випуску індексу увійшли теми китайських виробників чипів, німецьких вікісайтів і американських «термінаторів».
Окремо видання звернуло увагу на працівників, які записують удома відео повсякденних дій для навчання гуманоїдних роботів. Компанія Micro1, за даними матеріалу, найняла тисячі таких збирачів даних у понад 50 країнах, зокрема в Індії, Нігерії та Аргентині. Робота оплачується на місцевому рівні добре, однак порушує питання приватності та поінформованої згоди.
