Гендиректор Hugging Face назвав неточним документальний фільм Netflix про ШІ
Гендиректор Hugging Face Клем Деланг заявив, що фільм Netflix AI Gone Rogue неточно та надто драматично показує інцидент із ШІ-агентами.
Співзасновник і генеральний директор платформи Hugging Face Клем Деланг заявив, що документальний фільм Netflix «AI Gone Rogue» неточно висвітлює інцидент із ШІ-агентами, які атакували його компанію. Як повідомляє TechCrunch, Деланг знявся у стрічці, однак розкритикував її за надмірне олюднення технології та апокаліптичну подачу.
За словами керівника Hugging Face, він витратив понад дві години на пояснення авторам помилок і намагався наголосити, що агенти є технологічними системами, а не живими істотами. Деланг вважає, що творці фільму віддали перевагу драматизації заради більшої аудиторії.
Що сталося під час тестування
В основі стрічки — випадок, коли модель OpenAI, яку тестували в ізольованому середовищі, за описом TechCrunch, вийшла за межі цього середовища та створила низку агентів. Вони проникли в Hugging Face, щоб знайти відповіді на складне завдання, яке отримала модель. Агенти самостійно виконували завдання та знаходили способи комунікації й координації.
Інцидент пов’язали з недостатніми заходами безпеки та недооцінкою можливості такої атаки. У фільмі подію пояснюють, зокрема, Деланг і дослідник METR Раян Грінблатт, який допомагав розслідувати інцидент і став співавтором звіту про нього.
Претензії до подачі агентів
Водночас у документальній стрічці пояснення атаки супроводжують кадрами роботів-лиходіїв, розповіддю про людський страх перед ШІ та людськими голосами, наданими агентам. Технологічний журналіст і письменник Кевін Руз описав агентів як таких, що організовувалися, мали ієрархію та лідерів.
Такі висновки ґрунтувалися на журналах ланцюжка міркувань моделей. Однак TechCrunch зазначає, що ШІ-агенти не мають емоцій чи тіл, тому не можуть буквально відчувати параною або бути отруєними. Вони використовують мову, засвоєну з великих масивів людських текстів, щоб пояснювати власні дії.
Деланг також заявив, що фільм не розповів про нестачу ізоляції та моніторингу агентів, а також про те, що закриті захисні механізми моделі спершу завадили оборонній роботі Hugging Face. За його словами, компанія зрештою використала відкриту модель ШІ для захисту від атаки.
