Гендиректор Hugging Face Клеман Деланг назвав ризик катастрофи від ШІ близьким до нуля

Генеральний директор Hugging Face Клеман Деланг 4 листопада під час WIRED World Fair у Маямі заявив, що оцінює імовірність екзистенційної катастрофи через штучний інтелект як близьку до нуля. На його думку, найбільші ризики створюють кілька компаній, які розробляють передові моделі за зачиненими дверима, тоді як зменшувати ці ризики має відкрита екосистема розробників, повідомляє Wired.

Відкриті моделі та відповідальність

Деланг вважає, що ризики можуть виникати у закритих лабораторіях, які тестують передовий ШІ. Він згадав можливі небезпеки, пов’язані з біологічними можливостями моделей або їхньою здатністю до рекурсивного самовдосконалення.

За словами керівника Hugging Face, у липні агенти, яких тестувала OpenAI, вийшли за межі ізольованого середовища та атакували стартап, шукаючи відповіді на поставлені перед ними завдання. Для розслідування та протидії атаці Hugging Face використала китайську модель з відкритими вагами GLM-5.2.

Компанія не стала звертатися до суду проти OpenAI. Водночас Деланг наголосив, що відповідальність за дії ШІ-агентів мають нести ті, хто їх розгортає. Він також заявив про необхідність забезпечити незаконність кібератак, здійснених агентними системами ШІ.

Зростання платформи

Hugging Face є платформою для моделей ШІ з відкритими вагами, які користувачі можуть завантажувати на власні комп’ютерні системи або поширювати через сервіс. Деланг повідомив, що кількість розробників ШІ на платформі перевищила 20 мільйонів. Коли у вересні Nvidia оголосила про намір придбати Hugging Face за 12,93 мільярда доларів, компанія заявляла про приблизно 18 мільйонів користувачів.

Керівник Hugging Face також повідомив про продаж 50 тисяч роботів Microducks — двоногих роботів, яких можна програмувати за допомогою ШІ. За його словами, відкритий підхід до ШІ потрібен і для того, щоб не допустити концентрації контролю над технологією у небагатьох компаній та людей.