Головний науковець Tencent з ШІ попередив про біологічні ризики моделей

Головний науковець Tencent зі штучного інтелекту Яо Шуньюй заявив, що моделі ШІ невдовзі можуть становити ризики у сфері біології, подібно до вже наявних ризиків у кібербезпеці. Про це він сказав на науковому заході в Гонконзі, повідомляє The Next Web з посиланням на South China Morning Post.

За словами Яо, кібернетичні можливості моделей ШІ та їхні майбутні можливості у біології сягнуть рівня, за якого «справді стане можливим завдати шкоди». Він також наголосив, що компанії Китаю, які випускають відкриті моделі для завантаження та модифікації, мають дуже серйозно ставитися до безпеки.

Біологічні ризики

Яо вважає, що ризики у біології можуть бути складнішими для контролю, ніж у кібербезпеці. Він приєднався до Tencent торік після року роботи в OpenAI.

Виступ відбувся через кілька днів після запуску Tencent флагманської моделі Hy4 4 листопада. У повідомленні про запуск компанія зазначала, що не використовувала у навчальних даних Hy4 матеріали про експлуатацію вразливостей програмного забезпечення. Натомість, за твердженням Tencent, модель навчали на даних із захисної кібербезпеки.

Плани щодо Hy4

Tencent також заявила, що Hy4 має сильні базові знання з біології, однак поступається провідним моделям у розробленні експериментів. Компанія послалася на внутрішні оцінки фахівців. The Next Web зазначає, що не тестував модель самостійно.

За даними Reuters, Tencent планує найближчими днями оприлюднити ваги Hy4 та звіт про тестування її безпеки. South China Morning Post, посилаючись на компанію з бенчмаркінгу Artificial Analysis, повідомила, що Hy4 посідає друге місце серед китайських моделей. Яо також сказав, що американські компанії, зокрема Anthropic, наводять переконливі аргументи на користь закритого доступу до найпотужніших моделей, але поєднання відкритих і закритих моделей може бути ефективнішим, оскільки відкриті моделі здатні допомагати захисникам.