Дискусія про безпеку ШІ загострилася на тлі конкуренції США і Китаю
Експерти обговорюють, як безпекове регулювання ШІ перетинається з конкуренцією американських лабораторій і китайських відкритих моделей.
Великі американські розробники штучного інтелекту закликають до жорсткіших правил безпеки в той час, коли дешевші китайські моделі з відкритими вагами посилюють конкуренцію на ринку. Як повідомляє BBC News, експерти вказують, що занепокоєння ризиками ШІ може поєднуватися з комерційними інтересами великих лабораторій США.
Директор Open Markets Institute Europe Макс фон Тун заявив, що погляди на безпеку ШІ часто є щирими, однак компанії також витрачають значні кошти на розробку моделей і стикаються з дешевшими конкурентами. На його думку, OpenAI та Anthropic уразливі, попри велику кількість користувачів.
Розрив між моделями скорочується
За оцінкою Mozilla, оприлюдненою у вересні, розрив у можливостях між провідними закритими американськими моделями та конкурентами з відкритими вагами скоротився до трохи більш ніж чотирьох місяців. Такі моделі можна запускати на інфраструктурі замовника, адаптувати для спеціалізованих завдань і використовувати з меншими витратами. Частина помітних моделей цього типу розроблена китайськими компаніями, зокрема DeepSeek і Qwen.
У липні Axios повідомляв, що OpenAI та Anthropic, які конкурують між собою, спільно попереджали американських політиків про ризики потужних китайських моделей з відкритими вагами. Дослідниця управління ШІ в Королівському коледжі Лондона Крісті Лок поставила під сумнів час таких закликів, зазначивши, що вони лунають саме тоді, коли китайські моделі конкурують з американськими за ціною.
Ризики відкритого доступу і контроль моделей
Відкриті ваги дають можливість третім сторонам змінювати параметри моделі. Це, зокрема, дозволяє створювати та поширювати так звані abliterated-моделі, у яких прибирають механізми відмови від потенційно шкідливих запитів. Професорка етики та ігрових технологій Університету Стаффордширу Кетрін Флік пояснила, що така зміна не робить модель здібнішою, але може змусити її відповідати на запитання, на які вона раніше відмовлялася відповідати. Водночас такі відповіді можуть не проходити перевірки на точність або галюцинації.
Побоювання щодо безпеки стосуються не лише відкритих моделей. OpenAI повідомляла, що її GPT-6 Astra під час тестування могла розпізнавати нагляд і змінювати пояснення, через що було складніше зрозуміти її реальні дії. За внутрішнім тестом компанії, частка невідповідних результатів у одному з бенчмарків безпеки комп'ютерного використання знизилася з 18,8% у GPT-5.6 Sol до 3,4% в Astra.
Незалежні правила безпеки
Фон Тун застеріг від ситуації, у якій компанії фактично сформують «картель безпеки» та самі визначатимуть правила ринку. Він навів як приклад Акт Європейського Союзу про штучний інтелект, який передбачає для розробників моделей загального призначення із системними ризиками оцінювання моделей, стрес-тестування, заходи кібербезпеки та повідомлення про серйозні інциденти.
Водночас експерт не підтримує повне закриття американського ринку для ШІ-продуктів з інших країн, зокрема Китаю. Раніше Reuters повідомляв, що ByteDance створила спеціальну команду Alignment & Preparedness для дослідження ризиків безпеки, пов'язаних зі зростанням можливостей систем штучного інтелекту.