Opera тестує локальну роботу ШІ у браузері через WebAI
Opera тестує WebAI для локального запуску моделей штучного інтелекту в браузері без передавання даних у хмару.
Opera представила ранню попередню версію функції WebAI, яка дає змогу запускати моделі штучного інтелекту безпосередньо в браузері на пристрої користувача. Як повідомляє ZDNET, цей підхід має дозволити обробляти запити та дані локально, без надсилання їх до хмарної інфраструктури.
Компанія пов’язує функцію з новим запропонованим вебстандартом WebAI. Він дає сайтам і розширенням можливість використовувати ШІ, що працює в браузері. В Opera наголошують, що завантаження моделей є добровільним: нічого не встановлюється, доки користувач сам не обере відповідну дію.
Моделі на пристрої
Реалізація Opera не прив’язана до однієї конкретної моделі та базується на моделях із відкритими вагами. Користувачі зможуть обирати моделі, зокрема розроблені Google та Apple. За оцінкою Opera, такий формат дає розробникам змогу створювати інструменти без витрат на власну дорогу ШІ-інфраструктуру або оплату кожного запиту.
Віцепрезидент Opera з браузерів і ШІ Крістіан Колондра заявив, що багато завдань, які люди доручають штучному інтелекту, не потребують дата-центрів, оскільки сучасні ноутбуки вже можуть виконувати їх локально. Він також зазначив, що компанія вперше надала локальні моделі розробникам у 2024 році та планує додавати нові моделі й інструменти.
Як увімкнути попередню версію
Щоб випробувати WebAI, потрібно завантажити або оновити Opera One, перейти до налаштувань Opera AI та активувати опцію Enable Web AI API. Після цього можна встановити сумісне розширення й відкрити його через меню розширень браузера.
Попередня версія WebAI доступна на 64-бітних комп’ютерах із Windows із процесорами Intel або AMD, а також на Mac із чипами Apple Silicon. Функція не підтримується на Mac із процесорами Intel, у Linux і Windows on Arm.
