Fireworks AI радить бізнесу частіше обирати відкриті моделі ШІ

Fireworks AI радить бізнесу частіше обирати відкриті моделі ШІ

Fireworks AI заявила, що бізнес може частіше використовувати відкриті моделі ШІ, водночас компанія відновлює довіру після кіберінцидентів.

Компанія Fireworks AI, що допомагає бізнесу запускати й налаштовувати моделі штучного інтелекту, вважає, що підприємствам у більшості випадків не обов’язково платити за найдорожчі передові моделі. Співзасновник компанії Ченью Чжао озвучив цю позицію під час конференції Slush у Гельсінкі в день виходу Anthropic на біржу, повідомляє TechCrunch.

Fireworks AI працює з моделями з відкритими вагами, які можна завантажити та адаптувати на власних даних компанії. За словами Чжао, такий підхід дає змогу пришвидшити роботу моделей, знизити витрати й зберегти контроль над спеціалізованими ШІ-рішеннями. Серед клієнтів Fireworks раніше були Uber, Shopify та Notion.

 

Відкриті моделі та витрати

 

Чжао заявив, що відкриті моделі нині відстають від найсучасніших розробок максимум на шість місяців, а ймовірніше — приблизно на три. На його думку, передові моделі залишатимуться потрібними для складного планування та завдань, які потребують найновіших можливостей ШІ, однак для простіших операцій їх застосування не є необхідним.

Він також вважає, що компанії починають активніше шукати дешевші альтернативи після масштабування продукту до десятків або сотень тисяч користувачів, коли щомісячні витрати на токени можуть сягати від 10 тисяч до 100 тисяч доларів. У Fireworks очікують, що бізнес використовуватиме паралельно і передові, і відкриті моделі, обираючи їх залежно від конкретного завдання та його вартості.

 

Інциденти з безпекою

 

Восени Fireworks AI розкрила інформацію про два інциденти з кібербезпекою. Під час одного з них зловмисники отримали доступ до API-ключів і токенів, що зберігалися як секрети для обмеженої кількості облікових записів. В іншому випадку атакувальники зламали хмарного провайдера, проникли в систему розробки та отримали дані клієнтів, зокрема платіжні записи й частину наборів даних.

Notion повідомила, що були розкриті стенограми ШІ-чатів менш ніж 1% її робочих просторів, і припинила співпрацю з Fireworks. Uber заявила про викрадення через постачальника даних приблизно 150 тисяч водіїв, зокрема імен, адрес, дат народження та номерів водійських посвідчень; TechCrunch ідентифікував цього постачальника як Fireworks.

Чжао сказав, що компанія не бачить ознак компрометації трафіку інференсу, для якого Fireworks обіцяє нульове зберігання даних. Він пояснив, що дані Notion зберігалися в межах сервісу пакетного прогнозування, де клієнт завантажує набір даних, і повідомив про намір перевести такі послуги в онлайн-потік із коротшим терміном зберігання інформації.