Recursive випустила безкоштовну модель Flint для програмування на ноутбуках

Американський стартап Recursive представив Flint — безкоштовну модель штучного інтелекту для програмування, яку можна запускати на ноутбуці. За твердженням компанії, модель значною мірою створили за допомогою її власної автоматизованої дослідницької системи Eureka Machine.

Як повідомляє TechCrunch, Eureka Machine допомагала майже на всіх етапах розробки Flint — від попереднього та подальшого навчання до оптимізації роботи моделі. Recursive заявила, що невелика команда створила модель з нуля менш ніж за чотири місяці.

Робота без хмарних сервісів

Flint поширюють на платформі Hugging Face за ліцензією Apache 2.0, яка дозволяє безкоштовно використовувати та модифікувати модель. Оскільки вона працює на комп’ютері користувача, розробники можуть застосовувати її без інтернет-з’єднання, не передавати код на хмарні сервери та уникати плати за обробку запитів.

Модель побудована за архітектурою mixture-of-experts: для конкретного завдання вона задіює 2,5 млрд із 40 млрд параметрів. Recursive стверджує, що завдяки цьому Flint є достатньо легкою для звичайних ноутбуків. Компанія також повідомила, що її дослідницька система допомогла зменшити розмір моделі на 71% майже без втрати якості за рахунок низькобітного навчання та спеціалізованих обчислювальних програм.

Заявлені результати тестів

За результатами тестування Recursive, Flint генерувала приблизно 131 токен за секунду на MacBook Pro з чипом Apple M4 Pro. На пристрої Nvidia RTX Spark швидкість, за даними компанії, перевищила 150 токенів за секунду.

Recursive також заявила, що в бенчмарку SWE-Bench Verified, який оцінює здатність моделей виправляти реальні помилки у програмному забезпеченні, Flint перевершила інші моделі з кількістю параметрів до 50 млрд. Водночас компанія зазначила, що для великих завдань Flint потребуватиме більш докладних інструкцій, ніж великі платні асистенти для написання коду, і порадила розбивати такі завдання на менші кроки.

Recursive заснували у 2025 році. Компанію очолює Річард Сочер, колишній головний науковець Salesforce. У травні стартап вийшов із режиму непублічної розробки, оголосивши про залучення 650 млн доларів за оцінки в 4,65 млрд доларів.