інференс

Baseten планує залучити близько $2 млрд за оцінки до $30 млрд

Новини

Baseten планує залучити близько $2 млрд за оцінки до $30 млрд

Baseten може залучити близько $2 млрд за оцінки до $30 млрд, що більш ніж удвічі перевищує червневу оцінку компанії.
EXL назвала інфраструктуру ключем до ефективного впровадження ШІ

Новини

EXL назвала інфраструктуру ключем до ефективного впровадження ШІ

EXL пояснила, чому для масштабного використання ШІ важливі архітектура, пам’ять, планування навантаження та витрати на інференс.
Конкуренція в корпоративному ШІ зміщується до інфраструктури обслуговування моделей

Історії

Конкуренція в корпоративному ШІ зміщується до інфраструктури обслуговування моделей

Корпоративний ШІ дедалі більше залежить від інфраструктури інференсу, керування пам’яттю та оптимізації витрат.
Інференс ШІ збільшує витрати компаній на зберігання даних

Новини

Інференс ШІ збільшує витрати компаній на зберігання даних

Інференс ШІ накопичує серверні дані та може суттєво збільшити витрати компаній на зберігання інформації.
Intel представила прискорювачі ШІ GPU D-Series із продуктивністю до 1,3 PFLOPS

Новини

Intel представила прискорювачі ШІ GPU D-Series із продуктивністю до 1,3 PFLOPS

Intel представила прискорювачі ШІ GPU D-Series з піковою продуктивністю 1,3 PFLOPS FP8 і пропускною здатністю пам’яті 1,5 ТБ/с.
ШІ-індустрія зміщує фокус із навчання моделей на інференс

Новини

ШІ-індустрія зміщує фокус із навчання моделей на інференс

Компанії розробляють нові чипи та архітектури пам’яті, щоб прискорити інференс мовних моделей і ШІ-агентів.