Google представила два нові спеціалізовані чипи для ШІ

Google представила два нові варіанти власних тензорних процесорів для завдань штучного інтелекту — TPU 8tx і TPU 8i Max. Вони розширюють можливості восьмого покоління TPU: перший призначений для конфіденційного навчання та запуску моделей, а другий має збільшений обсяг пам’яті для великих навантажень. Про це повідомляє TechCrunch.

Нові процесори доповнюють лінійку чипів, представлену Google у квітні. Восьме покоління TPU отримало більші можливості для інференсу — виконання запитів до моделей — і підтримку масштабних потреб у навчанні ШІ.

Захист даних під час роботи моделей

TPU 8tx, створений у співпраці з AMD, базується на чипі TPU 8t. Google позиціонує його як рішення для конфіденційного навчання та роботи моделей штучного інтелекту. За заявою компанії, захисні механізми вбудовані безпосередньо в апаратний рівень, щоб ізолювати чутливі дані та ваги моделей навіть під час їх активного використання.

Чип також має спеціальну мережу для інференсу, яка дає змогу виконувати завдання міркування одночасно з навчанням. Google зазначає, що це може дозволити в реальному часі створювати компактні моделі на основі більших і навчати їх. Такий підхід компанія пов’язує зі сценаріями, коли організація навчає модель на власних даних без переміщення інформації між пристроями.

Подвоєні пам’ять і продуктивність

TPU 8i Max поєднує в одному корпусі два процесори TPU 8i, орієнтовані на інференс. Це подвоює обсяг пам’яті, обчислювальну потужність і пропускну здатність порівняно з TPU 8i. За даними Google, завдяки цьому моделі ШІ зможуть обробляти ширший масив інформації під час виконання запитів.

Google розвиває власні напівпровідникові рішення для хмарного бізнесу, прагнучи зменшити залежність від чипів інших виробників. Власні лінійки спеціалізованих ШІ-процесорів і програмного забезпечення також розробляють Microsoft, Amazon, OpenAI та Anthropic.