Google опубликовала в открытом доступе TorchTPU — версию фреймворка PyTorch, адаптированную для собственных процессоров Tensor Processing Unit (TPU). Проект стал доступен как open source, а его релиз компания готовила долго: о планах было известно заранее, но код появился только сейчас.
PyTorch — один из самых распространённых открытых инструментов для создания, обучения и запуска моделей ИИ. Его разработала Meta в 2016 году, позже проект передали под управление Linux Foundation. Поскольку на момент становления фреймворка видеокарты Nvidia уже были стандартом в ИИ-исследованиях, многие его возможности изначально проектировались именно под это оборудование.
TorchTPU снимает эту привязку: приложения на PyTorch могут работать на чипах TPU и переноситься в Google Cloud через простое изменение конфигурации — переписывать код не требуется.
Выход проекта вписывается в общую тенденцию: рынок пытается ослабить доминирование Nvidia, под которое по умолчанию попадает большинство ИИ-разработок. До Google аналогичный шаг сделала Amazon — она представила TorchNeuron, позволяющий запускать ИИ-приложения на собственных чипах Trainium и в инфраструктуре AWS. Amazon также вносит код в основной проект PyTorch, чтобы отделить его возможности от аппаратной привязки к Nvidia.
Google сообщила, что над совместимостью с популярными ИИ-инструментами работала совместно с Meta, Hugging Face, Inferact и RadixArk. Компания также представила набор TPU agent — он помогает разработчикам переносить приложения на TPU и устранять возникающие проблемы. Обновление получила и утилита LiteRT: теперь она лучше поддерживает PyTorch-приложения на телефонах, ноутбуках и встраиваемых устройствах.
Для разработчиков практический смысл прост: код, написанный под GPU Nvidia, теперь можно запускать на альтернативных чипах без переработки. Насколько это изменит расклад на рынке ИИ-инфраструктуры — вопрос к дальнейшему принятию проекта сообществом.
