AI 前沿
谷歌开源TorchTPU,推动PyTorch应用迁移至自研AI芯片
谷歌宣布TorchTPU开源,让基于PyTorch开发的AI应用可运行在TPU上,并通过配置调整迁移到谷歌云。此前亚马逊发布TorchNeuron支持Trainium。两家云厂商正从开发框架层面削弱英伟达GPU默认优势。
谷歌于周二宣布,期待已久的PyTorch版本TorchTPU正式作为开源项目推出。PyTorch是AI开发者和初创企业常用的开源工具包,用于构建、训练和运行模型,材料称部分统计显示约85%的AI应用使用它。由于早期AI研究普遍以英伟达GPU为标准硬件,PyTorch许多功能也围绕这类芯片设计。
TorchTPU提供面向谷歌张量处理器TPU的运行路径,使现有PyTorch应用无需重写,只需更改配置即可迁移到TPU和谷歌云。谷歌还称其与Meta、Hugging Face、vLLM开发方Inferact、SGLang开发方RadixArk等合作,以兼容主流AI开发工具,并推出TPU agent suite协助迁移和排错。
亚马逊前一天也发布TorchNeuron,支持应用迁移到自研Trainium芯片和AWS,并称将向PyTorch主项目提交代码,把部分功能与英伟达芯片解耦。报道认为,这些举措不会让开发者立刻大规模放弃英伟达,但谷歌和亚马逊正在降低替代硬件的迁移门槛。