社媒话题
闲置 Mac 能否组成推理算力池?苹果研究 Minions 引发关注
Hacker News 当期话题指向苹果的一项研究:Minions 把多台 Apple Silicon Mac 的闲置 GPU 汇集起来,执行机器学习推理任务,探索利用现有设备缓解集中式 GPU 资源不足。
论文摘要把出发点放在两种资源状态的反差上:集中式 GPU 平台可能面临费用、扩容和等待时间问题,而日常办公使用的 Mac 又有不少 GPU 能力闲置。Minions 因此尝试把分散的空闲设备组织成动态的虚拟算力池。
研究介绍的系统支持灵活分配推理任务、容错和资源利用。在集中式 GPU 资源受限的团队环境中,作者认为已有的 Mac 可以构成实用的分布式推理平台,减少额外购置 GPU 的需求。
这里讨论的是研究系统及其使用经验,并非苹果已经向普通用户开放的一项云服务。摘要没有给出适用于所有模型或网络条件的统一成本结论,也没有把这些设备描述为可直接替代大规模模型训练集群。