社媒话题
爆料称苹果开发Harbor应用简化Mac本地AI模型运行
爆料者Aaron Perris称发现苹果正在开发Mac应用Harbor,用于把Mac变成私有AI推理服务器,可在Apple silicon上本地运行开放权重模型,并通过Thunderbolt 5连接多台Mac、整合统一内存。该应用据称目前在Claris品牌下私下预览。
据Hacker News所载报道,Aaron Perris发现的信息显示,Harbor面向希望在本地运行AI模型的Mac用户。应用的核心描述是让Mac成为私有AI推理服务器:开放权重模型在Apple silicon上本地运行,数据不离开硬件,也不会发送到云端。
报道列出的功能还包括简化集群配置。多台支持Thunderbolt 5的Mac连接后,Harbor可自动发现设备并组成集群,无需手动配置、命令行或基础设施经验;其统一内存会被汇聚成单一推理资源,以运行单机容量难以承载的模型,或处理更多并发请求。
Harbor还计划在应用内提供开放权重模型的浏览、下载和加载,由应用负责模型管理。报道称,该应用目前由苹果旗下Claris品牌进行私下预览,但是否公开发布及具体时间,材料中没有苹果官方确认。