AI 前沿
奥特曼称内存集中在数据中心比放在个人电脑中更高效
OpenAI首席执行官萨姆·奥特曼在播客中表示,在DRAM供应受限背景下,把内存分散在个人电脑且利用率很低并不理想,云端集中使用更能提高资源利用率。报道同时提到,云厂商长期协议正在锁定大量内存产能。
OpenAI首席执行官萨姆·奥特曼在Cheeky Pint播客中谈到RAM供应紧张时表示,许多人希望进行本地推理,并认为开源模型能在个人电脑上运行后,就不再需要数据中心里的资源;但从全球配置角度看,让有限DRAM大量闲置在每个人的电脑中“相当糟糕”。
奥特曼称,如果处在供应受限环境,应让云端实现最高利用率。他表示,个人电脑中的内存可能只有5%的时间在使用,而很多人的直觉却与此相反。
The Verge报道指出,三星、SK海力士等内存企业已与云服务运营商以及OpenAI Stargate等项目达成长协,预订未来数年大量RAM产能。报道称,云厂商和AI项目愿意为芯片及相关资源投入巨额资金,是笔记本电脑、手机等产品价格上涨的背景之一。