
以下文章来源于科创板日报 江苏泡沫板专用胶厂,作者李莹
伴随 AI 大模型迭代发展,行业力与内存需求激增,内存芯片采购成本大幅攀升。业内指出,为控制开支,各大科技巨头正通过软件与系统优化,降低 AI 数据处理过程中的内存占用以实现降本。
据媒体近日报道,谷歌、英伟达、微软等头部科技企业接连出数据压缩、内存负载分流等技术,以此应对 AI 业务带来的内存压力。
多种技术
谷歌研究院于今年三月出的TurboQuant 法是代表技术。该技术将 AI 理过程中产生的键值(KV)缓存压缩至 3-4 比特,降低 DRAM 的计压力。
可大致理解为借助特殊量化法,用小空间存放 AI 理临时数据,不用改动原有模型即可减少内存消耗。
业内指出,在需对 AI 模型重新训练的前提下,相较现有案,其可将内存使用量降至原有水平的六分之。
英伟达于 3 月正式公布上下文记忆存储平台(CMX)平台案,通过增设立存储层减轻内存压力。
业内指出,其依托数据处理单元(DPU)搭建共享 CMX 平台江苏泡沫板专用胶厂,将原本集中于带宽内存(HBM)中的计数据进行分流,此举旨在避 HBM 过载,同时提升能。
微软近期披露了IndexMem 技术,该技术会在理阶段筛选优先相对较低的数据并对其压缩。
据称学术界也出EVICPRESS 系统作为主流备选案,该系统将键值缓存分散存储至 HBM、普通 DRAM、固态硬盘(SSD)等多层存储介质,再依据上下文重要对数据执行压缩或删除操作。
可以理解为把 AI 临时缓存分流到快慢不同的存储设备,泡沫板橡塑板专用胶优先保障关键数据,以此缓解 HBM 的压力。
上述技术均于今年上半年陆续公布,目前尚消息表明已实现大规模商业化落地。
成本压力倒逼技术优化
内存价格持续上升,促使大型科技企业着手削减内存消耗。
摩根士丹利新预测显示,2026 年三季度 DDR4 等成熟 DRAM 价格预计将环比大涨 50,四季度将进步上涨 10。
该机构表示,成熟的 DRAM 芯片的供应紧张局面,即将进步恶化。
据韩国券商 iM 证券测,今年全球前十五大科技巨头的资本开支总预中,存储芯片采购占比达到 37,较去年 15 的占比出 2.5 倍左右。
有媒体指出,内存成本上涨也对大型科技企业的自由现金流形成拖累。
谷歌母公司 Alphabet,受 AI 基础设施投入影响,今年二季度录得史上次负自由现金流。为应对该局面,Alphabet 本月初发行约 250 亿美元公司债完成融资。
英伟达同样于 6 月发行至少 200 亿美元公司债,这是其五年以来次发行债券,用于覆盖基础设施建设开支。
位业内人士表示:"大型科技企业已经走到仅靠经营活动产生的现金不足以覆盖 AI 基础设施投入的阶段。能够提升有限芯片资源利用率的内存优化技术,未来将成为决定企业盈利水平的关键变量。"相关词条:不锈钢保温 塑料管材设备 预应力钢绞线 玻璃棉板厂家 pvc管道管件胶
奥力斯 PVC管道管件粘结胶价格 联系人:王经理 手机:18231788377(微信同号) 地址:河北省任丘市北辛庄乡南代河工业区/p>
1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定江苏泡沫板专用胶厂,并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方,并积极配合修改。
3.凡用户访问本网页,均表示默认详情页的描述,不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》,以此来变相勒索商家索要赔偿的违法恶意行为。