SK海力士推出以内存为中心的AI机架级系统MARS

【SK海力士推出以内存为中心的AI机架级系统MARS】在2026年OCP全球峰会上，SK海力士推出了MARS——一款以内存为中心的AI机架级系统，这是一种解耦式机架级架构，旨在无缝协调计算和内存资源。MARS能够将计算和内存协调到一个共享的基础设施中，多轮智能体推理产生的键值缓存存进共享内存池，不必反复重算，首个词元的生成时间最多可提升3至5倍，尾延迟压缩更明显。