本文将mark下AI分布式训练通信原语的相关notes。

本文将mark下PIM(Processing-In-Memory)和PNM(Processing-Near-Memory)的相关notes。

简单来说，Flit Mode（Flow Control Unit）将传统模式下的不定长数据包，转变为固定长度（256字节）的数据包进行传输。

本文将mark下PCIe domain和segment的相关notes。

Prefill-as-a-Service

核心是将PD分离放在两个或多个Datacenter中的异构GPU集群。

本文将mark下Intel Flat Memory Mode (FMM) 的相关notes。

本文将mark下IB交换机中SHARP(Scalable Hierarchical Aggregation and Reduction Protocol)技术的相关notes。

CubeSandbox

• 当 Docker 不再安全：腾讯云 CubeSandbox 如何用 Rust+KVM 重塑 AI Agent 沙箱
• TencentCloud/CubeSandbox
  阅读更多

本文将持续收集LLM KV Cache相关的文章。

本文将mark下Memory Mirroring相关notes。