文章
全部内容 · 共 7 篇 · 最新在前
训练基础设施
GPU集群故障自愈:基于NCCL拓扑感知与检查点恢复的训练连续性保障
该文事实基础源自公开文档、博客及预印本。主要引用包括 NVIDIA NCCL 指南(2024-10)、Meta Llama 3 博客(2024-04)、PyTorch 检查点文档(2024-04)、Google TPU v5e 文档(2024-06)、DeepSpeed 教程(2024-05/06)
浏览 19 次
2026-11-12 →
训练基础设施
Kubernetes Operator模式在LLM推理集群弹性伸缩中的自动化运维实践
以下列出主要引用来源,确保事实可追溯。每条记录均包含机构名称、文档标题及年份信息。
浏览 17 次
2026-11-12 →
训练基础设施
模型工件签名:从 safetensors 到 Sigstore
文章解析模型工件签名机制,结合PyTorch 2.6安全变更与safetensors格式特性,阐述利用Sigstore、OCI及SLSA实现从字节锁定到身份验证的供应链信任链,并给。
浏览 45 次
2026-10-28 →
训练基础设施
MCP 工具服务器的供应链账本
本文提出将MCP服务器视为可审计软件组件,建立包含工具清单、权限声明及来源证明的供应链账本,以应对版本漏洞与投毒风险,确保AI助手依赖链的安全可控。
浏览 23 次
2026-10-28 →
训练基础设施
显存墙怎么算:训练集群HBM、互联与存储分层的公开实践综述
对照 NVIDIA H100/H200/B200、AMD MI300X 官方规格页,NCCL、GPUDirect Storage 文档与 Meta/Gemini 训练报告,把显存、互联、存储三层公开数字的口径差异摆清:规格峰值不等于有效值,域内聚合不等于端口速率,并逐条列出公开证据缺口。
浏览 66 次
2026-10-26 →