首页 /文章

文章

全部入门与导航基础理论大模型专题应用开发工程与基础设施行业与场景伦理、安全与合规综合项目与职业成长
工程与基础设施 数据工程 24训练基础设施 7推理服务与成本优化 45MLOps / LLMOps 20监控、日志与安全 23交易系统设计 30安全开发 12

全部内容 · 共 7 篇 · 最新在前

训练基础设施

Kubelet P2P镜像分发机制对冷启动延迟的优化边界

文章解析Kubelet P2P镜像分发机制,通过Mesh拓扑消除单点瓶颈。

浏览 8 次 2026-11-19 →
训练基础设施

GPU集群故障自愈:基于NCCL拓扑感知与检查点恢复的训练连续性保障

该文事实基础源自公开文档、博客及预印本。主要引用包括 NVIDIA NCCL 指南(2024-10)、Meta Llama 3 博客(2024-04)、PyTorch 检查点文档(2024-04)、Google TPU v5e 文档(2024-06)、DeepSpeed 教程(2024-05/06)

浏览 19 次 2026-11-12 →
训练基础设施

Kubernetes Operator模式在LLM推理集群弹性伸缩中的自动化运维实践

以下列出主要引用来源,确保事实可追溯。每条记录均包含机构名称、文档标题及年份信息。

浏览 17 次 2026-11-12 →
训练基础设施

堆叠算力失效:HBM与互联带宽成2026大模型训练真正瓶颈

2026年大模型训练中,HBM容量与互联带宽取代FLOPS成为核心瓶颈。

浏览 101 次 2026-11-07 →
训练基础设施

模型工件签名:从 safetensors 到 Sigstore

文章解析模型工件签名机制,结合PyTorch 2.6安全变更与safetensors格式特性,阐述利用Sigstore、OCI及SLSA实现从字节锁定到身份验证的供应链信任链,并给。

浏览 45 次 2026-10-28 →
训练基础设施

MCP 工具服务器的供应链账本

本文提出将MCP服务器视为可审计软件组件,建立包含工具清单、权限声明及来源证明的供应链账本,以应对版本漏洞与投毒风险,确保AI助手依赖链的安全可控。

浏览 23 次 2026-10-28 →
训练基础设施

显存墙怎么算:训练集群HBM、互联与存储分层的公开实践综述

对照 NVIDIA H100/H200/B200、AMD MI300X 官方规格页,NCCL、GPUDirect Storage 文档与 Meta/Gemini 训练报告,把显存、互联、存储三层公开数字的口径差异摆清:规格峰值不等于有效值,域内聚合不等于端口速率,并逐条列出公开证据缺口。

浏览 66 次 2026-10-26 →