Nvidia TensorCore
IntroductionTensorCore 历史概述序号时间架构异步数据搬运机制编程模型 & 计算指令数据类型里程碑意义12017Volta (V100)无异步机制ld./st.Warp 级 wmma 指令FP16开启混合精度计算，第 1 代 TensorCore 22018Turing (T4)同 Volta 架构同 Volta 架构 int8, int4, int1低精度
CUDA Swizzle & bank conflict
Summary 掌握要点： shared memory 的多 bank 存储结构 swizzle 原理 - 行列 ID 的异或 (XOR)操作 PTX ldmatrix 指令对逻辑空间和存储空间的要求 cute 和 cutlass 的 swizzle 实现 Triton Compiler 的 shared layout & swizzling 实现 简要总结： bank confli
nvidia tensor-core wmma编程入门
好的，我理解了。您提供了完整的HTML页面源码，我可以从中提取文章正文、元数据和相关信息，并生成为一个Markdown文件。但是，评论内容并未在页面中加载（通常是通过异步请求获取的），因此我无法提取评论内容。 下面是根据您提供的HTML生成的Markdown文件内容，包含了文章标题、作者、发布时间、专栏、标签以及完整的正文（已转换为Markdown格式）。您可以直接复制以下内容，保存为.md文件。
【大模型基础设施工程】02：GPU 计算入门——SM、Tensor Core、HBM、NVLink
一、从一个问题说起：为什么是 GPU1.1 一次 GPT 前向里到底在做什么一个 70B 参数的 Transformer，单 token 前向算一次，大约要做： 约 140 GFLOPs 的矩阵乘法（主要是 QKV 投影、MLP 的两个 GEMM、输出投影）从权重矩阵读出约 140 GB 数据（FP16 一份权重就是 140 GB）少量非线性（SiLU / GELU）、归一化（RMSNo
【大模型基础设施工程】01：大模型基础设施全景 —— 训练、推理、RAG、Agent、观测
一、为什么需要一个「大模型基础设施」视角1.1 大模型是一种新的工作负载对后端工程师来说，过去二十年我们熟悉的工作负载大致是这几类：无状态 Web 服务、关系库 OLTP、分析型 OLAP、搜索引擎、消息中间件、批处理 / 流处理。这些工作负载的瓶颈、SLO、扩展模型已经被反复打磨，社区共识也稳定。 大模型不是这些负载中的任何一个。它同时具有以下特征： 计算密集并且访存密集：训练阶段是典
关于在WSL怎么使用梯子
关于怎么在WSL中使用梯子 让 Clash 监听所有网络接口（关键） 在 Clash Verge 设置中，打开「局域网连接」（Allow LAN）。 设置页面 → 找到「局域网连接」或「Allow LAN」→ 打开开关。这样 Clash 就会同时监听 0.0.0.0:7897，WSL 才能连上。 确保 Windows 防火墙放行 在 Windows 终端（管理员） 中执行以下命令，彻底允
Stones of NvwaThe NameNvwa (“v” is pronounced like the French “u”) is one of the most ancientChinese goddesses. She was said to have created human beings, and, whenthe evil god Gong-gong crashed hims
移动语义和右值引用c++98 和 c++11 对这段代码的处理不同 12345678#include <string>using namespace std;void foo(){ string name = "world"; string result = string("Hello, ") + name + "