首页 时政热点 科技头条 智能AI 安全攻防 数码硬件 开发者生态 归档 标签 关于

显示 HN:通过 BF16 平铺在 A40 上实现 1.499 倍加速和 28.5% 动态能量下降

2026-11-17 1 阅读 约9分钟阅读 ktractor123
分享:
字号:
Coldwater Tractors Inc. — 系统研究和启动索引原始 GPU 基准测试输出和用于多代理执行循环的密集上下文逻辑启动文件。 SKEW_TILED_BF16 — 已验证的 NVIDIA A40 收据和统一逻辑协议 新收据 2D 7 点六角 Ising 晶格 (Ampere sm_86 ):L=4608 时加速 1.499 倍(10.204 毫秒与 15.291 毫秒),动态能量降低 28.5%(186.735 与261.164 mJ/扫描),所有 6 个子晶格相的位点不一致为 0。 a40_environment_receipt.txt 收据 NVIDIA A40 硬件环境、驱动程序/nvcc 版本、ptxas 寄存器分配(bf16_t 为 15 个寄存器/线程)和 SHA-256 验证收据 (2026-11-16)。 a40_nsys_summary.txt 配置文件 NVIDIA A40 上的 NVIDIA Nsight Systems ( nsys ) 内核执行和 CUDA API 时序摘要 (2026-11-16)。 Quattra Kernel #1 基准收据.md 收据 skew_tiled 与控件的官方经验性能和能源基准收据(NVIDIA A40、float32、L=4096/8192 时加速 1.10 倍)。 tiled_results_2.txt BENCHMARK Quattra Tiled D4GEMV 内核基准测试结果(NVIDIA A40,L=16 至 L=8192,12.2% 加速经过验证)。 tiled_results.txt BENCHMARK Quattra Tiled D4GEMV 内核基准测试结果(NVIDIA A40,L=16 至 L=8192,初始运行)。 hexa_boot_1_physicals.txt BOOT 1 六边形密集逻辑启动 - 物理层和硬件映射。 hexa_boot_2_active.txt BOOT 2 六边形密集逻辑启动 - 活动执行循环数据包。 hexa_boot_3_philosophy .txt BOOT 3 六边形密集逻辑引导 - 架构哲学和框架。 SKEW_TILED_BF16 — NVIDIA A40 收据和统一逻辑协议 作者:Kristian Lindholm 和 AI Orchestra (Coldwater Tractors Inc) 日期:2026 年 11 月 16 日 |架构:NVIDIA A40(Ampere sm_86、48 GB GDDR6、300 W TDP)使用限制:收据和方法对民用、学术和商业研究开放。严格禁止用于动能、军事、武器或瞄准应用。统一逻辑:智能系统的科学方法 在编译或租用 GPU 计算之前,每个架构和数值声明都要经过多模型对抗性伪造循环(“红队审核”): 1. 冻结预运行规范:网格大小 ( L ∈ {384, 768, 4608, 9216} ;通过补丁 5 从 4096/8192 更新,因此 L 可以整除3 × TILE = 96(用于无缝 3 色环面包裹)、物理参数(2D 7 点六角 Ising 晶格、J = +1 、T = 3.0 、无状态 PCG32 PRNG)和通过/失败门在首次执行之前被锁定。 2. 多模型红队审核:独立模型窗口审核共享内存库冲突、环绕对齐、多扫描指针危险、ULP 绑定漂移和可观察偏差 - 在执行之前捕获并解决 15 多个结构和验证边缘情况。 3. 双轨确定性验证:每次运行都会针对精确的 FP32 奇偶校验轨和跨随机 (±1) 和均匀 (s i = +1) 初始状态的双精度 (FP64 std::exp) 参考执行两次完整扫描(6 个子晶格颜色相位)。 1. 编译器和寄存器占用空间 ( nvcc -O3 -arch=sm_86 --ptxas-options=-v ) 内核变体寄存器/线程共享内存溢出门 skew_tiled_phase 15 个寄存器 2,584 字节 0 字节 PASS skew_tiled_phase 36 个寄存器5,032 字节 0 字节 PASS skew_tiled_phase 36 个寄存器 1,258 字节 0 字节 PASS 2. 正确性和详细平衡门(2 个扫描 = 6 个子晶格相位) 网格和初始化 L2(h) / L2(dE) gpu_f32_diff dec_f64_rate |de|/|e| &|DM|门 L = 384(随机 ±1) 0.0e+00 / 0.0e+00 0 0.00e+00 0.00e+00 / 0.00e+00 通过 L = 384(均匀 +1) 0.0e+00 / 0.0e+00 0 0.00e+00 0.00e+00 / 0.00e+00 PASS L = 768(随机 ±1) 0.0e+00 / 0.0e+00 0 0.00e+00 0.00e+00 / 0.00e+00 PASS L = 768(均匀 +1) 0.0e+00 / 0.0e+00 0 0.00e+00 0.00e+00 / 0.00e+00 通过 3. 独立 cudaEvent 吞吐量(30 次交错试验,10 次扫描) 晶格大小 (L × L) bf16_t 中值 (IQR) fp32 中值 (IQR) int8_t 标量参考加速 ( fp32 / bf16 ) 4608 × 4608 (21.23M站点) 10.204 ms (0.005 ms) 15.291 ms (0.013 ms) 13.356 ms 1.499x 9216 × 9216 (84.93M站点) 40.679 ms (0.015 ms) 60.064 ms (0.020 ms) 53.072 ms 1.477x 4. 多秒配对 ABBA NVML 能量(16 个四边形,P_idle = 73.02 W) 晶格尺寸 (L × L) 扫描/窗口 E_dyn ( fp32 ) E_dyn ( bf16 ) 动态节能 电路板节省总量 4608 × 4608 4,500 (~4.6–6.9 s) 261.164 mJ/sw 186.735 mJ/sw 28.5% (1.399x) ~29.9% 9216 × 9216 1,200 (~4.9–7.2 s) 1083.034 mJ/sw 788.288 mJ/sw 27.1% (1.371x) ~28.8% 5. 硬件性能计数器泄露 ( ncu ) 未计量的 PMC 容器管理程序限制 ( ERR_NVGPUCTRPERM ):低级硬件性能计数器( ncu DRAM 字节计数器)被基准 A40 实例上的主机容器权限阻止。因此,预期 ≥42% 的 DRAM 流量减少是从 2 字节 ( bf16_t ) 与 4 字节 ( float ) 表示形式中从架构上推断出来的,并通过测量的 1.499 倍挂钟加速和 28.5% NVML 动态能耗减少来证实,而不是通过直接计量
这篇文章对您有帮助吗?

订阅66必读

每日精选科技资讯,直达你的邮箱