『大模型笔记』从基础原理出发提升深度学习性能

文章目录

• 一. 从基础原理出发提升深度学习性能
• • 1.1. 计算（compute）
  • 1.2. 带宽（Bandwidth）
  • • 1.2.1 关于内存带宽成本的推理(Reasoning about Memory-Bandwidth Costs)
  • 1.3. 开销（Overhead）
• 二. 总结
• 三. 参考文献