Skip to content

Latest commit

 

History

History
105 lines (83 loc) · 2.39 KB

prune.md

File metadata and controls

105 lines (83 loc) · 2.39 KB

✂️ 剪枝

Part 1 - 基础快速入门 (100%)

  1. 剪枝引言
  2. 非结构-细粒度剪枝上
  3. 非结构-细粒度剪枝下
  4. 非结构-向量剪枝
  5. 卷积核剪枝
  6. 结构化剪枝【可视化】
  7. 结构化剪枝【可视化】
  8. 修剪标准-基于权重大小与梯度大小上
  9. 修剪标准-基于权重大小与梯度大小下
  10. 抱歉没有3这个文件的出现仅仅是为了与jupyter目录对齐
  11. 两个剪枝框架的简单了解
  12. dropout_and_dropconnect【额外】
  13. removing剪枝-训练部分
  14. removing剪枝【剪枝与微调部分】
  15. 参数量计算与稀疏训练的引入
  16. 稀疏训练经典baseline手写复现
  17. pytorch调包-自己用钩子函数进行剪枝
  18. pytorch调包-inspect模块内部的数据流转
  19. pytorch调包-序列化剪枝模型与全局剪枝
  20. pytorch调包-自定义prune函数

Part 2 - 基于VGG的模型剪枝 (100%)

  1. 章节介绍
  2. CIFAR10数据集
  3. VGG网络搭建
  4. BatchNorm
  5. L1&L2正则概念
  6. train-parse_opt
  7. train-train
  8. trainsave_checkpoint-test
  9. train3.5.train
  10. Pruning-Intro
  11. Pruning-完整流程演示
  12. Prune-3个层的剪枝
  13. Prune-test()
  14. Prune-加载稀疏训练模型
  15. Prune-前处理
  16. Prune-建立新模型并存储信息
  17. Prune-BatchNorm层的剪枝
  18. Prune-Conv2d层的剪枝
  19. Prune-Conv2d层的剪枝

Part 3 - 英伟达2-4剪枝方案 (100%)

  1. nvida剪枝方案-通用稀疏方案简介
  2. nvida剪枝方案-图解nvidia2-4稀疏方案
  3. nvida剪枝方案-针对不同网络的训练策略
  4. nvida_2-4剪枝-手写复现概览
  5. nvida_2-4剪枝-ASP类的实现
  6. compute_mask函数实
  7. m4n2的实现上
  8. m4n2的实现下
  9. 剪枝中如何初始化模型上
  10. 剪枝中如何初始化模型下
  11. 剪枝中如何给layer嵌入稀疏特性
  12. 剪枝中如何初始化optimizer

Part 4 - Yolov8pruning: TB-conv 剪枝方案(全网首推)(100%)

  1. yolov8剪枝overview
  2. pretrain[非必要]
  3. 约束训练和TB剪枝初探
  4. onnx分析剪枝Bottleneck,C2f,SPPF
  5. 最小剪枝Conv单元的TopConv
  6. 最小剪枝Conv单元的BottomConv
  7. Seq剪枝
  8. Seq剪枝补充
  9. Detect-FPN剪枝
  10. yolov8剪枝总结

Part 5 - 重参【正在更新】