模型大小与参数量计算

以你之姓@ 2023-01-22 07:54 794阅读 0赞

**1.model size**

就是模型的大小，我们一般使用参数量parameter来衡量，注意，它的单位是**个**。但是由于很多模型参数量太大，所以一般取一个更方便的单位：**兆(M)** 来衡量。比如ResNet-152的参数量可以达到60 million = 0.0006M。有些时候，model size在实际计算时除了包含参数量以外，还包括网络架构信息和优化器信息等。比如存储一个一般的CNN模型(ImageNet训练)需要大于300MB。

**M和MB的换算关系：**

比如说我有一个模型参数量是1M，在一般的深度学习框架中(比如说PyTorch)，一般是32位存储。32位存储的意思就是1个参数用32个bit来存储。那么这个拥有1M参数量的模型所需要的存储空间的大小即为：1M \* 32 bit = 32Mb = 4MB。因为1 Byte = 8 bit。现在的quantization技术就是减少参数量所占的位数：比如我用8位存储，那么：所需要的存储空间的大小即为：1M \* 8 bit = 8Mb = 1MB。

**2.参数量计算方法**

卷积层参数计算方法：

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L0xlb193aGo_size_16_color_FFFFFF_t_70][]

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L0xlb193aGo_size_16_color_FFFFFF_t_70 1][]

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L0xlb193aGo_size_16_color_FFFFFF_t_70]: /images/20221020/ceff635c7e904be38dc641c0d77e9980.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L0xlb193aGo_size_16_color_FFFFFF_t_70 1]: /images/20221020/18cd0c6c5cbf40428d1029d6c546976f.png

发表评论取消回复

表情：

评论列表（有 0 条评论，794人围观）

还没有评论，来说两句吧...

相关阅读

相关计算caffe模型的参数量params与flops

一、脚本 calc\_params.py import sys sys.path.insert(0, "/home/ubuntu/workspace...

约定不等于承诺〃/ 2024年04月18日 07:59/ 0 赞/ 84 阅读

相关获取网络模型的每一层参数量与计算量（Flops）———Pytorch

一、前言在现在AI各种技术需要luo地的时期，网络模型大小能够满足嵌入式平台极为重要，不仅仅需要看模型效果，也要看模型的计算量与参数，所以在评估模型的时候

曾经终败给现在/ 2023年07月18日 06:22/ 0 赞/ 26 阅读

相关 vgg 16模型的内存和参数量的计算

[ cs231n][cs231n]上关于VGG-16模型的内存和参数的计算过程如下。 INPUT: [224x224x3] memory: 224

左手的ㄟ右手/ 2023年06月27日 06:11/ 0 赞/ 1 阅读

相关卷积参数量计算

文章目录普通卷积计算量（乘加次数） FLOPs(floating point operations

淩亂°似流年/ 2023年06月15日 07:15/ 0 赞/ 35 阅读

相关模型大小与参数量计算

1.model size 就是模型的大小，我们一般使用参数量parameter来衡量，注意，它的单位是个。但是由于很多模型参数量太大，所以一般取一个更方便的单位：兆(M

以你之姓@/ 2023年01月22日 07:54/ 0 赞/ 795 阅读

相关基础：神经网络的计算量和参数量估计总结

> 点击上方“机器学习与生成对抗网络”，关注"星标" > > 获取有趣、好玩的前沿干货！作者丨DengBoCong@知乎编辑丨极市平台文仅分享，侵删来

r囧r小猫/ 2023年01月11日 04:58/ 0 赞/ 128 阅读

相关对于类对象模型的理解（类大小计算+大小端字节序）

类对象模型如何理解类与对象类：通俗理解，类相当于一个模型框架，限定了类有哪些成员变量，但从底层来看，内存并没有分配实际的物理空间来存储类对

本是古典何须时尚/ 2022年10月27日 13:50/ 0 赞/ 234 阅读

相关获取神经网络的计算量和参数量

作者：DengBoCong 文仅交流，侵删地址：https://zhuanlan.zhihu.com/p/342668070 Github：本文代码放在该项目中：h

秒速五厘米/ 2022年10月17日 11:18/ 0 赞/ 238 阅读

相关 THOP: 统计 PyTorch 模型的 FLOPs 和参数量

[THOP][] 是 PyTorch 非常实用的一个第三方库，可以统计模型的 FLOPs 和参数量。使用方法为： from thop import clever_fo

我就是我/ 2021年11月16日 07:12/ 0 赞/ 1396 阅读

相关如何计算CNN感受野、计算量和模型大小

下面以最经典的AlexNet模型为例子，计算感受野，模型计算量和大小（内存）。下面这张图是AlexNet的结构图，看起来比较直观。 ![在这里插入图片描述][waterma

野性酷女/ 2021年10月29日 15:00/ 0 赞/ 463 阅读