CUDA下在Host端分配的几种内存模式

左手的ㄟ右手 2022-06-01 08:24 258阅读 0赞

原文出处：[http://blog.csdn.net/bit262426738/article/details/24255971][http_blog.csdn.net_bit262426738_article_details_24255971]

平时我们使用的[内存][Link 1]都是Pageable(交换页)的，而另一个模式就是Pinned(Page-locked)，实质是强制让系统在物理内存中完成内存申请和释放的工作，不参与页交换，从而提高系统效率，需要使用cudaHostAlloc和cudaFreeHost来分配和释放。

**优点**

1、带宽更高

2、内核处理和内存拷贝可同时进行

3、可以内存映射(mapped)

**缺点**

使用pinned会减少系统内存的可用量，进而影响系统性能。

在Pinned模式下又有以下几种属性：

**Write-combining**

缺省的话pinned拥有cacheable属性，可以用cudaHostAllocWriteCombined标志替代

**　优点**

1、可以释放L1和L2资源，让缓存应用于别的地方

2、write-combining在通过PCIE总线传输时不会被检测，大约可提高

40%的性能

**缺点**

无法读取或读取极慢。

**Portable**

对于多线程，只能分配pinned的线程可以得到好处，如果想让别的线程也共享，需要cudaHostAllocPortable标志。

**Mapped**

传入cudaHostAllocMapped标识可以让宿主与设备内存映射(某些设备支持)，这样设备和宿主共用一块内存，在内核函数中可以用cudaHostGetDevicePointer得到指针，不同的宿主线程得到的指针是不同的。

**优点**

不用在设备中分配和拷贝内存，数据在需要的时候被内核隐式传输

不需要用Stream来异步执行，内核函数自动在执行的同时异步传输

**缺点**

由于内存共享，内存访问必须同步

[http_blog.csdn.net_bit262426738_article_details_24255971]: http://blog.csdn.net/bit262426738/article/details/24255971
[Link 1]: http://product.it168.com/list/b/0205_1.shtml

发表评论取消回复

表情：

评论列表（有 0 条评论，258人围观）

还没有评论，来说两句吧...

相关阅读

相关 cuda 配置共享内存Bank模式API

GPU共享内存Bank 4Byte or 8Byte模式查询和修改的cuda API。 Access Mode Configuration 默认情况是4-byte模式，

拼搏现实的明天。/ 2022年11月21日 14:54/ 0 赞/ 207 阅读

相关 CUDA数组分配

cuda内存分配真是乱啊，这次总结一下数组的分配。概述：数组分配可以通过cudaMallocArray()和cudaMalloc3DArray() 1、cudaMallo

布满荆棘的人生/ 2022年08月08日 03:29/ 0 赞/ 209 阅读

相关 CUDA线性内存分配

概述：线性存储器可以通过cudaMalloc()、cudaMallocPitch()和cudaMalloc3D()分配 1、1D线性内存分配 1 cudaMallo

雨点打透心脏的1/2处/ 2022年08月08日 03:29/ 0 赞/ 170 阅读

相关类在内存中的分配

对于一个声明好的类，里面可能有成员函数，静态成员函数，成员变量，静态成员变量，虚函数等，那么这些数据都是怎么分配到内存的呢？ class A{ //一个

本是古典何须时尚/ 2022年08月04日 13:40/ 0 赞/ 196 阅读

相关 MSP430在CCS开发环境下的内存分配

用CCS开发环境以及有一年多了，之前写程序，仅仅是停留在写程序的阶段，从来没有想过内存是如何分配的。这次做这个，由于程序的代码量比较大，有40K+，所以在程序整合编译的过程中，

落日映苍穹つ/ 2022年07月14日 14:56/ 0 赞/ 253 阅读

相关 MSP430在CCS开发环境下的内存分配

用CCS开发环境以及有一年多了，之前写程序，仅仅是停留在写程序的阶段，从来没有想过内存是如何分配的。这次做这个，由于程序的代码量比较大，有40K+，所以在程序整合编译的过程中，

分手后的思念是犯贱/ 2022年07月14日 14:56/ 0 赞/ 376 阅读

相关 Thrift server端的几种工作模式分析

相关示例代码见：http://download.csdn.net/detail/hjx\_1000/8374829 五、 Thrift服务器端几种工作模式分析与总结

男娘i/ 2022年06月01日 09:08/ 0 赞/ 225 阅读

相关 CUDA下在Host端分配的几种内存模式

原文出处：[http://blog.csdn.net/bit262426738/article/details/24255971][http_blog.csdn.net_bit

左手的ㄟ右手/ 2022年06月01日 08:24/ 0 赞/ 259 阅读

相关 Netty 之 ByteBuf 几种分配方案及内存溢出相关Bug

在Netty框架中，是使用Bytebuf来操作内存缓冲区的，ByteBuf 对Java Nio ByteBuffer进行了二次封装，以便操作起来更方便。使用分配器分配Byt

迷南。/ 2021年10月01日 12:10/ 0 赞/ 1497 阅读

相关 jvm内存分配的两种方式

指针碰撞：用过的内存全部放到一边，没用的内存放在另一边，中间有分界值指针，分配地址时只需要将指针向没用的内存移动对象内存大小位置即可(GC收集器：ParNew,Serial)

Dear 丶/ 2021年09月28日 17:30/ 0 赞/ 378 阅读