如何处理cudaFree上全局变量，实例化

Question

我有，我用它来实例化一个全局变量的类：

class BitUnpackPtrs 
{ 
public: 
    ushort* d_dataIn; 

    BitUnpackPtrs() : d_dataIn(NULL) {}; 

    ~BitUnpackPtrs() 
    { 
     cudaFree(d_dataIn); 
    } 

    void update(...) { ... } 
}; 

类是全球实例作为手柄，以减少CUDA内存的频繁分配。然而，当我的程序终止，CUDA-MEMCHECK产生一个警告：

计划打cudaErrorCudartUnloading（误差29）由于对CUDA API调用cudaFree “司机关停”。

处理这个问题的正确方法是什么？我可以删除cudaFree，但是如果此类在稍后的某个非全局级别使用，则会导致内存泄漏。我可以在构造函数中使用一个标志来指示应该如何处理内存。

或者，有没有办法检测cuda驱动程序是否正在关闭，而不是在那种情况下调用cudaFree？

Answer 1

不是让这个对象成为全局对象，而是在你的main()函数（或者被main()调用并包装你的应用程序的整个执行过程）中实例化它。这将确保您的cudaFree()调用在CUDA拆除发生之前被调用。

另一种替代方法是使用std::shared_ptr和custom deleter，它调用cudaFree()。如果你这样做，那么cudaFree()调用将在最后一个“用户”破坏其共享指针的副本之后发生 - 在main()完成之前和CUDA拆卸之前。