Readme:本人用caffe和tensorflow这两种框架来做进行实验，所以一台电脑安装两种环境

一。版本的选择：

双anaconda版本号：1.Anaconda2-4.3.0.1-Windows-x86_64.exe 和2.Anaconda3-5.0.1-Windows-x86_64.exe

对应的CUDA版本号：1.cuda_8.0.44_windows.exe和2.cuda_9.0.176_windows.exe

对应的Cudnn版本号：1.cudnn-8.0-windows7-x64-v5.1.zip和2.cudnn-9.0-windows7-x64-v7.zip

二。caffe环境已经搭载好了，想知道详情，可以看我以前的caffe的文章

三。tensorflow的安装开始：

1）双anaconda的安装，见链接：https://blog.csdn.net/sb19931201/article/details/53648615

2）科普一下cpu,gpu,cuda和cudnn的知识：

cpu和gpu

• CPU (Central Processing Unit) 即*处理器
• GPU (Graphics Processing Unit) 即图形处理器
• GPGPU全称General Purpose GPU，即通用计算图形处理器。其中第一个“GP”通用目的（GeneralPurpose）而第二个“GP”则表示图形处理（GraphicProcess）

CPU虽然有多核，但总数没有超过两位数，每个核都有足够大的缓存和足够多的数字和逻辑运算单元，并辅助有很多加速分支判断甚至更复杂的逻辑判断的硬件；

GPU的核数远超CPU，被称为众核（NVIDIA Fermi有512个核）。每个核拥有的缓存大小相对小，数字逻辑运算单元也少而简单（GPU初始时在浮点计算上一直弱于CPU）。

从结果上导致CPU擅长处理具有复杂计算步骤和复杂数据依赖的计算任务，如分布式计算，数据压缩，人工智能，物理模拟，以及其他很多很多计算任务等。

GPU由于历史原因，是为了视频游戏而产生的（至今其主要驱动力还是不断增长的视频游戏市场），在三维游戏中常常出现的一类操作是对海量数据进行相同的操作，如：对每一个顶点进行同样的坐标变换，对每一个顶点按照同样的光照模型计算颜色值。GPU的众核架构非常适合把同样的指令流并行发送到众核上，采用不同的输入数据执行

当程序员为CPU编写程序时，他们倾向于利用复杂的逻辑结构优化算法从而减少计算任务的运行时间，即Latency。 
当程序员为GPU编写程序时，则利用其处理海量数据的优势，通过提高总的数据吞吐量（Throughput）来掩盖Lantency

其中绿色的是计算单元，橙红色的是存储单元，橙黄色的是控制单元。

GPU采用了数量众多的计算单元和超长的流水线，但只有非常简单的控制逻辑并省去了Cache。而CPU不仅被Cache占据了大量空间，而且还有有复杂的控制逻辑和诸多优化电路，相比之下计算能力只是CPU很小的一部分

CUDA

CUDA(Compute Unified Device Architecture)，是英伟达公司推出的一种基于新的并行编程模型和指令集架构的通用计算架构，它能利用英伟达GPU的并行计算引擎，比CPU更高效的解决许多复杂计算任务。

使用CUDA的好处就是透明。根据摩尔定律GPU的晶体管数量不断增多，硬件结构必然是不断的在发展变化，没有必要每次都为不同的硬件结构重新编码，而CUDA就是提供了一种可扩展的编程模型，使得已经写好的CUDA代码可以在任意数量核心的GPU上运行。如下图所示，只有运行时，系统才知道物理处理器的数量。 

CuDNN

NVIDIA cuDNN是用于深度神经网络的GPU加速库。它强调性能、易用性和低内存开销。NVIDIA cuDNN可以集成到更高级别的机器学习框架中，如加州大学伯克利分校的流行CAFFE软件。简单的，插入式设计可以让开发人员专注于设计和实现神经网络模型，而不是调整性能，同时还可以在GPU上实现高性能现代并行计算。

cuDNN 用户手册（英文）

CuDNN支持的算法

1. 卷积操作、相关操作的前向和后向过程。
2. pooling的前向后向过程
3. softmax的前向后向过程
4. **函数的前向后向过程 
   
   • ReLU
   • sigmoid
   • TANH
5. Tensor转换函数，其中一个Tensor就是一个四维的向量。

 
Baseline Caffe与用NVIDIA Titan Z 加速cuDNN的Caffe做比较

3)顺序安装即可，见文中链接的安装步骤

这个良心网址：https://blog.csdn.net/sb19931201/article/details/53648615

Finally：I've done!
1.https://blog.csdn.net/fyz530357172/article/details/73742322
2.http://www.jakob-aungiers.com/articles/a/Installing-TensorFlow-GPU-Natively-on-Windows-10