V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
madeye

cuDNN:基于 GPU 的卷积神经网络计算库

  •  
  •   madeye · Feb 18, 2015 · 2839 views
    This topic created in 4089 days ago, the information mentioned may be changed or developed.
    近年来深度学习领域的突破与计算能力的进步是分不开的,如何更快的处理更大的数据也是我们需要关注的对象。既然是大规模的计算,GPU 的使用也就顺利成章。下图是这几年来 GPU 在 ILSVRC 中的应用比例:


    如何快速在 GPU 上开发深度学习的应用呢?一个简单的方法就是使用 cuDNN 这个计算库。通过将卷积神经网络的计算变换为更加规则的(GPU友好的)矩阵乘法运算,cuDNN 可以有效提高整个网络的训练速度:


    Caffe 的 CPU 和 GPU 实现与 cuDNN 的性能比较:


    参考:
    cuDNN 可以从这里下载: https://developer.nvidia.com/cuDNN
    一篇更详细的介绍: http://arxiv.org/abs/1410.0759

    P.S. 最近我们组在进一步优化 cuDNN,通过应用 Direct Convolution,最多可以达到 90% 的 GPU 利用率,有兴趣的同学可以关注今年 GTC 上的相关 Talk。
    2 replies    2015-02-18 16:40:49 +08:00
    a2z
        1
    a2z  
       Feb 18, 2015
    吊吊吊,说不定第一个人工智能会在AWS GPU cluster上出现
    66CCFF
        2
    66CCFF  
       Feb 18, 2015
    刚跳了 Intel Xeon Phi 的坑 QxQ
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1097 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 32ms · UTC 23:46 · PVG 07:46 · LAX 16:46 · JFK 19:46
    ♥ Do have faith in what you're doing.