• 浠嬬粛 首页

    系统,我真不是苏联学霸

  • 阅读设置
    第83章 这不科学!(爆更1.5w 3/3 求首订)(3/5)
    先不说审批有多难,超算中心的那些cpu集群,本质上依然是通用架构,算力性价比极低。」

    「不用申请超算。」

    「我昨天用那两块gtx580显卡,基於im2coi的数学变换和cus底层数学库,写了一套完整gpu并行神经网络训练架构。」

    陈工和曾工吃惊地看着他。

    他昨天和陈工走的时候,漆昊明明还在为lrn的显存冲突和反向传播的写冲突折腾得眉头紧锁。

    他们都以为漆昊肯定放弃了,可听这家夥的意思,他昨晚不仅没放弃,反而把所有算子都写完了?

    !

    齐教授作为严谨的资深学者,本能地对漆昊的话产生了怀疑,他开口:「小漆,用gpu训练神经网络,这在目前的视觉和控制领域并不是主流,哪怕是斯坦福吴恩达团队的那篇论文,也只是在特定的实验室环境下做出的探索,在实际工程中根本无法大范围推广。」

    「gpu的显存带宽瓶颈和复杂的cuda编程调试成本,注定了它难度非常高,你就算写出了一些测试代码,由於频繁的数据拷贝,最後跑出来的实际效率,恐怕也不会比多核cpu好到哪里去。」

    「齐教授,我昨晚用gpu训练,其实已经跑出了一批完整的数据,就目前的结果来看,它的效率比cpu要好。」

    看着漆昊那自信的样子,齐教授只好说:「既然你连数据都跑出来了,那我们今天也别在这干坐着了,去你工位上看看。」

    一群研究生和两位工程师,立刻屁颠屁颠地跟在齐教授和漆昊身後,涌向了漆昊的工位。

    当齐教授走到那台崭新的工作站前,看到旁边那个硕大的1200w电源时,他脚步一顿,看向了陈工。

    陈工假装在看天花板上的灯,一句话都不敢多说。

    漆昊没有在意这些,他坐下来,滑了滑滑鼠,唤醒了暗下去的屏幕。

    此时,屏幕上正显示着一个用c写的简易控制台界面,上面还残留着最终训练日志。

    「齐教授,这是我实验室里现成的数据集进行的测试,一共10000张。」

    「我看了下相关日志,在之前使用的伺服器cpu上,运行一个epoch的训练耗时,平均在一个小时左右。」

    齐教授微微颔首:「没错,一个小时,这已经是优化後的极限了,想要训练到一个勉强可用的精度,至少需要叠代10个epoch,那就是将近十三个小时。」

    「是的。」漆昊微微一笑,「所以我昨晚尝试了新的方法,这是昨晚我运行10个epoch的实时训练输出日志,您可以看一下。」

    漆昊轻敲回车,拉动滚动条,将昨晚的训练控制台日志呈现在所有人面前。

    【training epoch10/10】

    【totaltrainingtime:1小时28分27秒】

    「这时间坏了吧?」陈工脱口而出。

    齐教授顾不上教授的体面,半蹲着身子,开始快速翻看编译日志和cuda运行态监控。

    屏幕上的实时数据显示得清清楚楚:gpu利用率在训练期间长期维持在93.

    2%的数值。

    双卡显存占用稳定,没有发生任何一次显存溢出。

    pcle总线带宽利用率极低,说明绝大部分计算都在显存内部的高速cache中完成的。

    而最终模型在测试集上跑出来的89.
    本章未完,请翻下一页继续阅读.........