E科技

您的位置:主页 > IT

一直被喷不实用的超算 在深度学习时代会改变吗?

其实人们会发生这种疑问是很一般的,超等计较机从研发到出产以致于后期的运维,成本都很是之高。研发时凝结的高精尖科研力量自不必提,产物上光是CPU/GPU就有几千个,占地面积要达到上千平方米。利用起来更是电山君,以河汉二号为例,满负荷运转的下,一天的电费就需要30万。而大量的计较还会让超等计较机发烧,若何降温还成了个大问题。

em……没错,除去军事使用外,超等计较机凡是会被使用于天文、景象形象、根本物理、化学等等方面的研究。乍一听起来,简直离人们的现实糊口太远了。终究现正在整个世界都还没用呈现什么冲破以往物理定律的新发觉,虽然能发射火箭,可通俗人还不克不及进行一次太空旅行,至于气候预告却是比以前精确了不少,可也没呈现过超算成功预测并避开天然的。

起首,我们要对超算能力这件事有一个准确的认识。因为超等计较机集成了大量CPU,它所擅长的也是CPU最擅长的工做——浮点运算。因为计较机利用的是二进制,所以正在处置1.01这种带小数点的小数时,只能用科学计数法来暗示。如许就避免了小数运算时的有穷性,能够对无限大和无限小的数值进交运算。

超等计较机最擅长的就是依托并联的CPU们对浮点数计较进行并交运算。能够承受其他计较机无法承受的计较峰值。一个CPU算一道题需要5个小时,用五个CPU把这道题拆解开来别离计较,就只需要一个小时。一些正在通俗计较机上要跑一个礼拜的项目,拿到超等计较机上可能两分钟就完成了。

所以现正在我们晓得了,超算的最大,是为某一种特定形式的计较节约时间。而正在日常糊口中,也许我们面临的问题并不是浮点数计较,好比区块链使用的就是单一hash的运算;又或者像电商、逛戏大厂,它们面对的不是高计较量,而是快速屡次的数据并发吞吐。

而把计较摆设到超算上,又面对着不少的成本,除去利用费用不说,因为超算只供给编译平台,利用者还要本人去熟悉系统。并且目前的超等计较机虽然大多为学术机构所有,可是一想到要把本人用户的数据拿到别人的机子上计较,总感觉有点怪怪的……

家喻户晓,深度的神经收集层数更深,每个神经元之间互相毗连,构成了一个很是复杂的布局。而每个神经元中又都需要Sigmoid函数这类复杂的数学计较,加上图像识别、语音识别这类工做本身数据锻炼集就很大,最初就集结成了一种很是恐怖的计较量。

正在国内,百度旗下的深度开源平台PaddlePaddle也支撑超算使用,以至还入选了本年的ASC超算大赛总决赛。计较机能的超越让一些以往不成能的工作成为可能,好比阿谁德扑的案例,不使用神经收集、纯真靠强化的博弈正在没有超算的下可能要破费无法想象的时间,而有了超算后,这件工作就成为了可能。

起首就是芯片厂商们,英伟达、IBM、高通等等厂商都正在力争上逛的研发着合用于深度的芯片。早正在3年前,IBM推出的TrueNorth就曾经集成了54亿个硅晶体管,计较能力曾经接近昔时的超等计较机,功耗却只要65毫瓦。英伟达也曾推出过集成8个GPU的“超算系统”,计较能力也能够满脚大部门人的需求。

其次就是云办事供应商,也就是上述芯片厂商的客户们。他们不但花沉金搭建起来能力超群的分布式计较系统,还贴心的和TensorFlow、caffe等等深度框架合做,让算法能够无缝摆设正在系统上。阿里云正在本年推出的异构计较产物最高可供给每秒75万亿次的算力,虽然比起超等计较机还差的远,但性价比却不低。

最初,还有一多量以研究算法为从的手艺供应商。他们虽然不克不及供给算力,却能够通过各种体例压缩算法模子,让算法模子正在更低算力的硬件中也能运转。好比西雅图的一个创业团队,就正在一曲测验考试用二值化神经收集调整模子精度,试图正在能耗和功效中找到一个均衡。

即便我们临时还不克不及正在糊口场景中享遭到超算带来的好处,但超算正在天文、物理、军工上带来的贡献仍然是庞大的,若是没有超算,正在研发火箭、卫星时几乎无法进行模仿计较。而超算带来的快速、高精度的模仿,为这些高精尖手艺的研发节约了无法估量和时间成本。大概,等我们能正在火星上参不雅的那天,就会切实体味到超算带来的福利吧。

相关阅读

  • 11-23 NDT推出即贴即用的高灵敏度柔性压力传感器
  • 10-18 网传黄光裕将出狱 国美控股:自媒体杜撰不实信息
  • 09-20 双方首次公布,谷歌无人驾驶一直与英特尔合作
  • 09-19 苹果让开发者接受面容ID 竟用的这操作
  • 09-10 iPad也能使用的iPhone底座 支持单手拔插