UCloud用CPU+软件实现低成本人工智能

  笔者初次接触UCloud是在2016年人民大会堂的发布会上,当时主打OpenStack大旗的全球化布局给我们留下了深刻印象。时隔两年,UCloud又有了新的变化。

  UCloud这家云计算企业成立于2012年,目前服务5万多个企业用户。2017年UCloud提出一个战略叫“CBA”,“C”就是Cloud Computing(云计算),“B”是Big Data(大数据),“A”是AI(人工智能),将重点转移至以上三大领域。

  强大的人工智能应用对计算提出新需求

  人工智能发展主要由多方面应用而推动,而机器学习是重要的组成部分,当前90%有实用意义的机器学习都是监督学习,监督学习需要训练一个模型,然后给数据打标签,标签数据量越大精度就越高,因此人工给这些图片打标签几乎是不可能完成的任务。

  例如鉴黄,系统需要先人工标记不同的图片是色情、性感还是普通,然后把这些打好标签的图片给计算机去学习,才会得出一个模型出来,这样才能对新的图片进行鉴黄操作。除鉴黄之外同样重要是算法和计算能力。有一个理论叫“火箭理论”,就是说如果把人工智能当成火箭的话,那么数据是火箭的燃料,计算能力就是引擎,算法就是引擎的控制器。

  那么,如此繁杂的数据工程是依靠什么样的系统来完成处理工作呢? UCloud实验室研发总监叶理灯表示,主要是英特尔提供的CPU及相关技术来实现。包括针对AVX指令集优化的英特尔Caffe,重点用于机器学习,此外还有Library数据库方面的支持。

  英特尔的处理器非常通用,英特尔至强可扩展处理器的性能也比较卓越,不需要在软件上做很多适配工作。英特尔在这方面一直都是UCloud非常紧密的合作伙伴,能够第一时间拿到最新技术。包括英特尔Caffe刚刚推出的时候,遇到UCLoud互联网金融客户需求,当时Inference还不能支持GPU,但大量采用CPU的话成本比较高。因此采用了英特尔Caffe的解决方案,通过软硬件结合与指令集优化解决了客户的需求,非常值得推广。

  人工智能帮助传统行业进一步降低人力成本

  为什么说云计算跟人工智能的落地有很大关系呢?因为互联网发展最近几年,产生了大量数据,随着云计算的发展,很多互联网企业的创业基本上都是在云计算上基于数据而创建,数据的生产和消费都在云上。所以,在云计算上做机器学习的训练和Inference是非常自然的一件事情。

  因为云计算刚开始就是为提供计算能力而产生的,所以云计算的发展对AI快速落地起了很大促进作用。

  提高生产效率是当前AI要解决的首要问题。举例来讲,在UCloud有一个纺织行业客户,在人工智能之前需要人工来判断布料是否合格;而现在会通过相关算法和计算机视觉,对产品图片去判断产品是否合格,明显提高了识别效率,降低了人力成本。

  同时人工智能跟目前的区块链有点类似,它是一门技术而不是一个行业。也就是说这个东西要落地的话,一定要跟行业结合起来,渗透到行业里面去,这才是人工智能的价值所在。

  优化后的CPU更适合深度学习,同时降低系统成本

  目前,AI的专有芯片越来越多,包括NVIDIA、谷歌等等,很多公司都有相应产品。据叶理灯介绍,UCloud的AI在线服务是基于CPU来做的,主要有两个优势:第一是UCloud有海量的CPU资源,都基于英特尔至强处理器。相对其他芯片,成本很低,但性能很高。同时英特尔也做了很多优化,包括基于机器学习的特点框架,利用英特尔Caffe打造专门用于计算机视觉的框架,根据他们的指令集做优化。

  在识别图片里文字的时候,如果用普通未经优化的框架,识别时间需要几十秒;但经过英特尔Caffe框架优化完成之后,则变成一秒钟,这个提升非常巨大,也是软硬件结合所带来的明显优势。构建基于英特尔的解决方案,进一步为用户提供一些低成本和高性能的用户体验。

  技术创新、提升服务能力是云企业的核心竞争力

  云计算的核心能力在运营,服务很多用户的时候,通过运营去发现问题,不断地优化它,不断地支撑更多的用户,所以云计算本身是规模经济。UCloud就是这样一个经过海量用户考验过的平台。

  技术创新方面,叶理灯认为在2012年的时候UCloud抓住了手机游戏行业的机遇。在技术上我们针对游戏行业的特点做了IO加速创新,基于普通存储介质提供了接近SSD的IO能力,大大提高了虚拟机的单机I/O能力。大大节省了用户的成本,提升了用户体验。当时推出来很受欢迎,基本上70%的游戏用户都会用UCloud的云平台,因为确实降低成本,而且UCloud服务很好。

  在服务上,UCloud提出过90秒响应。面对企业的服务,第一稳定性非常重要,第二是性能要好、成本要低。因为企业和个人用户不同,企业会把自己的“身家性命”放在云计算上,所以服务一定要做得足够好,UCloud当时提出的90秒响应也是业内的服务标杆。

  转眼间UCloud在云计算市场已经走过六年,在英特尔软硬件的技术支撑下,从游戏运营到人工智能跟紧了时代潮流,为云计算竞争拉开了下半场的帷幕。人工智能与深度学习正在飞快地踏入传统行业,技术探索依然是2018年的主旋律。

第 1 /  10 页
点击查看余下全文