近年来,随着人工智能(AI)的快速发展,GPU迅速成为AI市场的主流产品之一,势头甚至超过了CPU。然而,随着云中计算需求的爆炸式增长,传统的CPU和GPU已经无法满足。机器人随着学习和计算的高速需求,前沿创新的AI算法模型往往受制于硬件而被迫妥协,于是AI专用芯片IPU (Intelligent Processor)应运而生。
作为一款新型的人工智能加速器,IPU(Intelligence Processing Unit)由来自英国的专注于机器智能的人工智能芯片明星企业Graphcore推出。它是从零开始设计的,特别适合计算密集型的机器学习和深度学习任务。它是一个高度灵活和易于使用的并行处理器,可以在目前用于训练和推理的机器智能模型上实现最先进的性能。IPU可广泛应用于无人驾驶、云计算等领域。
Graphcore得到了AI领域众多知名学术投资人的背书。“计算机历史上只发生过三次革命,第一次是70年代的CPU,第二次是90年代的GPU,Graphcore是第三次革命,”英国半导体之父Arm的联合创始人赫尔曼·豪泽(Hermann Hauser)说。他提到的第三次革命是由Graphcore首次提出的人工智能计算IPU。作为行业新秀,Graphcore的硬件、软件和IPU系统解决方案有哪些独特的价值优势?市场上有哪些典型的应用?如何进一步推动中国AI创新发展,助力中国人工智能产业?6月3日,Graphcore高级副总裁兼中国区总经理陆涛先生和Graphcore中国区销售总监朱江博士做客直播间,与行业媒体进行了深入探讨。
Graphcore中国区高级副总裁兼总经理陆涛先生
IPU是一种完全不同的处理器架构,专门为机器智能而设计,已经可以在本地自建数据服务器和云中使用。在现有和下一代机型上,IPU的性能远远优于领先的GPU,如:自然语言处理速度提升25 ~ 50%;图像分类实现6倍吞吐量和更低延迟;金融客户模型的训练速度提高了26倍。经过四年的发展,Graphcore已经筹集了超过4.5亿美元的风险投资。公司估值近320亿美元。Graphcore在全球有13个。机构加上办公室,全球约有450名员工。陆涛先生透露,除了众多知名的金融投资,Graphcore还有宝马、博世、戴尔、微软、三星等知名企业的战略投资,可见IPU科技的未来可期。
传统的CPU实际上是为应用和网络设计的处理器,是标量处理器。GPU是一种以矢量处理为核心的处理器,用于图形和高性能计算。随着模型规模的快速增长,传统的处理器架构在密集型计算面前难以为继,市场迫切需要新的处理器架构。Graphcore IPU是为处理人工智能计算图形而设计的处理器。相比CPU和GPU的性能优势,IPU的优势取决于它完成的任务。如果用在前馈卷积神经网络中进行静态图像分类,目前GPU还是表现不错的。但是IPU可以提供两到三倍的性能优势,有时甚至是五倍。对于更复杂的模型,比如那些数据来回传递试图理解情况(对话)的模型, 速度需要非常快,因为数据要传递很多次。对于这样的应用,由于所有模型都存储在IPU处理器中,IPU可以比GPU快很多,达到十倍、二十倍甚至上百倍。
目前基于IPU的应用已经覆盖了机器学习的所有应用领域,包括自然语言处理、图像/视频处理、时间序列分析、推荐/排名、概率模型等,并且都具有全方位的优势。
Graphcore中国销售总监朱江博士
在实际应用中,Graphcore取得了丰硕的成果。5月12日,在OCP全球峰会上,阿里巴巴异构计算首席科学家张伟峰博士宣布,Graphcore支持ODLA接口标准。ODLA被称为开放深度学习API。通过这个结构,阿里巴巴试图为底层架构抽象出一个统一的API接口。Graphcore已经被正式修改以支持ODLA。
在5月20日举行的百度Wave Summit 2020上,百度集团副总裁吴添女士宣布Graphcore成为propeller硬件生态的创始成员之一。作为国内最重要的深度学习框架,也是开源框架,百度飞桨现在拥有非常广阔的生态系统,包括超过百万的开发者和几十万的模型。未来,Graphcore将与百度Feipaddle合作,帮助创新者进行突破性创新,加速AI模型的部署和进入市场。
此外,5月27日在英国举行的智能健康峰会上,微软机器学习科学家与IPU分享了训练微软CXR模型的优秀表现。IPU在运行微软新冠肺炎图像分析的算法模型时非常抢眼,30分钟就能完成NVIDIA GPU上的训练工作量,让AI在高清医学影像领域的应用展现出巨大价值。
在垂直应用领域,Graphcore IPU可广泛应用于金融、医疗和生命科学、电信、机器人、云和互联网。朱江博士专注于机器人域应用程序已共享。“Graphcore与伦敦帝国理工学院(Imperial College London)在空间AI、空间及时定位、地图构建等领域开展了技术合作,以帮助。机器人完成更复杂的动作和更高级的功能。这些领域将需要稀疏概率、图形几何推理和神经网络计算方面的一些能力。在这些场景中,通信和计算同等重要,IPU可以在保持低延迟特性的同时实现高功耗效率。"
IPU是人工智能芯片领域的领导者,业界感谢Graphcore的创新努力。陆涛先生和朱江博士说,创新是由人力、业务流程和成熟技术以及企业推动的机构要把核心技术成果运用到实际应用中,进一步推动创新发展。陆涛先生表示,未来,Graphcore将根据中国人工智能应用的市场特点,通过丰富IPU的软件生态,更好地服务于中国当地的客户和合作伙伴。