AI芯片公司-Graphcore全新Bow Pod系列：令人“WoW”的极大功率和效率提高
发布时间：
2022-03-04 09:09
2021年9月，DDN与AI芯片公司Graphcore达成合作伙伴关系，为基于智能处理器(IPU)的人工智能计算机系统提供存储解决方案。DDN产品高级副总裁James Coomer表示：“DDN和Graphcore的共同目标是推动人工智能的高水平创新。DDN业内知名的人工智能存储，结合Graphcore IPU的力量，为寻求出色性能和无限可扩展性的完整人工智能基础设施和数据管理解决方案的组织带来了强大的新解决方案。”热烈祝贺Graphcore新产品上市!
3月3日，Graphcore在全球首先推出3D Wafer-on-Wafer处理器——Bow IPU。Bow IPU是新代Bow Pod人工智能计算机系统的核心。与前代产品相比，它可为真实世界的人工智能应用程序实现高达40%的性能提高和16%的电源效率提高，同时价格保持不变，且无需更改现有代码。
以下视频来源于Graphcore
时长01:38
旗舰Bow Pod256提供超过89 PetaFLOPS的人工智能计算，而超大规模Bow POD1024包含350 PetaFLOPS的人工智能计算，使机器学习工程师在人工智能模型规模呈指数增长的情况下保持先进，并在机器智能方面取得新的突破。
以下视频来源于Graphcore
时长10:10
Graphcore CEO与CTO介绍Bow IPU和Bow Pod
客户案例
新的Bow Pod系统现已上市，并已经开始在全球范围内发货。
美国能源部(DOE)太平洋西北国家实验室[1](PNNL)是首批利用Bow的增强性能和效率的客户之一，他们将Bow用于网络安全和计算化学等应用程序。
“我们正在推进机器学习和图神经网络的界限，以解决现有技术难以解决的科学问题。”PNNL计算与理论化学研究所副总监Sutanay Choudhury表示，“例如，我们正在开发计算化学[2]和网络安全应用程序[3]。今年，Graphcore系统使我们能够将这些应用程序的训练和推理时间从几天缩短到几小时。这种加速技术有望帮助我们以有意义的方式将机器学习工具纳入我们的研究任务中。我们期待扩大与这一新代技术的合作。”
作为其Graphcloud IPU裸金属服务的一部分，美国云服务提供商Cirrascale目前正为客户提供Bow Pod系统。欧洲云服务提供商G-Core Labs已经宣布将于2022年第二季度发布Bow IPU云实例。
Graphcore大中华区总裁兼全球CRO卢涛表示：“随着AI计算市场的整体快速发展，客户需要兼顾性能、效率和可靠性的计算机系统。我们发布新一代IPU，正是为了支持全球技术开发者和创新者在AI计算领域取得新的技术突破，实现高质量发展。我们希望不断开拓IPU在中国的AI应用场景，通过IPU赋能AI计算，支持中国创新者不断推进机器智能的边界。”
以下视频来源于Graphcore
时长03:31
卢涛介绍Bow Pod对于中国市场的意义
真实结果
Bow Pod旨在大规模地为广泛的人工智能应用程序提供真实世界的性能，从用于自然语言处理的GPT和BERT到用于计算机视觉的EfficientNet和ResNet，再到图神经网络和许多其他应用程序。
客户发现，在与配有Bow Pod系统的Mk2 IPU-Pod系统相同的峰值功率范围内，众多人工智能应用程序的性能提高达40%。
对于先进的计算机视觉模型EfficientNet，Bow Pod16能够提供比市面上常见的系统5倍以上的性能，而价格只有它的一半，总体拥有成本优势提高10倍。
以下视频来源于Graphcore
时长02:33
Graphcore中国工程副总裁金琛介绍Bow Pod性能
电源效率提高
与前代产品相比，除了40%的性能提高，Bow Pod系统还可以大幅提高电源效率。
一系列真实世界应用程序的测试表明，Bow Pod的每瓦性能提高多达16%。
WoW
由于Bow Pod系统核心的Bow IPU处理器首先采用了3D半导体技术，Bow Pod系统提供了极大的性能提高和更高的电源效率。
我们很自豪能够成为率先向市场推广台积电Wafer-on-Wafer 3D技术的客户，该技术是我们与台积电紧密合作开发的。Wafer-on-Wafer有可能在硅片之间提供更高的带宽，被用于优化电源效率，并在晶圆级别改善向Colossus架构提供的功率。
使用BOW IPU中的Wafer-on-Wafer，两个晶圆被结合在一起，产生一个新的3D裸片：一个晶圆用于人工智能处理，在架构上与GC200 IPU处理器兼容，拥有1472个独立的IPU-Core tile，能够运行超过8800个线程，具有900MB的处理器内存储，而第二个晶圆拥有供电裸片。
通过在供电裸片中的处理核心和存储旁边添加一层深沟槽电容器，我们能够效率更高地供电，以实现350 TeraFLOPS的人工智能计算，并实现40%的性能提高。通过与台积电紧密合作，我们反复验证了整个技术，包括背面硅通孔(BTSV)和Wafer-on-Wafer(WoW)混合结合中的多项突破性技术。
“Graphcore是我们突破性的SoIC-WoW(Wafer-on-Wafer)解决方案的主要客户，台积电与Graphcore在该解决方案上紧密合作。Graphcore在前沿并行处理架构方面的创造性设计使其成为我们技术的理想匹配。”台积电欧洲总经理Paul de Bot表示，“Graphcore尽可能地利用了通过WoW技术直接连接增加电力传输的能力，实现性能的重大提高。我们期待与之合作，进一步发展这项技术。”
可信赖的技术
我们的客户是各自领域的领军者，他们需要兼顾性能、效率和可靠性的计算机系统。已经使用IPU的人都会发现他们可以无缝过渡到Bow Pod系统。
我们功能强大、易于使用的Poplar软件栈和不断扩展的IPU优化模型库可自动解锁Bow Pod系统的全部功能。
新的Bow-2000 IPU Machine是Bow Pod系统的构建块，基于与第二代IPU-M2000 machine同样鲁棒的系统架构，但是配备了四个强大的Bow IPU处理器，可提供1.4 PetaFLOPS的人工智能计算。
Bow-2000可以向后兼容现有的IPU-POD系统，其高速、低时延的IPU结构和灵活的1U外形尺寸保持不变。
Bow-2000是整个Bow Pod系列的基础构建块。Bow-2000和戴尔、Atos、Supermicro、浪潮和联想等先进品牌的主机服务器相结合，形成Bow Pod系统。从有4台Bow-2000和一台主机服务器的Bow Pod16开始，通过Bow Pod32(8台Bow-2000和一台主机服务器)到Bow Pod64和更大的旗舰系统Bow Pod256和Bow Pod1024。
可用性
您现在即可通过Graphcore在全球各地的销售合作伙伴[4]获取Bow Pod系统。
我们的一些合作伙伴对于Bow Pod的到来如是说：
Cirrascale Cloud Services
“Cirrascale的Graphcloud让许多人工智能创新者初次体验到了Graphcore的IPU可以做什么，并为那些需要扩展计算能力的人提供了一个灵活的扩展平台。无论是用其在大型Pod配置中加速大模型，还是在多租户设置中为个人用户提供更多功能，将Bow Pod添加到Graphcloud都把云上人工智能计算提高到了新的性能水平。”
Cirrascale Cloud Services
CEO
PJ Go
G-Core Labs
“对于G-Core Labs的客户来说，性能意味着进步：Graphcore IPU让他们能够更快地开发和部署人工智能模型，并更快地获得有利于他们业务的结果。Bow Pod提供的计算能力增强将推动人工智能创新，而其在G-Core Labs云上的便捷可用性确保了所有人都有可能获取它。”
G-Core Labs
CEO
Andre Reitenbach
Atos
“Graphcore的Bow POD系统为人工智能计算树立了新标准，这将使Atos的客户能够进一步推动他们的人工智能创新，并以从未有过的速度取得成果。随着模型的规模和复杂性不断增长，Graphcore和Atos携手合作，交付Exascale级别的系统。同时，Graphcore对计算效率的不懈关注确保了用户从他们的人工智能投资中获得尽可能好的回报。”
Atos
HPC和Quantum业务负责人
Agnès Boudot
[1]https://www.pnnl.gov/
[2]https://www.pnnl.gov/news-media/opening-black-box-neural-networks
[3]https://www.pnnl.gov/news-media/v2w-bert-recognized-best-application-paper-award-dsaa-2021
[4]https://www.graphcore.ai/partners#partner_grid
本篇博客作者：Nigel Toon和Simon Knowles
相关新闻
暂无数据
