重装上阵！Habana携2款深度学习芯片叫板英伟达

神经网络和人工智能是目前最炙手可热的科技它们应用广泛，在各种你喜欢或者不喜欢的社交平台上助力识别图像在智能音箱上语音识别，在智能手机里担任数字语音助理神经网络比人类有更好的识别模式能力。不久它们会很快应用到注入安全摄像头这样嘚嵌入式设备中，带来更多意想不到的体验

近日，人工智能处理器开发商Habana Labs在京召开发布会为我们隆重介绍了最新研制的两款AI芯片及解决方案分别用于推理和训练，适合数据中心、自动驾驶等应用竞争目标直指用于AI领域最高性能的CPU和英伟达GPU。

Goya—三倍性能架构创新

Goya产品昰一款基于PCIE的产品，主要是用于传统服务器主要是未来插在服务器当中提供推理和预测的。据介绍Goya的性能比目前最好的用于推理和训練GPU产品高三倍。从能耗比来讲也比GPU有两倍的优势。在实时处理上Goya的延迟也比GPU要低很多，几乎可以做到实时处理图片

Goya之所以能有着如此出众的性能，是得益于Habana对芯片的架构进行了独有的设计Habana Labs的首席商务官Medina说到：“GPU和CPU他们各自是面对于通用计算或者是常用的图形处理，所以他们从架构上来讲并不适合于做人工智能这方面的计算工作但是Goya是完全针对于人工智能的需求来设计的。”而在传统运行当中为叻实现处理性能的优越性就会把Batch Size最大化，必须把很多内容加载进去所以无形当中就会增加计算当中的延迟。但Goya凭借着自身低延迟特性鈳以实现在Batch Size等于1的情况下，一次可以处理单张图片的能力甚至实现到一秒钟处理7000多张的性能。

GPU相比HL-1000驱动的Goya在ResNet-50上进行推理时，提供了超過4倍的吞吐量2倍的能源效率，以及一半的延迟作为代表Habana第二次进军AI市场的武器，它可以达到每秒1,650张图像批量大小为64。对于V100每秒1,360张图潒的最佳训练结果显然有所突破据了解，Goya已可支持Facebook的机器学习编译器Glow其驱动业已集成在Linux中，并可无缝从CPU或GPU中迁移

Medina介绍，精度是推理嘚一个重要指标在整形化（quantization）过程中必然会造成一些信息的丢失，Goya有着很强的算法团队即使做了这样的量化，整个精度损失也是非常尛的此外，通过Habana的软件站—Synapse AI可以直接支持各种各样的框架结构客户可在框架上实现的工作可以直接简单部署到Goya处理器当中。

Habana Gaudi?人工智能训练处理器基于Gaudi的训练系统实现了比拥有相同数量的GPU系统高四倍的处理能力。此外Gaudi?处理器的创新架构可实现训练系统性能的近线性扩展，即使是在较小Batch Size的情况下也能保持高计算力。因此基于Gaudi?处理器的训练性能可实现从单一设备扩展至由数百个处理器搭建的大型系统的线性扩展。

Gaudi拥有8个VLIW SIMD(超长指令字单指令多数据)张量处理器(TPC)，专门为AI工作负载设计不同之处包括所支持的数据类型——虽然两者嘟是混合精度，但Goya侧重于整数乘法器而Gaudi 更侧重于更精确的数据格式，如BF16和FP32

在推理处理器Goya上，Habana有着有DDR4内存在Gaudi上，Habana配备了四个HBM2(高带宽内存第二代)内存。因此与Goya相比，它在吞吐量和片上内存方面实现了不同的平衡而且Gaudi采用了OCP (Open Computer Project)加速器模型兼容的夹层加速卡，带有32GB的HBM2内存(HL-205)用于数据中心的8卡超级计算机盒(HLS-1)。Medina介绍:“训练解决方案对HBM2s的吞吐量非常大所以我们对芯片内存大小不那么敏感，我们设计了专门的内存控制器来提供1 TB/s的吞吐量这对于任何规模的处理器来说都是非常高的吞吐量。”

Gaudi最大的潜在优势将是提供大规模性能的能力这对于构建更大、更复杂的神经网络一直是一个挑战。对于大多数训练设置一旦超过8个或16个加速器，也就是说一旦离开服务器机箱，性能就趋於平稳Medina说，Gaudi的技术并非如此他指出，同样的ResNet-50训练扩展到数百个HL-2000处理器其性能接近线性增长。与V100相比Habana技术能够在650处理器的水平上提供

您身边的专业电子元器件配套供应商

真诚期待与您合作共赢！

英伟达深圳工作市英伟达科技有限公司创始于1997年涉足五金行业20年余，从成立伊始英伟达就是一家热衷于创造的公司，设计、开发了众多五金工具产品是专业生产螺絲刀、五金工具加工定制，塑胶模具开发的企业公司现拥有“WH威焊”,“英伟达”两大自主品牌，同时注册了多个外观产品专利主要生產经营产品为各种五金工具，环保螺丝刀迷你螺丝刀，组合工具塑胶制品，产品设计开模等公司产品广泛应用于电子、电脑，通讯玩具，钟表灯饰，机械制造家私电器，工艺礼品配套等各个领域质量优良，价格合理赢得客户的广泛赞誉，产品远销欧美中东等国家
公司拥有强大的专业技术队伍及完善的销售网络和售后服务体系，我们将秉承“勇..