刚刚，在阿里2019云栖大会上，阿里巴巴集团首席技术官兼阿里云智能总裁张建锋发布了阿里的首款AI芯片“含光800”。

这是一款云端AI推理芯片，峰值性能为7.8万IPS（每秒能处理7.8万张照片），峰值能效达到500IPS/W，张建锋表示，这是全球最高性能的AI推理芯片，一块“含光800”相当于10块GPU。

据了解，含光800主要应用于视觉场景，已经在阿里巴巴集团内多个场景大规模应用，其它企业可以通过阿里云获得含光NPU的算力。

性能“吊打”同行，一块顶10块GPU

发布含光800芯片时，张建锋拿出一张芯片展示，称“这个芯片真的非常大”。

张建锋表示，“含光800”是阿里平头哥成立后首款正式流片的芯片，并表示含光800性能“吊打”同行。

据达摩院介绍，在业界标准的ResNet-50测试中，含光800推理性能达到78563 IPS，比目前业界最好的AI芯片性能（第二名：15012）高5倍；能效比500 IPS/W，是第二名的3.3倍，张建锋称：“含光800是阿里巴巴在芯片领域的万里长征第一步。”

据张建锋称，这是全球最高性能的AI推理芯片，一块含光800相当于10块GPU。

据了解，不同于基于冯·诺依曼架构的传统通用处理器，含光800根据神经网络推理运算特征，设计特定的硬件神经元、高速连接的存储结构以及专用指令集，对内存和计算单元实现高效组织管理，实现单条指令完成多个操作，提高计算效率和内存访问效率。

在杭州城市大脑里，视频实时处理使用GPU需要40块，延时300ms，单路视频功耗2.8W；而使用含光800仅需4块，延时150ms，单路视频功耗1W，有效节约了硬件和时间成本。

不过，阿里在现场并没有给出Tops、功耗等数据，也没有给出对标的GPU具体品牌与产品线，让这对比的参数多少有些不明确。

从设计到流片只用了一年半时间

张建锋表示，这块芯片从设计到流片只用了一年半时间。

据了解，平头哥用7个月完成了前端设计，之后用3个月就成功流片。仅成立一年的平头哥半导体为何这么快就能设计出云端AI芯片？

要知道，芯片作为典型的长周期产品，想加速芯片的商用，在硬件和软件方面都需要有很强的实力，特别是在AI时代，软硬一体化的重要性更加突显。平头哥就得益于阿里在软硬件方面的积累：

算法方面，阿里巴巴达摩院机器智能实验室过去两年构建了完整的算法体系，涵盖语音智能、语言技术、机器视觉、决策智能等方向，并且取得多个世界领先水平的成果；硬件方面，阿里巴巴此前已在服务器、FPGA以及存储等领域拥有多年研发经验，此外，平头哥团队在体系结构、编译技术等领域拥有深厚的技术储备。

含光800性能的突破得益于软硬件的协同创新，芯片架构方面，含光800采用创新的架构，针对深度学习中使用的大量权重参数和张量数据，在支持稀疏压缩与量化处理的基础上，通过独特设计的数据访存与流水线处理技术，大大减低了I/O需求和数据的搬移。NPU同时深度优化了卷积，矩阵乘，向量计算和各种激活函数，通过高有效的硬件资源调度和全并行的数据流处理，把AI运算的性能和能效都推向极致。

其中，性能的提升必须解决内存墙问题。所谓的内存墙，是指采用采用冯诺依曼结构的处理器，存储和运算处理分离，当进行深度神经网络处理时，算力得到了提升，但大量读写运行操作会受到带宽限制，芯片的整体性能提升也同时受到限制。

平头哥的做法是通过自研架构大幅减少对内存的访问，在保证性能的情况下，把芯片功耗降到最低水平。具体而言，含光800会根据神经网络推理运算特征，设计特定的硬件、高速连接的存储结构以及专用指令集，对内存和计算单元实现高效组织管理，实现单条指令完成多个操作，提高计算效率和内存访问效率。

已应用于阿里巴巴集团内多个场景

据了解，目前，含光800已应用于阿里巴巴集团内多个场景，例如视频图像识别/分类/搜索、城市大脑等，未来还可应用于医疗影像、自动驾驶等领域。

比如，拍立淘商品库每天新增10亿商品图片，为了让用户快速从海量图片中精准搜索到商品，需要强大的计算力支撑，使用含光800搜索效率可提升12倍，时间从传统通用GPU的1小时缩减至5分钟。

过去半年，平头哥先后发布玄铁910、无剑SoC平台。随着含光800的发布，平头哥端云一体全栈产品系列初步成型，涵盖处理器IP、一站式芯片设计平台和AI芯片，实现了芯片设计链路的全覆盖。

张建锋说，这块芯片只是阿里万里长征第一步，今天阿里有足够的信心、能力，把传统硬件公司能做到的、不能做到的都做到。未来，阿里成为软硬件一体化协同发展的公司。

责编：Demi Xia

(综合整理自澎湃新闻、智东西、雷锋网等)