【AI上海范】上海云端推理芯片中国AI算力再加速

编者按

人工智能作为上海重点发展的三大先导产业之一，近年来发展迅速，产业规模不断扩大、创新成果持续涌现、赋能城市数字化转型深入推进，行业生态日益完善。为展示上海人工智能最新成果，我们特设「AI上海范」专栏，将从基础、技术、应用等领域全方位展示上海人工智能前沿实践，擘画世界级产业集群新蓝图。

AI云端推理芯片

AI芯片是AI算力的基础，是人工智能技术落地应用的支撑。AI芯片是指面向人工智能应用开发的芯片，针对人工智能算法做了特殊加速设计。当前，从架构角度看，AI芯片以GPU、FPGA、ASIC等为主。从应用场景看，AI芯片分为云端芯片、边缘端芯片和终端芯片，其中云端AI芯片是指在服务器端完成人工智能相关运算的芯片。从实现功能看，AI芯片主要分为训练芯片和推理芯片。

随着神经网络的参数越来越多，数据带宽需求也越来越高，对实时在线服务为主的AI云端推理芯片而言，高吞吐和低延迟就变得至关重要。上海燧原科技有限公司（以下简称“燧原科技”）12月7日发布的第二代云端人工智能推理加速卡“云燧i20”兼顾实现两点要求。

图一：燧原科技发布第二代人工智能推理加速卡“云燧i20”

自主创新芯片架构

以更高性价比提供极致化性能

燧原科技是国内第一家同时拥有高性能云端训练和云端推理产品的创业公司。12月7日重磅发布的“云燧i20”是基于全新一代“邃思”AI推理芯片，其采用第二代高性能计算核心和数据引擎，由12nm工艺打造，通过架构升级，大大提高了单位面积的晶体管效率，从而实现了与目前业内7nm GPU相匹敌的计算能力。“云燧i20”的发布意味着上海在云端AI算力加速领域升级迭代，能够为城市管理、政务、金融、交通、能源等各个领域提供自主创新的国产AI算力。