瀚博半导体发布云端推理AI芯片 今年四季度量产

快手既是投资方也是重要合作方。

近两年AI芯片厂商不断涌现，2021年热度更甚，一方面科技巨头们加大投入力度，另一方面初创企业们逐步商业化，并且参与者持续增加。

在2021世界人工智能大会期间，瀚博半导体发布其首款云端通用AI推理芯片SV100系列及VA1通用推理加速卡，可实现深度学习应用超高性能、超低延时的推理性能，可显著降低数据中心与边缘智能应用的部署成本。据悉，SV100系列及VA1通用推理加速卡预计将于今年四季度量产上市。

瀚博半导体成立于2018年，今年4月28日完成了5亿元人民币A+轮融资。本轮融资由经纬中国和中国互联网投资基金联合领投，老股东红点创投中国基金、五源资本、赛富投资基金、耀途资本、天狼星资本和元木资本跟投。

国内大厂们也动作不断，今年上半年，百度宣布旗下昆仑芯片业务已成立独立新公司，瞄准的也是云端AI通用芯片，第二代昆仑芯片已经流片成功，将于2021年下半年量产；字节跳动也表示在组建相关团队，在AI芯片领域做一些探索；华为的昇腾生态在继续展开，阿里含光芯片也已面市。

国外的英伟达、英特尔、AMD等更是在AI领域布局已久，尤其是英伟达在AI生态上建立了稳固的壁垒生态。

人工智能芯片的赛道依旧火热，随着持续的技术演进，全球范围内各行业数据中心对推理算力的需求在快速增长，下游客户多样化的算力应用场景，催生了多样化的AI计算加速芯片需求。那么，在这场算力平台的竞争中，新兴公司们如何走出差异化路线？云端推理芯片是不少公司选择突围的方向。

瀚博半导体创始人兼CEO钱军表示，选择推理端突破，一方面是因为市场需求，有数据显示，2021年推理市场已经大于训练市场；另一方面是因为GPU在推理侧不是最好的构架，瀚博半导体有更好的DSA构架。

据介绍，瀚博SV100系列芯片的单芯片INT8峰值算力超200 TOPS，采用了自研的通用架构，支持FP16, BF16和INT8等数据格式，并可以实现众多主流神经网络的快速部署及计算机视觉、视频处理、自然语言处理和搜索推荐等多样化推理应用场景。同时，芯片集成高达64路以上H.264/H.265/AVS2的1080p视频解码，广泛适用于云端与边缘智能应用场景。

同时，瀚博半导体创始人兼CTO张磊还介绍道，瀚博的VastStream软件平台支持TensorFlow、PyTorch、Caffe2等常见的深度学习框架模型与ONNX格式的模型，通过高度定制的AI编译器充分优化模型在瀚博硬件上的执行效率。

在架构等技术能力之外，商业落地非常关键，钱军在接受记者采访时谈道：“SV100花了两年半时间，我们找到了一个很好的伙伴快手，快手投了我们，并且合作非常紧密。同时，我们也在和其他国内外的厂商们谈合作。”

钱军也坦言，在两年多的研发过程中，作为初创公司遇到非常多的挑战，“包括整个框架设立可能都会是瓶颈，需要顾虑方方面面的问题，最重要的要从客户的需求来看，构架要对。在理解客户的需求，我们下了很多功夫。”

在AI芯片的争霸赛中，国内的竞争者越来越多，在群雄并起的阶段，格局还在不断变化之中。