近日，权威咨询机构forrester发布今年第二季度芯片行业报告《now tech : ai chips in china》。报告根据市场表现和功能定位对中国的25家代表性ai芯片供应商进行评估，功能定位主要分为“硬件专家”、“解决方案提供商”和“全栈赋能者”三类。嘉楠canaan成功获选“硬件专家”评级。
forrester在报告中指出，“硬件专家”在机器学习训练和推理的优化，边缘侧的开发优化，以及定制化能力上占据优势。作为专注于端侧ai芯片的厂商，嘉楠研发的第一代芯片k210实现了出货量的高速增长，以及在智能能耗、智能园区等行业的落地应用。这些案例有助于企业客户重新评估当前的ai框架，并对端侧ai芯片的优势有更清晰的认识。
forrester：重新调整和评估边缘策略
随着摩尔定律日渐势微，传统的cpu难以应对爆发式增长的数据和灵活多变的工作负载。在中国，数字化转型需要对客户和业务运营进行分析和预测，这依赖于大量的密集运算能力。相应地，企业数字化转型过程中，也产生了全新的工作负载。例如传统数据中心正在大规模部署ai服务器，越来越多的物联网设备拥有智能化能力，以提升任务执行效率并优化交互体验。
forrester分析指出，所有影响客户行为的ai用例都将成为ai芯片从数据中心向边缘侧设备迁移的最初动力。5g商业化将推动这一趋势，即依托边缘侧ai芯片进行低功耗的数据分析和实时决策。forrester认为，ai的工作负载是高度动态的，没有一刀切的ai芯片产品。企业的数字化转型需要重新评估当前的ai框架。
forrester在报告中特意强调，企业需要对生态系统（如人工智能云、人工智能边缘系统、软件开发和解决方案支持）有一个整体的看法。这意味着基于大规模数据中心的云端ai架构并非企业数字化转型的最优选项。
ai架构向端侧迁移
在传统的ai架构中，一切以云为先，设备只是作为数据的采集者，负责把场景一线的数据上传到云端，然后再从云端下达指令。这一过程不仅难以满足毫秒级的数据处理，而且在数据传输过程中存在安全隐患。全球最大云厂商aws就曾多次因s3服务器的简单配置错误导致客户数据泄露，即便其在云计算领域的安全性上首屈一指。
事实上，相比“云本位”的ai策略，云-端、云-边相结合的ai框架更符合企业数字化的需求。而随着算法模型趋于成熟，设备端ai芯片将在未来的计算架构中发挥更大价值，具体体现在执行效率、功耗和成本、安全性三个方面。
首先在执行效率上，边缘侧或设备端的应用场景并非大规模的模型训练，而是根据成熟的ai算法，对设备获取的小规模数据进行分析和预测。场景的差异性决定了设备端ai芯片可以更快地完成机器学习任务。
其次在功耗和成本方面，设备端场景没有大面积数据中心的供能条件。相比于动辄一个小型城市的耗电量，端侧ai显然是更经济的路径。事实上，主导大规模数据中心建设的主要是科技巨头，对于亟需数字化转型的企业而言，它们没有理由在达到预期效果之前就付出如此高昂的基础设施成本。
在安全性方面，虽然科技巨头都将云计算作为一种服务租赁给企业客户，并将其ai能力打包出售，但这更加剧了企业客户对数据隐私的担忧。设备端ai的突出优势在于本地处理。例如在人脸识别的场景中，设备可以进行人脸特征的提取，回传后台的是数据而非用户的人脸。
嘉楠k210：低功耗和场景化定制能力突出
在云-端的ai框架中，端侧ai芯片是设备智能化的基础。forrester在报告中将中国的ai芯片供应商细分为三类，分别是ai硬件专家级供应商、ai解决方向提供商和ai全栈赋能者。嘉楠作为ai硬件专家级供应商，其研发的ai芯片勘智k210在机器学习推理、场景定制化和边缘侧开发优化方面表现突出。
k210基于risc-v架构研发，搭载了嘉楠团队自主研发的视觉神经网络加速器kpu。kpu可以处理人脸识别、多目标检测、活体检测和物体分类等任务。在人脸检测场景中，k210可在qvga中达到每秒60帧的刷新率。同时，k210具有较高的能效比，在0.3w低功耗状态下的运算速度达到1tops（每秒1万亿次）。
（k210的单位算力功耗比同期发布的设备端ai芯片更具优势）
与国内多数功能单一的端侧ai芯片不同，k210作为一款soc还加入了音频处理单元apu，可以完成声源定位、声场成像和语音识别等功能。这赋予了k210更灵活的功能定位，可以同时完成机器视觉和机器听觉的任务。
该芯片所采用的risc-v架构也使得k210在计算效率上表现突出。以coremark测试程序为例，risc-v boom的程序运行时间为14.26秒，而其他risc指令集处理器的程序运行时间则为18.15秒。且risc-v boom无论在总指令数、cpi还是时钟周期上均低于其他risc指令集处理器，更为敏捷。
得益于risc-v模块化和精简的特性，k210支持根据场景需求进行的指令拓展。同时，该芯片搭载可编程阵列，可在一个芯片上烧写不同的算法模型。这极大提升了芯片的场景定制化能力，避免了“一颗芯片一套算法”所带来的开发成本。
作为k210的开发商，嘉楠也针对边缘侧场景的开发进行优化，为开发者提供了核心板、2*3模块，以及完善的工具链。k210核心板集成了芯片最小系统，无需开发者搭建外围电路。操作简单，便于开发者学习。芯片采用68-pin邮票孔封装，适合大规模产品的集成部署。
k210 2*3模块为人脸识别及活体检测设计，搭载500万像素摄像头，支持1万张人脸库比对和毫秒级的人脸特征提取，识别准确率达99.5%，误识率小于0.1%。模块工作功耗小于1.3w，适配多数中小型智能设备对低功耗的需求。
嘉楠ai商业化加速：落地智能能耗和智能园区
公开资料显示，嘉楠于2019年3月份正式开始商业化，第一代ai芯片勘智k210在此后半年内出货量超过5.3万颗，仍然保持高增速。
在本份报告中，嘉楠也是此次入围者中为数不多披露代表型客户的企业。公开资料显示，嘉楠基于k210研发的无感门禁和智能抄表已经投入大规模部署和应用。
在智能园区领域，软通动力总部大楼共有集团员工 5 万人，对传统的门禁监控方式提出挑战。嘉楠为软通部署的无感门禁系统，支持用户在自然状态下的身份识别，无需将面部对准摄像头即可完成身份认证。在识别的精准度方面，该系统内置99.96%金融支付级精准人脸识别算法，并可通过单目活体检测的方式提供人脸防伪，足以应对多数场景下的监控需求。
值得一提的是，在疫情期间，嘉楠研发了新的人脸识别产品智能门禁机，搭载了活体检测和戴口罩人脸识别模型，进一步优化了人脸识别产品矩阵。
在智能能耗领域，嘉楠研发的智能抄表已规模化部署在贵州花果园社区。该社区是国内最大的棚户改造区，规划面积大，人流密集，人工抄表难度大。通过智能抄表，不仅实现了抄表作业的自动化，提升效率节省人力成本，同时也结合后台saas系统进行数据挖掘，为社区运营和管理提供决策支撑。
在其他领域，基于第一代ai芯片k210产品的面世，嘉楠已经相继和国内头部客户建立了战略合作，比如和国内某领先的ai算法提供商成立联合实验室；与国内头部农业科技企业建立战略合作，面向农业领域提供智能化解决方案；和某全球领先的软饮料生产厂商合作提供在智慧工业解决方案；还和大疆和优必选建立了初步接触，探索ai与steam教育的整合。