芯方案 | 以超高性价比打造轻量级方案，酷芯AR9341加速AI Box赋能千行百业
[会员动态]
2022-12-30 18:03:54 编辑：yl
对于中国市场，能够占领并融合纷繁多样的长尾市场并为客户带来快速的应用落地，形成具有规模的商业模式，便能更快完成人工智能在千行百业的渗透，实现长久盈利。
集微网消息，合肥酷芯微电子有限公司（下称“酷芯”）推出的高性能AI芯片AR9341，凭借强大的图像处理能力、视频编解码能力、AI算力以及完整的生态链，广泛适用于生活、教育、制造、出行、零售、社区、办公等各类智慧场景。AR9341既可以作为独立芯片直接用于智能终端设备，也可以作为高算力处理器，为小型服务器进行AI赋能。其中AI Box作为加持AI应用的重要载体之一，也是AR9341的重点耕耘领域，加速AI普惠化进程。
Q：在端侧AI能力持续加强的背景下，AI Box作为中间环节，酷芯AR9341为何兼顾这一细分场景，其将解决哪些场景下的应用痛点？在酷芯看来，当前行业正处在向数智化时代加速演进的进程之中，在系统架构中云、边、端相互协同，虽然在不同应用场景的要求下各有侧重，但云、边、端各自的AI能力是在同频不断增强的。对于酷芯来说，在2022年底这个时间点上面向行业推出基于自研AR9341芯片的AI Box整体解决方案，是基于以下几种因素的整体考量：
丰富应用场景：智能安防、智慧社区、智慧零售、明厨亮灶、智慧教育、智能工厂等场景下AI Box的整体实战应用已经得到行业的广泛验证，并且对产品工具链的易用性有新的需求；
时间节点利好：疫情放开，基建建设需求回归，中国经济提振需求强劲，2023年开始后续5年来看，AI Box市场将有一个稳定的增长态势；
痛点够“痛”，助力行业健康发展：设备采购、现场部署、系统集成、后续运维等的整体成本仍然较高，政府预算与企业投入有限的情况下，对TCO控制的要求会更高更灵活，行业更需要性能与性价比能够兼顾的好用的产品。
迭代过程中累积的扎实经验：第一代基于AR9201芯片的AI Box产品已经在智慧零售领域规模化应用；
基于酷芯Inside建立起的上下游生态合作体系，有利于行业发展预判、长期产品规划、有利于创新技术资源的流动；
Q：AI Box的另一核心是算法，AR9341将如何支持业内数量众多的算法植入？其算法生态（兼容性）如何？又将如何确保数据结构化的准确性？AR9341采用异构数据平台架构，集成有4颗四核A53处理器，一颗单核CEVA XM6@1GHz DSP以及一颗ISP。视频处理能力方面，AR9341在支持H.264、H.265编解码能力的同时，可同步处理8路1080P全高清实时视频流，AR9341还优化了3D降噪算法以及包括HDR在内迭代数据算法，不仅能提供高质量视频流处理能力，还支持900万@60fps等高端应用。针对AI Box的高算力需求，AR9341集成有一颗4 TOPS算力NPU，对数据处理采用的复用方法和压缩算法，能够大幅提升算力的利用效率，还降低了DDR的带宽需求，有利于提升AI应用的效能，并降低开发成本。NPU同时支持对量化中的卷积、激活、规划等操作进行加速，也支持对需要在DSP、CPU上运算的自定义算法进行加速，满足各类网络类型运算需求。以酷芯AR9341的AI支持能力为例，其基于异构架构，提供自研且完整的NPU工具链软件包：
支持Caffe、TensorFlow、Pytorch等所有主流的AI框架，同时还支持业界普遍采用的ONNX框架作为中间表示层，如果客户采用了一些当前工具链尚不支持的小众AI框架，只需要转换为ONNX模型，即可采用基于图形化界面的NPU工具链，一键部署到AR9341芯片上；
支持对AI算法部署的前向推理仿真，在实际部署到芯片之前就可以获得网络性能、DDR带宽需求、量化精度等客户关心的关键性能参数，确保客户的算法在芯片上实际运行的速度和精度满足客户预期。
Q：AI Box的安装环境往往较为恶劣，粉尘、潮湿、高温等场景较为多见，AR9341具有哪些针对性的功能支持？AR9341经受住了各类严苛的可靠性测试，如在HTOL老化测试中，历经500小时检测仍能正常运行，该指标能很好支撑AI Box在密闭、高温等恶劣环境中稳定运行，不仅能确保系统不间断工作，还大幅降低了故障率，从而大幅降低了智能系统的后期运维成本。Q：相比DSP、FPGA、GPU等方案，AR9341的价值有哪些？相比同类AI SoC产品，AR9341具有哪些特色优势？全自研&第一梯队：作为一家核心架构、IP等全自研的公司，酷芯AI芯片的性能已处于国产第一梯队；
落地应用广，需求洞察精准：AR9341芯片的应用满足国内市场对国内市场需求的国内市场对于端侧、边缘侧的应用需求对性价比、能效比、易用性、规模化的要求；
更符合中国“国情”：DSP信号处理能力有局限性、FPGA考验前期投入和开发周期、GPU专用性过强，都较难全面符合中国实际商业场景（智能安防、智慧社区、智慧零售、明厨亮灶、智慧教育、智能工厂等）的需求。
Q：对开发者来说，高性价比、易开发等需求是芯片选型的关键，对此，AR9341的表现是怎么样的？能给客户带来哪些软硬件方面的开发支持？
一站式解决方案：酷芯可以向客户提供功能以及接口完善的开发板、软件SDK、AI工具链、AI算法等一站式解决方案，从而支持客户快速根据业务场景需求完成产品的设计、开发、生产和后续迭代。
工具链：
-简洁易用的可视化图形界面，支持Pytorch/Tensorflow/Caffe等多种框架，并可自定义网络类型，用户可以迅捷的完成算法到芯片的部署工作；
- 将客户训练好的离线浮点模型量化为可在板端直接运行的定点模型，并采用图优化策略达到性能优化目的；
- 可在工具链端对量化精度以及上板性能进行仿真和测试，减少上板调试过程；
- 丰富的服务经验：服务的客户覆盖了安防、车载、热成像、图传、无人机、地面机器人、运动相机等行业的头部客户。
小视科技（江苏）股份有限公司（以下简称“小视科技”，官网www.minivision.cn）作为智慧视觉全场景生态服务商，拥有丰富AI算法及产品开发经验，其在给AI Box选型芯片时，主要从以下三方面进行考量：基于算法开发难度及成本、后期维护、版本升级等需求，对芯片的算法迁移是否友好进行考察；
经过严苛的测试评估，酷芯AR9341完全满足小视科技对AI SoC芯片的选型需求，不仅如此，小视科技还对酷芯AR9341给予了极高的评价：NPU处理能力要优于市面上大多数同规格芯片方案，对发挥算法优势能提供有力保障；
性价比方面，酷芯AR9341在ISP画质上表现优异，基于该芯片的高性能和高性价比，小视科技选定AR9341开发AI Box。
双方合作以来，小视科技已实现将旗下超30余种AI算法移植到AR9341平台上，且在开发过程中，AR9341极低的开发门槛以及极高的开发效率优势日渐凸显。据了解，基于AR9341进行AI移植，小视科技AI Box算法调试可靠性高、移植速度快。还能凭借其丰富的算法，为AI Box提供灵活化、场景化的边缘计算方案，加速AI在各行各业的普化应用。
酷芯AI SoC系列芯片支持方案商省时、省力开发AI应用的背后，离不开酷芯过去十多年的技术积累，形成强大生态矩阵：AI算法提供商：商汤科技、虹软、格灵深瞳、阿里达摩院等；
感知供应商：高德红外、睿创微纳、索尼、豪威科技等；
多行业头部厂商导入：智能安防、智能无人机、消费电子、热成像、无线图传等。
发展至今，酷芯仍在持续扩大生态体系，以更好满足各类AI需求，同时形成了智能感知、智能计算、智能传输3大技术支撑，并于年中顺势推出“酷芯Inside”生态品牌，旨在聚合产业链上下游企业共建AI生态服务体系，通过独创性、高品质、高价值的生态位，以及聚合酷芯的技术资源，为行业发展提供强有力的AI支撑，共同推动AI生态快速发展。凭借酷芯十多年的产品和行业经验，无论是在本身的芯片性能以及相关的工具链支持上，抑或是和合作伙伴共同攻克难题的高质高效的服务支持上，还是酷芯丰富的产品经验和生态合作资源上，都为小视在开发新产品时可以更好的整合增效，大幅提高产品化效率。
（来源：酷芯微电子）
