随着深度学习技术和计算机视觉技术的巨大进步,人工智能赋能安防市场的速度逐渐加快,视频结构化分析的需求呈现一个爆发式增长。人脸识别、车辆识别、视频结构化的应用从2016年、2017年的试点,到2018年的规模化部署。视频结构化的技术极大的提升了公安、交警的工作效率,能够自动的理解大规模的海量视频,并且在产生的结构化信息的基础上,进行大规模的搜索、比对、数据碰撞,警察对于社会安全状态能够有更深的全局洞察、理解,能够及时突发事件处理、出警响应和案情回溯,保障社会治安。
但是,目前传统安防产商品牌的结构化服务器主要基于通用型的GPU处理器,并不能满足AI+安防市场对性能、功耗的要求,新晋的专业AI芯片公司推出的服务器给市场带来了高性能、低功耗的新选择。
业界的结构化服务器方案有哪些?
业界里海康、宇视、商汤等都发布了自己的视频结构化服务器。如海康的猎鹰服务器(用于视频结构化)、脸谱服务器(用于人脸分析),宇视的昆仑服务器(用于视频结构化),商汤的SenseVideo-A视频结构化解析服务器、旷视等基于GPU服务器。这些基于GPU而开发的服务器,由于GPU是通用图形处理器,不是专门针对安防行业所需要的深度学习领域而专门优化定制的,所以其功耗普遍较高,从而具备较低的性能功耗比。而且受限于较高的GPU定价,服务器的价格也普遍较高,因此其性价比较低。
纵观传统安防厂商和新晋算法厂商,他们的服务器方案有一共同点:都是基于英伟达的GPU方案,或者是基于TX1/TX2的嵌入式GPU、或者是基于专业数据中心的GPU方案。典型的如海康猎鹰服务器,基于40颗GPU,能够处理40路的视频结构化;支持车辆结构化;支持人体特征识别。
AI芯片+服务器 性能指数级提升
传统GPU架构的服务器已经无法满足新时代安防行业的需求,一些业界新晋的AI芯片厂商给行业带来了新希望。高性能芯片公司比特大陆接受了采访,着重介绍了旗下的AI芯片与服务器产品。
比特大陆2013年成立以来从事高性能计算芯片的研发,区块链芯片领域位居领先地位,年量产芯片亿级出货量。2015年底开始进行人工智能芯片的研发,并在2017年11月推出完全自主知识产权的张量处理器BM1680和视频智能分析服务器SS1。
据比特大陆介绍,比特大陆产品快速迭代,2018年3月第二代人工智能芯片BM1682问世,实际性能较第一代提升5倍以上,基于自有芯片,公司自主研发了视频结构化服务器SA3系列,可以提供90路视频结构化的计算能力。相比第一代SS1服务器提升性能15倍以上。
SA3视频结构化服务器主要具有高性能、高能效比、高计算空间密度、高可扩展性等优点:
提到高性能,其超强算力首先来源于比特大陆自主研发的AI专用芯片BM1682,这是专门为深度学习而优化定制的,达到单芯片3TFLOPS FP32计算能力,具备240帧的视频解码和图像解码能力,以及视频前后处理的硬加速能力,可说是针对视频结构化全流程而优化加速的AI芯片,可以提供高效率的整体的高性能计算能力。
超强算力的第二个来源,是内部多个BM1682芯片的互联集群式架构,并且采用低功耗的的主控技术,提供集群管理、任务作业调度、负载均衡、视频图像API接口等服务,可以提供海量视频数据的并行计算能力,并且可以稳定、可靠的运行,及时响应外界请求,具备可管理性。
现代数据中心的部署,非常注重功耗。 专用的AI芯片的性能功耗比强于更通用的GPU。基于专用芯片的SA3服务器,相比传统厂商依靠GPU通用图形处理器而设计的服务器,具备更高的性能功耗比,使其在满足高性能视频分析的同时,降低了功耗,性能功耗比提升了2倍以上。
现代数据中心的部署,也非常注重空间密度,机柜空间的租用成本不可忽视。这种专用AI芯片的高密度部署和集群式计算,使得SA3服务器在提供超强算力的同时,在降低了整机功耗的同时,也大大降低了计算的空间密度。
相比于行业竞品4U的高度,SA3视频结构化服务器所具有的2U高度,在实际的机房部署中,同样的计算能力下占用更小的机柜空间,能让客户选择更灵活的部署方案,从而减少了在数据中心部署的总体拥有成本(TCO),达到为行业赋能的同时,降低使用成本。
SA3单机性能超竞品2-3倍,算力空间密度超过4倍
安防视频结构化,客户往往希望在同样的前端摄像机的数量下,使用更少数量、性能更强大的计算服务器,或者使用同样数量的计算服务器,实现更大比例的智能化、视频结构化。这一点就和单台服务器的视频结构化性能 – 每台路数非常相关。
在视频结构化应用所看重的核心性能—支持的视频结构化路数方面,比特大陆所推出的基于BM1682芯片的SA3视频结构化服务器(2U)能够支持的视频结构化路数达到90路,超过基于GPU的行业产品2.2倍的性能。
而在安防行业的另一个重要应用--人脸识别方面,比特大陆所推出的SA3视频结构化服务器支持的路数也远超同类产品,达到基于GPU的行业人脸识别服务器的3倍性能(基于GPU)。
比特大陆SA3-23视频结构化服务器
此外,比特大陆所推出的SA3视频结构化服务器的高度为2U,处理90路视频结构化,平均每U处理能力达到惊人的45路。在算力空间密度这一指标上,超过行业主流产品服务的4倍之多,从而能够使得安防行业提供更为灵活、更为精简的解决方案,或者在同样的功耗或者服务器规模情况下,提供更多路数的视频智能分析能力。
据悉,比特大陆将快速迭代旗下AI芯片,预计2019年推出第三代AI芯片BM1684,对于可以接受INT8的应用,性能相对BM1682提升了近9倍;基于BM1684芯片的SA5服务器(2U)性能将超出目前同类服务器产品(基于GPU)的十倍性能,超过500路视频结构化,为现有AI+安防行业带来更加高性能的优质选择。