2018年1月30日,IPTV VR技术产业论坛在中国电信上海研究院4楼报告厅正式召开,作为整个VR行业的推动者,通信运营商无疑有着管道、终端、用户等多方面的优质资源,4K乃至8K VR如何借助运营商之手顺利进入到千家万户,实现产业的快速崛起,观察运营商的动态无疑有着深远的意义。本文为众视媒体DVBCN记者现场整理报道。
图为ARM区域市场经理王田
在会议上,ARM区域市场经理王田在现场以“从芯架构,虚拟世界”为题发表演讲,从一个芯片及IP Core的角度出发,谈及ARM如何支撑VR成为现实。
从未来XR产业的发展来看,基于4K乃至8K的多屏编解码能力将成为未来的重点,随着VR直播及8K VR的进一步推进,1Gbps以上的码率也将成为未来关注的重点,同时为满足用户在XR体验时的交互行为,Machine Learning也成为未来必须要解决的重心之一。
王田经理表示,从GPU这块,ARM引领VR的体验,未来的视频一定是基于HDR而不是SDR的内容,Mali将通过其HDR10的运算能力,帮助视频更好地实现HDR色域及帧率上的优化。Mali能够通过DDK拓展,降低延迟,解决带宽延迟的问题,通过AFBC降低更高分辨率所需要的系统带宽。芯片和OEM厂商共同合作,在高端设备上,提供高端体验,Mali的GPU通过软件的方式降低延迟,提供支持无损压缩的模式,加深抗锯齿能力,头显设备对于颗粒感的敏感度,如果存在锯齿状的内容,由于360度全景近眼,整个视频的锯齿就会被放大,影响到体验。
同时,提供多路视频的解码与缓冲能力,提供Foveated Rendering的能力,将中央的图像进行深度4K乃至8K的解码,同时在底层提供一个低分辨率的图层,降低芯片解码的要求。
由于头显设备需要感应人的转动方向,通过视角去捕捉,减少芯片处理的能力,通过ARM大小核能力,通过解码与编码的引擎,需要用专业的解码能力,GPU将图像分成左右两个Buffer,到屏幕显示,通过单眼2K的头显,用户能够获得75帧的视频,获得优质的体验。
其他例如人工智能的技术,一些新的应用,上面赋有很多新的应用,交互,例如人脸识别、手势识别等,可以跑在ARM Mali的GPU上,也可以跑在其他专用的能力上,除了VR的体验以外,如何保障用户更优质的体验也是考虑的方向。
ARM不管是GPU(4K 60帧以上的渲染和加速),现有的Display能够提供VR的加速,系统级解决端到端的延迟,达到10ms左右。ARM的整合解决方案能够为IPTV的VR用户提供最优质的体验,在GPU上,实现4K单线程缓冲,达到60fps的4K。另一线程实现Timewarp,镜头校订以及VR架构,未来将进一步实现8K 60帧的画面。在VPU上支持120帧4K10比特视频解码,DPU支持4K 75~90帧显示输出(单眼2K),部分处理和运算可以在DPU侧实现,未来全面提升120帧8K视频的体验。整个过程按照端到端低于10ms的延迟进行设计,最大限度必须低于20ms。
从未来XR产业的发展来看,基于4K乃至8K的多屏编解码能力将成为未来的重点,随着VR直播及8K VR的进一步推进,1Gbps以上的码率也将成为未来关注的重点,同时为满足用户在XR体验时的交互行为,Machine Learning也成为未来必须要解决的重心之一。
王田经理表示,从GPU这块,ARM引领VR的体验,未来的视频一定是基于HDR而不是SDR的内容,Mali将通过其HDR10的运算能力,帮助视频更好地实现HDR色域及帧率上的优化。Mali能够通过DDK拓展,降低延迟,解决带宽延迟的问题,通过AFBC降低更高分辨率所需要的系统带宽。芯片和OEM厂商共同合作,在高端设备上,提供高端体验,Mali的GPU通过软件的方式降低延迟,提供支持无损压缩的模式,加深抗锯齿能力,头显设备对于颗粒感的敏感度,如果存在锯齿状的内容,由于360度全景近眼,整个视频的锯齿就会被放大,影响到体验。
同时,提供多路视频的解码与缓冲能力,提供Foveated Rendering的能力,将中央的图像进行深度4K乃至8K的解码,同时在底层提供一个低分辨率的图层,降低芯片解码的要求。
由于头显设备需要感应人的转动方向,通过视角去捕捉,减少芯片处理的能力,通过ARM大小核能力,通过解码与编码的引擎,需要用专业的解码能力,GPU将图像分成左右两个Buffer,到屏幕显示,通过单眼2K的头显,用户能够获得75帧的视频,获得优质的体验。
其他例如人工智能的技术,一些新的应用,上面赋有很多新的应用,交互,例如人脸识别、手势识别等,可以跑在ARM Mali的GPU上,也可以跑在其他专用的能力上,除了VR的体验以外,如何保障用户更优质的体验也是考虑的方向。
ARM不管是GPU(4K 60帧以上的渲染和加速),现有的Display能够提供VR的加速,系统级解决端到端的延迟,达到10ms左右。ARM的整合解决方案能够为IPTV的VR用户提供最优质的体验,在GPU上,实现4K单线程缓冲,达到60fps的4K。另一线程实现Timewarp,镜头校订以及VR架构,未来将进一步实现8K 60帧的画面。在VPU上支持120帧4K10比特视频解码,DPU支持4K 75~90帧显示输出(单眼2K),部分处理和运算可以在DPU侧实现,未来全面提升120帧8K视频的体验。整个过程按照端到端低于10ms的延迟进行设计,最大限度必须低于20ms。