最新凯时app
    最新凯时app
    所在位置: > 最新凯时app > 声网超级画质 实时互动支持4K高清画质背后的技术挑战

声网超级画质 实时互动支持4K高清画质背后的技术挑战

  • 文章来源:未知 / 作者:admin / 发布时间:2024-01-22
  •   “至臻画质”是声网“实时高清·超级画质”解决方案中的一项核心能力,不仅支持移动端1080P、PC端4K高清画质,还通过端侧实时超分、暗光增强、色彩增强等算法对画质进行增强与提升,相比技术门槛较高的超分、暗光增强等技术,想要在实时互动中支持1080P、4K高清画质也并不简单,其背后也面临着一系列技术挑战。

      总体来说,在实时互动中支持超高清视频的技术挑战可分为“大数据量的网络传输和弱网对抗能力”、“全链路各环节的处理性能和帧率要求”、“综合设备可用性和QoE体验问题”三方面的挑战,接下来我们将逐一解析每一项技术挑战背后的声网*佳实践。

      音视频数据量庞大考验网络传输和弱网对抗能力

      在日常生活中,我们下载或者观看更高清的视频,一般都需要更快的网络带宽,在实时互动中亦是如此,想要实现4K等超高清视频的传输,一般需要10M、20M甚至更高的带宽,才能实现视频的稳定传输,普通网络条件下很容易因为带宽不足或者抖动造成大量的网络丢包,引起视频卡顿。

      视频越高清也就意味着视频的数据量越庞大,所以一般在传输前都会先用到音视频编码技术,压缩音视频数据的大小,让音视频更容易存储和传输。但压缩后的视频数据量依然很考验网络的传输能力,想要解决实时互动场景下的网络质量问题,需要依赖于传输协议、弱网对抗算法以及媒体传输策略。

      在超高清视频的传输场景中,声网除了采用PVC、H265和B帧等高效编码压缩技术之外,在4K画质场景,声网可以做到70%丢包下视频通话流畅,这其中得益于声网自研的传输协议AUT、抗丢包FEC算法和自适应媒体传输策略。

      一方面,声网自研的AUT传输协议采用更合理的传输架构和更好的算法,带来更大的传输能力和更高的丢包对抗边界,同时还支持多人视频的Scalability(可伸缩性)。很多问题在超高清视频场景下会放大,包括弱网对抗,原本还不错的网络带宽能接受720P画质,但在1080P、4K画质下是不够的,这时候就会根据每个接收端的网络质量分发*合适的码流,例如从原来的4K60FPS降到4K30FPS,甚至是1080P,让每个接收端都可以得到和自己的网络状态相匹配的流畅体验。

      另一方面,声网自研的FEC算法能提高丢包恢复率,降低解码端的延迟,*终改善弱网下的卡顿率指标和解码延迟时间。同时声网的弱网对抗算法结合混合ARQ(自动重传请求)媒体传输策略,可以根据多维度的输入参数信息、网络环境以及用户场景和结果反馈,实现自适应的弱网对抗系统,确保高分辨率场景下抗弱网能力的同时提升视频质量(清晰度、流畅度、延时)。

      高分辨高帧率的视频场景,除了编码传输和弱网对抗能力之外,视频采集和渲染的帧率表现以及上下行链路处理的CPU性能开销也经常是瓶颈所在。因为每1秒处理的内存数据量*高可达几百MB甚至1GB以上,因此针对2K/4K60FPS场景声网做了采集、渲染、硬件编解码等全链路的深度优化,全平台支持零拷贝链路,充分利用GPU的硬件加速处理能力,以及尽可能的减少视频数据的搬运操作,以降低大量的视频数据处理和流转对于CPU的消耗。

      这就好比利用集装箱取代传统的散货装卸,可以极大提升货物流转的效率。另外通过将整个视频处理链路拆分成多个子任务,类似于现代工厂的多级流水线,可以提高视频处理的并行度,*终提升整个视频链路的吞吐量。

      在4K60FPS高帧率视频的渲染方面,声网利用各平台显示的VSync机制设计高帧率渲染系统,避免高帧率视频流在渲染模块内丢帧,同时让高帧率场景下的渲染更加均匀,并在中高端设备上实现了端到端2K/4K60FPS稳定不掉帧的效果。(注:VSync是垂直同步的简称,基本原理是将视频的FPS帧率和显示器的刷新率同期起来,其目的是避免出现画面“撕裂”的现象)。

      超高清视频在实际应用场景中,不可避免的要面对很多设备兼容和体验问题,相对于普通标清和高清的视频,超高清视频更容易碰到设备不支持,或者设备支持但是明显卡顿或发热的问题,尤其在多人视频互动场景下,设备和网络条件复杂,发送端能做到4K60FPS,但接收端观众的设备质量参差不齐,例如有些设备解码无法支持4K60FPS的视频,有些解码只能解20几帧,视频帧不均匀,导致视频不流畅,这些都是设备可用性问题,也成为了阻碍业务应用落地的绊脚石。

      解决以上问题,声网的解决方案本质上可以归纳为基于设备能力和网络条件的Scalability(可可伸缩性),综合利用多种工具并自适应调整引擎的参数配置和策略,比如发送端可以自适应选择*合适的分辨率、帧率和码率等等,提供多级的服务能力和灵活性,结合一些场景化API,给出不同场景下的参考实践,*大程度满足业务的综合可用性和QoE体验要求。

      例如,声网采用的AutoAdjust(自动调整)自适应策略,能综合业务类型、设备的性能、网络条件和链路各处理模块的状态等,自适应选择*合适的分辨率、帧率和码率,以及视频处理模块的档位、软硬编和网络策略参数配置等等,在避免设备发热和卡死的前提下尽可能保证视频质量体验。

      声网的解决方案还具备设备分级和设备能力查询,用归一化的方式,定义设备有多大的能力,能支撑多少内容。同时支持查询设备是否具备比如4K60FPS的解码能力等,方便根据业务场景定制*佳方案。

      正是有了以上技术的不断实践,声网才能在实时互动中更完美的支撑1080P、4K超高清画质,从而进一步实现视频画质增强、画面视觉效果提升等“至臻画质”能力,此外,声网“实时高清·超级画质”还包含美颜悦色、丝滑流畅、低码高清、PC开播、玩法升级、数据监测、使用无忧八大礼包,助力开发者与企业实现视频画质、用户体验和互动玩法的全面升级,拓展更为广阔的营收增长空间。

      如您想进一步了解声网的“实时高清·超级画质”解决方案,可在声网公众号找到这篇文章,在文章底部点击下方阅读原文,进一步咨询。磨损度