IDC 发布的《超视频时代视频云演进趋势》白皮书提出,超视频时代用户的三大核心需求是:更加高清、更加交互、更加沉浸。在这样的需求下,用户的体验变得至关重要。
近期,在“面向体验的视频云 火山引擎增长沙龙” 中,火山引擎边缘计算产品负责人沈建发分享了新一代创新算力解决方案,揭秘火山引擎边缘计算助力企业进一步提高用户体验,实现持续增长的产品方案与最佳实践。
应用架构演进
回顾现代应用架构演进,前端与后端载体均发生了明显变化。
- 首先,应用前端载体移动化。根据 CNINIC 的《中国互联网网络发展状态统计报告》,截至2021年12月,我国使用手机上网的网民比例达99.7% 。流量同期比上年增长33.9% 。客户端显示和处理单元的载体呈现移动化趋势。从最早单机PC模式,到现在的手机、Pad、电视,甚至 AV/VR/MR 终端、智能机器人等,应用终端更加多元化。也因此,前端需要适配多样化的终端硬件。
- 同时,根据信通院云计算白皮书(2021)统计,2020年我国计划使用边缘计算的企业53.8% 。企业的业务形态也在不断发生变化,从单点部署向集群部署、云中心甚至云边混合部署演进,应用架构也从原来单一的 Client-Server 模式走向 Client-Edge-Server 模式。
Client-Edge-Server 架构
Client-Edge-Server(以下简称 CES) 模式,即云边端混合部署架构,指将原本中心的算力和网络资源在边缘做卸载和处理。边缘节点作为云的延伸能够提供通用的算力资源和服务,并结合算力和网络的调度,实现更快捷的服务响应和便捷的就近接入,极大缓解中心算力和网络的压力。
同时,边缘计算节点能保障业务实现更靠近用户的低时延接入和更加广域的业务覆盖,在边缘计算技术方案中,还支持更加精准的网络感知能力,以便业务动态准备资源或调整资源,实现整体架构的最优。
视频云 x 边缘计算,助力极致用户体验
目前,视频云业务中也采用了 CES 架构。其中,边缘计算作为视频云的整体算力底座,为视频云业务提供全局一致性的用户体验,通过优质的边缘节点和全域分布式的网络带宽,及多种异构算力资源,为视频云提供更低时延的网络接入能力、更优化的网络带宽成本、丰富的异构算力资源和智能调度,满足视频云中的直播特效、虚拟主播、数字人、云游戏等场景对渲染算力的需求,支撑更多的创新玩法,带来更极致的互动体验。
讲到边缘计算,跟大家分享一下我们对边缘计算的定义,我们把从用户到云中心之间所有的算力层都定义为边缘计算的范畴,包括:现场边缘、近场边缘、云边缘三层, 覆盖5-40ms时延范围,分别提供从用户现场到本地城市节点和区域中心汇聚节点等多种异构算力资源。并根据地理位置的分布,提供单线、多线等多种网络接入能力,确保用户就近接入,满足业务超低时延的算力调度和网络能力的需求。
平台架构
基于不同边缘层,我们还构建了新一代边缘计算云平台。边缘计算云平台整体采用一横 N 纵的结构,一横是指基于边缘计算基础设施打造的云原生边缘平台,N 纵指具象化的服务能力,包括边缘计算节点、边缘容器、边缘函数等边缘计算资源服务,同时边缘组件为业务提供不同的场景化能力,如 VPC、LB和防火墙、包括云盘、块存储等。另外我们还提供边缘的应用服务,如边缘渲染和边缘智能等服务,满足业务多种形态诉求。目前,在计算服务资源上我们首推边缘计算节点服务。
边缘计算节点是在边缘基础设施上基于边缘云原生操作系统打造的算力资源服务,提供更低时延、更高性能、稳定可靠的计算资源,实现业务应用更靠近用户的部署和服务。支持多种 CPU、GPU 等实例规格,满足视频直播、实时音视频、云游戏、AR/VR 等多样化场景需求。结合不同的组件能力,提供高效的网络接入和安全防护保障。同时,边缘计算节点也在持续推进产品的更新迭代,实现更丰富的产品功能和更强大的产品能力。
高性能边缘实例
高性能边缘实例是一种基于 VLAN 安全隔离和 SR-IOV 技术的虚拟基础计算资源,能帮助提升虚拟机性能接近裸金属。高性能边缘实例使用 VLAN 虚拟局域网进行租户间隔离,能避免 ARP 欺骗、广播风暴等安全风险,并且通过 VF 直通、定制 Kernel / KVM / GuestOS 能有效帮助业务降低虚拟化损耗,将损耗比控制至5%内,适用于自建直播、RTC、CDN 等场景对高网络转发能力的需求。
高性能网络 EVS
另外我们在网络方案上采用高性能边缘网络 EVS 架构。基于高性能 EVS 实现的虚拟化网络,能够提供标准化的 VPC 网络,包括租户网络隔离、安全组、弹性公网 IP、精准限速等能力。
核心优势
除此之外,我们也提炼了火山引擎边缘计算的核心优势:
- 首先,节点丰富:基于覆盖全国各省市和运营商的边缘节点,提供更低时延、更高性能、稳定可靠的计算资源,实现业务应用更靠近用户侧的部署和服务;同时,边缘计算节点还具备超大规模分布式算力单元,能够提供单线、多线等多种网络形态,满足不同场景的业务诉求。
- 其次,功能完备:支持高性能网络 EVS 实现如 VPC 私有网络、弹性公网IP、高性能负载均衡、防火墙、IPv4/IPv6 双栈等多种特性,提供开关自定义限速、VLAN-VF 直通功能等满足业务的按需、弹性使用体验。另外,边缘计算节点的一键开通、镜像预热、自定义云报警、一键分发等特性功能,有助于帮助业务减少部署和运维成本。
- 第三,极致性能:在硬件上,边缘计算节点优选新一代至强系列铂金处理器,100G/25G 智能网卡,提供高效计算和网络转化能力;同时采用 SPDK 技术优化磁盘 IO,并提供 NVMe SSD 高效云盘和本地盘;边缘计算团队自研的高性能网络套件,目前也已实现边缘单实例 PPS 超 700W 的优异性能。
- 最后,优质服务:在服务上,火山引擎边缘计算支撑了2021央视春晚抖音红包/818抖音新潮好物节等流量洪峰场景,沉淀了大型流量业务保障体系。经过这类大规模、海量业务的流量考验,形成了完善的监控、运维和服务体系, 为业务保驾护航。
视频直播
首先,视频直播场景。在主播直播推流时,边缘计算可以支持就近推流,实现直播流的分发和就近访问,确保直播低时延,同时降低中心带宽压力,另外边缘节点支持高并发,实现实时弹幕的边缘分发,靠近观众侧的边缘计算节点可以高效拉流,提升主播、观众双向的直播体验。
基于高质量的画面诉求,低时延的转码也是直播场景的关键因素,丰富和高性能边缘算力能够满足直播中的多种算力资源需求。VF直通可以减少虚拟化对网卡转发能力的损耗,IPv4/IPv6 双栈、负载均衡、镜像预热等能满足直播业务所需的主要功能和快速全域部署的能力,为用户提供高清的直播互动和流畅的观看体验。
实时音视频
第二,在实时音视频场景中。随着视频会议、在线教育等场景的普及,对端到端之间的互动需求要越来越高,实时音视频可以借助边缘节点提供就近接入,保证节点间低时延互联互通,提供高速稳定的优质通信链路。
边缘算力的弹性扩容能力能保障当业务量增长时,视频会议中的长会话的通信质量。边缘计算 GPU 实例可以满足实时音视频中的渲染需求。高性能负载均衡可以支持实时音视频在边缘节点内东西向转发。另外多线节点和 IPv4/IPv6 双栈等也为实时音视频提供完整的能力保障。满足多人连麦、多人视频会议的低时延场景。
实时渲染
第三,实时渲染。实时渲染广泛的应用于虚拟穿戴、数字人、人脸特效等业务领域,业务模型是基于物理世界人们的动作、表情、姿态叠加或转化成虚拟形象。通过视频终端采集和动作设备捕捉等,在保证交互实时性的同时,采用 RTC 传输至最近的边缘计算节点。
结合边缘算力实时渲染,将渲染后的视频图像分发到用户终端上显示,在实时渲染场景中,边缘计算节点提供了高性能、低时延、标准化的分布式计算服务,基于最靠近用户的地理位置实现实时渲染引擎的高效反馈,保障用户高质量的实时观看与交互体验。
云游戏
第四,云游戏。在云游戏场景中。用户对时延更加敏感,云游戏增加了抓屏、编码、网络传输、解码等主要过程,即流化过程。区别于端游、页游、手游和主机游戏,云游戏的游戏资源、运行、渲染都在需要云端完成,相当于是用户在云端玩游戏。
游戏业务依托全域覆盖的边缘异构算力,基于用户地理位置的亲和性,通过智能调度实现就近接入,实现游戏指令毫秒级交互。同时,结合高密度的Arm集群、GPU算力、弹性扩缩容、资源隔离等功能,支持多个云游戏实例并发运行,为终端用户提供无设备限制、稳定、高品质、超低时延的游戏体验。
辅助驾驶
第五,辅助驾驶。在辅助驾驶场景中,车载摄像头、雷达机关、天线等综合数据,需要在云上做快速决策处理,因此对时延要求较高。边缘计算可以将云中心训练好的模型和结构化数据下沉到边缘,并支持视频接入、智能解析、本地存储服务等,通过云边协同实现现场监控的实时决策。
游戏定向加速
第六,游戏定向加速。在游戏加速场景中,游戏加速器供应商能够通过广泛分布的边缘计算节点构建游戏加速节点,满足不同区域、不同游戏业务场景的诉求,优质的边缘计算和网络资源支持不同终端用户就近接入,有效解决解决用户高峰期网络丢包、卡顿等问题,实现不同游戏的定向加速能力,真正提升用户体验。
在2021年12月之前,火山引擎边缘计算专注于内部产品打磨和对内提供服务,沉淀了春晚、抖音818等大型流量场景服务保障经验。2021年的12月,我们正式将字节跳动长期实践中积累的边缘计算能力对外开放,并发布边缘计算节点产品。目前,边缘计算节点产品在:
- 2022年1月,火山引擎边缘计算节点率先通过信通院 EC Ready 测评,成为首批获得“EC Ready 1.0”证书的产品。
- 2022年4月,联合信通院发布了“边缘云总体技术与测试要求”标准,推动边缘云行业标准建设,与此同时边缘计算凭借技术创新能力获得信通院“2021边缘计算融合创新奖项”;
- 2022年5月,入选了由边缘计算社区发起的“2022 中国边缘计算20强” 评选;
- 2022年6月,入选了国内首个“边缘计算产业图谱” ;
技术创新是边缘计算不断突破与发展的核心驱动力。未来,火山引擎边缘计算将继续以技术创新为驱动力,以实现“连接与计算无处不在”为目标,希望携手各界合作伙伴,在工业视觉、数字孪生、三维道路模拟、动画渲染、智慧园区等领域探索更多可能性,共创边缘新生态。