助力极致体验,火山引擎边缘计算最佳实践

边缘计算社区 边缘计算社区     2022-10-21     807

关键词:

导读

IDC 发布的《超视频时代视频云演进趋势》白皮书提出,超视频时代用户的三大核心需求是:更加高清、更加交互、更加沉浸。在这样的需求下,用户的体验变得至关重要。

近期,在“面向体验的视频云 火山引擎增长沙龙” 中,火山引擎边缘计算产品负责人沈建发分享了新一代创新算力解决方案,揭秘火山引擎边缘计算助力企业进一步提高用户体验,实现持续增长的产品方案与最佳实践。

连接和计算无处不在

01

当代应用架构演进

应用架构演进

回顾现代应用架构演进,前端与后端载体均发生了明显变化。

  • 首先,应用前端载体移动化。根据 CNINIC 的《中国互联网网络发展状态统计报告》,截至2021年12月,我国使用手机上网的网民比例达99.7% 。流量同期比上年增长33.9% 。客户端显示和处理单元的载体呈现移动化趋势。从最早单机PC模式,到现在的手机、Pad、电视,甚至 AV/VR/MR 终端、智能机器人等,应用终端更加多元化。也因此,前端需要适配多样化的终端硬件。

  • 同时,根据信通院云计算白皮书(2021)统计,2020年我国计划使用边缘计算的企业53.8% 。企业的业务形态也在不断发生变化,从单点部署向集群部署、云中心甚至云边混合部署演进,应用架构也从原来单一的 Client-Server 模式走向 Client-Edge-Server 模式


Client-Edge-Server 架构

Client-Edge-Server(以下简称 CES) 模式,即云边端混合部署架构,指将原本中心的算力和网络资源在边缘做卸载和处理。边缘节点作为云的延伸能够提供通用的算力资源和服务,并结合算力和网络的调度,实现更快捷的服务响应和便捷的就近接入,极大缓解中心算力和网络的压力。

同时,边缘计算节点能保障业务实现更靠近用户的低时延接入和更加广域的业务覆盖,在边缘计算技术方案中,还支持更加精准的网络感知能力,以便业务动态准备资源或调整资源,实现整体架构的最优。

视频云 x 边缘计算,助力极致用户体验

目前,视频云业务中也采用了 CES 架构。其中,边缘计算作为视频云的整体算力底座,为视频云业务提供全局一致性的用户体验,通过优质的边缘节点和全域分布式的网络带宽,及多种异构算力资源,为视频云提供更低时延的网络接入能力、更优化的网络带宽成本、丰富的异构算力资源和智能调度,满足视频云中的直播特效、虚拟主播、数字人、云游戏等场景对渲染算力的需求,支撑更多的创新玩法,带来更极致的互动体验。

02

火山引擎边缘计算

新一代创新算力解决方案

讲到边缘计算,跟大家分享一下我们对边缘计算的定义,我们把从用户到云中心之间所有的算力层都定义为边缘计算的范畴,包括:现场边缘、近场边缘、云边缘三层,覆盖5-40ms时延范围,分别提供从用户现场到本地城市节点和区域中心汇聚节点等多种异构算力资源。并根据地理位置的分布,提供单线、多线等多种网络接入能力,确保用户就近接入,满足业务超低时延的算力调度和网络能力的需求。

平台架构

基于不同边缘层,我们还构建了新一代边缘计算云平台。边缘计算云平台整体采用一横 N 纵的结构,一横是指基于边缘计算基础设施打造的云原生边缘平台,N 纵指具象化的服务能力,包括边缘计算节点、边缘容器、边缘函数等边缘计算资源服务,同时边缘组件为业务提供不同的场景化能力,如 VPC、LB和防火墙、包括云盘、块存储等。另外我们还提供边缘的应用服务,如边缘渲染和边缘智能等服务,满足业务多种形态诉求。目前,在计算服务资源上我们首推边缘计算节点服务。

边缘计算节点是在边缘基础设施上基于边缘云原生操作系统打造的算力资源服务,提供更低时延、更高性能、稳定可靠的计算资源,实现业务应用更靠近用户的部署和服务。支持多种 CPU、GPU 等实例规格,满足视频直播、实时音视频、云游戏、AR/VR 等多样化场景需求。结合不同的组件能力,提供高效的网络接入和安全防护保障。同时,边缘计算节点也在持续推进产品的更新迭代,实现更丰富的产品功能和更强大的产品能力。

高性能边缘实例

高性能边缘实例是一种基于 VLAN 安全隔离和 SR-IOV 技术的虚拟基础计算资源,能帮助提升虚拟机性能接近裸金属。高性能边缘实例使用 VLAN 虚拟局域网进行租户间隔离,能避免 ARP 欺骗、广播风暴等安全风险,并且通过 VF 直通、定制 Kernel / KVM / GuestOS 能有效帮助业务降低虚拟化损耗,将损耗比控制至5%内,适用于自建直播、RTC、CDN 等场景对高网络转发能力的需求。

高性能网络 EVS

另外我们在网络方案上采用高性能边缘网络 EVS 架构。基于高性能 EVS 实现的虚拟化网络,能够提供标准化的 VPC 网络,包括租户网络隔离、安全组、弹性公网 IP、精准限速等能力

核心优势

除此之外,我们也提炼了火山引擎边缘计算的核心优势:

  • 首先,节点丰富:基于覆盖全国各省市和运营商的边缘节点,提供更低时延、更高性能、稳定可靠的计算资源,实现业务应用更靠近用户侧的部署和服务;同时,边缘计算节点还具备超大规模分布式算力单元,能够提供单线、多线等多种网络形态,满足不同场景的业务诉求。

  • 其次,功能完备:支持高性能网络 EVS 实现如 VPC 私有网络、弹性公网IP、高性能负载均衡、防火墙、IPv4/IPv6 双栈等多种特性,提供开关自定义限速、VLAN-VF 直通功能等满足业务的按需、弹性使用体验。另外,边缘计算节点的一键开通、镜像预热、自定义云报警、一键分发等特性功能,有助于帮助业务减少部署和运维成本。

  • 第三,极致性能:在硬件上,边缘计算节点优选新一代至强系列铂金处理器,100G/25G 智能网卡,提供高效计算和网络转化能力;同时采用 SPDK 技术优化磁盘 IO,并提供 NVMe SSD 高效云盘和本地盘;边缘计算团队自研的高性能网络套件,目前也已实现边缘单实例 PPS 超 700W 的优异性能。

  • 最后,优质服务:在服务上,火山引擎边缘计算支撑了2021央视春晚抖音红包/818抖音新潮好物节等流量洪峰场景,沉淀了大型流量业务保障体系。经过这类大规模、海量业务的流量考验,形成了完善的监控、运维和服务体系,为业务保驾护航。



03

应用场景与最佳实践


视频直播

首先,视频直播场景。在主播直播推流时,边缘计算可以支持就近推流,实现直播流的分发和就近访问,确保直播低时延,同时降低中心带宽压力,另外边缘节点支持高并发,实现实时弹幕的边缘分发,靠近观众侧的边缘计算节点可以高效拉流,提升主播、观众双向的直播体验。

基于高质量的画面诉求,低时延的转码也是直播场景的关键因素,丰富和高性能边缘算力能够满足直播中的多种算力资源需求。VF直通可以减少虚拟化对网卡转发能力的损耗,IPv4/IPv6 双栈、负载均衡、镜像预热等能满足直播业务所需的主要功能和快速全域部署的能力,为用户提供高清的直播互动和流畅的观看体验。

实时音视频

第二,在实时音视频场景中。随着视频会议、在线教育等场景的普及,对端到端之间的互动需求要越来越高,实时音视频可以借助边缘节点提供就近接入,保证节点间低时延互联互通,提供高速稳定的优质通信链路。

边缘算力的弹性扩容能力能保障当业务量增长时,视频会议中的长会话的通信质量。边缘计算 GPU 实例可以满足实时音视频中的渲染需求。高性能负载均衡可以支持实时音视频在边缘节点内东西向转发。另外多线节点和 IPv4/IPv6 双栈等也为实时音视频提供完整的能力保障。满足多人连麦、多人视频会议的低时延场景。

实时渲染

第三,实时渲染。实时渲染广泛的应用于虚拟穿戴、数字人、人脸特效等业务领域,业务模型是基于物理世界人们的动作、表情、姿态叠加或转化成虚拟形象。通过视频终端采集和动作设备捕捉等,在保证交互实时性的同时,采用 RTC 传输至最近的边缘计算节点。

结合边缘算力实时渲染,将渲染后的视频图像分发到用户终端上显示,在实时渲染场景中,边缘计算节点提供了高性能、低时延、标准化的分布式计算服务,基于最靠近用户的地理位置实现实时渲染引擎的高效反馈,保障用户高质量的实时观看与交互体验。

云游戏

第四,云游戏。在云游戏场景中。用户对时延更加敏感,云游戏增加了抓屏、编码、网络传输、解码等主要过程,即流化过程。区别于端游、页游、手游和主机游戏,云游戏的游戏资源、运行、渲染都在需要云端完成,相当于是用户在云端玩游戏。

游戏业务依托全域覆盖的边缘异构算力,基于用户地理位置的亲和性,通过智能调度实现就近接入,实现游戏指令毫秒级交互。同时,结合高密度的Arm集群、GPU算力、弹性扩缩容、资源隔离等功能,支持多个云游戏实例并发运行,为终端用户提供无设备限制、稳定、高品质、超低时延的游戏体验。

辅助驾驶

第五,辅助驾驶。在辅助驾驶场景中,车载摄像头、雷达机关、天线等综合数据,需要在云上做快速决策处理,因此对时延要求较高。边缘计算可以将云中心训练好的模型和结构化数据下沉到边缘,并支持视频接入、智能解析、本地存储服务等,通过云边协同实现现场监控的实时决策。

游戏定向加速

第六,游戏定向加速。在游戏加速场景中,游戏加速器供应商能够通过广泛分布的边缘计算节点构建游戏加速节点,满足不同区域、不同游戏业务场景的诉求,优质的边缘计算和网络资源支持不同终端用户就近接入,有效解决解决用户高峰期网络丢包、卡顿等问题,实现不同游戏的定向加速能力,真正提升用户体验

在2021年12月之前,火山引擎边缘计算专注于内部产品打磨和对内提供服务,沉淀了春晚、抖音818等大型流量场景服务保障经验。2021年的12月,我们正式将字节跳动长期实践中积累的边缘计算能力对外开放,并发布边缘计算节点产品。目前,边缘计算节点产品在:

  • 2022年1月,火山引擎边缘计算节点率先通过信通院 EC Ready 测评,成为首批获得“EC Ready 1.0”证书的产品。

  • 2022年4月,联合信通院发布了“边缘云总体技术与测试要求”标准,推动边缘云行业标准建设,与此同时边缘计算凭借技术创新能力获得信通院“2021边缘计算融合创新奖项”;

  • 2022年5月,入选了由边缘计算社区发起的“2022中国边缘计算20强”评选;

  • 2022年6月,入选了国内首个“边缘计算产业图谱”

技术创新是边缘计算不断突破与发展的核心驱动力。未来,火山引擎边缘计算将继续以技术创新为驱动力,以实现“连接与计算无处不在”为目标,希望携手各界合作伙伴,在工业视觉、数字孪生、三维道路模拟、动画渲染、智慧园区等领域探索更多可能性,共创边缘新生态。


边创未来,连接生活

👇 欢迎关注火山引擎边缘计算👇

点击「阅读原文」,感受火山引擎边缘计算实力

CSDN 社区图书馆,开张营业! 深读计划,写书评领图书福利~

juicefs在火山引擎边缘计算的应用实践(代码片段)

...渲染。火山引擎边缘渲染依托底层海量算力资源,可助力用户实现百万渲染帧队列轻松编排、渲染任务就近调度、多任务多节点并行渲染,极大提升渲染效率。边缘场景存储挑战这里简单介绍一下在边缘渲染中遇到的存... 查看详情

主编连线:对话火山引擎——打造音视频极致体验与成本优化

...展,基础体验逐渐不能满足用户的需求,追求更极致的用户体验成为各个平台打造核心竞争力的关键。如何在保持用户体验不变的基础上平衡成本也至关重要。今晚19:00,LiveVideoStack主编将连线火山引擎视频云架构技... 查看详情

火山引擎视频云:坚持基础技术创新,打造极致用户体验

点击上方“LiveVideoStack”关注我们从toC到toB,作为抖音背后的视频技术中台,火山引擎视频云经历了哪些转变和挑战?对于国际标准的制定,它是如何实现从跟随者到参与者的跨越?视频盗版问题泛滥,火... 查看详情

火山引擎:构建面向异构算力的边缘计算云平台

导读1月6日,“火山引擎产品技术大讲堂”2022年首期直播在线开讲,围绕"算力"主题,探讨多样化的算力应用与实践。边缘计算产品负责人沈建发分享了火山引擎边缘计算如何解决万物互联时代异构算力行业发... 查看详情

火山引擎边缘渲染,驱动游戏体验升级

...f0c;为千行百业提供强大、安全、稳定的产品及服务,助力企业打造数字化升级过程中的云上增长新动力。”火山引擎边缘云高级产品总监沈建发 发表“创新渲染应用,驱动游戏体验升级”主题演讲“基于边缘云的渲染... 查看详情

火山引擎成为全球边缘计算大会深圳站合作伙伴

...助客户降低网络时延、减少回源带宽,从而优化用户体验和降低企业运营成本。●在节点覆盖上,实现了全国 查看详情

助力企业数字化升级,火山引擎发布云上增长解决方案

7月20日,2022火山引擎原动力大会在京举办。会上,火山引擎发布全新Slogan“云上增长新动力”,并推出以云为底座的一系列产品解决方案,包括企业上云和智能营销通用方案,以及覆盖金融、汽车、消费、文... 查看详情

追求极致,揭秘抖音背后的rtc技术

...抖音、西瓜、头条等产品的场景实践中,不断地追求极致的。文 |朱利安整理|LiveVideoStack大家好,我是来自火山引擎RTC团队的Julian,很高兴今天能跟大家学习交流。今天我带来的分享是抖音背后的RTC是如何追求极致的... 查看详情

面向视频原生,火山引擎发布视频云与边缘云软硬一体的新云解决方案

...方案,即云边端一体化边缘云基础设施,为用户体验而生的视频云服务,为客户打造了边缘云新视界的全新产品服务体系。视频云与边缘云市场快速增长视频云和边缘云基础设施正在快速增长。IDC数据显示2020年下半... 查看详情

火山引擎端云一体化服务:打造面向体验的视频云

...了主题为《火山引擎视频点播:端云一体化服务打造极致播放体验》的演讲。她以视频点播为例,分享了火山引擎视频云团队在视频画质体验、播放体验、性能体验三个方面进行的优化。火山引擎点播基础技术负责人马... 查看详情

从应用看火山引擎ab测试(datatester)的最佳实践

...实验文化而得到的心得体会。如下:A/B测试的业务适用性火山引擎A/B的内部应用不同行业的最佳实践可持续应用的实验文化A/B测试的业务适用性首先来介绍一下A/B测试适用的场景,以及A/B平台长什么样子。A/B测试到底能做什么?... 查看详情

阿里云es全观测引擎timestream时序增强功能重磅发布,助力时序场景实现最佳实践

简介:阿里云ES全观测引擎TimeStream时序增强功能最新发布,在云原生ELK全托管基础上,通过TimeStream时序增强功能插件,可实现高性能、低成本时序数据存储和查询分析。本文介绍TimeStream适用场景、功能优势、性... 查看详情

抖音背后的视频体验分析体系与优化技术揭秘

...f0c;作为技术前进的指北针,并以云端一体打造音视频极致体验与成本优化。本专场将系统化解读抖音背后的云端 查看详情

助力企业数据飞轮转起来!火山引擎云原生数仓bytehouse全面大促中

用数据驱动业务提升,早已成为各类企业打破增长瓶颈,推动转型升级的一致共识。在大环境持续推动数字化转型的政策扶持下,企业仍然需要一个可借鉴的成熟经验模式,来彻底理解和实践数据驱动到底应该“怎么动”、“从... 查看详情

阿里云边缘云全新架构升级,助力cdn操控新体验

简介: 本次升级根据上万企业客户的使用反馈和行业应用特征,从简单开通到个性化定制,从内容分发到边缘计算完整解决方案,对客户侧的使用体验进行了全局梳理和全链路优化,推进边缘云CDN操控革新&#x... 查看详情

阿里云边缘云全新架构升级,助力cdn操控新体验

简介:本次升级根据上万企业客户的使用反馈和行业应用特征,从简单开通到个性化定制,从内容分发到边缘计算完整解决方案,对客户侧的使用体验进行了全局梳理和全链路优化,推进边缘云CDN操控革新ÿ... 查看详情

阿里云边缘云全新架构升级,助力cdn操控新体验

随着边缘云技术日渐成熟、标准趋于统一,作为企业边缘云的核心基础应用之一——CDN因其具备低延时、高并发、低成本等特点,也越来越多的渗透到产业互联网的各个应用场景之中。本次升级根据上万企业客户的使用... 查看详情

阿里云边缘云全新架构升级,助力cdn操控新体验

随着边缘云技术日渐成熟、标准趋于统一,作为企业边缘云的核心基础应用之一——CDN因其具备低延时、高并发、低成本等特点,也越来越多的渗透到产业互联网的各个应用场景之中。本次升级根据上万企业客户的使用... 查看详情