加密流量也能识别与管控,绿网借至强ai加速能力打造高效智能dpi方案

鲜枣课堂 鲜枣课堂     2022-12-04     356

关键词:

刚刚发布的第50次 《中国互联网络发展状况统计报告》 显示,中国网民已超10亿,互联网普及率接近75%,其不仅推动了数字经济的蓬勃发展,而且在满足人民日益增长的美好生活需要等方面都发挥了重要作用[ http://www.cnnic.net.cn/gywm/xwzx/rdxw/20172017_7086/202208/t20220831_71825.htm]。

随着互联网提供日益新颖而丰富的产品和服务,例如常见的语音视频聊天、互动游戏、点对点网络、流媒体、网络电视等等,网络运营商因此吸纳了海量客户资源,带来了巨大的数据流量,但与此同时也产生了带宽管理、内容计费、信息安全等一系列问题。

█ 采用智能技术,实现网络管理精细化

为应对互联网的飞速发展,根据网络流量识别业务类型成为网络技术研究的重要方向和运营商的迫切需求。通过业务识别系统,互联网运营商以及服务提供商能够采集与分析互联网中各种应用产生的流量,识别不同的业务流量类型并进行分类,进而根据不同的业务类型提供相应的保障响应和服务品质。

  • 网络流量分析和管理须精细化

面对这一需求,网络运营商开始引入DPI,来提高网络对报文应用信息的感知能力,让网络流量分析和管理走向精细化。

DPI是Deep Packet Inspection的缩写,中文名称为“深度报文检测”是一种流量监测和控制技术,针对不同的网络应用层载荷(例如HTTP、DNS等)进行深度检测,通过对报文的有效载荷检测决定其合法性。

比如,可通过DPI将流量分为低延时(语音)、保证延时(网络流量)、保证交付(应用流量)和尽最大努力交付的应用程序(文件共享),以此更好地根据关键任务流量、非关键流量来优化资源并减少网络拥挤,保障各种服务有序开展。

但随着互联网加密流量逐年攀升,传统DPI方案已很难从报文中直接获取信息并对流量进行分类,必须寻找新的方法来完成协议分类任务。在此背景下,基于人工智能的网络流量分析方案应运而生。

这种方式能够通过机器学习算法,利用采集的数据样本,针对目标协议生成相应的模型文件,帮助系统在线运行时能够根据当前的报文特征判断出正确的应用类型。但同时,这种AI方案也意味着需要CPU提供密集型运算能力,对复杂的大流量数据进行实时检测、分析和处理,平台在性能方面可能遭遇挑战。

尤其是,基于机器学习的网络流量分析方案,额外增加了大量的特征学习等负载,会带来较大的性能开销,导致CPU负载显著提升,增加系统的整体性能压力。

  • 绿网打造智能DPI检测方案

武汉绿色网络信息服务有限责任公司(以下简称“绿网”), 秉承“因为专注,所以强大”的理念,公司致力于成为电信级网络和安全设备及解决方案的领导者,面向网络管理精细化需求,推出智能DPI检测方案。

图一 绿网固网DPI解决方案架构

该方案以协助运营商等实现网络可视、可管、可控、可增值为宗旨,一站式地提供了针对加密流量的实时流量特征提取、学习建模、在线推断等功能,能够保障高性能的报文处理,实现高效的智能识别和智能控制能力。方案同时能够将网络数据转换为结构化表单数据(XDR),供上层平台进行大数据联动分析,为网络运维、网络安全、信息安全、网络规划和市场经营等工作提供强有力的支撑。

绿网固网DPI解决方案主要包括采集、数据处理以及应用分析三大部分,其中采集指DPI设备,负责采集流量数据;数据层提供统一数据存储,充分发挥大数据价值;应用层负责统一进行应用孵化,提升数据价值。

固网DPI检测方案因其数据采集机,也是系统的核心设备,对平台性能要求非常高,主要用于流量的限速转发、协议识别等功能,而这些功能对实时性要求很高。为了应对加密流量快速增长所带来的分析难题,DPI方案引入了AI技术,用来补强DPI的功能,却也对平台性能提出了更苛刻要求,因此平台的性能优化刻不容缓。

█ 至强® 可扩展平台与英特尔® TADK软硬结合,用实力解难题

英特尔近些年来一直致力于AI技术创新,推出了一系列软硬件产品,帮助产业伙伴提升方案性能,加速AI落地。面对智能DPI方案开发中遭遇的挑战,绿网基于至强® 可扩展平台, 尝试引入英特尔® TADK来优化方案的AI性能。

图二  英特尔® TADK开发工具套件架构

英特尔® TADK(Intel® Traffic Analytics Development Kit)是一组利用人工智能加速技术优化网络应用的库和工具,涵盖了典型的端到端利用人工智能/机器学习进行网络流量分析流水线。其基于机器学习的应用分类,较传统基于深度报文检测的方法具备更广泛的适用性,并且对于加密报文也有一定的检测能力。此外,英特尔® TADK不但可以提取特征及给出推理结果,还能统计流量的协议类型占比、字节数目,并进行较为完善的流量分析。

绿网智能DPI方案利用英特尔® TADK的优异性能,一站式进行性能优化。比如在离线训练层面,实施基于流的业务分类;在线推断阶段,结合初始化时加载的机器学习模型,对每个流进行推断,按流输出推断结果,实现了对加密流量更加高效地采集、处理与分析。

与此同时,基于英特尔® 至强® 可扩展处理器及英特尔® AVX-512,绿网利用至强® 可扩展平台兼顾通用计算和并行计算的能力,将方案的性能水平进一步提升,实现了流量高效而精准识别,从而帮助运营商实现多项价值,助其为网络用户提供更高质量和更具性价比的服务:

1.充分挖掘各类流量数据,为网络运维、安全规划、经营提供强有力支撑;

2.保障高性能报文处理,更有效地应对数字经济发展所带来的流量风暴;

3.以软件优化模式,降低传统方案扩展性能所带来的硬件采购、运维、能耗等成本。

█ 不止于网络,让智能化为人们打造更美好体验

得益于英特尔® 至强® 可扩展处理器和英特尔® TADK的AI加速能力的双重加持,绿网智能DPI方案能够更高效地采集网络数据,以及实施海量用户上网数据的处理和挖掘,为运营商更有效利用网络数据,实施产品和服务优化,从而实现业务增值和提升用户体验提供了有力支撑。

未来,英特尔将与绿网等合作伙伴携手,进一步推动CPU、iGPU和FPGA等产品在网络运营的应用。以英特尔® 至强® 可扩展处理器为硬件支持,利用业界标准框架和TADK等软件,助力网络运营商/服务商深挖流量价值,拓展业务,打造一体化服务的新型信息基础设施。同时,英特尔也将在AI领域深入耕耘,进一步驱动网络管理智能化转型,助力垂直行业构建更多AI应用场景和优质服务,帮助人们打造更美好数字经济新体验。

加密流量如何识别与管控?“软硬结合”的网络流量分析方案解决难题!

 Datawhale干货 方向:AI+网络安全,案例:绿网刚刚发布的第50次《中国互联网络发展状况统计报告》显示,中国网民已超10亿,互联网普及率接近75%,其不仅推动了数字经济的蓬勃发展,而且在满足... 查看详情

打造“大国重器”高性能计算,联想与英特尔如何携手点亮数字经济加速度?...

提到大数据、算力,普通人都不陌生,现在谁手机里还没点AI计算能力了,但说起高性能计算HPC,听起来就有些遥远了。高性能计算的原理,是将计算机和服务器聚合在一起,通过集群式并行工作提高处理... 查看详情

过亿云资源运维管控难?华为云cloudmap带你喝着咖啡做运维

...台CloudMap携手华为云图引擎GES打造云服务全栈拓扑,网络流量路径和云服务动态依赖等空间关系数据,支撑现网运行态风险识别和分钟级定位定界,构建业界领先的数字化能力。本文分享自华为云社区《构建站点数字孪生,支撑... 查看详情

百度智能云全面升级金融ai中台解决方案,打造软硬一体ai开发全栈能力

“用AI赋能新时代金融以‘智’提‘质’”,9月17日,IDC中国数字金融论坛在京举办,众多行业专家共同探讨金融科技发展趋势。在活动中,百度智能云带来了全新升级的百度金融AI中台解决方案,为更多金融... 查看详情

百度智能云全面升级金融ai中台解决方案,打造软硬一体ai开发全栈能力

“用AI赋能新时代金融以‘智’提‘质’”,9月17日,IDC中国数字金融论坛在京举办,众多行业专家共同探讨金融科技发展趋势。在活动中,百度智能云带来了全新升级的百度金融AI中台解决方案,为更多金融... 查看详情

opengaussai能力升级,打造全新的ai-native数据库(代码片段)

数据库与AI结合起来会迸发出什么样的火花?不同的数据库厂商、开源社区、高校师生们的理解也都不尽相同。虽然在精确的概念上难以形成统一的标准,但是在总体的演进思路上却是一致的。对于openGauss来说,自从... 查看详情

ai抗疫系统是如何做到戴口罩也能识别出人的身份信息的?

一、AI抗疫系统主要是由一家从事人工智能领域的小视科技公司研发成功,早年的AI智能人脸识别系统需要将一张完整的人脸放在识别系统前才能准确识别。而小视科技公司在疫情发生期间,仅仅用了两周时间便研发出了能将戴... 查看详情

夯实隐私与安全,打造安全可靠的支付级活体验检测能力

...;比如实名认证、手机解锁等。相较于前者,其实人脸识别这一概念更加广为人知,应用于高铁动车闸机身份验证、展区人脸验证、安保和监控体系等场景。公共场所根据人脸特征进行特定的身份识别、平时人们解锁私有... 查看详情

英特尔发布第四代至强可扩展处理器:重新定义5g云网性能力导运营商数智化转型...

...的紧密合作伙伴,英特尔以XPU战略携第四代英特尔® 至强® 可扩展处理器和各加速计算产品,计算+存储+网络全栈解决方案,开放的生态系统和软件解决方案,助力运营商加速网络转型和云网融合,凸... 查看详情

英特尔发布第四代至强可扩展处理器:重新定义5g云网性能力导运营商数智化转型...

...的紧密合作伙伴,英特尔以XPU战略携第四代英特尔® 至强® 可扩展处理器和各加速计算产品,计算+存储+网络全栈解决方案,开放的生态系统和软件解决方案,助力运营商加速网络转型和云网融合,凸... 查看详情

英特尔发布第四代至强可扩展处理器:重新定义5g云网性能力导运营商数智化转型...

...的紧密合作伙伴,英特尔以XPU战略携第四代英特尔® 至强® 可扩展处理器和各加速计算产品,计算+存储+网络全栈解决方案,开放的生态系统和软件解决方案,助力运营商加速网络转型和云网融合,凸... 查看详情

ai芯片加速图像识别

AI芯片加速图像识别AIchipacceleratesimagerecognition法国研究机构CEA-Leti和LIST在2020年VLSI研讨会上展示了一种概念验证芯片,该芯片集成了低功耗物联网节点和人工智能加速器,并展示了超快的唤醒时间,峰值至空闲功耗降低了1500倍。... 查看详情

ip-guard与ping32网络流量管控功能对比

企业员工电脑在工作中会产生流量,接收、发送、已接收、已发送使用的流量。当有员工的行为使用的流量远远超过正常工作流量水准,可能会给公司网络带来阻塞,而且员工的行为也可能存在泄密的风险。IP-guard和Ping32网络流... 查看详情

原材料行业s2b2b电商系统:打造原材料企业协同能力,实现精益化管控

原材料工业包括了钢铁工业、有色金属工业、石油原材料、化学工业、建材工业等行业,是介于采掘工业和制造工业间的生产环节,既从采掘工业得到矿产原料,又为制造工业提供原材料和动力,作为国民经济的... 查看详情

英特尔发布第四代至强可扩展处理器:重新定义5g云网性能力导运营商数智化转型...

毫无疑问,数字化转型已经全社会的共识。2023年也将会是数字经济加速实现建设数字中国目标的关键年,是加速推动产业发展模式向创新驱动转变的关键年,是碳排放、算力规模与数字经济增长相适应的新型数据中... 查看详情

ai剪辑和自定义ui,打造更智能的剪辑体验

...轻松实现电影级特效创作。比如,人物追踪可以自动识别视频目标人物,锁定中心位,轻松打造特定人物的主角视频。旅游出行场景下,用户在景区拍摄的视频往往背景杂乱、人员众多。在剪辑时使用人物追踪功... 查看详情

easycvr新版本如何通过接口获取ai智能分析网关推送的告警照片?

...回的参数可以获取到快照的对应地址以及告警类型。用户也能根据自己的业务需求,将接口集成到自己的平台中。在前期的文章中,我们分享过关于EasyCVR视频融合平台告警预案功能,感兴趣的用户可以查看这篇文章《​​AI人脸... 查看详情

tsingsee青犀视频ai智能识别功能开发如何通过gpu实现加速识别?

...I智能技术方面下了比较大的功夫,近期一直在对智能识别做适配上的测试,待测试完毕即可上线,大家可以关注我们,获取我们最新的研发进度和测试进度。由于AI识别是一个消耗工程量较大的进程,如果使... 查看详情