端侧ai进化论：huaweihiaifoundation的奇妙旅程

从2017年开始，华为将端侧AI算力的概念带入了产业界。彼时，还有很多人讨论端侧AI计算是否有必要，是否具备前景等等问题。一转眼四年过去了，端侧的AI处理能力已经成为每家芯片厂商、移动终端厂商的必备能力，而AI算力也成为视频、游戏、社交、旅行等主流品类开发者的必修课。

四年时间，证明了端侧AI的必要性毋庸置疑，同时也展示了这一领域在平台、技术、生态等方向的进化。为了让开发者更好地调用端侧AI算力、算子，华为在跨入端侧AI领域的同时也发布了开发使能平台HUAWEI HiAI Foundation。在消费者开始熟悉AI应用，开发者开始依赖AI技术的同时，HUAWEI HiAI Foundation也没有停止过进化，不断给开发者带来一个又一个智能惊喜。

在科技领域大家有一个共识：我们经常会高估一瞬间的变化，却低估长时间的变化。理解一场技术变革不应该聚焦于一点，而应该俯视长段时间中连续、继发的变化。借助HUAWEI HiAI Foundation的发展之旅，我们可以看到AI开发需求与技术更新的真实情况，透视一场端侧AI的进化论。

在跨入端侧AI第五年的此刻，开发者与HUAWEI HiAI Foundation的奇妙旅程才刚刚开始。

端侧AI已长成：开发需求的进化

几年前，大部分开发者对AI能力还很陌生，对AI更多是探索与开辟。如今AI技术已经深入应用开发的方方面面，成为了一种不可或缺的能力。不断积累开发经验，达成开发共识之后，开发者对AI算力与技术赋能的需求也发生了众多变化。开发需求的变化，导致开发平台与技术供给的变化，一场端侧AI进化论就此展开。

综合来看，我们可以看到端侧AI的开发需求出现了以下几种显著的升级。

1.产业关切点的变化：AI技术目前在应用开发中的指向愈发明确，重点行业逐渐凸显。视频超分、游戏高清化等领域成为关注重点，开发者在这些需要AI重度参与的领域需求与痛点也愈发明显。

2.模型结构升级：伴随着需求的升级，开发者对模型结构的优化升级需求不断加强。如何优化模型结构，让复杂强大的模型跑在端侧成为了开发者共同关注的话题。

3.更新速度有要求：AI开发不断发生着变化，开发者对端侧AI能力的升级更新速度也有了新的要求。端侧能力更新原本比较缓慢的情况已经不适应开发者需求。

4.赋能方式多元化、生态化：开发者已经习惯了云侧、架构侧的AI开发者社区化、生态化，但在端侧开发者赋能与生态方案还有着明显的不足。如何在端侧接通更多元的开发赋能渠道，也是开发者的重要痛点。

如今，开发者需要借助端侧AI探索更广阔的产业世界。HUAWEI HiAI Foundation也已经推动了端侧AI产业完成了“三重进化”。

软硬件全面成熟：平台进化

端侧AI的第一重进化，体现为平台的发展与成熟。HUAWEI HiAI Foundation在赋能方案、产品形态、重点领域解决方案等层面，都表现出了成熟平台应有的进化能力与生态活力。

从平台基础信息上看，我们首先可以看到HUAWEI HiAI Foundation在算子规模、赋能端口、以及调用规模上的成长与变化。量变累积质变，从平台特性上，HUAWEI HiAI Foundation的内核也已经发生了深层次变化。

首先，从产品形态上看，HUAWEI HiAI Foundation与华为的全场景战略同步进化，从支持手机拓展为全场景开发的AI赋能，更加满足开发者的发展需求与多终端战略。

从计算能力上看，HUAWEI HiAI Foundation最早是基于NPU的专项算力；在产业实践与发展中，华为发现很多开发需求需要协同计算来实现最好的智能化效果。如今HUAWEI HiAI Foundation可以支持NPU、GPU、CPU的协同计算、灵活部署，让更复杂、具象化的AI开发需求可以得到有效赋能。

再有我们可以看到，HUAWEI HiAI Foundation在行业关注的特定领域有了更具针对性的赋能，并且取得了业界领先的成果。比如在超分等视频行业的关键赛道上实现并保持了业界最先进的赋能能力，构建了其他厂商难以超越的优势，并基于具体行业的优势，孵化了充沛的合作案例与赋能方案。在图像、视频、游戏等领域上，HUAWEI HiAI Foundation构建了体验更好、综合成本更低的端侧AI开发赋能优势。

在全场景、计算协同与重点领域等多个赛道上，HUAWEI HiAI Foundation都构筑了独特的平台优势，而进一步来到与开发者紧密相关的技术空间中，HUAWEI HiAI Foundation更是成为了一支独特的AI画笔。

提供无可替代的AI创造力：技术进化

端侧AI的第二重进化，体现为AI技术对开发者的价值加持。开发者可以将更多原本不可能完成或者很难完成的AI任务在HUAWEI HiAI Foundation中实现。HUAWEI HiAI Foundation也成为众多开发者独一无二的智能选择。

HUAWEI HiAI Foundation的技术赋能思路与其他平台显著不同的一点，在于对开发者业务对接需求的支持力度远超其他芯片平台。平台主动为开发提供更多服务，并且尽可能多地获取开发者需求和反馈，继而对HUAWEI HiAI Foudation进行持续优化。

这种技术上达成的良性循环，通过频繁的需求对接、案例合作，以及华为全栈技术优势的综合使用，HUAWEI HiAI Foundation构筑了更贴近开发实践与开发需求的技术赋能方案。

从几个方向上看，HUAWEI HiAI Foundation做到了与开发者立场、需求、升级路线保持一致，让AI技术真正流淌到开发者的画布上。

从技术革新性上看，HUAWEI HiAI Foundation打破了很多端侧AI的技术瓶颈，并且在实践中获得了成功。比如说超分这个重要领域中，开发者可以与HUAWEI HiAI Foundation合作获得高强度、低成本的超分升级，为视频提供更优秀画质。

HUAWEI HiAI Foundation可以有效帮助开发者降低宽带的使用成本，以及云端超分带来的流量成本，从而在端侧实现高质量，且不依赖网络与云端算力的超分效果。这一能力发布之后，在业界很快引起了震动。优酷、华为视频、虎牙、爱奇艺等视频应用纷纷与HUAWEI HiAI Foundation建立了超分合作。

在视频超分合作中，HUAWEI HiAI Foundation可以帮助视频类应用实现超分计算的优化拟合，支持视频平台使用更大、更复杂的模型，从而提升了用户的智能体验。相比较来说，大型平台类开发者实现了降低成本，优化效果，避免了自研算法的投入与试错；中小型开发者则可以实现接入到业界强大的技术体验中，实现体验升级。

百度输入法在与HUAWEI HiAI Foundation合作之后，端侧AI调用相比CPU性能提升25%，计算资源独占、内存节省22%、功耗降低50%。快手在与HUAWEI HiAI Foundation的合作中，实现了视频特效AI功能在端侧的快速部署，性能提升8倍，功耗降低50%，计算精度更优。美颜在与HUAWEI HiAI Foundation合作后，图像分割业务的性能提升30%，功耗降低50%。爱奇艺、优酷等视频平台超分业务HUAWEI HiAI Foundation的加持下，超分辨率性能最高可以提升 80%，功耗最高可降低 45%。 

这些数字表明，技术上的创新性与领先性，让HUAWEI HiAI Foundation成为了一支独一无二的画笔。当开发者想要绘画AI的时候，不必有后顾之忧，也不用浪费大量开发成本。无缝接入HUAWEI HiAI Foundation就是最好的邂逅。

端云协同与高度兼容：生态进化

端侧AI的第三重进化，体现为平台兼容性与协同性不断增强，形成了具有极强包容力的生态环境。端侧AI的社区化与生态化，正在由此开启。

在平台优势不断累积，技术进化保持高效之后，HUAWEI HiAI Foundation更加关注生态上的完整性与开放性。一方面，HUAWEI HiAI Foundation构筑了与国内主要AI平台、互联网厂商之间有效的合作机制与合作关系，搭建了头部玩家共同认可的AI赋能平台。另一方面，HUAWEI HiAI Foundation开展了紧锣密鼓的生态化、社区化建设，让更多中小型开发者准确找到自己合适的生态赋能方案，低成本、高质量接入端侧AI。

在头部玩家的合作中我们可以看到HUAWEI HiAI Foundation的两种代表性生态合作模式。在平台合作兼容上，HUAWEI HiAI Foundation与算法框架BAT的算法平台进行了有效对接，让开发者可以无感接入HUAWEI HiAI Foundation，从而实现了平台生态的互惠共享。

从技术兼容性上看，HUAWEI HiAI Foundation能够支持300+通用算子，并且兼容国内外主流AI框架。整体兼容方案已经相当成熟，无论开发者使用哪个平台的框架，都可以无缝调取和使用HUAWEI HiAI Foundation的能力，获得充沛的技术支持。对于拥有自身框架的厂商来说，他们可以在框架层对接HUAWEI HiAI Foundation的IR API，在麒麟平台使能NPU加速；而没有框架的开发者则可以直接使用离线DDK完成AI应用的开发，不需要花费兼容成本。

另一方面，HUAWEI HiAI Foundation打破了原本端侧技术演进相对较缓的特点，实现了端侧技术与开发者需求协同演进。通过端云协同方案创新，HUAWEI HiAI Foundation将快速算法演进相关能力放在了云端，开发者可以实时接入最新的能力而不用等待端侧升级，从而满足了端侧AI快速进化的需求。

端云协同的升级模式，有效提升了HUAWEI HiAI Foundation与开发者之间的沟通、赋能效率，让端侧AI的软件优化实现了提升，满足开发者快速升级、高效提升技术能力的主要诉求，也让开发者的AI能力可以更广泛适配老机型，拓展了开发市场，提升了用户体验。

在社区化建设中，HUAWEI HiAI Foundation上线了Model Zoo。这一平台的目标通过社区化形态，帮助开发者解决端侧模型优化设计的痛点。从模型优化功能出发，Model Zoo未来还将实现模型打分、社区互助等功能，最终希望构建端侧AI的独特生态。

端侧AI，突破奇点

不久之前，HUAWEI HiAI Foundation已经突破了日调用量超过600亿次的产业“奇点”。这个数字意味着，海量智慧业务每天在HUAWEI HiAI Foundation的框架下运行，这一平台已经覆盖了大量开发者与开发需求。而这些产业需求也不断回馈给HUAWEI HiAI Foundation团队，成为平台进一步升级进化的动力。

从未来趋势上看，AI计算是消费终端开发的必然需求，也是开发者最看重的进化方向。而AI计算不出端，从根本上保护用户隐私安全也是不变的大势所趋。在HUAWEI HiAI Foundation的努力下，端侧AI计算已经实现了开发成本不断降低、产业优势愈发明显。

日调用600亿次，可以说是上述所有HUAWEI HiAI Foundation推动的平台进化、技术进化、生态进化的成果。

华为开始推动端侧AI发展时，业界其实有不少的观望与怀疑；到如今，端侧AI已经成为了全球移动芯片与智能终端产业的共识。其中，HUAWEI HiAI Foundation对“无人区”的探索，对产业的引领，对生态的建设可谓功不可没。端侧AI不断进化，并且证明了持续进化的可能性，对于整个移动产业来说有着举足轻重的意义。

对移动终端产业而言，有愈来愈多的厂商重视AI，重视自研技术，在同质化竞争中找到了一条独立发展的新路。

对于芯片平台而言，积极推动软硬件协同创新，并且与应用开发紧密合作，成为了近几年新的趋势。其中HUAWEI HiAI Foundation的引领作用不容小觑。

对于开发者来说，AI不再仅仅是简单的识别能力调用，而是变成了可以全面提升应用体验，让智能无处不在的新端口。他们知道，更多可能性可以在AI、在硬件侧，在HUAWEI HiAI Foundation找到答案。

如果说，从2017年开始HUAWEI HiAI Foundation的五年是“一五计划”，从端侧AI的从无到有；那么五年到十年，“二五计划”或许意味着端侧AI由规模化效应走向强盛、繁荣与普惠。

一场奇妙的开发之旅尚未结束，端侧AI的十年之约还在履行。

这部“端侧AI进化论”已经有了逻辑清晰、目标明确的开头，接下来的进化故事，不仅掌握在平台本身，更在众多开发者手中笔中。