人工智能的技术变革：HMS Core让你也拥有《星球大战》中的机器人

你还记得《星球大战》电影中的礼仪机器人 C-3PO 吗？就是那个承担着不同种族、不同物种间翻译交流作用的礼仪机器人。C-3PO 通过从数据库中下载资料来更新自己的语言技能，精通 700 万种语言交流形式，可以说是对宇宙间的所有已知语言尽数掌握。

对于有翻译需求的人来说，愿望就是拥有一个像 C-3PO 机器人一样可以翻译无限语种、在各种场景下都可以即刻准确进行语言翻译的设备。在解决这个用户需求时，对于技术能力没有那么强的企业来讲，靠自研能力并不是那么容易做到，因为这其中涉及到了自然语言处理等一系列的人工智能（AI）技术难点。

这背后映射的便是如今国内企业技术开发的现状。近些年来，虽然 AI 技术在企业经营管理各环节的价值已得到市场验证，但企业在进行 AI 开发时，却面临着技术人才储备不足、AI 应用部署困难、投入产出比不达预期等问题。

所以，如果开发者能在产品开发过程中集成一些像 C-3PO 机器人一样可快速且准确识别、翻译等功能的服务套件，那将帮企业大大提高开发质量和效率，有效缩减开发成本，也缓解了开发者的技术研发压力。

但我今天想说的是，或许 HMS Core 机器学习服务（ML Kit）已经帮助各位开发者解决了上述问题。开发者通过 ML Kit 可以搭建属于你自己的“C-3PO 机器人”。

ML Kit 为 AI 语音技术发展做出的努力

自 2021 年起，Meta、谷歌和 NVIDIA 等厂商陆续加入了虚拟世界的潮流，推动语音 AI、计算机视觉、自然语言理解 (NLP) 和虚拟现实 (VR) 方面的创新，以创建能够识别语音和与用户交流的服务。从市场增长维度来看，语音激活系统、语音虚拟助手和语音设备的需求增加带动了相关行业的发展。那么，ML Kit 为此做出了哪些努力？

在 5 月 24 日 HDD 大会上 HMS Core 机器学习服务产品经理发表的《ML Kit 高效助力跨语种沟通》 演讲中，我们就领略到了 ML Kit 翻译服务的超强能力。该服务支持丰富多样的使用场景，比如邮件翻译、通话翻译、阅读翻译、实时语音翻译、AR 翻译。

ML Kit 翻译服务的最大优势在于端云协同，云侧低时延、多垂域覆盖、支持 50+ 语种互译，端侧在隐私保护、无 络使用、轻集成方面做得十分出色。

从系统架构来看， 算法层作为 ML Kit 翻译服务的核心，大语种整体基于英文翻译进行桥接，同时正积极打造中文直译的翻译系统，运用三角翻译、术语增强和课程学习等技术在低资源场景下进行了优化，打造出 HMS Core 差异竞争力。通过训练多语种模型来实现了小语种的翻译，让系统变得全知全能。在业务层的实现上则是打了一套前后处理、Feedback 回流、路由服务、中间件管理的组合拳。

ML Kit 文本翻译的解决方案以文本编码 + 受限解码的 Transformer 架构为核心，算法方案则是以多头 + 高维多层结构的 Transformer-encoder（Large），搭配应用了剪枝 +Rnn 解码算法、在行业内具有优势的 Rnnformer-Decoder（Shallow）的模型结构，通过数据清洗、数据脱敏、数据增强的过程完成平行语料的构建。比如，通过标点归一化、DNT 替换、句长控制和语义去重，进行数据清洗；通过 DNT 替换、句长控制和语义去重等方法，进行数据增强等。

值得一提的是，在推理加速方面，ML Kit 翻译服务基于华为自研的诺亚 bolt 推理框架，应用了权重共享、动态小词表、混合精度计算、量化存储、图优化、缓存配置、快速矩阵乘法、ARM 大小核优化、GPU 加速、算子加速等 10 多种算法，整个翻译模型的速度和稳定性都得到了保障。

ML Kit 文本翻译服务可以同时支持端侧、云侧的调用，不仅服务覆盖全球，安全性能也很高，数据处理过程符合 GDPR 标准，这些特性让 ReadEra（俄罗斯的一款免费图书阅读类 APP）用很少时间就解决了相关技术难题。举个例子，集成 ML Kit 文本翻译服务后，ReadEra 解决了过去“只能通过调用第三方的翻译软件实现翻译，不能实现 App 内翻译”的业务问题，目前该 APP 已支持 12 种语言翻译，服务覆盖全球。

在 AI 语音技术领域，ML Kit 算是一位入局较早并全面发展的选手，陆续实现了文本翻译、语种检测、实时语音识别、音频文件转写、实时语音转写、声音识别等语音语言类服务的支持与迭代。ML Kit 表现也比较突出，比如实时语音识别准确率能达到 95% 以上。另外，今年 6 月，ML Kit 翻译服务将上线同声传译功能，能力矩阵再次扩充。

ML Kit 不仅只研究语音语言

ML Kit 是一个提供机器学习套件的平台，除了 AI 语音语言类服务，ML Kit 还提供丰富的文本类、图像类和人脸人体类、自定义模型等简单易用、技术领先的 AI 服务。

ML Kit 支持图像分类、对象检测、地标识别、图像分割、场景识别、拍照购物、图像超分、文档矫正八大图像类服务。其中，ML Kit 图像分割服务的精细化分割，平均交并比 mIoU（衡量图像分割精度的一个指标）优于业界参考水平。

除了 ML Kit，HMS Core 还有其它“AI 超能力”

HMS Core 是华为移动服务提供的端、云开放能力的合集，是华为为其设备生态系统提供的一套应用程序和服务，开发者只需集成 HMS SDK 即可使用华为的多个开放能力。ML Kit 以外，HMS Core 还有许多可应用于 AI 领域的开放能力。比如：

作为 HMS Core AI 领域构建中的重要一环，面向智能终端的 AI 能力开放平台 HUAWEI HiAI Foundation，目前已支持 KwaiNN、TNN、MindSpore Lite、ByteNN、MNN、Paddle Lite 等国内主流框架。

5 月 24 日 HDD 大会上海思 HiAI Foundation 生态技术专家就《HUAWEI HiAI Foundation 助力开发者快速部署 AI 应用》的演讲中对该产品做了全面介绍：

像应用了 HUAWEI HiAI Foundation 的拍立淘，NPU 算力赋能阿里 MNN 模型推理加速，拍立淘模型推理提速可达 3 至 5.8 倍，毫秒级以图搜图的体验。而且 NPU 算力为模型精度带来了更多提升空间，模型推理功耗大大降低。

随着 HMS 生态不断壮大，截至 2021 年 12 月 31 日，HMS Core 全球注册开发者已超过 540 万， 全球集成 HMS Core 的应用超过 20.3 万个。HMS Core 持续构建多终端、跨 OS、全场景的创新开放能力，面向开发者持续提供行业解决方案，对此感兴趣的开发者可以到华为开发者联盟官 了解更多信息。

写在最后

AI 技术已经在众多行业里得到应用，比如电商、物流、运输、工业等。麦肯锡发布的 告发现，如今全球有 56% 的企业至少在一项业务功能中使用 AI，还有近三分之二的企业计划在未来三年内增加对 AI 研发与应用的投资。Gartner 的一项调查也发现，36.3% 的客户服务领导者计划到 2023 年部署人工智能。

AI 技术的应用是大势所趋，但把视角拉到具体实践上时，我们会发现，人工智能一度被许多企业认为是空中楼阁。因为在智能技术与实体经济结合与迭代过程中，算法、算力与数据都难以捉摸，企业没有技术能力和大量成本去获取这些资源。降低 AI 开发的门槛是目前所有企业都在关注的问题，也是人工智能下一代技术的演进趋势。