直播线上实时翻译和流式字幕技术实践与应用

业务实现流程:

●  业务层对接视频云PaaS平台,开启功能并配置翻译模板;

●  现场推流到CDN边缘节点;

●  CDN转推到视频云PaaS平台;

●  视频云PaaS平台进行直播流调度及转发、音频流剥离并发送给AI语音服务平台;

●  视频云PaaS平台获取转写及翻译音频流接收,并进行音视频流合并;

●  将合成字幕后的视频云流进行转码、源流及含字幕流切片、录制等,支持时移回看、录制文件回放等,然后将含字幕的直播流转推给CDN;

●  终端平台播放器从CDN获取转码流播放。

技术优势:

● 分析语音数据的处理速度,拿到字幕数据的延迟,在输入层对视频数据进行延迟控制,最终可以控制在1s以内,实现直播声音、画面、字幕完美同步的良好体验;

● 字幕模板动态灵活配置,支持自定义位置、字体大小、颜色、背景色等;

● 支持灵活配置开启或关闭字幕:比如中场休息、播放宣传片或者其他广告内容时,可以关闭字幕;

● 区别于传统的线下翻译+字幕叠加硬件设备,创新性的云线上实时翻译+字幕叠加,通过API的方式实现全部流程,且只支持的并发路数可以动态扩缩容,提升使用和运维效率;另外相比传统的线下实现方式,综合降本预计高达95%以上。

实践过程中遇到的难点:

●  听写以及翻译的准确性,需要根据不同的场景进行定制训练;

●  声音、画面、字幕的同步控制。

技术应用场景:

该技术可以广泛的应用于电商、会展、融媒、教育等领域,比如在电商领域,可以帮助企业聚焦直播带货出海业务场景,通过云端实时翻译+多语言字幕的技术手段,降低海外地区用户的观看门槛,提升直播观看量,从而提升商品购买转化率和GMV;在会展行业,可以完美替代同传和线下硬件设备,大大降低会展直播成本。

技术实践:

该技术在2021年相继应用于服贸会、亚欧商品贸易博览会、商洽会等国际性展会项目中,具体效果通过下面的视频来展示:

文章知识点与官方知识档案匹配,可进一步学习相关知识Java技能树首页概览92458 人正在系统学习中

声明:本站部分文章及图片源自用户投稿,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!

上一篇 2021年11月9日
下一篇 2021年11月9日

相关推荐