高通推出统AI软件栈,提供综合AI解决方案,覆盖智能 联边缘产品

近日,高通技术公司(高通全资子公司)推出可适配多种智能终端的AI软件栈。


“这是首次通过单一的AI软件组合,为OEM厂商和开发者提供一套完整的AI解决方案,覆盖智能手机、汽车、XR(扩展现实,Extended Reality)、计算、物联 和云平台等广泛的智能 联边缘产品。”该公司表示。


据了解,对于TensorFlow、PyTorch和ONNX等机器学习框架和不同运行环境,高通AI软件栈也提供了良好支持,此外,其还支持开发者库(适配最新的编程语言)、基于开源 QEMU (quick emulator,快速模拟器)的虚拟平台、编译器(如LLVM 和 TVM)等,可使AI由单一终端较容易地扩展到其他各种终端。


此外,该AI软件栈由于还支持Android、Windows、Linux 和QNX等多种操作系统,以及Prometheus、Kubernetes和Docker等部署和监控基础设施,将能实现汽车用例的数字孪生体、在设备和云中实现实时数据等高级功能。


高通技术公司产品管理副总裁齐亚德·阿斯加尔(Ziad Asghar)表示:“完整的高通AI软件栈产品组合是一项巨大突破,它将推动OEM厂商和开发者的AI开发。高通AI软件栈现已上市,这一全新产品组合将进一步扩展公司的统一技术路线图,并扩大在AI和智能 联边缘的领先优势。”


值得一提的是,将各种AI软件产品整合到一个软件包中的高通AI软件栈,可支持直接访问高通AI引擎Direct(该引擎可扩展到高通技术公司的所有AI加速器上,并能提供模型开发功能,包括将新模型适配到不同的产品和层级之中)和高通Cloud AI 100推理加速器,以实现真正的“一次开发,随处部署”模型,帮助OEM和开发人员节省时间和资源。


其还支持高通AI模型增效工具包(AI Model Efficiency Toolkit,AIMET)、AI开发图形用户界面(Graphical User Interface,GUI)、用于增强量化与优化的模型分析器(Model Analyzers)和神经 络架构搜索(Neural Architecture Search,NAS)等在内的一系列工具套件。


据了解,AIMET可以提高深度学习神经 络模型的运行时性能,同时降低计算和内存要求及对任务准确性的影响;AIMET Model Zoo可提供一系列流行的神经 络模型,并比较它们的浮点和量化性能;NAS可使公司能够自动创建和优化AI模型,而无须手动搜索。


微软AI框架架构工程师Yuan Yu说道:“高通技术公司持续打造先进的AI解决方案,让开发者能更加便利地使用强大的AI和机器学习功能。微软正积极推动将高通AI软件技术带入到微软的生态系统中,其中包括专门面向Windows的高通神经 络处理SDK(Software Development Kit,软件开发工具包),通过提供从客户端扩展到服务器的统一完整AI软件,提供从边缘到云端的AI功能。”


据了解,对于OEM厂商和开发者(包括生态系统的创建、测试和部署),要想在高通技术公司的系列产品上运行神经 络,以获得良好的边缘侧体验,高通神经 络处理SDK是关键。


例如,Snapdragon Ride SDK、Intelligent Multimedia SDK 和 Snapdragon Spaces SDK,这些 SDK 均由高通AI软件栈提供支持,在该软件栈上开发的任何 AI 模型都可以轻松加载并部署到这些特定领域的 SDK 上,从而加快开发速度,帮助开发人员节省时间和精力。


此外,该SDK还集成有Google Cloud Vertex AI NAS,并会进行定期升级与维护。


“该工具套件将为我们建立统一SDK提供基础,从而实现跨智能 联终端部署。”高通技术公司表示,“我们还运营着高通公司所有的工程、研发活动及产品和服务业务,包括半导体业务。”


该公司还提到,AI正在改变一切。结合功能强大、高能效的处理器和无处不在的无线边缘连接,AI正在被应用到越来越多的设备和行业,为人们和企业等创造了全新的体验。


设备上的 AI 允许实时响应、改进的隐私和增强的可靠性,以及更好的整体性能,无论是否具有 络连接。高通的 AI 软硬件工具(包括适用于AI的高通神经 络处理SDK)正在加速支持 AI 的应用程序和体验。


目前,高通公司的基础技术丰富和支持着几乎整个移动生态系统,体现在所有3G、4G和5G智能手机中,并将之扩展到汽车、物联 和计算等新兴行业,致力于创造一个人们可以无缝沟通和互动的世界。


最后,总的来说,高通AI软件栈将有助于OEM厂商和开发人员创建、优化和部署他们的AI应用程序,并能充分利用高通 AI引擎性能,具有更广泛的AI软件访问和兼容性;并在一定程度上改变了人们对 AI 软件的看法,可以说为开发者等人员提供了一套创建更快、更智能 AI 应用程序的终极工具。


-End-

声明:本站部分文章及图片源自用户投稿,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!

上一篇 2022年5月26日
下一篇 2022年5月26日

相关推荐