高通携手 Meta 利用 Llama 2 赋能终端侧 AI 应用

高通技能公司和Meta正在协作优化Meta Llama 2大言语模型直接在终端侧的履行,无需仅依靠云服务。能够在智能手机、PC、VR/AR头显和轿车等终端上运转Llama 2一类的生成式AI模型,将支撑开发者节约云本钱,并为用户供给愈加私密、牢靠和个性化的体会。

因而,高通技能公司方案支撑根据Llama 2的终端侧AI布置,以赋能打造全新AI使用。这将支撑客户、协作伙伴和开发者构建智能虚拟帮手、生产力使用、内容创造东西和文娱等用例。这些由骁龙赋能的全新终端侧AI体会,可在没有网络连接的区域、乃至是飞翔形式下作业。

高通技能公司高档副总裁兼技能、规划和边际解决方案事务总经理马德嘉表明:“咱们非常欣赏Meta关于AI技能采纳的敞开且担任的战略。高通技能公司致力于推进立异,经过将生成式AI引进终端侧,将为各种规划的开发者下降开发门槛。为了将生成式AI有效地规划化扩展至干流商场,AI需求一起在云端和边际终端上运转,比方智能手机、笔记本电脑、轿车和物联网终端。”

高通技能公司方案从2024年起,在搭载骁龙渠道的终端上支撑根据Llama 2的AI布置。现在开发者能够开始使用高通AI软件栈面向终端侧AI进行使用优化。高通AI软件栈是一套支撑在骁龙渠道上更高效处理AI的专用东西,让轻浮的小型终端也能支撑终端侧AI。

返回资讯列表