OPPO联合联发科技共建大模型端侧化部署方案,基于AndesGPT的新小布将开启新一轮公测

责任编辑:王鹤迦 2023.10.11 11:37 来源:通信世界全媒体

通信世界网消息(CWW)10月11日,OPPO宣布与联发科技合作共建轻量化大模型端侧部署方案,通过采用4位量化技术,实现精度不掉点效果下端侧化性能更优,共同推动AndesGPT大语言模型和多模态大模型在端侧逐步落地。

image.png

AndesGPT作为OPPO自主训练的生成式用户专属大模型。该模型以“端云协同”为基础架构设计思路,推出从10亿至千亿多种不同参数规模的模型规格,实现在本地与云端协同运作的效果。

AndesGPT对大模型端侧推理引擎进行算子融合与优化,使得结果生成速度大于人类正常阅读速度,从而能更好满足用户需求。目前,AndesGPT已经入选C-Eval全球中文榜单,并以79.9高分登该榜榜首。

image.png

同日,基于AndesGPT大模型打造的全新小布助手开启新一轮公测,全新小布助手对传统语音助手进行内核级升级,为用户带来更智能的体验。在知识与问答方面,通过引入高质量的知识图谱、QA问答数,并结合对预训练和指令精调技术的优化,显著提升了大语言模型知识与百科能力的覆盖面和准确性。

今年9月,AndesGPT登上SuperCLUE榜单,在十大基础能力排行榜的“知识与百科”能力测试中得到98.33的高分,大幅度领先其他大模型,仅次于GPT4排名国内第一,并在“角色扮演能力”测试中排名前三。

image.png

1696995478394060239.png

自2020年起,OPPO已启动AI大模型相关技术的探索与实践,曾获得大规模知识图谱问答KgCLUE行业评测的第一名,中文自然语言理解CLUE第一名。未来,AndesGPT将持续加持OPPO智能助手小布的AI能力,为用户带来更好的使用体验,并逐步应用于更多OPPO核心产品中。

11月16日,ColorOS 14将于OPPO开发者大会中亮相,AndesGPT更多元化的应用场景或将同步发布,敬请期待。


通信世界网版权及免责声明:
1、凡本网注明“来源:通信世界全媒体”及标有原创的所有作品,版权均属于通信世界网。未经允许禁止转载、摘编及镜像,违者必究。对于经过授权可以转载我方内容的单位,也必须保持转载文章、图像、音视频的完整性,并完整标注作者信息和本站来源。
2、凡本网注明“来源:XXX(非通信世界网)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。
3、如因作品内容、版权和其它问题需要同本网联系的,请在相关作品刊发之日起30日内进行。
发表评论请先登录
...
热点文章
    暂无内容