“洛犀”端云协同AI平台发布,将加速大模型赋能应用-600学习网
600学习网终身会员188,所有资源无秘无压缩-购买会员
[文章简介]
罗西平台计划在未来向开发者开放,以加速大.小模型共同进化时代的到来。
1月24日,阿里巴巴达摩学院.上海浙江大学高级研究院和上海人工智能实验室联合发布了”罗西”端云协作平台。该平台为终端云协同模型提供一站式培训.部署和通信能力,致力于推动大.小模型的协同进化,构建充分利用大模型应用潜力的新一代人工智能系统。
人工智能大模型将在2021爆发,但能耗问题将限制其参数扩展和应用。
2022年达摩研究所的十大科技趋势指出,大模型参数竞争正进入平静期,大模型和小模型将在云的边缘共同进化-大模型在边缘和末端向小模型输出模型能力,小模型负责实际推理和实现,而小模型将算法和实现结果反馈给大模型,从而使大模型的能力不断增强。
罗西平台将算法组件和最佳实践的平台服务沉淀在端云两侧。其中,平台在端端以python/js包的形式提供服务,包括表示.文本理解.图形计算等功能;在端云链路上,平台提供实现端云协作的关键通信能力,包括方案分发和数据通信链路;终端云协作的模型培训在云中积累,包括终端模型培训。
达摩学院的大模型M6包含10万亿个参数。通过罗西平台技术,联合研究团队成功地将3.4亿参数的M6模型压缩到10 MB大小,数百万参数,以1/30的体积恢复了90%以上的性能,并将其部署到搜索场景中,成为业界首个端到端预训练模型落地。此外,在罗Xi的帮助下,团队还完成了图神经网络.排序模型.强化学习等技术在端云协作范式中的部署。
达摩研究所智能计算实验室主任周敬仁表示,该团队将进一步探索端云协作框架的低端模型与云模型的协作机制,并改进算法方案和业务实践。罗西平台计划在未来向开发者开放,以加速大.小模型共同进化时代的到来。
<img src/>
这篇文章是袁敬明的一篇原创文章。通用域名格式。
600学习网 » “洛犀”端云协同AI平台发布,将加速大模型赋能应用-600学习网