阿里巴巴有什么科技,阿里巴巴有什么高科技技术

首页 > 生活 > 作者:YD1662024-11-29 00:08:24

然而,同样随着模型规模扩大的是训练对资源消耗越来大,而参数数量增加所带来的性能提升与消耗提升不成比例。

大模型确实带来了非常惊艳的表现,但也有研究开始对「模型参数越多,性能也越好」是否始终成立提出了质疑。

例如,谷歌的研究人员开发了一个参数量远小于GPT-3的模型——微调语言网络(fine-tuned language net, FLAN),这个1370亿个参数的模型在许多有难度的基准测试中性能都大幅超过GPT-3。

阿里巴巴有什么科技,阿里巴巴有什么高科技技术(13)

阿里达摩院认为,接下来大模型的参数规模发展将进入冷静期,大模型与相关联的小模型协同将是未来的发展方向。

其中,大模型沉淀的知识与认知推理能力向小模型输出,小模型基于大模型的基础叠加垂直场景的感知、认知、决策、执行能力,再将执行与学习的结果反馈给大模型,让大模型的知识与能力持续进化,形成一套有机循环的智能系统。参与者越多,模型进化的速度也越快。

阿里巴巴有什么科技,阿里巴巴有什么高科技技术(14)

而这样的一种新的智能体系,将会带来三点优势:

1. 让小模型更容易获取通用的知识与能力,小模型专注在特定场景做极致优化,提升了性能与效率;

2. 解决了过去大模型数据集过于单一的问题,小模型在真实场景回收的增量数据,让大模型有再进化的元素;

3. 全社会不需要重复训练相似的大模型,模型可以被共享,让算力与能源的使用效率最大化。

对此,南京大学计算机科学与技术系主任兼人工智能学院院长周志华也提出了自己的观点:

大模型未来会在一些重大任务上发挥作用,而在其他一些场景下或许会通过类似集成学习的手段来利用小模型,尤其是通过很少量训练来「复用」和集成已有的小模型来达到不错的性能。

阿里达摩院预测在未来的三年内,个别领域将以大规模预训练模型为基础,对协同进化的智能系统进行试点探索。

在未来的五年内,协同进化的智能系统将成为体系标准,让全社会能够容易地获取并贡献智能系统的能力,往通用人工智能再迈进一步。

XR,下一代互联网

就像《黑客帝国》所描绘情景,未来的虚拟世界是否是矩阵模拟中的那样,这是未知的。

拉近点距离,我们如何才能进入这个虚拟世界才是最重要的一步。

阿里巴巴有什么科技,阿里巴巴有什么高科技技术(15)

这里就不得不提,头号玩家中那副眼镜或许是打开新世界的大门。

未来,眼镜有望成为新的人机交互界面,推动形成有别于平面互联网的XR(未来虚实融合)互联网。

XR互联网将改变用户的信息感知和获取方式,最大的特征是由二维平面走向三维立体的沉浸式体验,信息会以自然的方式被获取,让用户所见即所得。

阿里达摩院预计未来3年内会产生新一代的XR眼镜,融合AR与VR的技术,成为下一代互联网的关键入口。

据报道,苹果明年预计会推出首款AR/MR头显,将配备3D传感器,能够实现手眼动作全追踪。

阿里巴巴有什么科技,阿里巴巴有什么高科技技术(16)

上一页12345下一页

栏目热文

文档排行

本站推荐

Copyright © 2018 - 2021 www.yd166.com., All Rights Reserved.