涌现--AI大模型的“神秘能力”，“通用智能(AGI)”的大门打开了？-当前消息
(相关资料图)
“涌现(emergence)”或称创发、突现、呈展、演生，是一种现象，为许多小实体交互作用后产生了大实体，而这个大实体展现了组成它的小实体所不具有的特性。
涌现在宏观尺度上，一个很好的例子是距今5.41亿年前的寒武纪时期，生命“爆发式”出现——几乎所有门类的现生动物祖先分子在很短的时间里涌现出来。
科学家针对这个现象提出了各种解释，例如氧气的增加，动物进化出坚硬的壳等，也许没有一个单一原因可以解释这样的现象，是这些细小的原因聚在一起，让生命在这个宇宙中不起眼的星球上爆发。在微观尺度上，H2O分子的聚集可以是水，可以是冰块，但是在一种特定的条件下，水分子的聚集形成了形状各异的雪花，而这些形状的创意的规则和精妙就是一种物理上的涌现。
对于AI的涌现，2022年发表在《Transactions on Machine Learning Research》上的一篇题为“Emergent Abilities of Large Language Models”文章 中给出了这样的定义：如果一种能力在较小的模型中不存在，但在较大的模型中存在，那么这种能力就是涌现的。
这种涌现的能力在大模型参数达到某个关键的规模阈值，才会出现。这种模型效果质的变化也被称为相变——整体行为的戏剧性变化，而这一变化是通过研究无法预见的。
涌现，在一定程度上是失控的。如果是文思/创意灵感的迸发，那么这样的涌现是有益的，但是OpenAI在GPT-4的论文中也提到“潜在的有风险的涌现行为”。作者在文章中例举了一些潜在隐患，例如它能够说服人类通过短信为它成功解决验证码的问题。
OpenAI尚不能解释这些AI涌现出的“思维”，GPT-4的论文中也提到将很快发布关于AI系统的社会和经济影响的其它思考，包括有效监管的必要性。总之，事情似乎开始变得复杂、有趣还有一丝危险。
标签：
