- 内容详情
-
谷歌发现大模型“领悟”现象:训练久了AI突然顿悟
时间：2023-08-13 15:38:56 作者： 来源：量子位
导读：京港台：2023-8-13 10:01 哪怕只有几十个神经元，AI也能出现泛化能力！ 这是几个谷歌科学家在搞正经研究时，“不经意间”发现的新成果。 他们给一些很简单的AI模型“照了个X光”——将它们的训练过程可视化后，发现了有意思的现象： 随着训练时间增加，..京港台：2023-8-13 10:01
哪怕只有几十个神经元，AI也能出现泛化能力！
这是几个谷歌科学家在搞正经研究时，“不经意间”发现的新成果。
他们给一些很简单的AI模型“照了个X光”——将它们的训练过程可视化后，发现了有意思的现象：
随着训练时间增加，一些AI会从“死记硬背”的状态中脱离出来，进化出“领悟力”（grokking），对没见过的数据表现出概括能力。
这正是AI掌握泛化能力的关键。
基于此，几位科学家专门写了个博客，探讨了其中的原理，并表示他们会继续研究，试图弄清楚大模型突然出现强理解力的真正原因。
一起来看看。
并非所有AI都能学会“领悟”
科学家们先探讨了AI出现“领悟力”（grokking）的过程和契机，发现了两个现象：
一、虽然训练时loss会突然下降，但“领悟”并不是突然发生的，它是一个平滑的变化过程。
二、并非所有AI都能学会“领悟”。
先来看第一个结论。他们设计了一个单层MLP，训练它完成“数奇数”任务。
“数奇数”任务，指识别一串长达30位“0”“1”序列中的前3位是否有奇数个“1”。例如，在
000110010110001010111001001011中，前3位没有奇数个1；010110010110001010111001001011中，前3位有奇数个1。
在训练前期阶段，模型中各神经元的权重（下图中的热图）是杂乱无章的，因为AI不知道完成这一任务只需要看前3个数字。
但经过一段时间的训练后，AI突然“领悟了”，学会了只看序列中的前3个数字。具体到模型中，表现为只剩下几个权重会随着输入发生变化：
这个训练过程的目标被称之为最小化损失（提升模型输出准确率），采用的技术则被称之为权重衰减（防止模型过拟合）。
训练过程中，有一些权重与任务的“干扰数字”（30位序列的后27位）相关，下图可视化为灰色；有一些则与完成任务的“前3位数字”有关，下图可视化为绿色。
当最后一个灰色权重降到接近0，模型就会出现“领悟力”，显然这个过程不是突然发生的。
再来看第二个结论。不是所有AI模型都能学会“领悟”。
科学家们训练了1125个模型，其中模型之间的超参数不同，每组超参数训练9个模型。
最后归纳出4类模型，只有2类模型会出现“领悟力”。
如下图，“白色”和“灰色”代表学不会“领悟”的AI模型，“黄色”和“蓝色”代表能“领悟”的AI模型。
总结概括规律就是，一旦权重衰减、模型大小、数据量和超参数的设置不合适，AI的“领悟力”就有可能消失——
以权重衰减为例。如果权重衰减太小，会导致模型过拟合；权重衰减太大，又会导致模型学不到任何东西。
嗯，调参是门技术活……
了解现象之后，还需要探明背后的原因。
接下来，科学家们又设计了两个小AI模型，用它来探索模型出现“领悟力”、最终掌握泛化能力出现的机制。
更大的模型学会泛化的机制
科学家们分别设计了一个24个神经元的单层MLP和一个5个神经元的单层MLP，训练它们学会做模加法（modular addition）任务。
模加法，指(a + b) mod n。输入整数a和b，用它们的和减去模数n，直到获得一个比n小的整数，确保输出位于0~(n-1)之间。
显然，这个任务的输出是周期性的，答案一定位于0~66之间。
首先，给只有5个神经元的单层MLP一点“提示”，设置权重时就加入周期性（sin、cos函数）。
在人为帮助下，模型在训练时拟合得很好，很快学会了模加法。
然后，试着“从头训练”具有24个神经元的单层MLP，不特别设置任何权重。
可以看到，训练前期，这只MLP模型的权重（下面的热图）变化还是杂乱无章的：
然而到达某个训练阶段后，模型权重变化会变得非常规律，甚至随着输入改变，呈现出某种周期性变化：
如果将单个神经元的权重拎出来看，随着训练步数的增加，这种变化更加明显：
这也是AI从死记硬背转变为具有泛化能力的关键现象：神经元权重随着输入出现周期性变化，意味着模型自己找到并学会了某种数学结构（sin、cos函数）。
这里面的频率（freq）不是固定的一个值，而是有好几个。
之所以会用到多个频率（freq），是因为24个神经元的单层MLP还自己学会了使用相长干涉（constructive interference），避免出现过拟合的情况。
不同的频率组合，都能达到让AI“领悟”的效果：
用离散傅里叶变换（DFT）对频率进行隔离，可以发现和“数奇数”类似的现象，核心只有几个权重起作用：
总结来看，就像前面提到的“数奇数”任务一样，“模加法”实验表明，参数量更大的AI也能在这个任务中学会“领悟”，而这个过程同样用到了权重衰减。
从5个神经元到24个神经元，科学家们成功探索了更大的AI能学习“领悟”的机制。
接下来，他们还计划将这种思路套用到更大的模型中，以至于最后能归纳出大模型具备强理解力的原因。
不仅如此，这一成果还有助于自动发现神经网络学习算法，最终让AI自己设计AI。
团队介绍
撰写博客的作者来自谷歌的People + AI Research（PAIR）团队。
这是谷歌的一个多学科团队，致力于通过基础研究、构建工具、创建框架等方法，来研究AI的公平性、可靠性等。
一句话总结就是，让“AI更好地造福于人”。
关键词：
- 最新发布
- 12-01冬日盛典 - 加中地产投资总商会成
- 11-28共慶合作 共同前行 “色彩醫學美�
- 11-23多伦多市长邹至蕙：安全投资成效
- 11-23加拿大魅力先生崔航劍指國際舞臺
- 11-20万锦社区信息日成功举办 市民踊
- 10-31“魅力河北”走进加拿大文旅推介
- 10-28加拿大福建联谊会隆重举办十五周
- 10-24千位乡亲齐聚多伦多 共同庆贺恩平
- 10-15匈牙利作家克拉斯诺霍尔卡伊·拉
- 10-15《我们能知道什么》：麦克尤恩的
- 推荐下载
- 01-30福特+霍普金斯加盟《官方秘密》
- 01-30有望破20亿？《功夫熊猫3》合家欢
- 01-30奥巴马谈纯白奥斯卡 电影应效仿其
- 01-30门脇麦主演《二重生活》 搭档长�
- 01-30《碟中谍5》长腿美女演新科幻片
- 01-30《拆弹部队》奥斯卡女导演新片拍
- 01-30国家大剧院春节贺岁好戏连台 艺术
- 01-30大型现代评剧《赶考》唱响全国政
- 01-30全国优秀中青年演员汇报演出 汉剧
- 01-30全国优秀中青年演员汇报演出 汉剧
- 最热下载
- 08-26宾馆的图片及影像
- 04-29文本的力量：一出戏的诞生
- 12-17大雅文化国际 2019海外华人诗歌春
- 02-19姜涛
- 08-02罗大军[中]
- 10-27戴锦华：“大众”文化折射中国社
- 02-11第一届海外华人诗歌春晚在多伦多
- 04-232019第四届中加国际电影节剧本大
- 03-20虹影[英]
- 06-26耿聃皓
