将历史的输出经过一个精心设计的非线性函数的处理然后反馈回来，由于反馈运
」
的那个未知系统，在任意相同输入的时候，都得到相同的结果，那幺作为观察者
事实上，这是可以用自然语言描述的：一个内部越复杂的系统，它就能展现
这样经过足够次数的学习，系统会越来越复杂，但学习的结果会越来越逼近
我们需要学习的系统。
实验。我们把思绪拉远一点，如果输入是汉语，输出是英文，如果系统的神经网
导师无表情的微微点头。
前馈没有反馈的神经网络。我们用一个称为「字典」
己喜爱的科研，每年还保持着自己写几篇高质量论文的习惯。
小逗比胡为衣稀里煳涂的溷到了研究生毕业，成长为了大逗比，然后跟一位
「传统的核自适应滤波器是这样的一个结构：滤波器的内部结构是一个只有
美学意义；在自适应步长的推导上，我借用了一个源自ＭＩＴ的推导思路，其基
在每次学习中，都要算出当前我们所构造的系统的输出与目标系统的输出之
和无限复杂性的。
用的函数与前馈的核函数的内在联系，具有这样特殊反馈结构的系统呈现对称的
出，那幺我们学习得到的系统就能消除噪声；同样，回声消除等等其他应用也可
内部的复杂结构。对于观察者而言，它就是一个黑匣子。但我们人类是如此的聪
想和事物。
作为已经功成名就的学术界名宿，这位令人尊敬的院长为了学院的发展和自
，我们就认为这两个系统是一样的。核自适应滤波器就是我认为能完成对复杂系
线性函数进行回归拟合，对溷沌时间序列进行预测，上述这两个是很常见的彷真
导师在动力学系统和溷沌控制领域造诣很深，人也很好，奈何胡为衣逗比属
胡为衣的导师是他们学院的院长，学院刚建立两年，正是需要大量高质量论
明，有很多方法可以在只知道输入和输出的情况下对这个未知系统进行学习，即
络的结构足够科学，系统学习得足够久，成长得足够复杂，很可能这种翻译系统
也是可以实现的。当然我要做的并不是这个，我只是随口一说。」
收之后，自然而然的分解为更细小和精致的单元，然后自动的重组成新的思
导师把头埋到了两手之间，彷佛在睡觉。
越多精细深微的细节，以及更真实的对现实的表现力，因为现实是具有无限细节
性结果的老路，别人在构造李雅普诺夫函数他却在看机器学习的论文，别人在研
，得到输出。
究时滞神经网络他在幻想寻找一个优秀而新颖的核函数来将低维数据映射到高维
「如果我们把有噪声的信号当做系统的输入，把没有噪声的原始信号当做输
西无法遏止的宣泄出来，填满到他四周广阔的空白中去。
文的时候，但导师很温柔，一直都没有责怪他，这让他心里软软的。
维数据映射到高维的时候提升对复杂系统的学习能力；加入了一个反馈结构，它
性爆发，就是直觉的认为用传统方法研究动力系统的稳定性是一条难以产生突破
值的数量也会变多，前向反馈神经网络也会越来越复杂。
思路。
以通过巧妙的设置输入输出来实现。更普遍一点的，核自适应滤波器还可以对非
在国内学术界享有盛誉的教授继续攻读博士。
构造一个功能十分逼近这个黑匣子的系统。如果我们构造得到的系统与自然界中
日常生活中所接触到的一切新鲜事物和新奇的知识点都会在被他的小脑瓜吸
统的学习的一个很有潜力的方法。」
导师无表情的微微点头。
数的处理，分别得到字典每个维度上的核函数的值，再分别乘以每个维度的权值
本
导师坐在桌子后面，大逗比胡为衣站着开始演讲。
几缕白发跳了跳。
「我这一年做了如下的事情：设计了一个新的核函数，能卓有成效的在将低
间误差，然后运用梯度下降法来减少误差，即让权值自适应的调整。
的向量来存储历次的输入，随着学习的进行，字典的维度即厚度会增加，权
，直到导师暗示他再这样晃荡下去会毕不了业的时候，他才向导师说出了自己的
这时胡为衣看到了他脑后的白发，阳光照在上面有些刺眼。
每次得到新的学习数据，都要将新的输入数据与字典向量一起经过一个核函
「世界上存在着很多这样的系统：我们只知道它的输入和输出，而不知道其