MLP · 多层感知

多层感知：认出“这是哪类问题”

MLP 不搬信息。它是模式识别器：认出当前内容命中了哪个已学会的知识模块，然后把信息流引过去。

关键点

识别｜判断内容触发了哪种已学会的模式
模块｜动物常识、语言学知识、数学计算、多选判断……
引流｜信息流转向对应领域，相关词被激活

← 上一节 · 03

自注意力：把前文的信息搬回来

下一节 · 05 →

J-透镜：从结果反推“谁贡献了力量”