1、小脑模型神经网络（CMAC）PART 01 PART 02 PART 03 PART 04 CMAC网络的基本思想 CMAC网络的结构模型与工作原理 仿真示例 总结 目录 0101 CMAC网络的基本思想 肌肉、四肢、关节、皮肤 感受信息 反馈信息 记忆 存储器 控制信号 驱动 联想 有差异 调整 1975，J.S.Albus 小脑模型神经网络（CMAC-Cerebellar Model Articulation Controller）局部逼近神经网络：网络输入空间的某个局部区域只有少数几个连接权影响网络输出 0202 CMAC网络的结构模型与工作原理 输入空间 U由所有可能的输入向量 Ui
2、组成,虚拟联想空间Ac是一个虚拟的空间，不占用物理存储，CMAC网络将其接受到的任何输入,映射到联想存储器 Ac中的 c个单元。物理存储空间Ap中存储着网络的权值参数，Ac中的c个单元在物理存储空间Ap中找到对应的权值参数，做求和得到最终的网络输出。重点：两个映射 第一次映射：U-Ac 第二次映射：Ac-Ap 0202 CMAC网络的结构模型与工作原理 从输入空间U至虚拟存储器AC的映射 n维输入向量：Tnppppuuu,21u upu u量化（离散化）：RuuuuppppcpTSsss()(),(),()12映射至AC的c个存储单元：sjcjp(),u112 映射 映射法则可以根据实际情况选
3、取，只需要满足一下规则即可。输入空间邻近两点（一点为一个n维输入向量），在Ac中有b个重叠单元被激励。距离越近，重叠越多；距离远的点，在Ac中不重叠 0202 CMAC网络的结构模型与工作原理 量化 一般来说，实际应用时输入向量的各分量来自不同的传感器，其值多为模拟量，而Ac中每个元素只取0或1两种值。为使输入空间的点映射到虚拟联想空间Ac的离散点，必须先将模拟量U量化，使其成为输入空间的离散点。量化等级 设输入向量U在量化的过程中，每一个分量可被量化成个等级，则个分量可组合为个输入状态。每一种状态对应于Ac中的c个存储单元，相邻输入在Ac中有b个单元重复，故Ac中存储单元的总数为+(1)()
4、。0202 CMAC网络的结构模型与工作原理 例.量化等级100，输入有10个分量，每一状态对应Ac中的6个存储单元，相邻输入在Ac中有5个单元重复，Ac与与Ap一一对应一一对应。实际物理存储空间Ap有6+(10010 1）个存储单元。但实际的学习问题并不会包括所有的学习空间的状态。哈希映射 哈希映射是压缩稀疏矩阵的一个常用技术。当在一个大的存储区域稀疏地存储一些数据时，可以通过哈希映射将其压缩到小的存储位置 例：除留余数法：yf(x)xk (k决定了压缩率)0202 CMAC网络的结构模型与工作原理 实际映射 AcAp 这个过程最简单的实现方法就是线性一一映射。输出：pTpcjPjjpswy
5、w wR Ru u1)(其中 TcjpwwwwW,21代入 1)(pjsu uywpjjc1可得：jwRuuuuppppcpTSsss()(),(),()12()1,1,2,jpsjcu u0202 CMAC网络的结构模型与工作原理 权值调整 给定输入/输出样本对：权值调整指标：)()()(tytdtepp 误差平均分配：()()()()ppjd ty te tw tcc)(1)-(t(t)twwwjjj0202 CMAC网络的结构模型与工作原理 权值调整 经过数次迭代后，最初的存储单元已经包含了一些先前学习的知识。每一个存储单元学习的历史不同，所以这些存储单元也不应有相同的可信度。无视这些差
6、异，所有被激活的存储单元都获得相同的校正误差，那么那些由未学习状态产生的误差将对先前学习的信息产生“腐蚀”。=()+11()+11=1（）基于信度分配的基于信度分配的CMAC（CA-CMAC）神经网络神经网络()是第个存储单元的学习次数，是某状态激活的存储单元数。0303 仿真实例 用CMAC逼近sin函数 采用一维输入一维输出结构的CMAC逼近sin 采用c=6，邻近两点重叠单元b=5 采用线性化函数实现U-Ac的虚拟映射 s(k)=round(u(k)-xmin)/(xmax-xmin)*M)采用一一映射的方式实现Ac-Ap的实际映射 输入训练样本：train_in=0:36:324共10个样本 0303 仿真实例 量化等级：40 训练样本个数：10 学习率：1 0303 仿真实例 0303 仿真实例 0303 仿真实例 0303 仿真实例 0303 仿真实例 0303 仿真实例 0404 总结 网络非线性：CMAC的每个神经元的输入输出是一种线性关系，但其总体上可看做一种表达非线性映射的表格系统。学习速度快：每次修正的权值少，在保证函数非线性逼近性能的前提下，学习速度快，适合于实时控制；局部泛化能力：相近输入产生相近输出，不同输入给出不同输出，避免了BP网络的局部最优问题；谢谢