人工神经网络8ART神经网络

《人工神经网络8ART神经网络》由会员分享，可在线阅读，更多相关《人工神经网络8ART神经网络（53页珍藏版）》请在装配图网上搜索。

1、武 汉 科 技 大 学 1 人 工 神 经 网 络(Artifical Neural Network)张 凯 副 教 授武 汉 科 技 大 学 计 算 机 学 院 2 要 点 简 介 1. 研 究 背 景2. 学 习 规 则3. ART神 经 网 络 结 构4. ART神 经 网 络 学 习 规 则 研 究 背 景 1969年 ， 美 国 学 者 格 诺 斯 博 格 (Grossberg)和 卡 普 特尔 (Carperter)提 出 了 自 适 应 共 振 理 论 (ART)模 型 。 研 究 背 景 ART是 一 种 自 组 织 神 经 网 络 结 构 ， 是 无 教 师 的 学习 网 络

2、 。 当 在 神 经 网 络 和 环 境 有 交 互 作 用 时 ， 对环 境 信 息 的 编 码 会 自 发 地 在 神 经 网 中 产 生 ， 则 认为 神 经 网 络 在 进 行 自 组 织 活 动 。 ART就 是 这 样 一种 能 自 组 织 地 产 生 对 环 境 认 识 编 码 的 神 经 网 络 理论 模 型 。 研 究 背 景 ART模 型 是 基 于 下 列 问 题 的 求 解 而 提 出 的 ： 1.对 于 一 个 学 习 系 统 ， 要 求 它 有 适 应 性 及 稳 定 性 ，适 应 性 可 以 响 应 重 要 事 件 ， 稳 定 性 可 以 存 储 重 要事 件 。

3、 这 种 系 统 的 设 计 问 题 。 2.学 习 时 ， 原 有 的 信 息 和 新 信 息 如 何 处 理 ， 保 留 有用 知 识 ， 接 纳 新 知 识 的 关 系 如 何 及 解 决 的 问 题 。 3.对 外 界 信 息 与 原 存 储 的 信 息 结 合 并 决 策 的 问 题 。 研 究 背 景 Grossberg一 直 对 人 类 的 心 理 和 认 识 活 动 感 兴 趣 ，他 长 期 埋 头 于 这 方 面 的 研 究 并 希 望 用 数 学 来 刻 划人 类 这 项 活 动 ， 建 立 人 类 的 心 理 和 认 知 活 动 的 一种 统 一 的 数 学 模 型 和

4、理 论 。 ART就 是 由 这 种 理 论的 核 心 内 容 并 经 过 提 高 发 展 然 后 得 出 的 。 研 究 背 景 目 前 ， ART理 论 已 提 出 了 三 种 模 型 结 构 ， 即 ART1， ART2， ART3。 ART1用 于 处 理 二 进 制 输 入 的 信 息 ； ART2用 于 处 理 二 进 制 和 模 拟 信 息 这 两 种 输 人 ； ART3用 于 进 行 分 级 搜 索 。 ART理 论 可 以 用 于 语 音 、 视 觉 、 嗅 觉 和 字 符 识 别等 领 域 。 ART模 型 的 结 构 ART模 型 来 源 于 Helmboltz无 意

5、识 推 理 学 说 的 竞 争学 习 网 络 交 互 模 型 。 这 个 模 型 如 图 所 示 。 竞 争 层输 入 层 ART模 型 的 结 构 从 图 中 看 出 这 个 模 型 由 两 个 竞 争 学 习 模 型 组 成 。 无 意识 推 理 学 说 认 为 ： 原 始 的 感 觉 信 息 通 过 经 历 过 的 学 习 过程 不 断 修 改 ， 直 到 成 为 一 个 真 实 的 感 知 结 果 为 止 。 在 图中 竞 争 学 习 网 络 交 互 模 型 可 以 看 出 ； 环 境 输 入 信 号 和 自上 而 下 学 习 期 望 同 时 对 竞 争 学 习 网 络 1执 行 输

6、入 ； 而 自 下而 上 学 习 是 竞 争 学 习 网 络 1的 输 出 ； 同 时 ， 自 下 而 上 学 习是 竞 争 学 习 网 络 2的 输 人 而 自 上 而 下 学 习 期 望 则 是 其 输出 。 真 实 感 知 是 通 过 这 个 竞 争 学 习 网 络 的 学 习 和 匹 配 产生 的 。 研 究 背 景 环 境 输 人 信 号 对 自 上 而 下 学 习 期 望 进 行 触 发 ， 使竞 争 学 习 网 络 1产 生 自 下 而 上 学 习 的 输 出 。 这 种 输出 送 到 竞 争 学 习 网 络 2， 则 产 生 自 上 而 下 学 习 期 望输 出 ， 并 送 回

7、 竞 争 学 习 网 络 1。 这 个 过 程 很 明 显 是自 上 而 下 学 习 和 自 下 而 上 学 习 的 过 程 ， 并 且 这 个过 程 中 不 断 吸 收 环 境 输 人 信 息 。 经 过 竞 争 学 习 网络 的 匹 配 ， 最 终 取 得 一 致 的 结 果 ； 这 也 就 是 最 终感 知 或 谐 振 感 知 。 研 究 背 景 竞 争 学 习 网 络 交 互 作 用 有 下 列 基 本 要 求 ： 第 一 ， 交 互 作 用 是 非 局 域 性 的 ； 第 二 ， 交 互 作 用 是 非 线 性 的 ； 第 三 ， 自 上 而 下 的 期 望 学 习 是 非 平 稳

8、随 机 过 程 。 1 1n iji w 1, , 1,2,., ,0, j ki s s k m j ky others 1 ( )iij ijij ij ijn ii xw wNw w wN x 研 究 背 景 1 ( )iij ijij ij ijn ii xw wNw w wN x 1 1 11( ) (1 1) 0n n nij i iji i iw x wN 研 究 背 景 有 一 个 竞 争 型 神 经 网 络 ， 输 入 有 3个 节 点 ， 竞 争 层有 2个 节 点 。 网 络 4个 学 习 模 式 为 X 1=(1,0,1)T，X 2=(1,0,0)T ， X 3=(0,

9、1,0)T， X 4=(0,1,1)T ， 通 过 训 练 将 模式 划 分 为 2类 。 研 究 背 景 研 究 背 景 t =1 X 1=(1,0,1)T竞 争 层 各 个 神 经 元 的 净 输 入 为 s1=w11x1+w21x2+w31x3=0.2 1+0.4 0+0.4 1=0.6 s2=w12x1+w22x2+w32x3=0.3 1+0.3 0+0.4 1=0.7竞 争 层 各 个 神 经 元 的 输 出 为 y1=0, y2=1调 整 后 连 接 权 值 为 w 12=0.3+0.5 (1/2-0.3)=0.4 w22=0.3+0.5 (0/2-0.3)=0.15 w32=0.

10、4+0.5 (1/2-0.4)=0.45 研 究 背 景 研 究 背 景 t =2 X 2=(1,0,0)T竞 争 层 各 个 神 经 元 的 净 输 入 为 s1=w11x1+w21x2+w31x3=0.2 1+0.4 0+0.4 0=0.2 s2=w12x1+w22x2+w32x3=0.4 1+0.15 0+0.45 0=0.4竞 争 层 各 个 神 经 元 的 输 出 为 y1=0, y2=1调 整 后 连 接 权 值 为 w 12=0.4+0.5 (1-0.4)=0.7 w22=0.15+0.5 (0-0.15)=0.075 w32=0.45+0.5 (0-0.45)=0.225 研

11、究 背 景 研 究 背 景 t =3 X 3=(0,1,0)T竞 争 层 各 个 神 经 元 的 净 输 入 为 s1=w11x1+w21x2+w31x3=0.2 0+0.4 1+0.4 0=0.4 s2=w12x1+w22x2+w32x3=0.7 0+0.075 1+0.225 0=0.075竞 争 层 各 个 神 经 元 的 输 出 为 y1=1, y2=0调 整 后 连 接 权 值 为 w 11=0.2+0.5 (0-0.2)=0.1 w21=0.4+0.5 (1-0.4)=0.7 w31=0.4+0.5 (0-0.4)=0.2 研 究 背 景 研 究 背 景 t =4 X 4=(0,1

12、,1)T 竞 争 层 各 个 神 经 元 的 净 输 入 为 s1=w11x1+w21x2+w31x3=0.1 0+0.7 1+0.2 1=0.9 s2=w12x1+w22x2+w32x3=0.7 0+0.075 1+0.225 1=0.3竞 争 层 各 个 神 经 元 的 输 出 为 y1=1, y2=0调 整 后 连 接 权 值 为 w 11=0.1+0.5 (0/2-0.1)=0.05 w21=0.7+0.5 (1/2-0.7)=0.6 w31=0.2+0.5 (1/2-0.2)=0.35 研 究 背 景 研 究 背 景按 照 上 述 过 程 多 次 学 习 ， 网 络 会 得 到 分

13、类X 1=(1,0,1)T，X 2=(1,0,0)T，X 3=(0,1,0)T， X 4=(0,1,1)TA类B类 研 究 背 景 受 到 竞 争 学 习 网 络 交 互 模 型 的 启 发 Grossberg提出 了 ART理 论 模 型 。 他 认 为 对 网 络 的 自 适 应 行 为进 行 分 析 ， 可 以 建 立 连 续 非 线 性 网 络 模 型 ， 这 种网 络 可 以 由 短 期 存 储 STM和 长 期 存 储 LTM作 用 所实 现 。 STM是 指 神 经 元 的 激 活 值 即 末 由 s函 数 处理 的 输 出 值 ， LTM是 指 权 系 数 。 研 究 背 景

14、Grossberg所 提 出 的 ART理 论 模 型 有 如 下 一 些 主 要 优 点 ： 1.可 以 进 行 实 时 学 习 ， 能 适 应 非 平 稳 的 环 境 。 2.对 于 已 经 学 习 过 的 对 象 具 有 稳 定 的 快 速 识 别 能 力 ； 同时 ， 亦 能 迅 速 适 应 未 学 习 的 新 对 象 。 3.具 有 自 归 一 能 力 ， 根 据 某 些 特 征 在 全 体 中 所 占 的 比 例， 有 时 作 为 关 键 特 征 ， 有 时 当 作 噪 声 处 理 。 4.不 需 要 预 先 知 道 样 本 结 果 ， 是 无 监 督 学 习 ； 如 果 对 环境

15、 作 出 错 误 反 映 则 自 动 提 高 “ 警 觉 性 ” ， 迅 速 识 别 对 象 。 5.容 量 不 受 输 入 通 道 数 的 限 制 ， 存 储 对 象 也 不 需 正 交 的 ART网 络 学 习 算 法 的 基 本 流 程环境输入模式 与 储 存的 典 型向 量 模式 进 行比 较 神 经 网 络 的连 接 权 值 选 择 最 相 似 的 作 为 该 模 式 的 代 表类 ， 并 调 整 与 该 类 别 相 关 的 权 值 ，以 使 以 后 与 该 模 式 相 似 的 输 入 再与 该 模 式 匹 配 时 能 得 到 更 大 的 相似 度 。相 似 度 的 参 考 门 限

16、需 要 在 网 络 中 设 立 一 个 新 的 模 式类 ， 同 时 建 立 与 该 模 式 类 相 连 的权 值 ， 用 以 代 表 和 存 储 该 模 式 以及 后 来 输 入 的 所 有 同 类 模 式 。 G 2 R 门 限 G 1 C Reset 输 入 X C 比 较 层R 识 别 层Reset 复 位 信 号G1和 G2 逻 辑 控 制信 号ART 型 网 络 系 统 结 构 R 层 t1j tij tnj c 1 ci cn G1 x 1 xI xn (1)C层 结 构 该 层 有 n个 节 点 ， 每 个 节 点 接 受 来 自 3个 方 面 的 信 号 ：来 自 外 界 的

17、 输 入 信 号 xi；来 自 R 层 获 胜 神 经 元 的 外 星 向 量 的 返 回信 号 tij；来 自 G1的 控 制 信 号 。 C 层 节 点 的 输 出 ci是 根 据 2/3的 “ 多 数表 决 ” 原 则 产 生 的 ， 即 输 出 值 c i与 xi、 tij 、G1 3个 信 号 中 的 多 数 信 号 值 相 同 。 G1=1， 反 馈 回 送 信 号 为 0， C层 输 出 应由 输 入 信 号 决 定 ， 有 C=X。 反 馈 回 送 信 号 不 为 0， G1=0， C层 输 出应 取 决 于 输 入 信 号 与 反 馈 信 号 的 比 较 情况 ， ,如 果

18、xi=1， 则 ci=xi。 否 则ci=0。网络系统结构 ijii txc r1 rj rm b11 b1j b1m bn1 bnj bnm b i1bijbim C 层 （ 2） R层 结 构vR层 有 m个 节 点 ， 用 以 表 示 m个 输 入 模 式类 。 m可 动 态 增 长 ， 以 设 立 新 模 式 类 。v由 C层 向 上 连 接 到 R第 j个 节 点 的 内 星 权向 量 用 Bj=（ b1j， b2j， ,bnj） 表 示 。vC层 的 输 出 向 量 C沿 m个 内 星 权 向 量Bj(j=1,2,m)向 前 传 送 ， 到 达 R层 各 个神 经 元 节 点 后

19、经 过 竞 争 再 产 生 获 胜 节 点 j*，指 示 本 次 输 入 模 式 的 所 属 类 别 。v获 胜 节 点 输 出 =1， 其 余 节 点 输 出 为 0。得 到 R层 各 模 式 类 节 点 的 典 型 向 量 。网络系统结构 (3)控 制 信 号 控 制 信 号 G2的 作 用 是 检 测 输 入 模 式 X 是 否 为 0， 它 等 于 X 各 分 量 的逻 辑 “ 或 ” ， 如 果 xi(i =1,2,n)为 全 0， 则 G2=0， 否 则 G2=1。控 制 信 号 G1的 作 用 是 在 网 络 开 始 运 行 时 为 1， 以 使 C=X， 其 后 为 0以使 C

20、 值 由 输 入 模 式 和 反 馈 模 式 的 比 较 结 果 决 定 。 设 R 层 输 出 向 量 各分 量 的 逻 辑 “ 或 ” 用 R0表 示 ， 则 信 号 G1= ， 当 R 层 输 出 向 量 R 的 各 分 量 为 全 0而 输 入 向 量 X不 是 零 向 量 时 ， G1=1， 否 则 G1=0。控 制 信 号 Reset的 作 用 是 使 R层 竞 争 获 胜 神 经 元 无 效 ， 如 果 根 据 某种 事 先 设 定 的 测 量 标 准 ， C与 X未 达 到 预 先 设 定 的 相 似 度 ， 表 明 两者 未 充 分 接 近 ， 于 是 系 统 发 出 Res

21、et信 号 使 竞 争 获 胜 神 经 元 无 效 。02RG网络系统结构 相 似 程 度 可 能 出 现 的 两 种 情 况 ： 相 似 度 超 过 参 考 门 限 选 该 模 式 类 作 为 当 前 输 入 模 式 的 代 表 类 。 权 值 调 整 规则 是 ， 相 似 度 超 过 参 考 门 限 的 模 式 类 调 整 其 相 应 的 内 外星 权 向 量 ， 以 使 其 以 后 遇 到 与 当 前 输 入 模 式 接 近 的 样 本时 能 得 到 更 大 的 相 似 度 ； 对 其 它 权 值 向 量 则 不 做 任 何 变动 。 相 似 度 不 超 过 参 考 门 限 值 需 在

22、网 络 输 出 端 设 立 一 个 代 表 新 模 式 类 的 节 点 ， 用以 代 表 及 存 储 该 模 式 ， 以 便 于 参 加 以 后 的 匹 配 过 程 。网络运行原理 网 络 运 行 原 理 对 于 每 一 个 输 入 ， 模 式 网 络 运 行 过 程 可 归 纳 为 四 个 阶 段 ：(1)匹 配 阶 段 网 络 在 没 有 输 入 之 前 处 于 等 待 状 态 ， 此 时 输 入 端 X 0， 因 此 信号 G2 0， R0=0。 当 输 入 不 全 为 0的 模 式 X 时 ， G2 1， R0=0， 使 得G1=1。 G1为 1时 允 许 输 入 模 式 直 接 从

23、C层 输 出 ， 并 向 前 传 至 R 层 ， 与R 层 节 点 对 应 的 所 有 内 星 向 量 Bj 进 行 匹 配 计 算 ： j=1,2,， m选 择 具 有 最 大 匹 配 度 (即 具 有 最 大 点 积 )的 竞 争 获 胜 节 点 ： 使 获 胜 节 点 输 出 =1， 其 它 节 点 输 出 为 0。 ni iijTjj xbnet 1XB max* jjj netnet *jr网络运行原理 (2)比 较 阶 段 R层 输 出 信 息 通 过 外 星 向 量 返 回 到 C层 。 R 层 获 胜 节 点 所 连 的 外 星 权 向 量 激活 ， 从 节 点 j* 发 出

24、的 n个 权 值 信 号 返 回到 C 层 的 n个 节 点 。 此 时 ， R层 输 出 不 全为 零 ， R0=1， 而 G1=0， 所 以 C层 最 新 输出 状 态 C取 决 于 由 R 层 返 回 的 外 星 权 向量 和 网 络 输 入 模 式 X的 比 较 结 果 ，即 ， ,i=1,2,n。 比 较 结 果 C反 映 了 在 匹配 阶 段 R 层 竞 争 排 名 第 一 的 模 式 类 的 典型 向 量 与 当 前 输 入 模 式 X 的 相 似 程 度 。 相 似 程 度 的 大 小 可 用 相 似 度 N0 反 映 ，定 义 为 ： R 层 t1j tij tnj c 1

25、ci cn G1 x 1 xI xn ni ini iijjT cxtN 110 *tX设 输 入 模 式 样 本 中 的 非零 分 量 数 为 ： ni ixN 11 网络运行原理 iiji xtc * (2)比 较 阶 段 用 于 比 较 的 参 考 门 限 为 ， 在 0 1范 围 取 值 。 检 查 输 入 模 式 与模 式 类 典 型 向 量 之 间 的 相 似 性 是 否 低 于 参 考 门 限 ， 如 果 有N0/N1表 明 X与 获 胜 节 点 对 应 的 类 别 模 式 非 常 接 近 ， 称 X 与 发 生 “ 共 振 ” ，第 一 阶 段 的 匹 配 结 果 有 效 ，

26、网 络 进 入 学 习 阶 段 。 *jT网络运行原理 (3)搜 索 阶 段 网 络 发 出 Reset 重 置 信 号 后 即 进 入 搜 索 阶 段 ， 重 置 信 号 的 作 用是 使 前 面 通 过 竞 争 获 胜 的 神 经 元 受 到 抑 制 ， 并 且 在 后 续 过 程 中 受 到持 续 的 抑 制 ， 直 到 输 入 一 个 新 的 模 式 为 止 。 由 于 R 层 中 的 竞 争 获 胜的 神 经 元 被 抑 制 ， 从 而 再 度 出 现 R0=0， G1=1， 因 此 网 络 又 重 新 回 到起 始 的 匹 配 状 态 。 由 于 上 次 获 胜 的 节 点 受 到

27、 持 续 的 抑 制 ， 此 次 获 胜 的 必 然 是 上 次匹 配 程 度 排 在 第 二 的 节 点 ， 将 该 节 点 对 应 的 外 星 权 向 量 与 输 入 模 式进 行 匹 配 计 算 。 如 果 对 R层 所 有 的 模 式 类 ， 在 比 较 阶 段 的 相 似 度 检查 中 相 似 度 都 不 能 满 足 要 求 ， 说 明 当 前 输 入 模 式 无 类 可 归 ， 需 要 在 网 络 输 出 层 增 加 一 个 节 点 来 代 表 并 存 储 该 模 式 类 ， 为 此 将 其 内 星 向量 设 计 成 当 前 输 入 模 式 向 量 ， 外 星 向 量 各 分 量

28、全 设 为 1。*jB *jT网络运行原理 (4)学 习 阶 段 在 学 习 阶 段 要 对 发 生 共 振 的 获 胜 节 点 对 应 的 模 式 类 加 强 学 习 ，使 以 后 出 现 与 该 模 式 相 似 的 输 入 样 本 时 能 获 得 更 大 的 共 振 。 网络运行原理 训 练 可 按 以 下 步 骤 进 行 ：(1)网 络 初 始 化 从 C 层 向 R 层 的 内 星 权 向 量 Bj 赋 予 相 同的 较 小 数 值 ， 如 从 R 层 到 C 层 的 外 星 权 向 量 Tj 各 分 量 均 赋 1 nbij 1 1)0( mj ni ,.,2,1 ,.,2,11 i

29、jt mj ni ,.,2,1 ,.,2,1 网 络 的 学 习 (2)网 络 接 受 输 入 给 定 一 个 输 入 模 式 ， X (x1,x2,， xn)， xi(0,1)。(3)匹 配 度 计 算 对 R层 所 有 内 星 向 量 Bj计 算 与 输 入 模 式 X的 匹 配 度 ： j=1,2,， m。 ni iijTj xb1XB(4)选 择 最 佳 匹 配 节 点 在 R层 有 效 输 出 节 点 集 合 J*内 选 择 竞 争获 胜 的 最 佳 匹 配 节 点 j*， 使 得 *01 jj jjrj 网 络 的 学 习 (5)相 似 度 计 算 R 层 获 胜 节 点 j*通

30、过 外 星 送 回 获 胜 模 式 类 的 典型 向 量 ， C层 输 出 信 号 给 出 对 向 量 和 X的 比 较 结 果 ， 由 此 结 果 可 计 算出 两 向 量 的 相 似 度 为 ni icN 10 ni ixN 11(6)参 考 门 限 检 验 如 果 N0/N1 ， 表 明 X应归 为 代 表 的 模 式 类 ， 转 向 步 骤 (8)调 整 权 值 。0* jr 网 络 的 学 习 (8)调 整 网 络 权 值 修 改 R层 节 点 j* 对 应 的 权 向 量 ， 网 络 的 学 习 采 用两 种 规 则 ， 外 星 向 量 的 调 整 按 以 下 规 则 : i=1,

31、2,n； j*J*iijij xtttt )()1( * (7)搜 索 匹 配 模 式 类 若 有 效 输 出 节 点 集 合 J*不 为 空 ， 转 向 步 骤 (4)重 选 匹 配 模 式 类 ； 若 J*为 空 集 ， 需 在 R层 增 加 一 个 节 点 。 设 新 增 节 点 的序 号 为 nc， 应 使 ,i=1,2,n,此 时 有 效 输 出 节 点 集 合为 J*=1,2,m,m+1,m+nc,转 向 步 骤 (2)输 入 新 模 式 。1, cc inn tXB ni ijijni iij iijij ttttxttxtttb 11 )1(5.0 )1()(5.0 )()1(

32、 *内 星 向 量 的 调 整 按 以 下 规 则 : i=1,2,n 网 络 的 学 习 非 离 线 学 习 即 不 是 对 输 入 集 样 本 反 复 训 练 后 才 开 始运 行 ， 而 是 边 学 习 边 运 行 实 时 方 式 。 每 次 最 多 只 有 一 个 输 出 节 点 为 l 每 个 输 出 节 点 可 看 成一 类 相 近 样 本 的 代 表 ， 当 输 入 样 本 距 某 一 个 内 星 权 向 量较 近 时 ， 代 表 它 的 输 出 节 点 才 响 应 。 通 过 调 整 参 考 门 限 的 大 小 可 调 整 模 式 的 类 数 小 ， 模式 的 类 别 少 ，

33、大 则 模 式 的 类 别 多 。 ART网 络 的 特 点 ART 网 络 的 应 用 T)1,0,0,0,1,0,1,0,1,0,0,0,1,0,0,0,1,0,1,0,1,0,0,0,1(BX T)1,0,0,0,1,0,1,0,1,0,1,1,1,1,1,0,1,0,1,0,1,0,0,0,1(CX T)1,0,0,0,1,1,1,0,1,1,1,1,1,1,1,1,1,0,1,1,1,0,0,0,1(DX T)1,0,0,0,0,0,1,0,0,0,0,0,1,0,0,0,0,0,1,0,0,0,0,0,1(AX设 =0.7， 取 初 始 权 值 bij=1/(1+n)=1/26,t

34、ij=1.例 模 式 分 类 第 1步 ： 输 入 模 式 X A ， 将 R层 的 4个 节 点 中 输 出 最 大 的 一个 命 名 为 节 点 1， 有 j*=1。 由 于 初 始 化 后 tij=1， 所 以 相 似度 N0/N1=1， 大 于 参 考 门 限 ， 故 第 一 个 模 式 被 命 名 为 第 一类 模 式 。 修 改 节 点 1的 内 星 权 向 量 ， 得 T)1,0,0,0,0,0,1,0,0,0,0,0,1,0,0,0,0,0,1,0,0,0,0,0,1(1 T 11/2 1,251,191,131,71,1 bbbbb修 改 节 点 1的 外 星 权 向 量 ，

35、 得其 余 仍 为 初 始 值 1/26。 对 比 输 入 模 式 X A， 可 以 看 出 ， 以 上调 整 结 果 将 模 式 X A 存 储 在 神 经 元 1的 内 外 星 权 向 量 中 。 ART 网 络 的 应 用 第 2步 ： 输 入 模 式 X B 时 ， R层 只 有 一 个 已 存 储 模 式 ， 故 不 存在 类 别 归 属 的 竞 争 ， 只 需 判 断 该 模 式 与 已 存 储 模 式 T1=X A 的相 似 度 ， 得 N0/N1=5/9=0.7。 从 相 似 度 可 以 看 出 ， 模 式 XB 有 9个 黑 象 素 ， 而 X A 与 X B 只 有 5个

36、黑 象 素 完 全 重 合 ， 故 相 似度 检 验 不 合 格 。 由 于 R层 已 没 有 其 它 已 存 储 模 式 类 可 供 选 择 ，需 动 用 一 个 新 节 点 ， 命 名 为 节 点 2， 用 以 代 表 新 模 式 X B 。 节点 2 的 外 星 权 向 量 为 T 2 = X B ， 内 星 权 向 量 为其 余 分 量 均 为 初 始 值 。 19/22,252,212,192,172,132,92,72,52,1 bbbbbbbbb ART 网 络 的 应 用 第 3步 ： 输 入 模 式 X C 时 ， 节 点 1和 节 点 2进 行 竞 争 节 点 1净 输 入

37、 为 1.217 节 点 2净 输 入 为 1.101节 点 1获 胜 。 计 算 T1与 X的 相 似 度 ， 得N0/N1=5/13=0.7节 点 1失 效 后 ， 网 络 应 在 其 余 的 存 储 模 式 类 节 点 中 搜 索 ，对 于 本 例 ， 只 能 取 节 点 2作 为 获 胜 节 点 。 于 是 计 算 XC与 代表 X B 的 T2 的 相 似 度 ， 得N0/N1=9/13=0.7该 结 果 仍 不 能 满 足 要 求 ， 只 能 把 模 式 视 为 第 3类 模 式 。 并修 改 节 点 3的 内 外 星 权 向 量 。ART 网 络 的 应 用 第 4步 ： 输 入

38、 模 式 X D 后 ， 节 点 1、 节 点 2和 节 点 3参 加 竞争 ， 结 果 是 节 点 3 获 胜 ， 计 算 模 式 X D与 X C的 相 似 度 ， 得N0/N1=13/17=0.765 =0.7于 是 X D 归 入 已 存 储 的 X C类 ， 并 修 改 节 点 3的 内 外 星 权向 量 。ART 网 络 的 应 用 ART 网 络 的 应 用 例一 模式分类 分 类 分 类ART 网 络 的 应 用 注 意 ！ 值 的 选 择 对 分 类 过 程 的 影 响 很 大 。 值 过 大 ， 导 致 分 类 剧 增 。 值 太 小 ， 则 不 同 的 模 式 均 划 为 同 一 类 别 。ART 网 络 的 应 用 例 二 带 噪 声 模 式 分 类ART 网 络 的 应 用 实 际 分 类 结 果样 本序 号 期 望 分 类结 果 = 0.95 = 0.90 = 0.85 12 34 56 78 910 1112 12 34 11 22 33 44 12 34 56 78 73 98 12 34 56 77 73 87 12 34 15 26 33 44 例 二 带 噪 声 模 式 分 类ART 网 络 的 应 用 武 汉 科 技 大 学 53