用 户 指 南 NeuralTools Microsoft Excel 神 经 网 络 插 件 第 7 版 2015 年 6 月 Palisade Corporation 798 Cascadilla St. Ithaca, NY 14850 USA (607) 277-8000 (607) 277-8001( 传 真 ) http://www.palisade.com( 网 站 ) sales@palisade.com( 电 子 邮 件 )
版 权 通 告 版 权 所 有 2015, Palisade Corporation 商 标 确 认 Microsoft Excel 和 Windows 是 Microsoft Corporation 的 注 册 商 标 IBM 是 International Business Machines, Inc. 的 注 册 商 标 Palisade TopRank BestFit 和 RISKview 是 Palisade Corporation 的 注 册 商 标
欢 迎 使 用 Excel NeuralTools 欢 迎 使 用 NeuralTools 为 行 业 标 准 数 据 分 析 和 模 型 建 立 工 具 Microsoft Excel 提 供 了 一 套 功 能 强 大 的 建 模 工 具!NeuralTools 是 一 款 Microsoft Excel 神 经 网 络 插 件, 允 许 您 在 Excel 工 作 表 中 分 析 数 据, 并 在 熟 悉 的 Microsoft Office 环 境 中 工 作 通 过 将 功 能 强 大 的 数 据 管 理 程 序 与 最 先 进 的 神 经 网 络 算 法 相 结 合,NeuralTools 为 您 提 供 以 下 两 个 领 域 的 最 佳 性 能 : Microsoft Office 便 于 使 用 和 报 告 的 功 能, 以 及 神 经 网 络 强 大 且 准 确 的 预 测 功 能 在 您 熟 悉 的 环 境 中 工 作 如 果 您 熟 悉 Excel, 您 就 会 熟 悉 NeuralTools!NeuralTools 的 工 作 方 式 与 Excel 完 全 相 同, 工 具 栏 菜 单 和 自 定 义 工 作 表 函 数 全 部 都 在 Excel 中 与 独 立 神 经 网 络 软 件 不 同, 由 于 操 作 方 法 与 Excel 中 的 完 全 相 同, 因 此 NeuralTools 不 需 要 花 费 很 长 的 学 习 时 间 和 使 用 前 培 训 费 用 您 的 数 据 和 变 量 都 在 Excel 电 子 表 格 中 您 可 以 使 用 标 准 Excel 公 式 以 及 Excel 数 据 排 序 表 和 数 据 透 视 表 进 行 计 算 您 的 分 析 报 表 和 图 表 用 标 准 的 Excel 格 式 显 示, 并 可 以 利 用 所 有 Excel 的 内 建 格 式 化 功 能 欢 迎 使 用 Excel NeuralTools i
NeuralTools 分 析 神 经 网 络 能 够 学 习 数 据 中 的 复 杂 关 系 通 过 模 仿 大 脑 的 功 能, 神 经 网 络 能 够 发 现 数 据 的 模 式, 然 后 在 获 得 新 数 据 时 进 行 推 断 预 测 使 用 神 经 网 络 解 决 的 问 题 可 以 分 为 大 类 : 分 类 问 题 : 尝 试 确 定 某 一 未 知 项 目 属 于 哪 一 类 别 的 问 题 其 中 包 括 医 疗 诊 断 和 预 测 信 用 付 款 能 力 数 字 问 题 : 需 要 预 测 具 体 数 字 结 果 的 问 题 其 中 包 括 股 票 价 格 预 测 和 预 测 未 来 某 段 时 间 的 销 售 水 平 神 经 网 络 用 于 各 类 应 用, 其 中 包 括 : 股 票 市 场 预 测 信 用 和 贷 款 风 险 分 配 信 用 欺 诈 探 测 销 售 预 测 一 般 业 务 预 测 投 资 风 险 医 疗 诊 断 科 学 领 域 研 究 和 控 制 系 统 NeuralTools 包 括 最 新 神 经 网 络 算 法, 对 分 类 问 题 ( 在 NeuralTools 中 称 为 范 畴 预 测 ) 和 数 字 问 题 进 行 最 佳 预 测 NeuralTools 数 据 管 理 NeuralTools 在 Excel 中 提 供 完 善 的 数 据 集 和 变 量 管 理 程 序, 与 随 StatTools(Palisade 为 Excel 提 供 的 统 计 插 件 ) 提 供 的 数 据 集 和 变 量 管 理 程 序 类 似 您 可 以 直 接 从 您 Excel 中 的 数 据 定 义 任 意 数 量 的 数 据 集, 并 且 每 个 数 据 集 都 带 有 需 要 分 析 的 变 量 NeuralTools 以 智 能 化 方 式 访 问 您 的 数 据 块, 建 议 变 量 名 称 类 型 以 及 数 据 位 置 您 的 数 据 集 和 变 量 可 以 位 于 不 同 的 工 作 簿 和 工 作 表 中, 允 许 您 按 照 自 己 认 为 适 当 的 方 式 组 织 数 据 然 后, 对 参 考 您 的 变 量 的 神 经 网 络 进 行 训 练, 而 不 是 反 复 在 Excel 中 重 新 选 择 数 据 此 外,NeuralTools 中 变 量 的 大 小 并 不 受 限 于 Excel 工 作 表 中 的 一 列 数 据 您 可 以 将 跨 度 高 达 255 份 工 作 表 的 同 一 列 用 于 一 个 变 量! ii 欢 迎 使 用
NeuralTools 报 表 Excel 非 常 适 用 于 编 写 报 表 和 图 表, 而 NeuralTools 可 以 最 大 限 度 地 利 用 这 一 功 能 NeuralTools 利 用 Excel 格 式 的 图 表, 用 户 可 以 方 便 地 自 定 义 新 的 颜 色 和 字 体, 并 添 加 文 字 报 表 标 题 数 字 格 式 和 文 字 的 更 改 方 法 与 任 何 标 准 Excel 工 作 表 中 的 操 作 一 样 从 NeuralTools 报 表 中 直 接 将 表 格 和 图 表 拖 放 至 您 在 其 他 应 用 程 序 中 的 文 档 内 NeuralTools 正 式 版 还 包 括 在 将 新 数 据 输 入 Excel 工 作 表 的 同 时 计 算 预 测 值 的 实 时 预 测 功 能 如 同 其 他 Excel 重 新 计 算 一 样, 实 时 计 算 会 自 动 进 行 数 据 访 问 与 共 享 Excel 具 有 出 色 的 数 据 输 入 功 能, 因 此 将 您 的 现 有 数 据 输 入 NeuralTools 也 十 分 方 便! 使 用 标 准 Excel 功 能 读 入 来 自 Microsoft SQL Server Oracle Microsoft Access 或 任 何 其 他 ODBC 兼 容 数 据 库 的 数 据 从 文 本 文 件 或 其 他 应 用 程 序 载 入 数 据 如 果 可 以 将 数 据 读 入 Excel, 就 可 以 通 过 NeuralTools 使 用 读 入 的 数 据! NeuralTools 将 所 有 结 果 和 数 据 保 存 在 Excel 工 作 表 中 与 任 何 其 他 Excel 文 件 一 样, 您 可 以 将 您 的 NeuralTools 结 果 和 网 络 发 送 给 任 何 地 方 的 同 事 共 享 极 为 简 便! 欢 迎 使 用 Excel NeuralTools iii
iv 欢 迎 使 用
目 录 第 一 章 : 入 门 指 南 1 简 介... 3 本 版 本 简 介... 3 NeuralTools 专 业 版 和 正 式 版... 3 在 您 的 操 作 环 境 中 使 用... 3 如 果 需 要 获 得 帮 助... 4 NeuralTools 系 统 要 求... 6 安 装 说 明... 7 一 般 安 装 说 明... 7 设 置 NeuralTools 图 标 或 快 捷 方 式... 7 DecisionTools Suite... 8 软 件 激 活... 8 第 二 章 :NeuralTools 概 述 9 概 述... 11 为 什 么 要 使 用 神 经 网 络?... 11 NeuralTools 和 神 经 网 络... 12 NeuralTools 菜 单 和 工 具 栏... 13 数 据 集 和 数 据 集 管 理 器... 13 训 练 神 经 网 络... 15 检 验 网 络... 20 预 测... 21 NeuralTools 报 表 和 图 表... 23 NeuralTools 实 用 工 具... 24 将 NeuralTools 与 StatTools Solver 和 Evolver 配 合 使 用... 24 第 三 章 :NeuralTools 参 考 指 南 25 简 介... 27 参 考 :NeuralTools 图 标 29 NeuralTools 工 具 栏... 29 参 考 :NeuralTools 菜 单 命 令 31 简 介... 31 目 录 v
对 话 框 中 的 图 标... 32 命 令 参 考... 33 数 据 集 管 理 器 命 令... 33 训 练 命 令... 37 检 验 命 令... 48 预 测 命 令... 55 实 用 工 具... 60 应 用 程 序 设 置 命 令... 60 神 经 网 络 管 理 器 命 令... 63 缺 失 数 据 实 用 工 具 命 令... 65 检 验 灵 敏 度 命 令... 68 神 经 网 络 的 更 多 信 息 71 神 经 网 络 基 本 知 识... 71 神 经 网 络 与 统 计 方 法... 71 神 经 网 络 的 结 构... 72 数 值 预 测 和 范 畴 预 测... 72 训 练 网 络... 72 神 经 网 络 的 计 算 机 处 理... 73 神 经 网 络 的 类 型... 73 多 层 前 馈 网 络... 75 MLF 结 构... 75 训 练 MLF 网 络... 77 广 义 回 归 神 经 网 络 和 概 率 神 经 网 络... 79 广 义 回 归 神 经 网 络... 79 概 率 神 经 网 络... 81 MLF 网 络 与 PN/GRN 网 络 的 比 较... 83 输 入 项 变 换... 85 推 荐 读 物... 87 索 引 89 vi 欢 迎 使 用
第 一 章 : 入 门 指 南 简 介... 3 本 版 本 简 介... 3 NeuralTools 专 业 版 和 正 式 版... 3 在 您 的 操 作 环 境 中 使 用... 3 如 果 需 要 获 得 帮 助... 4 NeuralTools 系 统 要 求... 6 安 装 说 明... 7 一 般 安 装 说 明... 7 设 置 NeuralTools 图 标 或 快 捷 方 式... 7 第 一 章 : 入 门 指 南 1
2 欢 迎 使 用
简 介 本 简 介 描 述 NeuralTools 软 件 包 包 含 的 内 容, 并 向 您 说 明 如 何 安 装 NeuralTools 以 及 如 何 将 其 随 附 在 Microsoft Excel 2007 或 更 高 版 本 上 本 版 本 简 介 本 NeuralTools 版 本 可 与 Microsoft Excel 2007 或 更 高 版 本 配 合 使 用 NeuralTools 专 业 版 和 正 式 版 NeuralTools 有 两 种 版 本 专 业 版 和 正 式 版 这 两 种 版 本 的 差 异 如 下 : NeuralTools 专 业 版 中 的 数 据 集 限 制 为 1000 个 案 例, 而 NeuralTools 正 式 版 只 受 可 用 内 存 大 小 限 制 在 将 新 数 据 输 入 您 的 Excel 工 作 表 的 同 时 计 算 预 测 值 的 实 时 预 测 功 能 仅 限 在 NeuralTools 正 式 版 中 提 供 如 同 其 他 Excel 重 新 计 算 一 样, 实 时 计 算 会 自 动 进 行 在 您 的 操 作 环 境 中 使 用 本 用 户 指 南 假 设 您 掌 握 了 Windows 操 作 系 统 和 Excel 的 一 般 知 识 特 别 是 以 下 知 识 : 熟 悉 自 己 的 计 算 机 和 鼠 标 的 用 法 熟 悉 图 标 单 击 双 击 菜 单 窗 口 命 令 和 目 标 等 术 语 理 解 目 录 结 构 和 文 件 命 名 之 类 的 基 本 概 念 第 一 章 : 入 门 指 南 3
如 果 需 要 获 得 帮 助 我 们 向 拥 有 有 效 维 护 计 划 的 所 有 NeuralTools 注 册 用 户 免 费 提 供 技 术 支 持, 或 按 照 每 次 事 件 收 取 服 务 费 要 确 保 您 是 NeuralTools 的 注 册 用 户, 请 在 以 下 网 站 注 册 : http://www.palisade.com/support/register.asp 如 果 通 过 电 话 与 我 们 联 系, 请 准 备 好 您 的 序 列 号 和 用 户 指 南 如 果 您 坐 在 计 算 机 前 并 作 好 准 备, 这 将 有 助 于 我 们 为 您 提 供 更 好 的 技 术 支 持 打 电 话 之 前 在 与 技 术 支 持 部 联 系 之 前, 请 检 查 以 下 核 对 清 单 : 是 否 已 经 查 阅 了 在 线 帮 助? 是 否 已 经 查 阅 本 用 户 指 南, 并 查 看 了 联 机 多 媒 体 教 程? 是 否 已 经 阅 读 README.WRI 文 件? 该 文 件 包 含 可 能 未 纳 入 手 册 的 有 关 NeuralTools 的 最 新 信 息 是 否 是 能 够 始 终 重 复 出 现 的 问 题? 是 否 是 能 够 在 另 一 台 计 算 机 或 不 同 型 号 的 计 算 机 上 重 复 出 现 的 问 题? 是 否 已 经 在 互 联 网 上 查 阅 了 我 们 的 网 站? 我 们 的 网 址 为 : http://www.palisade.com 我 们 的 网 站 还 在 技 术 支 持 部 分 中 提 供 最 新 常 见 问 题 解 答 ( 可 搜 索 的 技 术 支 持 问 答 数 据 库 ) 和 NeuralTools 补 丁 我 们 建 议 您 定 期 访 问 我 们 的 网 站, 了 解 有 关 NeuralTools 以 及 其 他 Palisade 软 件 的 最 新 信 息 4 简 介
与 Palisade 联 系 Palisade Corporation 欢 迎 您 提 出 有 关 NeuralTools 的 问 题 评 论 意 见 或 建 议 请 用 以 下 任 何 一 种 方 法 与 我 们 的 技 术 支 持 部 人 员 联 系 : 请 发 送 电 子 邮 件 至 support@palisade.com 请 在 美 国 东 部 时 间 上 午 9 点 至 下 午 5 点 ( 星 期 一 至 星 期 五 ) 致 电 (607) 277-8000, 并 按 照 提 示 接 通 技 术 支 持 部 请 发 送 传 真 至 (607) 277-8001 请 寄 邮 件 至 : Technical Support Palisade Corporation 798 Cascadilla St. Ithaca, NY 14850 USA 如 果 您 希 望 与 Palisade 欧 洲 分 部 联 系 : 请 发 送 电 子 邮 件 至 support@palisade-europe.com 请 致 电 +44 1895 425050( 英 国 ) 请 发 送 传 真 至 +44 1895 425051( 英 国 ) 请 寄 邮 件 至 : Palisade Europe 31 The Green West Drayton Middlesex UB7 7PN United Kingdom 如 果 您 希 望 与 Palisade 亚 太 分 部 联 系 : 请 发 送 电 子 邮 件 至 support@palisade.com.au 请 致 电 +61 2 9252 5922( 澳 大 利 亚 ) 请 发 送 传 真 至 +61 2 9252 2820( 澳 大 利 亚 ) 请 寄 邮 件 至 : Palisade Asia-Pacific Pty Limited Suite 404, Level 4 20 Loftus Street Sydney NSW 2000 Australia 无 论 您 用 何 种 方 法 与 我 们 联 系, 请 提 供 产 品 名 称 版 本 和 序 列 号 请 在 Excel 的 NeuralTools 菜 单 上 选 择 帮 助 命 令, 查 找 确 切 的 版 本 第 一 章 : 入 门 指 南 5
学 生 版 不 为 NeuralTools 学 生 版 提 供 技 术 支 持 如 果 需 要 获 得 帮 助, 我 们 建 议 您 采 取 以 下 替 代 方 法 : 向 您 的 教 授 或 助 教 咨 询 登 录 以 下 网 站 查 找 常 见 问 题 的 回 答 :http://www.palisade.com 通 过 电 子 邮 件 或 传 真 与 我 们 的 技 术 支 持 部 联 系 NeuralTools 系 统 要 求 用 于 Microsoft Excel for Windows 的 NeuralTools 7 系 统 要 求 包 括 : Microsoft Windows XP 或 更 高 版 本 Microsoft Excel 2007 或 更 高 版 本 6 简 介
安 装 说 明 一 般 安 装 说 明 安 装 程 序 会 将 NeuralTools 系 统 文 件 复 制 到 您 指 定 的 硬 盘 目 录 中 去 要 在 Windows XP 或 更 高 版 本 的 系 统 上 运 行 安 装 程 序 : 1) 双 击 您 下 载 的 或 安 装 CD 中 的 NeuralTools Setup.exe 程 序, 并 按 照 屏 幕 上 显 示 的 安 装 说 明 进 行 操 作 如 果 您 在 安 装 NeuralTools 时 遇 到 问 题, 请 确 认 尝 试 安 装 NeuralTools 的 驱 动 器 是 否 有 足 够 的 空 间 释 放 足 够 的 空 间 后, 尝 试 重 新 运 行 安 装 程 序 从 计 算 机 上 移 除 NeuralTools 如 果 您 希 望 从 计 算 机 上 移 除 NeuralTools, 请 使 用 控 制 面 板 的 添 加 / 删 除 程 序 实 用 程 序, 并 选 择 NeuralTools 条 目 设 置 NeuralTools 图 标 或 快 捷 方 式 在 Windows 任 务 栏 中 创 建 快 捷 方 式 在 Windows 中, 安 装 程 序 会 自 动 在 任 务 栏 的 Programs\Palisade DecisionTools 菜 单 中 创 建 NeuralTools 命 令 但 是, 如 果 在 安 装 过 程 中 出 现 问 题, 或 者 希 望 以 后 再 以 手 动 方 式 设 置, 请 遵 循 以 下 说 明 请 注 意, 以 下 所 列 说 明 适 用 于 Windows XP Professional 其 他 操 作 系 统 的 说 明 可 能 不 同 1) 单 击 开 始 按 钮, 然 后 将 光 标 指 向 设 置 2) 单 击 任 务 栏 和 开 始 菜 单, 然 后 单 击 开 始 菜 单 选 项 卡 3) 依 次 单 击 自 定 义 添 加 和 浏 览 4) 找 到 NeuralTools.EXE 文 件, 单 击 该 文 件, 然 后 再 单 击 确 定 5) 单 击 下 一 步, 然 后 双 击 您 希 望 显 示 程 序 的 菜 单 6) 键 入 名 称 NeuralTools, 然 后 单 击 完 成 7) 在 所 有 打 开 的 对 话 框 中 单 击 确 定 第 一 章 : 入 门 指 南 7
DecisionTools Suite NeuralTools 可 以 与 DecisionTools Suite 配 合 使 用, 后 者 是 Palisade Corporation 提 供 的 一 套 风 险 与 决 策 分 析 产 品 NeuralTools 的 默 认 安 装 程 序 会 将 NeuralTools 放 入 Program Files\Palisade 主 目 录 的 一 个 子 目 录 内 这 与 通 常 将 Excel 安 装 至 Microsoft Office 目 录 的 一 个 子 目 录 非 常 相 似 Program Files\Palisade 目 录 的 一 个 子 目 录 将 成 为 NeuralTools 目 录 ( 默 认 名 称 为 NeuralTools5) 该 目 录 包 含 NeuralTools 插 件 程 序 文 件 (NEURALTOOLS.XLA) 模 型 示 例 以 及 运 行 NeuralTools 所 需 的 其 他 文 件 Program Files\Palisade 的 另 一 个 子 目 录 是 SYSTEM 目 录, 该 目 录 包 含 DecisionTools Suite 中 的 每 个 程 序 所 需 的 文 件, 包 括 普 通 帮 助 文 件 和 程 序 库 软 件 激 活 激 活 是 一 个 一 次 性 许 可 确 认 过 程, 是 使 您 的 Palisade 软 件 作 为 完 全 获 得 许 可 的 产 品 运 行 所 必 须 执 行 的 步 骤 在 您 打 印 / 通 过 电 子 邮 件 发 送 的 发 票 中 有 一 个 激 活 ID, 这 是 用 破 折 号 分 隔 的 序 列, 例 如 DNA- 6438907-651282-CDM 如 果 在 安 装 过 程 中 输 入 激 活 ID, 则 在 安 装 过 程 结 束 时 软 件 即 被 激 活, 而 无 需 再 采 取 其 他 操 作 如 果 希 望 在 安 装 后 激 活 软 件, 请 选 择 帮 助 菜 单 许 可 证 管 理 器 命 令 许 可 证 管 理 器 可 以 用 于 激 活 解 除 激 活 和 移 动 软 件 许 可 证 此 外, 其 还 可 以 用 于 管 理 适 于 网 络 安 装 的 许 可 证 按 照 许 可 证 管 理 器 中 的 提 示 和 对 话 框 以 执 行 所 需 的 许 可 操 作 8 安 装 说 明
第 二 章 :NeuralTools 概 述 概 述... 11 为 什 么 要 使 用 神 经 网 络?... 11 NeuralTools 和 神 经 网 络... 12 NeuralTools 菜 单 和 工 具 栏... 13 数 据 集 和 数 据 集 管 理 器... 13 变 量 类 型... 15 多 范 围 数 据... Error! Bookmark not defined. 训 练 神 经 网 络... 15 综 合 进 行 训 练 检 验 和 预 测... 16 网 络 配 置... 16 训 练 预 览... 17 训 练 过 程... 18 训 练 报 表... 19 检 验 网 络... 20 检 验 报 表... 20 预 测... 21 预 测 结 果... 22 实 时 预 测... 22 NeuralTools 报 表 和 图 表... 23 第 二 章 :NeuralTools 概 述 9
10 安 装 说 明
概 述 NeuralTools 可 在 您 熟 悉 的 环 境 Microsoft Excel 里 为 您 提 供 强 大 的 神 经 网 络 功 能 NeuralTools 的 各 种 程 序, 如 : 定 义 数 据 集 训 练 和 检 验 神 经 网 络, 以 及 使 用 已 训 练 的 网 络 预 测 值 等, 均 可 在 您 的 Excel 数 据 上 运 行, 还 可 在 Excel 中 创 建 分 析 报 表 和 分 析 图 为 什 么 要 使 用 神 经 网 络? 神 经 网 络 能 学 习 复 杂 的 数 据 关 系 它 们 通 过 模 拟 人 脑 的 功 能, 来 辨 别 数 据 模 式, 然 后 对 向 其 提 供 的 新 数 据 进 行 推 断 预 测 使 用 神 经 网 络 解 决 的 问 题 可 分 为 两 大 类 分 类 问 题 : 试 图 确 定 一 个 未 知 项 目 属 于 哪 类 范 畴 的 问 题 例 如 : 医 疗 诊 断 和 还 贷 能 力 预 测 数 值 问 题 : 需 要 预 测 具 体 数 值 结 果 的 情 况 例 如 : 股 价 预 测 和 未 来 某 段 时 间 的 销 售 量 预 测 NeuralTools 附 带 各 种 示 例, 以 显 示 如 何 应 用 神 经 网 络 解 决 不 同 的 预 测 问 题 NeuralTools\Examples 文 件 夹 中 包 含 以 Excel 工 作 簿 的 形 式 提 供 的 示 例 第 二 章 :NeuralTools 概 述 11
NeuralTools 和 神 经 网 络 可 使 用 NeuralTools 通 过 以 下 四 步 建 立 和 使 用 神 经 网 络 : 数 据 准 备 您 在 NeuralTools 中 使 用 的 数 据 在 数 据 集 中 进 行 定 义 使 用 数 据 集 管 理 器 设 置 数 据 集, 以 供 您 的 神 经 网 络 重 复 使 用 训 练 通 过 训 练, 即 可 从 某 个 数 据 集 中 生 成 一 个 神 经 网 络, 该 数 据 集 须 包 括 附 带 已 知 输 出 值 的 案 例 这 些 数 据 通 常 由 输 出 值 / 因 变 量 值 已 知 的 历 史 案 例 组 成 检 验 通 过 检 验, 可 检 测 已 训 练 的 神 经 网 络 在 预 测 已 知 输 出 值 方 面 的 表 现 用 于 检 验 的 数 据 通 常 是 历 史 数 据 中 的 一 个 子 集 该 子 集 在 训 练 网 络 时 没 有 使 用 检 验 后, 用 统 计 量 来 衡 量 网 络 的 性 能, 如 : 正 确 预 测 已 知 答 案 的 比 例 预 测 使 用 一 个 已 训 练 的 神 经 网 络 预 测 未 知 的 输 出 值 该 网 络 经 过 训 练 和 检 验 后, 即 可 根 据 需 要 用 于 预 测 新 案 例 数 据 的 输 出 项 训 练 和 检 验 是 一 个 不 断 重 复 的, 有 时 也 是 很 耗 时 的 过 程 通 常 您 可 采 用 不 同 的 设 置 多 训 练 几 次, 以 生 成 检 验 效 果 最 佳 的 神 经 网 络 有 了 最 佳 网 络 后, 您 即 可 立 即 将 其 用 于 预 测 现 在, 我 们 来 了 解 NeuralTools 如 何 在 Excel 中 工 作, 以 及 如 何 定 义 数 据 集 并 使 用 这 些 数 据 集 训 练 和 检 验 神 经 网 络 然 后, 我 们 将 使 用 已 训 练 的 网 络 来 预 测 未 知 输 出 值 12 概 述
NeuralTools 菜 单 和 工 具 栏 在 Excel 2007 中, 所 有 命 令 均 通 过 NeuralTools 功 能 导 航 栏 提 供 数 据 集 和 数 据 集 管 理 器 NeuralTools 中 的 数 据 围 绕 案 例 和 变 量 构 造 您 使 用 的 数 据 集 或 一 组 统 计 变 量 须 按 连 续 列 排 放, 且 数 据 集 的 第 一 行 为 变 量 名 数 据 集 中 的 每 一 行 都 是 一 个 案 例 每 个 案 例 都 有 一 组 自 变 量 值 和 一 个 已 知 的 因 变 量 输 出 值, 或 者 没 有 因 变 量 输 出 值 NeuralTools 的 工 作 是 预 测 案 例 的 未 知 变 量 输 出 值 第 二 章 :NeuralTools 概 述 13
NeuralTools 数 据 集 管 理 器 可 定 义 数 据 集 变 量 和 案 例 这 样, 您 即 可 使 用 这 些 预 定 义 变 量 来 训 练 和 检 验 神 经 网 络, 无 需 一 次 次 重 复 选 择 您 想 要 分 析 的 数 据 您 可 以 把 所 有 已 知 的 历 史 案 例 放 在 一 个 数 据 集 中, 您 想 预 测 结 果 的 案 例 放 在 另 一 个 数 据 集 中 您 还 可 以 将 所 有 数 据 ( 已 知 历 史 数 据 和 您 想 预 测 的 数 据 ) 放 在 同 一 个 数 据 集 中 数 据 集 中 的 每 个 变 量 都 有 一 个 名 称 和 一 个 与 之 关 联 的 Excel 单 元 范 围 该 范 围 中 的 每 一 列 包 含 另 一 个 变 量 的 数 据 一 个 数 据 集 可 包 含 多 个 单 元 区 块, 可 将 数 据 放 在 同 一 个 工 作 簿 的 不 同 工 作 表 里 定 义 数 据 集 时,NeuralTools 会 尝 试 识 别 当 前 选 中 的 Excel 单 元 区 块 边 缘 的 变 量 这 样 可 方 便 快 捷 地 设 置 数 据 集, 使 其 首 行 为 变 量 名, 变 量 按 列 排 放 14 概 述
变 量 类 型 在 NeuralTools 中, 变 量 可 以 是 自 变 量 或 因 变 量, 也 可 以 是 数 值 变 量 或 范 畴 变 量 ( 如 : 是 或 否 ; 红 绿 或 蓝 ) 数 据 集 管 理 器 会 尝 试 识 别 您 的 数 据 集 中 每 个 变 量 的 类 型, 但 您 可 以 用 自 己 的 选 择 进 行 覆 盖 训 练 神 经 网 络 定 义 了 数 据 集 且 其 中 包 含 历 史 值 已 知 的 案 例 之 后, 您 即 可 使 用 这 些 数 据 训 练 神 经 网 络 有 不 同 的 选 项 来 确 定 NeuralTools 生 成 的 网 络 类 型 根 据 数 据 的 性 质, 采 用 不 同 的 网 络 选 项 会 生 成 性 能 更 好 的 已 训 练 网 络 ( 即 : 在 预 测 答 案 方 面 更 出 色 的 网 络 ) 在 训 练 后 进 行 的 检 验 过 程 可 准 确 地 衡 量 已 训 练 的 网 络 在 预 测 输 出 值 方 面 的 表 现 训 练 神 经 网 络 以 及 进 行 检 验 和 预 测 时, 要 求 您 指 定 一 个 数 据 集, 其 中 包 含 训 练 时 要 使 用 的 数 据 NeuralTools 会 将 已 训 练 的 网 络 直 接 保 存 在 您 的 工 作 簿 中, 也 可 选 择 保 存 到 硬 盘 上 的 一 个 文 件 中 第 二 章 :NeuralTools 概 述 15
综 合 进 行 训 练 检 验 和 预 测 网 络 配 置 如 果 您 的 所 有 数 据 在 一 个 数 据 集 中 ( 包 括 已 知 历 史 数 据 和 您 不 知 道 输 出 值 的 新 数 据 ), 可 使 用 NeuralTools 训 练 和 检 验 网 络, 然 后 预 测 输 出 值, 所 有 操 作 一 步 完 成 选 择 保 留 一 定 比 例 的 历 史 数 据 进 行 检 验 ( 上 一 页 显 示 为 20%), 然 后 选 择 对 缺 少 因 变 量 值 的 案 例 自 动 预 测 输 出 值 这 样, 您 只 需 一 步 操 作 即 可 快 速 得 到 您 需 要 的 答 案 NeuralTools 支 持 不 同 的 神 经 网 络 配 置, 以 提 供 最 佳 预 测 对 于 分 类 / 范 畴 预 测 ( 其 中, 因 变 量 是 一 个 范 畴 类 型 ), 可 使 用 两 种 网 络 : 概 率 神 经 网 络 (PNN) 和 多 层 前 馈 网 络 (MLF) 可 使 用 MLF 网 络 以 及 与 PNN 网 络 密 切 相 关 的 广 义 回 归 神 经 网 络 (GRNN) 进 行 数 值 预 测 NeuralTools 提 供 最 佳 网 络 搜 索, 使 选 择 网 络 配 置 变 得 十 分 容 易 选 择 该 搜 索 后,NeuralTools 会 训 练 和 检 验 各 种 神 经 网 络 配 置 以 生 成 一 种 可 对 您 的 数 据 进 行 最 佳 预 测 的 配 置 最 佳 配 置 取 决 于 检 验 数 据, 因 此, 对 于 最 佳 网 络 搜 索, 需 要 在 训 练 选 项 卡 上 选 择 自 动 检 验 选 项 16 概 述
训 练 预 览 选 定 训 练 和 网 络 配 置 选 项 后,NeuralTools 会 在 训 练 网 络 期 间 预 览 要 执 行 的 操 作 由 于 训 练 是 最 耗 时 的 神 经 网 络 建 模 过 程, 因 此 在 进 行 前 查 看 训 练 设 置 非 常 有 用 NeuralTools 会 尝 试 在 您 的 数 据 中 找 出 问 题, 以 便 您 在 进 行 训 练 前 加 以 更 正 第 二 章 :NeuralTools 概 述 17
训 练 过 程 当 NeuralTools 用 您 的 数 据 训 练 一 个 神 经 网 络 时, 会 报 告 其 训 练 表 现 通 常, 该 网 络 会 随 着 训 练 的 深 入 而 变 得 越 来 越 好, 因 为 NeuralTools 生 成 的 网 络 对 数 据 的 预 测 更 准 且 错 误 更 少 在 训 练 期 间, 画 面 会 不 断 更 新, 以 显 示 NeuralTools 的 进 展 在 达 到 您 设 置 的 任 何 一 个 停 止 条 件 ( 如 : 最 长 训 练 时 间 ) 时, 训 练 会 停 止 如 果 您 选 择 了 自 动 检 验 网 络 或 预 测 数 据 集 中 缺 少 的 输 出 值, 会 在 训 练 结 束 后 执 行 18 概 述
训 练 报 表 训 练 报 表 显 示 已 训 练 网 络 的 表 现 诸 如 不 良 预 测 百 分 率 之 类 的 统 计 量 显 示 在 这 组 训 练 中 网 络 预 测 的 输 出 值 和 已 知 实 际 值 不 相 符 的 案 例 数 第 二 章 :NeuralTools 概 述 19
检 验 网 络 在 检 验 过 程 中, 会 检 验 已 训 练 的 神 经 网 络, 以 了 解 其 在 预 测 已 知 输 出 值 方 面 的 表 现 检 验 数 据 通 常 是 有 已 知 输 出 值 的 历 史 数 据 中 的 一 个 子 集 该 子 集 在 训 练 网 络 时 没 有 使 用 如 果 检 验 数 据 在 一 个 单 独 的 数 据 集 中,NeuralTools 会 将 检 验 数 据 集 内 的 变 量 与 训 练 数 据 中 的 变 量 相 匹 配 与 训 练 相 同,NeuralTools 会 在 运 行 前 预 览 您 的 检 验 设 置 检 验 报 表 检 验 ( 以 及 预 测 ) 运 行 起 来 比 训 练 快 得 多 NeuralTools 报 告 网 络 在 预 测 检 验 数 据 中 的 已 知 答 案 方 面 的 表 现 这 样 有 助 于 您 了 解 该 网 络 在 用 于 输 出 值 未 知 的 案 例 时, 是 否 是 一 种 优 良 的 预 估 工 具 20 概 述
预 测 神 经 系 统 的 最 终 用 途 是 预 测 您 会 将 已 训 练 的 网 络 用 于 您 不 知 道 输 出 值 但 想 预 测 它 的 新 案 例 NeuralTools 提 供 两 种 预 测 方 法 :1) 预 测 值 命 令 法, 适 用 于 一 个 数 据 集 内 的 案 例 ;2) 实 时 预 测 法 ( 仅 企 业 版 ), 在 这 种 情 况 下, 工 作 表 中 某 个 案 例 的 自 变 量 值 可 以 输 入, 且 NeuralTools 将 自 动 计 算 预 测 的 输 出 值 如 果 您 想 对 某 个 数 据 集 中 的 一 组 案 例 预 测 值, 可 使 用 预 测 对 话 框 设 置 预 测 程 序 您 可 仅 预 测 缺 少 输 出 值 的 案 例, 并 可 选 择 启 用 实 时 预 测 以 便 修 改 您 的 数 据, 从 而 了 解 它 对 预 测 的 影 响 可 使 用 经 过 不 同 训 练 的 网 络 来 了 解 预 测 值 的 变 化 同 训 练 和 检 验 一 样,NeuralTools 首 先 预 览 将 用 于 预 测 的 数 据 和 设 置 然 后, 会 在 您 的 Excel 工 作 表 中 报 告 预 测 结 果 第 二 章 :NeuralTools 概 述 21
预 测 结 果 预 测 的 输 出 值 在 被 预 测 案 例 的 旁 边 显 示, 在 以 下 画 面 中, 预 测 值 为 紫 色 实 时 预 测 启 用 实 时 预 测 时,NeuralTools 会 将 一 个 Excel 公 式 自 动 添 加 到 显 示 预 测 值 的 单 元 中 这 个 公 式 生 成 预 测 值 因 此, 如 果 修 改 了 案 例 的 自 变 量 值, 则 会 自 动 重 新 计 算 预 测 值 使 用 实 时 预 测 时, 您 只 需 直 接 在 Excel 里 为 新 案 例 输 入 数 据, 即 可 自 动 生 成 新 预 测 而 无 须 使 用 预 测 对 话 框 例 如 : 如 果 以 上 工 作 表 中 第 7 行 案 例 的 自 变 量 值 更 改 如 下, 预 测 值 则 会 自 动 更 新 与 所 有 工 作 表 单 元 一 样, 您 可 以 在 任 何 Excel 公 式 里 引 用 LivePrediction 单 元 ( 注 : 实 时 预 测 仅 对 企 业 版 提 供 ) 22 概 述
NeuralTools 报 表 和 图 表 NeuralTools 可 对 训 练 检 验 和 预 测 创 建 摘 要 报 表 和 详 细 报 表 摘 要 报 表 显 示 在 一 个 单 独 的 工 作 表 中, 包 含 检 验 或 训 练 的 总 体 信 息 详 细 报 表 则 视 不 同 的 案 例 提 供 不 同 的 信 息, 显 示 在 报 表 所 报 告 数 据 的 旁 边 此 外, 摘 要 报 表 的 大 多 数 信 息 均 可 在 详 细 报 表 中 找 到, 它 们 以 注 释 的 形 式 添 加 到 标 题 单 元 ; 这 种 摘 要 报 表 称 为 快 速 摘 要 每 当 NeuralTools 创 建 一 张 或 多 张 图 表 时, 总 是 将 其 和 报 表 放 在 一 起 图 表 以 Excel 格 式 创 建, 可 使 用 标 准 Excel 图 表 命 令 进 行 自 定 义 第 二 章 :NeuralTools 概 述 23
NeuralTools 实 用 工 具 提 供 三 种 实 用 工 具 来 帮 您 管 理 在 NeuralTools 中 为 神 经 网 络 建 模 一 个 是 神 经 网 络 管 理 器, 可 使 用 它 在 工 作 簿 和 文 件 间 复 制 或 移 动 已 训 练 的 神 经 网 络 另 一 个 是 缺 少 数 据 实 用 工 具, 它 有 助 于 识 别 和 更 正 您 的 数 据 集 中 缺 少 数 据 的 案 例 检 验 灵 敏 度 分 析 有 助 于 确 定 在 随 机 选 择 不 同 检 验 案 例 的 情 况 下, 检 验 结 果 是 否 保 持 稳 定 将 NeuralTools 与 StatTools Solver 和 Evolver 配 合 使 用 NeuralTools 设 计 用 于 配 合 StatTools 使 用, 后 者 是 Palisade 提 供 的 一 款 Excel 统 计 插 件 两 个 产 品 共 用 一 个 数 据 集 管 理 器 ; 在 NeuralTools 中 定 义 的 数 据 集 可 使 用 StatTools 进 行 分 析, 反 之 亦 然 您 可 使 用 StatTools 对 NeuralTools 中 定 义 的 数 据 集 变 量 进 行 统 计 计 算, 还 可 对 NeuralTools 生 成 的 预 测 值 进 行 统 计 计 算 在 NeuralTools 中 生 成 的 详 细 报 表 可 直 接 在 StatTools 中 进 行 分 析 ; 这 些 报 表 会 自 动 显 示 在 StatTools 数 据 集 管 理 器 的 数 据 集 列 表 中 这 样 便 于 使 用 StatTools 获 得 NeuralTools 摘 要 报 表 中 没 有 的 统 计 结 果 例 如 : 某 个 检 验 摘 要 报 表 中 包 含 一 个 残 差 ( 定 义 为 实 际 值 与 预 测 值 之 差 ) 直 方 图 根 据 该 直 方 图, 残 差 大 致 呈 正 态 分 布 为 了 检 验 正 态 分 布 这 个 假 设, 可 对 详 细 报 表 中 的 残 差 变 量 采 用 StatTools 的 一 种 正 态 性 检 验 相 关 示 例 请 见 文 件 Abalone Age Prediction with StatTools Analysis.xls NeuralTools 的 Live Prediction( 实 时 预 测 ) 功 能 便 于 了 解 自 变 量 值 的 改 变 对 预 测 的 影 响 凭 借 Live Prediction, 即 可 使 用 Excel 中 提 供 的 其 他 工 具 来 研 究 自 变 量 和 因 变 量 之 间 的 关 系 Solver Excel 的 内 置 优 化 器, 可 与 NeuralTools 的 实 时 预 测 功 能 配 合 使 用, 从 而 对 在 NeuralTools 中 作 出 的 预 测 计 算 最 佳 判 定 值 相 关 示 例 请 见 文 件 Auto Loans with Solver.xls 在 该 示 例 中, 使 用 一 个 神 经 网 络 预 测 借 款 人 是 否 会 及 时 还 款 可 是, 网 络 给 出 的 置 信 度 只 有 60% 那 么, 可 以 使 用 Excel 的 Solver 来 确 定 一 个 放 贷 额 度, 使 网 络 对 此 人 的 及 时 还 款 把 握 达 到 90% 在 此 例 中, 该 优 化 器 会 尝 试 不 同 的 放 贷 额 度, 而 NeuralTools 则 自 动 更 新 概 率 值 可 使 用 基 于 Palisade 遗 传 算 法 的 优 化 器 Evolver 替 代 Solver 找 出 答 案 与 Solver 不 同,Evolver 可 处 理 有 多 个 局 部 最 优 值 的 优 化 问 题 24 概 述
第 三 章 :NeuralTools 参 考 指 南 简 介... 27 参 考 :NeuralTools 图 标 29 NeuralTools 工 具 栏... 29 参 考 :NeuralTools 菜 单 命 令 31 简 介... 31 对 话 框 中 的 图 标... 32 命 令 参 考... 33 数 据 集 管 理 器 命 令... 33 训 练 命 令... 37 检 验 命 令... 48 预 测 命 令... 55 实 用 工 具... 60 应 用 程 序 设 置 命 令... 60 神 经 网 络 管 理 器 命 令... 63 缺 失 数 据 实 用 工 具 命 令... 65 神 经 网 络 的 更 多 信 息 71 第 三 章 :NeuralTools 参 考 指 南 25
26 概 述
简 介 NeuralTools 参 考 指 南 一 章 讲 述 NeuralTools 使 用 的 图 标 命 令 和 统 计 量 函 数 本 章 分 为 两 部 分 : 1) 参 考 :NeuralTools 图 标 2) 参 考 :NeuralTools 菜 单 命 令 第 三 章 :NeuralTools 参 考 指 南 27
28
参 考 :NeuralTools 图 标 NeuralTools 工 具 栏 NeuralTool 图 标 用 于 定 义 带 有 案 例 和 变 量 的 数 据 集, 然 后 用 这 些 数 据 创 建 和 使 用 神 经 网 络 这 一 部 分 简 要 介 绍 了 每 个 图 标, 大 致 说 明 了 它 们 执 行 的 功 能, 以 及 与 之 关 联 的 等 效 菜 单 命 令 在 Excel 2007 中, 所 有 命 令 均 通 过 NeuralTools 功 能 导 航 栏 提 供 以 下 图 标 显 示 在 Excel 2007 的 NeuralTools 功 能 导 航 栏 图 标 执 行 的 功 能 和 等 效 命 令 定 义 数 据 集 和 变 量, 或 者 编 辑 或 删 除 现 有 的 数 据 集 和 变 量 等 效 命 令 : 数 据 集 管 理 器 命 令 训 练 神 经 网 络 等 效 命 令 : 训 练 命 令 检 验 神 经 网 络 等 效 命 令 : 检 验 命 令 使 用 已 训 练 的 网 络 预 测 值 等 效 命 令 : 预 测 命 令 运 行 神 经 网 络 实 用 工 具 等 效 命 令 : 实 用 工 具 命 令 显 示 NeuralTools 帮 助 文 件 等 效 命 令 : 帮 助 命 令 参 考 :NeuralTools 图 标 29
30 NeuralTools 工 具 栏
参 考 :NeuralTools 菜 单 命 令 简 介 参 考 指 南 的 这 一 部 分 详 细 介 绍 了 Excel 中 的 NeuralTools 菜 单 上 或 功 能 导 航 栏 中 显 示 的 可 用 NeuralTools 命 令 将 对 出 现 在 菜 单 上 的 命 令 进 行 介 绍, 从 数 据 集 管 理 器 命 令 开 始, 逐 一 向 后 介 绍 可 使 用 NeuralTools 图 标 执 行 许 多 可 用 的 命 令 本 章 的 参 考 :NeuralTools 图 标 部 分 提 供 每 个 NeuralTools 图 标 的 等 效 命 令 参 考 :NeuralTools 菜 单 命 令 31
对 话 框 中 的 图 标 在 一 个 NeuralTools 对 话 框 中 最 多 可 以 出 现 两 个 图 标 : 帮 助 图 标 和 应 用 程 序 设 置 图 标 可 使 用 帮 助 图 标 快 速 访 问 相 关 对 话 框 的 帮 助 主 题 应 用 程 序 设 置 图 标 显 示 应 用 程 序 设 置 对 话 框, 供 您 输 入 或 编 辑 NeuralTools 报 表 的 设 置, 以 及 选 择 训 练 预 测 和 运 行 时 间 的 默 认 设 置 32 简 介
命 令 参 考 数 据 集 管 理 器 命 令 定 义 NeuralTools 数 据 集 和 变 量, 或 者 编 辑 或 删 除 现 有 的 数 据 集 和 变 量 数 据 集 管 理 器 命 令 可 定 义 数 据 集 的 案 例 和 变 量 定 义 了 数 据 集 后, 即 可 将 其 用 于 神 经 网 络 的 训 练 检 验 和 预 测 可 使 用 数 据 集 管 理 器 对 话 框 添 加 或 删 除 数 据 集 命 名 数 据 集, 指 定 变 量 在 数 据 集 中 的 排 放, 以 及 在 数 据 集 中 命 名 变 量 数 据 集 和 变 量 是 什 么? NeuralTools 是 围 绕 变 量 和 案 例 来 构 建 的 您 使 用 的 数 据 集 或 一 组 统 计 变 量 在 Excel 工 作 表 中 按 连 续 列 排 放, 且 数 据 集 的 第 一 行 为 变 量 名 数 据 集 中 的 每 一 行 都 是 一 个 案 例 每 个 案 例 都 有 一 组 自 变 量 值 和 一 个 已 知 的 因 变 量 输 出 值, 或 者 没 有 因 变 量 输 出 值 数 据 集 中 的 每 个 变 量 都 有 一 个 名 称 和 一 个 与 之 关 联 的 Excel 单 元 范 围 一 个 数 据 集 可 包 含 多 个 单 元 区 块, 可 将 数 据 放 在 同 一 个 工 作 簿 的 不 同 工 作 表 里 定 义 数 据 集 时,NeuralTools 会 尝 试 识 别 当 前 选 中 的 Excel 单 元 区 块 边 缘 的 变 量 这 样 可 方 便 快 捷 地 设 置 数 据 集, 使 其 首 行 为 变 量 名, 变 量 按 列 排 放 参 考 :NeuralTools 菜 单 命 令 33
数 据 集 管 理 器 对 话 框 数 据 集 管 理 器 对 话 框 中 的 数 据 集 选 项 包 括 : 新 建 / 删 除 添 加 新 数 据 集 或 删 除 现 有 数 据 集 名 称 指 定 数 据 集 的 名 称 Excel 范 围 指 定 与 数 据 集 关 联 的 Excel 范 围 如 果 将 多 个 单 元 范 围 分 配 给 一 个 数 据 集, 此 条 目 会 前 缀 有 多 个 字 样 应 用 单 元 格 式 添 加 可 识 别 您 的 数 据 集 的 网 格 或 颜 色 多 个 单 击 数 据 集 管 理 器 对 话 框 中 的 多 个 按 钮, 显 示 多 范 围 选 择 器 对 话 框 可 在 该 对 话 框 中 输 入 组 成 多 个 单 元 范 围 数 据 集 的 各 个 单 元 范 围 导 入 可 从 另 一 个 数 据 集 或 已 训 练 的 神 经 网 络 将 变 量 类 型 复 制 到 此 数 据 集 可 使 用 导 入 变 量 类 型 对 话 框 选 择 用 于 变 量 定 义 的 位 置 和 网 络 34 命 令 参 考
变 量 选 项 数 据 集 管 理 器 对 话 框 的 网 格 中 的 每 一 行 列 出 数 据 集 中 的 变 量, 包 括 放 置 变 量 数 据 点 的 Excel 数 据 范 围 变 量 名 称 以 及 变 量 类 型 变 量 类 型 选 项 包 括 : 范 畴 因 变 量 可 能 值 来 自 一 组 可 能 范 畴 的 因 变 量 或 输 出 变 量 ; 例 如 : 是 或 否, 红 绿 或 蓝 数 值 因 变 量 可 能 值 为 数 值 的 因 变 量 或 输 出 变 量 范 畴 自 变 量 可 能 值 来 自 一 组 可 能 范 畴 的 自 变 量 ; 例 如 : 是 或 否, 红 绿 或 蓝 数 值 自 变 量 可 能 值 为 数 值 的 自 变 量 标 签 可 能 值 为 训 练 检 验 或 预 测 的 变 量 此 类 变 量 用 于 识 别 数 据 集 内 用 以 进 行 训 练 检 验 和 预 测 的 案 例 未 使 用 数 据 集 中 不 会 用 于 神 经 网 络 的 变 量 参 考 :NeuralTools 菜 单 命 令 35
标 签 变 量 的 更 多 信 息 标 签 变 量 是 NeuralTools 数 据 集 中 的 一 种 特 殊 变 量 类 型, 用 于 识 别 数 据 集 中 用 以 进 行 训 练 检 验 和 预 测 的 案 例 如 果 您 想 将 ( 用 于 进 行 网 络 训 练 检 验 和 预 测 的 ) 所 有 数 据 都 纳 入 一 个 数 据 集, 使 用 标 签 变 量 则 特 别 有 用 有 了 标 签 变 量,NeuralTools 即 可 根 据 标 签 变 量 的 值 选 择 用 于 训 练 检 验 或 预 测 的 案 例 通 过 更 改 标 签 变 量 值, 您 可 使 用 其 他 案 例 再 次 训 练 网 络, 以 了 解 网 络 性 能 如 何 变 化 您 还 可 以 向 数 据 集 添 加 因 变 量 值 未 知 的 新 案 例, 并 使 用 预 测 标 签 对 其 进 行 预 测 标 签 变 量 仅 可 有 三 个 可 能 值 : 训 练 指 定 该 案 例 用 于 进 行 训 练 检 验 指 定 该 案 例 用 于 进 行 检 验 预 测 指 定 该 案 例 用 于 进 行 预 测 注 : 如 果 您 的 数 据 集 中 有 标 签 变 量, 训 练 对 话 框 中 的 选 项 会 改 变 请 参 见 训 练 命 令 以 了 解 更 多 信 息 数 据 集 和 变 量 的 容 量 在 一 个 会 话 里,NeuralTools 允 许 : 一 个 工 作 簿 中 最 多 有 256 个 数 据 集 在 Excel 2007 中, 每 个 数 据 集 最 多 有 16384 个 变 量 ( 较 早 版 本 的 Excel 中 为 256 个 变 量 ) 一 个 数 据 集 的 所 有 数 据 必 须 在 同 一 个 工 作 簿 中 每 个 变 量 的 数 据 点 数 量 以 及 每 个 数 据 集 中 的 案 例 数 量 仅 受 Excel 2007 提 供 的 存 储 量 限 制 ( 较 早 版 本 的 Excel 为 16,777,216 个 数 据 点 ) 根 据 系 统 配 置 和 使 用 的 Excel 版 本, 实 际 数 据 容 量 可 能 比 上 述 少 Excel 本 身 的 存 储 量 限 制 也 会 影 响 数 据 的 容 量 注 : 数 据 集 管 理 器 对 话 框 列 出 当 前 工 作 簿 ( 即 : 列 在 数 据 集 管 理 器 对 话 框 标 题 的 工 作 簿 ) 中 的 所 有 数 据 集 和 变 量 如 需 列 出 其 他 工 作 簿 中 的 数 据 集, 可 激 活 Excel 中 所 需 的 工 作 簿 并 显 示 数 据 集 管 理 器 对 话 框 36 命 令 参 考
训 练 命 令 指 定 用 以 训 练 神 经 网 络 的 设 置 并 进 行 训 练 训 练 命 令 可 1) 在 NeuralTools 中 指 定 用 于 训 练 某 个 神 经 网 络 的 设 置, 以 及 2) 开 始 训 练 一 个 网 络 参 考 :NeuralTools 菜 单 命 令 37
训 练 选 项 卡 训 练 对 话 框 中 的 训 练 选 项 卡 指 定 用 于 训 练 一 个 神 经 网 络 的 常 用 选 项, 它 包 括 以 下 选 项 : 数 据 集 显 示 训 练 神 经 网 络 时 使 用 的 数 据 集 此 数 据 集 需 要 使 用 数 据 集 管 理 器 进 行 定 义 并 位 于 当 前 工 作 表 中 将 网 络 另 存 为 指 定 要 训 练 的 神 经 网 络 的 名 称 和 位 置 可 将 神 经 网 络 保 存 到 一 个 Excel 工 作 簿 中, 也 可 保 存 到 硬 盘 上 的 一 个 文 件 中 单 击 浏 览 以 更 改 显 示 的 名 称 和 位 置 您 还 可 以 为 要 保 存 的 神 经 网 络 输 入 名 称 和 描 述 可 使 用 训 练 完 成 时 选 项 在 训 练 后 使 用 已 训 练 的 网 络 自 动 进 行 检 验 和 预 测 如 果 要 检 验 和 预 测 的 数 据 与 训 练 数 据 在 一 个 数 据 集 中, 即 可 完 成 以 上 操 作 自 动 检 验 指 定 : 1) 在 数 据 集 中 自 动 从 训 练 中 排 除, 以 用 于 检 验 的 案 例 % 比 例 2) 标 签 变 量 为 检 验 的 案 例 将 用 于 检 验 标 签 变 量 是 在 数 据 集 管 理 器 指 定 的 一 种 变 量 类 型 只 要 此 数 字 相 同 则 选 择 相 同 案 例 进 行 多 次 训 练 时, 指 定 应 始 终 用 于 检 验 的 同 一 案 例 比 较 不 同 类 型 的 神 经 网 络, 以 消 除 选 择 不 同 检 验 案 例 而 产 生 的 可 变 性 时, 此 选 项 将 非 常 有 用 如 果 选 择 了 该 复 选 框, 可 以 输 入 一 个 数 字, 而 输 入 固 定 数 字 表 明 选 择 固 定 的 检 验 案 例 ( 该 数 字 是 随 机 数 生 成 器 种 子 ) 38 命 令 参 考
请 注 意, 最 佳 网 络 搜 索 使 用 固 定 选 择 的 检 验 案 例 来 比 较 多 个 网 络, 无 论 是 否 选 中 此 复 选 框 自 动 预 测 缺 失 的 因 变 量 值 指 定 已 训 练 的 网 络 将 用 于 预 测 以 下 一 种 情 况 下 的 因 变 量 值 : 1) 缺 失 因 变 量 值 的 案 例, 或 者 2) 标 签 变 量 为 预 测 的 案 例 标 签 变 量 是 在 数 据 集 管 理 器 指 定 的 一 种 变 量 类 型 启 用 实 时 预 测 指 定 NeuralTools 将 公 式 放 在 显 示 因 变 量 预 测 值 的 单 元 中, 以 计 算 预 测 值 有 关 实 时 预 测 的 更 多 信 息, 请 参 见 本 章 的 预 测 命 令 计 算 变 量 作 用 次 数 指 定 NeuralTools 计 算 训 练 数 据 集 内 的 每 个 自 变 量 在 确 定 网 络 计 算 的 预 测 值 方 面 的 相 对 作 用 变 量 作 用 分 析 是 什 么? 变 量 作 用 分 析 旨 在 衡 量 网 络 预 测 对 自 变 量 改 变 的 敏 感 性 仅 对 训 练 数 据 进 行 这 种 分 析 经 过 分 析, 每 个 自 变 量 都 会 被 赋 予 一 个 相 对 变 量 作 用 次 数 值, 这 些 值 是 百 分 比 值, 加 起 来 为 100% 对 于 给 定 变 量 来 说, 这 个 百 分 比 值 越 低, 该 变 量 对 预 测 的 影 响 就 越 小 分 析 结 果 有 助 于 选 择 一 组 新 自 变 量, 即 能 够 更 准 确 地 进 行 预 测 的 变 量 例 如, 可 去 掉 一 些 作 用 小 的 值 并 加 入 一 些 新 变 量 但 是, 须 切 记, 作 用 分 析 的 结 果 是 相 对 于 给 定 网 络 的 一 个 网 络 学 会 忽 略 某 个 给 定 变 量, 可 能 会 使 另 一 个 网 络 也 学 会 忽 略 它 ; 但 是, 使 用 另 一 种 网 络 进 行 的 另 一 个 训 练 可 能 会 发 现 这 个 变 量 会 对 准 确 预 测 有 重 大 贡 献 在 案 例 数 很 少 的 数 据 集 和 / 或 变 量 数 很 多 的 数 据 集 中, 变 量 对 已 训 练 网 络 所 产 生 的 相 对 作 用 会 有 很 大 的 差 异 另 外, 切 记 这 些 值 是 相 对 的 假 设 有 两 个 自 变 量, 一 个 赋 值 为 99%, 另 一 个 赋 值 为 1% 这 表 示 后 者 远 不 如 前 者 重 要, 但 并 不 意 味 着 后 者 不 重 要, 需 要 高 度 准 确 的 预 测 时 尤 其 如 此 关 于 变 量 作 用 分 析 方 面, 其 他 需 要 注 意 的 地 方 包 括 : 1) 分 析 中 仅 包 括 训 练 数 据 ( 如 果 使 用 自 动 检 验 或 自 动 预 测, 则 相 关 案 例 不 在 分 析 之 列 原 因 是 它 们 可 能 会 有 训 练 范 围 之 外 的 数 值, 这 会 使 分 析 结 果 更 难 预 测 ) 2) 对 于 给 定 的 范 畴 自 变 量, 会 针 对 每 个 案 例 分 析 该 变 量 的 所 有 有 效 范 畴, 并 衡 量 对 预 测 值 带 来 的 变 化 ( 对 于 范 畴 预 测, 没 有 预 测 数 值, 但 有 一 个 范 畴 预 测 所 依 据 的 原 始 网 络 输 出 数 值, 分 析 会 使 用 这 些 输 出 数 值 ) 3) 对 于 给 定 的 数 值 自 变 量, 会 针 对 每 个 案 例 分 析 该 变 量 上 下 限 范 围 内 的 所 有 训 练 值, 以 衡 量 对 预 测 值 带 来 的 变 化 ( 或 者, 对 于 范 畴 预 测, 则 是 衡 量 对 原 始 输 出 数 值 带 来 的 变 化 ) 参 考 :NeuralTools 菜 单 命 令 39
变 量 作 用 分 析 的 目 的 不 是 支 持 定 论, 如 : 确 凿 表 明 给 定 变 量 不 相 关 而 是 帮 助 寻 找 一 组 最 佳 的 自 变 量 : 分 析 的 结 果 可 能 告 诉 我 们, 某 个 给 定 变 量 似 乎 极 不 相 关, 所 以, 值 得 尝 试 不 用 此 变 量 对 网 络 进 行 训 练 变 量 作 用 分 析 的 结 果 显 示 在 训 练 摘 要 报 表 中 : 40 命 令 参 考
网 络 配 置 选 项 卡 可 使 用 训 练 对 话 框 中 的 网 络 配 置 选 项 卡 来 选 择 将 用 您 的 数 据 进 行 训 练 的 神 经 网 络 类 型 您 可 以 选 择 一 种 特 定 的 网 络 配 置 或 选 择 最 佳 网 络 搜 索, 对 于 后 者,NeuralTools 会 检 验 可 能 采 用 的 各 种 配 置 以 确 定 对 您 最 佳 的 配 置 NeuralTools 支 持 不 同 的 神 经 网 络 配 置, 以 提 供 最 佳 预 测 对 于 分 类 / 范 畴 预 测, 可 使 用 两 种 网 络 : 概 率 神 经 网 络 (PNN) 和 多 层 前 馈 网 络 (MLF) 可 使 用 MLF 网 络 以 及 与 PNN 网 络 密 切 相 的 广 义 回 归 神 经 网 络 (GRNN) 进 行 数 值 预 测 有 关 可 用 网 络 配 置 更 多 技 术 信 息, 请 参 见 神 经 网 络 的 更 多 信 息 一 节 网 络 配 置 选 项 卡 包 括 以 下 内 容 : 网 络 类 型 选 择 训 练 时 使 用 的 网 络 类 型, 或 者 选 择 最 佳 网 络 搜 索 网 络 配 置 选 项 卡 的 选 项 视 选 择 的 网 络 类 型 而 有 所 不 同 可 用 的 网 络 类 型 有 : 1) 最 佳 网 络 搜 索 在 最 佳 网 络 搜 索 中,NeuralTools 检 验 所 有 选 择 的 网 络 配 置, 包 括 节 点 数 在 输 入 的 上 下 限 范 围 内 的 PNN/GRNN 以 及 MLFN 网 络 数 据 的 最 佳 配 置 根 据 检 验 数 据 的 误 差 来 确 定 如 果 选 择 了 将 所 有 试 验 网 络 存 储 在 新 工 作 簿 中, 您 即 可 从 一 个 工 作 簿 中 单 独 载 入 每 个 已 检 验 的 网 络 ( 无 论 其 是 否 为 最 佳 网 络 ), 并 在 训 练 后 使 用 它 进 行 预 测 ; 还 可 为 每 个 网 络 提 供 一 个 完 整 的 检 验 摘 要 报 表 参 考 :NeuralTools 菜 单 命 令 41
2) PNN/GRNN 网 络 这 两 类 网 络 无 需 为 训 练 选 择 其 他 选 项 ; 因 此, 在 安 装 NeuralTools 时, 这 一 设 置 为 默 认 值 如 果 您 的 数 据 有 数 值 输 出 值, 会 训 练 GRNN 网 络 ; 而 如 果 您 的 数 据 有 范 畴 输 出 值, 则 会 训 练 PNN 网 络 3) MLF 网 络 一 种 有 一 个 或 两 个 隐 含 节 点 层 的 多 层 前 馈 网 络 (MLFN) 通 过 为 第 二 层 选 择 零 节 点, 即 可 除 去 该 层 找 出 MLFN 网 络 最 佳 配 置 的 最 可 靠 方 法 是 使 用 最 佳 网 络 搜 索 选 项, 而 不 是 训 练 一 个 MLFN 网 络 的 选 项 如 果 没 有 足 够 的 时 间 进 行 最 佳 网 络 搜 索, 建 议 将 节 点 数 的 值 保 留 为 自 动 42 命 令 参 考
运 行 时 间 选 项 卡 可 使 用 训 练 对 话 框 中 的 运 行 时 间 选 项 卡 输 入 训 练 的 停 止 条 件 如 果 没 有 选 择 停 止 条 件, 训 练 最 终 还 是 会 停 止 ; 对 于 PNN/GRNN 网 络, 这 一 时 间 相 对 较 短, 而 对 于 MLF 网 络 则 较 长 可 以 采 用 的 一 种 方 法 是 选 择 不 停 止 条 件, 在 没 有 更 多 时 间 进 行 训 练 的 时 候, 单 击 训 练 进 度 对 话 框 中 的 停 止 按 钮 使 用 最 佳 网 络 搜 索 时, 必 须 定 义 训 练 一 个 网 络 的 时 限, 以 确 保 搜 索 算 法 不 会 在 某 种 配 置 上 花 费 太 多 的 时 间 可 综 合 使 用 所 提 供 的 这 三 种 停 止 条 件, 指 定 在 达 到 任 意 一 个 条 件 时 NeuralTools 将 停 止 训 练 运 行 时 间 选 项 包 括 : 时 间 为 训 练 一 个 网 络 指 定 一 个 固 定 的 时 限 只 要 算 法 确 定 不 可 能 再 有 任 何 进 展, 即 便 没 有 到 指 定 时 间, 训 练 也 会 停 止 如 果 使 用 最 佳 网 络 搜 索, 每 个 被 检 验 的 网 络 配 置 均 按 输 入 的 时 间 进 行 训 练 试 验 次 数 指 定 NeuralTools 在 停 止 之 前 执 行 试 验 的 次 数 不 得 超 过 指 定 次 数 对 于 多 层 前 馈 网 络, 一 次 试 验 是 神 经 元 之 间 连 接 的 一 个 权 重 赋 值 ; 训 练 是 对 可 生 成 最 佳 预 测 的 权 重 所 进 行 的 智 能 搜 索 对 于 概 率 神 经 网 络 和 广 义 回 归 神 经 网 络, 一 次 试 验 是 变 量 的 一 个 平 滑 因 子 赋 值 训 练 是 搜 索 最 佳 平 滑 因 子 进 度 指 定 如 果 NeuralTools 不 能 在 指 定 的 时 间 内 将 误 差 统 计 量 至 少 减 少 到 输 入 的 百 分 比, 则 NeuralTools 将 停 止 参 考 :NeuralTools 菜 单 命 令 43
训 练 预 览 对 话 框 训 练 预 览 对 话 框 在 开 始 训 练 前 显 示 当 前 网 络 训 练 设 置, 以 及 在 数 据 中 发 现 的 错 误 通 过 查 看 这 一 对 话 框 的 内 容, 您 可 根 据 NeuralTools 的 报 告 了 解 所 有 选 定 的 训 练 假 设 错 误 和 警 告 部 分 描 述 了 NeuralTools 在 数 据 和 设 置 中 发 现 的 问 题, 如 有 必 要, 您 可 在 花 时 间 进 行 训 练 之 前 加 以 更 正 44 命 令 参 考
训 练 进 度 窗 口 训 练 进 度 窗 口 在 进 行 网 络 训 练 时 报 告 训 练 状 态 图 表 详 细 说 明 了 NeuralTools 如 何 改 善 网 络 和 减 少 误 报 训 练 进 度 窗 口 报 告 训 练 数 据 的 误 差 此 值 的 变 化 不 足 以 得 出 有 关 网 络 对 训 练 中 没 有 使 用 的 案 例 进 行 预 测 的 质 量 情 况 的 任 何 直 接 结 论 这 种 结 论 应 该 根 据 检 验 数 据 的 误 差 得 出 另 请 注 意, 对 于 数 值 预 测, 进 度 窗 口 中 报 告 的 误 差 是 基 于 缩 放 数 据 ( 请 参 见 输 入 项 变 换 一 节 中 的 缩 放 信 息 ) 的 均 方 根 误 差 对 于 范 畴 预 测, 根 据 范 畴 数 据 的 数 字 表 示 来 报 告 误 差 参 考 :NeuralTools 菜 单 命 令 45
训 练 报 表 训 练 后 可 创 建 摘 要 报 表 和 详 细 报 表 这 些 报 表 详 细 说 明 已 训 练 的 神 经 网 络 的 性 能 生 成 的 实 际 报 表 内 容 在 应 用 程 序 设 置 对 话 框 中 的 要 生 成 的 报 表 和 详 细 报 表 中 的 列 数 设 置 下 指 定 训 练 摘 要 报 表 训 练 摘 要 报 表 提 供 已 训 练 的 神 经 网 络 的 性 能 统 计 量 和 图 表 对 于 范 畴 预 测 / 分 类, 训 练 摘 要 报 表 中 的 关 键 统 计 量 和 图 表 包 括 : 1) 不 良 预 测 百 分 率 - 预 测 范 畴 中 与 实 际 范 畴 不 一 致 的 案 例 百 分 比 2) 平 均 不 正 确 概 率 ( 仅 对 PNN 网 络 提 供 )- 对 于 每 个 案 例, NeuralTools 都 会 计 算 不 正 确 范 畴 的 概 率, 它 是 PNN 网 络 对 不 正 确 范 畴 的 总 概 率 所 赋 的 值 例 如, 对 于 某 个 给 定 案 例, 网 络 对 红 色 所 赋 的 概 率 值 为 30 % 对 黄 色 为 20% 对 绿 色 为 50%, 且 我 们 知 道 正 确 答 案 是 红 色, 那 么 该 案 例 的 平 均 不 正 确 概 率 值 为 20% + 50% = 70% 对 于 范 畴 预 测, 此 值 提 供 一 种 因 案 例 而 异 的 误 差 量 度, 相 当 于 数 值 预 测 的 残 差 平 均 不 正 确 概 率 是 所 有 案 例 的 平 均 误 差 值 46 命 令 参 考
详 细 报 表 根 据 各 个 案 例 显 示 不 正 确 概 率 要 更 好 地 理 解 这 一 概 念, 可 将 详 细 报 表 的 设 置 更 改 为 显 示 概 率 神 经 网 络 对 因 变 量 的 每 个 可 能 范 畴 所 赋 的 概 率 值 要 执 行 此 操 作, 在 实 用 工 具 菜 单 中 选 择 应 用 程 序 设 置, 并 单 击 详 细 报 表 中 的 列 数 一 行 右 侧 的 下 拉 菜 单 将 显 示 NeuralTools - 要 在 详 细 报 表 中 显 示 的 列 数 对 话 框 在 该 对 话 框 中, 选 择 所 有 范 畴 的 概 率 ( 针 对 PNN) 以 进 行 检 验 然 后 选 择 自 动 检 验, 使 用 至 少 有 三 个 因 变 量 范 畴 的 数 据 集 训 练 PN 网 络 ( 可 使 用 Auto Loans.xls 示 例 文 件 ) 在 生 成 的 详 细 报 表 中, 观 察 不 正 确 百 分 率 这 一 列 的 值 与 赋 给 每 个 可 能 范 畴 的 概 率 有 什 么 关 联 不 正 确 百 分 率 是 所 有 不 正 确 范 畴 的 概 率 总 和 3) 分 类 矩 阵 - 逐 个 比 较 实 际 范 畴 和 预 测 范 畴 例 如 : 分 类 矩 阵 可 能 显 示 一 个 网 络 正 确 地 检 测 到 患 者 所 患 的 病 症, 但 也 有 有 可 能 对 健 康 患 者 发 出 假 警 报 4) 变 量 作 用 ( 如 选 择 ) 显 示 自 变 量 对 预 测 答 案 的 相 对 作 用 5) 不 正 确 范 畴 的 概 率 直 方 图 ( 仅 向 PNN 网 络 提 供 ) - 请 参 见 上 述 平 均 不 正 确 概 率 以 了 解 对 不 正 确 范 畴 的 概 率 的 说 明 对 于 数 值 预 测, 训 练 摘 要 报 表 中 的 关 键 统 计 量 和 图 表 包 括 : 1) 不 良 预 测 百 分 率 - 如 果 预 测 超 出 实 际 值 的 定 义 范 围, 则 该 预 测 计 为 不 良 ; 范 围 幅 度 在 应 用 程 序 设 置 对 话 框 的 良 好 / 差 容 忍 度 ( 训 练 ) 设 置 中 定 义 2) 均 方 根 误 差 - 一 种 衡 量 预 测 值 与 实 际 值 的 偏 差 的 指 标 ( 计 算 为 平 均 方 差 的 平 方 根 ) 3) 平 均 绝 对 误 差 - 预 测 值 与 实 际 值 的 平 均 偏 差 4) 变 量 作 用 ( 如 选 择 ) 显 示 自 变 量 对 预 测 答 案 的 相 对 作 用 5) 残 差 直 方 图 - 残 差 是 实 际 值 与 预 测 值 的 差 6) 散 点 图 显 示 实 际 值 预 测 值 和 残 差 之 间 的 关 系 参 考 :NeuralTools 菜 单 命 令 47
检 验 命 令 指 定 用 以 检 验 一 个 已 训 练 神 经 网 络 的 设 置, 并 进 行 检 验 可 使 用 检 验 命 令 1) 指 定 用 于 检 验 一 个 已 训 练 神 经 网 络 的 设 置, 然 后 2) 开 始 检 验 检 验 数 据 通 常 是 输 出 值 已 知 但 没 有 在 训 练 网 络 时 使 用 的 数 据 检 验 对 话 框 中 的 选 项 包 括 : 数 据 集 显 示 将 在 检 验 已 训 练 的 神 经 网 络 时 使 用 的 数 据 集 此 数 据 集 需 要 使 用 数 据 集 管 理 器 进 行 定 义 并 存 在 于 当 前 工 作 表 中 要 使 用 的 网 络 指 定 要 检 验 的 神 经 网 络 的 名 称 和 位 置 可 将 神 经 网 络 保 存 到 一 个 Excel 工 作 簿 中, 也 可 保 存 到 硬 盘 上 的 一 个 文 件 中 单 击 浏 览 以 更 改 显 示 的 名 称 和 位 置 48 命 令 参 考
变 量 匹 配 变 量 匹 配 指 定 数 据 集 内 要 检 验 的 变 量 与 该 数 据 集 内 用 于 训 练 网 络 的 变 量 如 何 匹 配 可 使 用 两 个 选 项 进 行 变 量 匹 配 : 1) 自 动 匹 配 检 验 数 据 集 内 的 变 量 名 与 已 训 练 的 网 络 中 数 据 集 的 变 量 名 匹 配, 变 量 类 型 则 根 据 这 种 匹 配 进 行 设 置 2) 自 定 义 匹 配 可 使 用 自 定 义 匹 配 单 独 将 检 验 数 据 集 内 的 变 量 和 已 训 练 的 网 络 中 数 据 集 的 变 量 相 匹 配 仅 当 两 个 数 据 集 中 的 变 量 名 不 同, 或 者 需 要 不 同 赋 值 的 时 候, 才 可 完 成 这 种 匹 配 变 量 匹 配 对 话 框 列 出 每 个 数 据 集 中 的 变 量 名, 以 便 进 行 匹 配 仅 可 匹 配 类 型 相 同 的 变 量 每 次 进 行 匹 配 时, 所 赋 的 值 就 会 存 储 在 数 据 集 中 通 过 单 击 先 加 载, 后 匹 配, 您 可 浏 览 先 前 进 行 的 匹 配, 以 访 问 该 数 据 集 一 组 先 前 的 赋 值 参 考 :NeuralTools 菜 单 命 令 49
检 验 预 览 对 话 框 检 验 预 览 对 话 框 在 开 始 检 验 之 前 显 示 在 当 前 的 网 络 检 验 设 置 和 数 据 中 发 现 的 错 误 通 过 查 看 这 一 对 话 框 的 内 容, 您 可 根 据 NeuralTools 的 报 告 了 解 选 择 的 所 有 检 验 假 设 错 误 和 警 告 部 分 描 述 了 NeuralTools 在 数 据 中 发 现 的 问 题, 如 有 必 要, 您 可 在 检 验 前 进 行 更 正 50 命 令 参 考
检 验 报 表 在 检 验 后 可 创 建 摘 要 报 表 和 详 细 报 表 这 些 报 表 详 细 说 明 了 已 训 练 的 神 经 网 络 在 检 验 数 据 集 方 面 的 性 能 生 成 的 实 际 报 表 内 容 在 应 用 程 序 设 置 对 话 框 中 的 要 生 成 的 报 表 和 详 细 报 表 中 的 列 数 设 置 下 指 定 检 验 时, 使 用 详 细 报 表 特 别 有 用, 因 为 它 显 示 了 已 训 练 的 网 络 如 何 预 测 检 验 数 据 集 中 的 各 个 输 出 值 检 验 摘 要 报 表 检 验 摘 要 报 表 提 供 已 训 练 的 神 经 网 络 在 检 验 数 据 集 方 面 的 性 能 统 计 量 和 图 表 参 考 :NeuralTools 菜 单 命 令 51
对 于 范 畴 预 测, 检 验 摘 要 报 表 中 的 关 键 统 计 量 和 图 表 包 括 : 1) 不 良 预 测 百 分 率 - 预 测 范 畴 中 与 实 际 范 畴 不 一 致 的 案 例 百 分 比 2) 平 均 不 正 确 概 率 ( 仅 对 PNN 网 络 提 供 )- 对 于 每 个 案 例, NeuralTools 都 会 计 算 不 正 确 范 畴 的 概 率, 它 是 PNN 网 络 对 不 正 确 范 畴 的 总 概 率 所 赋 的 值 例 如, 对 于 某 个 给 定 案 例, 网 络 对 红 色 所 赋 的 概 率 值 为 30 % 对 黄 色 为 20% 对 绿 色 为 50%, 且 我 们 知 道 正 确 答 案 是 红 色, 那 么 该 案 例 的 平 均 不 正 确 概 率 值 为 20% + 50% = 70% 对 于 范 畴 预 测, 此 值 提 供 一 种 因 案 例 而 异 的 误 差 标 准, 相 当 于 数 值 预 测 的 残 差 平 均 不 正 确 概 率 是 所 有 案 例 的 平 均 误 差 值 详 细 报 表 根 据 各 个 案 例 显 示 不 正 确 概 率 要 更 好 地 理 解 这 一 概 念, 可 将 详 细 报 表 的 设 置 更 改 为 显 示 概 率 神 经 网 络 对 因 变 量 的 每 个 可 能 范 畴 所 赋 的 概 率 值 要 执 行 此 操 作, 在 实 用 工 具 菜 单 中 选 择 应 用 程 序 设 置, 并 单 击 详 细 报 表 中 的 列 数 一 行 右 侧 的 下 拉 菜 单 将 显 示 NeuralTools - 要 在 详 细 报 表 中 显 示 的 列 数 对 话 框 在 该 对 话 框 中, 选 择 所 有 范 畴 的 概 率 ( 针 对 PNN) 以 进 行 检 验 然 后 选 择 自 动 检 验, 使 用 至 少 有 三 个 因 变 量 范 畴 的 数 据 集 训 练 PN 网 络 ( 可 使 用 Auto Loans.xls 示 例 文 件 ) 在 生 成 的 详 细 报 表 中, 观 察 不 正 确 百 分 率 这 一 列 的 值 与 赋 给 每 个 可 能 范 畴 的 概 率 有 什 么 关 联 不 正 确 百 分 率 是 所 有 不 正 确 范 畴 的 概 率 总 和 3) 分 类 矩 阵 - 逐 个 比 较 实 际 范 畴 和 预 测 范 畴 例 如 : 分 类 矩 阵 可 能 显 示 一 个 网 络 正 确 地 检 测 到 患 者 所 患 的 病 症, 但 也 有 可 能 对 健 康 患 者 发 出 假 警 报 4) 不 正 确 范 畴 的 概 率 直 方 图 ( 仅 向 PNN 网 络 提 供 ) - 请 参 见 上 述 平 均 不 正 确 概 率 以 了 解 对 不 正 确 范 畴 的 概 率 的 说 明 52 命 令 参 考
对 于 数 值 预 测, 检 验 摘 要 报 表 中 的 关 键 统 计 量 和 图 表 包 括 : 1) 不 良 预 测 百 分 率 - 如 果 预 测 超 出 实 际 值 的 定 义 范 围, 则 该 预 测 计 为 不 良 ; 范 围 幅 度 在 应 用 程 序 设 置 对 话 框 的 良 好 / 差 容 忍 度 ( 检 验 ) 设 置 中 定 义 2) 均 方 根 误 差 - 一 种 衡 量 预 测 值 与 实 际 值 的 偏 差 的 指 标 ( 计 算 为 平 均 方 差 的 平 方 根 ) 3) 平 均 绝 对 误 差 - 预 测 值 与 实 际 值 的 平 均 偏 差 4) 残 差 直 方 图 - 残 差 是 实 际 值 与 预 测 值 的 差 5) 散 点 图 显 示 实 际 值 预 测 值 和 残 差 之 间 的 关 系 检 验 详 细 报 表 此 报 表 位 于 检 验 数 据 集 旁 边, 显 示 已 训 练 的 网 络 如 何 预 测 检 验 数 据 集 中 的 各 个 输 出 值 在 检 验 详 细 报 表 中, 根 据 应 用 程 序 设 置 对 话 框 中 的 容 忍 度 设 置, 对 各 项 预 测 标 示 为 良 好 或 不 良 如 果 运 行 多 个 检 验, 会 在 检 验 数 据 集 右 侧 的 新 列 中 添 加 详 细 报 表, 以 便 您 了 解 检 验 已 训 练 的 新 网 络 时, 对 每 个 案 例 的 预 测 有 何 变 化 参 考 :NeuralTools 菜 单 命 令 53
详 细 报 表 中 的 快 速 摘 要 查 看 详 细 报 表 时, 可 使 用 Excel 中 的 弹 出 注 释 快 速 访 问 摘 要 报 表 信 息 只 要 将 鼠 标 移 到 报 表 头, 就 会 显 示 该 弹 出 注 释 注 意 : 必 须 在 Excel 工 具 命 令 选 项 对 话 框 视 图 选 项 卡 中 启 用 注 释, 才 能 显 示 弹 出 注 释 54 命 令 参 考
预 测 命 令 指 定 使 用 已 训 练 的 神 经 网 络 预 测 值 的 设 置, 并 进 行 预 测 可 使 用 预 测 命 令 来 :1) 指 定 使 用 已 训 练 的 神 经 网 络 预 测 值 时 的 设 置, 以 及 2) 进 行 预 测 要 预 测 的 数 据 通 常 是 因 变 量 值 未 知 的 数 据 预 测 对 话 框 中 的 选 项 包 括 : 数 据 集 显 示 要 用 于 预 测 的 数 据 集 此 数 据 集 需 要 使 用 数 据 集 管 理 器 进 行 定 义 并 位 于 当 前 工 作 表 中 要 使 用 的 网 络 指 定 要 用 于 预 测 的 神 经 网 络 的 名 称 和 位 置 可 将 神 经 网 络 保 存 到 一 个 Excel 工 作 簿 中, 也 可 保 存 到 硬 盘 上 的 一 个 文 件 中 单 击 浏 览 以 更 改 所 显 示 的 名 称 和 位 置 变 量 匹 配 指 定 数 据 集 中 有 预 测 数 据 的 变 量 与 该 数 据 集 中 用 于 训 练 网 络 的 变 量 如 何 匹 配 单 击 编 辑 以 更 改 变 量 匹 配 有 关 变 量 匹 配 的 更 多 信 息, 请 参 见 本 章 中 的 检 验 命 令 预 测 选 择 将 进 行 预 测 的 案 例 通 常, 您 会 选 择 缺 失 因 变 量 值 的 案 例 进 行 预 测, 不 过 如 果 愿 意, 也 可 以 对 所 有 案 例 ( 甚 至 是 因 变 量 值 已 知 的 案 例 ) 进 行 预 测 如 果 您 的 数 据 集 中 有 一 个 标 签 变 量, 则 只 能 对 标 有 预 测 标 签 的 案 例 预 测 因 变 量 值 参 考 :NeuralTools 菜 单 命 令 55
选 项 设 置 预 测 值 的 位 置 和 实 时 预 测 选 项 1) 将 预 测 值 直 接 放 在 数 据 集 中 此 选 项 指 定 预 测 值 将 直 接 放 在 数 据 集 中 每 个 预 测 案 例 的 因 变 量 位 置, 可 能 还 会 放 在 详 细 报 表 中 ( 这 取 决 于 是 否 在 应 用 程 序 设 置 中 的 要 生 成 的 报 表 下 选 择 了 详 细 报 表 ) 这 会 覆 盖 单 元 的 当 前 内 容, 因 此 应 谨 慎 使 用 您 可 通 过 数 据 集 内 的 颜 色 来 辨 别 预 测 值 2) 启 用 实 时 预 测 - 指 定 NeuralTools 会 将 公 式 放 在 显 示 因 变 量 预 测 值 的 单 元 中 这 些 公 式 可 让 NeuralTools 根 据 自 变 量 值 的 变 化 来 计 算 预 测 值 3) 排 除 对 缺 失 值 或 无 效 值 案 例 的 实 时 预 测 指 定 在 案 例 缺 失 输 入 变 量 值 的 情 况 下, 不 会 添 加 实 时 预 测 公 式 缺 失 输 入 值 会 导 致 实 时 预 测 公 式 返 回 一 个 错 误 值 不 过, 允 许 NeuralTools 对 缺 失 自 变 量 值 的 案 例 输 入 公 式, 这 种 情 况 公 式 可 以 使 用, 因 为 只 要 填 充 缺 失 的 值, 就 会 自 动 显 示 预 测 56 命 令 参 考
实 时 预 测 实 时 预 测 是 NeuralTools 的 一 个 强 大 功 能 ( 仅 向 正 式 版 提 供 ), 使 您 无 需 进 行 具 体 的 预 测 操 作, 即 可 在 Excel 中 自 动 执 行 预 测 进 行 实 时 预 测 时,NeuralTools 会 将 公 式 放 在 显 示 因 变 量 预 测 值 的 单 元 中 这 些 公 式 使 用 一 个 自 定 义 NeuralTools 函 数 来 计 算 预 测 值, 如 : =NetOutputPrediction(_PALDS_DG25B8C82B!$A$140, "DG25B8C82B", "VG1DD83AF2", 'Prediction Data'!$A$6:$I$6, A7:I7) 实 际 公 式 由 NeuralTools 添 加 到 您 的 工 作 表 中, 不 需 要 由 您 来 输 入 这 些 引 数 可 让 NeuralTools 确 定 正 在 使 用 的 已 训 练 网 络, 以 及 工 作 表 中 自 变 量 值 的 位 置 当 添 加 或 更 改 某 案 例 的 输 入 自 变 量 值 时,NeuralTools 会 自 动 返 回 一 个 新 的 预 测 值 这 样, 使 用 现 有 的 已 训 练 网 络 为 新 案 例 添 加 或 生 成 预 测 变 得 简 单 易 行 注 : 如 果 预 测 基 于 不 希 望 被 更 改 的 单 元 值, 则 建 议 在 训 练 或 预 测 对 话 框 中 取 消 选 择 实 时 预 测 ; 这 样 会 尽 量 减 少 Excel 重 新 计 算 工 作 簿 的 时 间 参 考 :NeuralTools 菜 单 命 令 57
预 测 预 览 对 话 框 预 测 预 览 对 话 框 在 开 始 预 测 前 显 示 选 定 数 据 集 的 预 测 设 置, 以 及 在 数 据 或 设 置 中 发 现 的 错 误 通 过 查 看 这 一 对 话 框 的 内 容, 您 可 根 据 NeuralTools 的 报 告 了 解 选 择 的 所 有 预 测 假 设 错 误 和 警 告 部 分 描 述 了 NeuralTools 在 数 据 中 发 现 的 问 题, 如 有 必 要, 您 可 在 预 测 之 前 进 行 更 正 58 命 令 参 考
预 测 报 表 预 测 后 可 创 建 摘 要 报 表 和 详 细 报 表 这 些 报 表 详 细 说 明 了 已 训 练 的 神 经 网 络 在 检 验 数 据 集 方 面 的 性 能 生 成 的 实 际 报 表 内 容 在 应 用 程 序 设 置 对 话 框 中 的 要 生 成 的 报 表 和 详 细 报 表 中 的 列 数 设 置 下 指 定 详 细 预 测 报 表 此 报 表 位 于 预 测 数 据 集 旁 边 它 提 供 了 一 个 预 测 值 存 放 位 置, 以 便 用 户 在 不 想 将 预 测 值 放 在 数 据 集 本 身 的 因 变 量 内 时 使 用 ; 如 果 某 些 案 例 的 因 变 量 包 含 历 史 数 据, 不 要 将 历 史 案 例 与 网 络 预 测 混 在 一 起, 这 样 会 比 较 安 全 如 果 运 行 多 个 预 测, 会 在 数 据 集 右 侧 的 新 列 中 添 加 详 细 报 表, 以 便 您 了 解 使 用 已 训 练 的 新 网 络 时, 对 各 个 案 例 的 预 测 有 何 变 化 参 考 :NeuralTools 菜 单 命 令 59
实 用 工 具 应 用 程 序 设 置 命 令 指 定 训 练 检 验 和 预 测 的 默 认 设 置 可 使 用 应 用 程 序 设 置 命 令 来 选 择 1) 对 训 练 检 验 和 预 测 生 成 什 么 报 表,2) 训 练 默 认 使 用 的 选 项 以 及 3) 预 测 和 运 行 时 间 默 认 使 用 的 选 项 在 训 练 检 验 或 预 测 对 话 框 中, 默 认 使 用 许 多 应 用 程 序 设 置 请 参 见 对 这 些 对 话 框 的 说 明, 以 了 解 这 些 设 置 的 更 多 信 息 其 他 设 置 如 下 所 示 60 实 用 工 具
报 表 报 表 设 置 包 括 : 要 生 成 的 报 表 - NeuralTools 中 的 每 个 操 作 均 可 生 成 摘 要 报 表 和 详 细 报 表 但 是, 通 常 您 会 希 望 使 用 默 认 报 表 设 置, 因 为 某 些 报 表 对 某 些 操 作 的 价 值 不 大 例 如, 详 细 报 表 是 预 测 操 作 的 标 准 报 表, 而 在 这 种 情 况 下, 摘 要 报 表 没 有 多 大 价 值 摘 要 报 表 自 己 有 一 个 工 作 表, 而 详 细 报 表 则 放 在 数 据 集 右 侧 的 列 中, 与 数 据 集 同 在 一 个 工 作 表 中 摘 要 报 表 放 置 位 置 选 项 包 括 : - 新 工 作 表, 在 此 可 为 每 份 报 表 创 建 一 个 新 工 作 表 您 可 以 对 各 个 报 表 重 复 使 用 同 一 个 工 作 簿, 也 可 每 次 都 创 建 一 个 新 工 作 簿 详 细 报 表 位 置 选 项 包 括 : - 改 写 现 有 报 表, 该 选 项 会 使 用 新 的 详 细 报 表 改 写 数 据 集 中 包 含 先 前 详 细 报 表 数 据 的 列 ( 要 手 工 删 除 一 个 详 细 报 表, 单 击 并 拖 动 选 择 列 标 题, 选 中 包 含 报 表 数 据 的 所 有 列, 然 后 从 编 辑 菜 单 中 选 择 删 除 ) - 数 据 集 的 右 侧, 该 选 项 会 将 新 列 插 入 数 据 集 的 右 侧, 以 放 置 新 的 详 细 报 表 - 现 有 报 表 的 右 侧, 该 选 项 会 使 用 数 据 集 右 侧 的 列 和 现 有 报 表 来 存 放 新 的 详 细 报 表 参 考 :NeuralTools 菜 单 命 令 61
要 在 详 细 报 表 中 显 示 的 列 数 对 于 选 中 的 每 行, 数 据 集 右 侧 的 详 细 报 表 中 会 显 示 一 列, 给 出 每 个 案 例 的 信 息 可 显 示 以 下 列 : 1) 已 用 标 签 - 对 于 训 练 集 或 检 验 集 当 中 的 每 个 案 例, 显 示 训 练 或 检 验 标 签, 对 于 进 行 了 预 测 的 给 定 案 例, 显 示 预 测 标 签 2) 使 用 网 络 获 取 的 预 测 - 网 络 预 测 的 数 值 或 范 畴 3) 预 测 范 畴 的 概 率 ( 针 对 PNN) - 概 率 神 经 网 络 不 仅 可 预 测 未 知 范 畴, 还 可 对 该 范 畴 的 概 率 赋 值 使 用 多 层 前 馈 网 络 对 范 畴 进 行 预 测 时 不 可 用 不 适 用 于 数 值 预 测 4) 不 正 确 范 畴 的 概 率 ( 针 对 PNN) - PNN 网 络 对 不 正 确 范 畴 所 赋 的 概 率 值 例 如, 对 于 某 个 给 定 案 例, 网 络 对 红 色 所 赋 的 概 率 值 为 30 % 对 黄 色 为 20% 对 绿 色 为 50%, 且 我 们 知 道 正 确 答 案 是 红 色, 那 么 该 案 例 的 平 均 不 正 确 概 率 值 为 20% + 50% = 70% 对 于 范 畴 预 测, 此 列 提 供 一 种 因 案 例 而 异 的 误 差 标 准, 相 当 于 数 值 预 测 的 残 差 列 5) 残 差 - 实 际 因 变 量 值 与 预 测 因 变 量 值 之 差 不 适 用 于 范 畴 预 测 6) 好 评 / 差 评 - 对 于 数 值 预 测, 此 列 说 明 对 给 定 案 例 的 预 测 是 否 在 实 际 值 上 下 的 定 义 范 围 内 范 围 幅 度 定 义 为 好 评 / 差 评 容 忍 度 对 于 范 畴 预 测, 此 列 只 是 说 明 预 测 范 畴 与 实 际 范 畴 是 否 一 致 7) 所 有 范 畴 的 概 率 ( 针 对 PNN) - 如 果 选 择 了 此 选 项 并 训 练 了 概 率 神 经 网 络, 将 对 所 有 的 范 畴 因 变 量 插 入 一 列 例 如, 网 络 用 于 预 测 颜 色, 可 能 有 red% yellow% 和 green% 这 些 列, 其 中 包 含 对 每 种 颜 色 所 赋 的 概 率 值 好 评 / 差 评 容 忍 度 对 于 检 验 和 训 练, 如 果 数 值 预 测 在 输 入 的 实 际 因 变 量 值 百 分 比 内, 则 会 标 为 良 好 62 实 用 工 具
神 经 网 络 管 理 器 命 令 允 许 复 制 移 动 和 删 除 已 训 练 的 神 经 网 络 可 使 用 神 经 网 络 管 理 器 命 令 管 理 已 训 练 的 神 经 网 络, 将 其 在 工 作 簿 和 文 件 之 间 移 动 以 及 向 其 添 加 描 述 信 息 可 将 神 经 网 络 保 存 到 一 个 Excel 工 作 簿 中, 也 可 保 存 到 硬 盘 上 的 一 个 文 件 中 可 以 在 一 个 Excel 工 作 簿 中 放 置 任 意 数 量 的 网 络 使 用 神 经 网 络 管 理 器, 您 可 将 网 络 移 到 新 的 工 作 簿 或 文 件 中, 或 者 删 除 替 换 这 些 网 络 这 样, 无 需 附 带 训 练 数 据 的 工 作 簿, 您 就 可 以 方 便 地 使 用 已 培 训 的 现 有 网 络 分 析 其 他 工 作 簿 中 的 数 据 集 参 考 :NeuralTools 菜 单 命 令 63
神 经 网 络 管 理 器 选 项 包 括 : 复 制 该 选 项 将 已 训 练 的 神 经 网 络 复 制 到 其 他 位 置 只 需 选 择 您 想 放 置 网 络 的 工 作 簿 或 文 件 即 可 移 除 删 除 已 训 练 的 神 经 网 络 替 换 用 新 的 神 经 网 络 覆 盖 已 训 练 的 神 经 网 络 对 用 于 实 时 预 测 的 网 络 提 供 此 功 能 替 换 后, 先 前 使 用 旧 网 络 进 行 的 实 时 预 测 将 改 用 新 网 络 进 行 预 测 然 而, 这 并 不 适 用 于 详 细 报 表 如 果 详 细 报 表 包 含 的 实 时 预 测 单 元 中 使 用 了 要 被 替 换 的 网 络, 替 换 后, 这 些 单 元 将 包 含 固 定 值 网 络 信 息 可 向 网 络 添 加 描 述 信 息 这 有 助 于 识 别 已 训 练 的 网 络 及 其 训 练 条 件 64 实 用 工 具
缺 失 数 据 实 用 工 具 命 令 可 用 人 为 值 替 换 数 据 集 内 缺 失 的 数 据 值 和 错 误 值 可 使 用 缺 失 数 据 实 用 工 具 命 令 用 人 为 值 替 换 数 据 集 内 缺 失 的 数 据 或 其 它 不 需 要 的 数 据 在 训 练 检 验 和 预 测 时,NeuralTools 会 忽 略 缺 失 变 量 值 的 案 例, 因 此 在 处 理 前 更 正 这 些 错 误 通 常 很 有 用 如 果 您 的 数 据 集 中 有 缺 失 值 的 案 例, 训 练 预 览 对 话 框 将 给 出 警 告 如 果 出 现 这 种 情 况, 可 使 用 缺 失 数 据 实 用 工 具 命 令 进 行 更 正 缺 失 数 据 实 用 工 具 对 话 框 有 以 下 选 项 : 要 修 改 的 变 量 提 供 当 前 工 作 表 中 的 数 据 集 使 用 的 一 组 变 量 并 显 示 缺 失 数 值 错 误 以 及 ( 对 于 数 值 变 量 ) 非 数 值 数 据 勾 选 一 个 变 量, 以 替 换 其 缺 失 的 数 据 或 其 它 不 需 要 的 数 据 变 量 表 提 供 了 一 个 右 键 单 击 菜 单, 其 中 包 含 选 择 和 取 消 选 择 成 组 变 量 的 命 令 参 考 :NeuralTools 菜 单 命 令 65
要 替 换 的 值 为 选 中 要 替 换 的 变 量 选 择 值 的 类 型 特 定 值 可 用 于 将 某 个 变 量 的 所 有 特 定 值 替 换 为 一 个 新 值 用 于 替 换 的 内 容 在 数 据 集 中 指 定 用 来 替 换 缺 失 数 据 或 其 它 不 需 要 数 据 的 值 对 于 范 畴 变 量 和 数 值 变 量, 指 定 的 值 有 所 不 同 : 范 畴 变 量 选 项 有 : - 最 常 见 或 不 常 见 范 畴 数 据 集 内 的 案 例 最 常 见 或 最 不 常 见 的 范 畴 值 - 相 邻 范 畴 数 据 集 中 与 缺 失 值 的 案 例 相 邻 的 案 例 所 发 生 的 范 畴 值 - 随 机 选 择 的 范 畴 从 数 据 集 的 范 畴 值 中 随 机 选 择 的 范 畴 值 - 特 定 范 畴 将 所 有 缺 失 的 或 不 需 要 的 值 设 为 一 个 特 定 值 数 值 变 量 选 项 有 : - 变 量 平 均 值 变 量 在 数 据 集 的 所 有 案 例 中 的 平 均 值 - 变 量 中 位 数 值 变 量 在 数 据 集 的 所 有 案 例 中 的 中 位 数 值 - 来 自 相 邻 值 的 插 值 对 于 数 据 集 中 缺 失 值 的 案 例, 在 相 邻 案 例 的 变 量 值 之 间 通 过 内 插 计 算 得 出 的 值 - 随 机 值 ( 介 于 最 小 值 和 最 大 值 之 间 ) 对 数 据 集 内 所 有 案 例 选 择 的 介 于 变 量 最 小 值 和 最 大 值 之 间 的 随 机 值 对 于 以 上 两 种 变 量 类 型, 均 可 使 用 清 除 单 元 来 清 除 为 变 量 选 择 的 值 66 实 用 工 具
有 关 缺 失 值 的 更 多 信 息 缺 失 数 据 实 用 工 具 对 话 框 为 缺 失 的 数 据 提 供 一 个 可 能 的 解 决 途 径 : 它 在 缺 失 实 际 数 据 的 位 置 生 成 人 为 数 据 不 过 使 缺 失 的 数 据 保 留 为 空 白 单 元, 让 NeuralTools 忽 略 缺 失 数 据 的 案 例 会 更 好 请 注 意, NeuralTools 不 会 将 诸 如 "?" 之 类 的 特 殊 符 号 识 别 为 缺 失 数 据 ; 需 要 清 除 问 号, 此 步 骤 可 通 过 缺 失 数 据 实 用 工 具 完 成, 方 法 是 在 要 替 换 的 值 部 分 选 择 特 殊 值, 并 在 用 于 替 换 的 内 容 部 分 选 择 清 除 单 元 还 可 以 借 助 很 少 或 没 有 缺 失 数 据 的 自 变 量, 使 用 NeuralTools 来 预 测 一 个 自 变 量 的 缺 失 值 检 验 结 果 会 表 明 训 练 用 来 预 测 缺 失 值 的 网 络 是 否 可 靠 参 考 :NeuralTools 菜 单 命 令 67
检 验 灵 敏 度 命 令 确 定 在 随 机 选 择 不 同 检 验 案 例 的 情 况 下, 检 验 结 果 是 否 保 持 稳 定 检 验 灵 敏 度 分 析 有 助 于 控 制 因 运 气 而 获 取 良 好 检 验 结 果 的 可 能 性 如 果 随 机 选 择 用 于 检 验 的 案 例 子 集, 则 训 练 之 间 的 检 验 测 量 值 可 能 不 同 数 据 集 越 小, 就 越 可 能 出 现 差 异, 因 此 使 用 小 数 据 集 将 导 致 来 自 单 一 训 练 的 检 验 结 果 不 可 靠 检 验 灵 敏 度 分 析 有 助 于 确 定 在 选 择 不 同 检 验 案 例 的 情 况 下, 检 验 结 果 是 否 保 持 稳 定 其 还 有 助 于 确 定 针 对 检 验 保 留 的 案 例 百 分 比 68 实 用 工 具
检 验 灵 敏 度 对 话 框 包 括 以 下 选 项 : 针 对 检 验 保 留 的 案 例 百 分 比 可 以 输 入 多 个 百 分 比 值 通 过 指 定 在 多 次 训 练 期 间 针 对 检 验 保 留 的 案 例 百 分 比, 可 将 每 个 值 纳 入 分 析 中 每 个 百 分 比 值 的 训 练 次 数 上 面 列 出 的 每 个 百 分 比 值 的 训 练 次 数 网 络 配 置 设 置 分 析 中 包 含 的 多 次 训 练 全 部 共 享 同 一 个 网 络 配 置 有 关 指 定 网 络 配 置 的 详 情, 请 参 见 训 练 对 话 框 的 相 关 文 档 对 话 框 底 部 提 供 完 成 分 析 所 需 的 时 间 估 计 值 该 估 计 值 可 以 基 于 完 整 的 训 练, 或 基 于 在 训 练 对 话 框 中 指 定 的 运 行 时 间 设 置 分 析 将 生 成 一 份 报 表, 其 中 显 示 在 多 次 训 练 中 获 取 的 检 验 测 量 的 取 值 范 围 参 考 :NeuralTools 菜 单 命 令 69
神 经 网 络 的 更 多 信 息 神 经 网 络 基 本 知 识 神 经 网 络 是 输 入 数 值 并 对 这 些 输 入 项 进 行 计 算, 然 后 输 出 一 个 或 多 个 数 值 的 系 统 当 针 对 某 种 应 用 设 计 并 训 练 一 个 神 经 网 络 之 后, 其 输 出 逼 近 给 定 输 入 项 的 正 确 值 例 如 : 一 个 网 络 有 若 干 输 入 项, 代 表 鲍 鱼 ( 一 种 海 洋 动 物 ) 的 一 些 易 于 衡 量 的 特 征, 如 : 长 度 直 径 和 重 量 网 络 中 执 行 的 计 算 会 得 出 一 个 数 值, 通 常 接 近 该 动 物 的 年 龄 ( 鲍 鱼 的 年 龄 较 难 确 定 ) 神 经 网 络 这 种 构 思 源 于 大 脑 的 结 构 大 脑 由 大 量 单 元 组 成, 这 些 单 元 称 为 神 经 元 一 个 神 经 元 通 过 若 干 树 突 接 收 其 他 神 经 元 的 刺 激 神 经 元 根 据 接 收 的 刺 激, 通 过 其 唯 一 的 轴 突 向 其 他 神 经 元 发 送 信 号, 这 些 轴 突 与 其 他 神 经 元 的 树 突 相 连 人 工 神 经 网 络 与 大 脑 一 样 由 很 多 元 素 组 成, 每 个 元 素 都 接 收 大 量 输 入, 生 成 一 个 输 出, 而 该 输 出 是 输 入 的 一 个 相 对 简 单 函 数 神 经 网 络 与 统 计 方 法 神 经 网 络 提 供 了 一 种 取 代 更 为 传 统 的 统 计 方 法 的 途 径 它 们 与 线 性 回 归 一 样, 用 于 函 数 逼 近 还 与 判 别 分 析 和 逻 辑 回 归 一 样, 用 于 分 类 神 经 网 络 的 优 势 是 能 对 极 其 复 杂 的 函 数 建 模 这 与 传 统 的 线 性 技 术 ( 线 性 回 归 和 线 性 判 别 分 析 ) 截 然 不 同 在 20 世 纪 中 期, 人 工 神 经 网 络 发 明 之 前, 优 化 线 性 模 型 的 技 术 就 广 为 人 知 了 训 练 神 经 网 络 的 有 效 算 法 经 过 多 年 才 得 以 建 立 但 是, 我 们 如 今 已 有 了 一 系 列 训 练 神 经 网 络 的 先 进 算 法, 使 该 网 络 成 为 一 种 颇 有 吸 引 力 的 取 代 传 统 方 法 的 选 择 神 经 网 络 的 更 多 信 息 71
神 经 网 络 的 结 构 神 经 网 络 的 结 构 是 由 相 互 连 接 的 单 元 构 成 的, 这 些 单 元 称 为 节 点 或 神 经 元 每 个 神 经 元 执 行 网 络 内 的 一 部 分 计 算 : 一 个 神 经 元 将 一 些 数 字 作 为 输 入 项, 对 这 些 输 入 项 执 行 相 对 简 单 的 计 算, 然 后 返 回 一 个 输 出 项 一 个 神 经 元 的 输 出 值 传 送 到 另 一 个 神 经 元, 作 为 后 者 的 输 入 项, 而 生 成 整 个 系 统 的 最 终 输 出 值 的 神 经 元 不 再 传 送 值 神 经 元 按 层 排 列 输 入 层 神 经 元 接 收 输 入 项 ( 如 : 一 个 鲍 鱼 的 长 度 直 径 和 重 量 ) 以 进 行 计 算 这 些 值 传 递 给 第 一 个 隐 含 层 的 神 经 元, 后 者 对 这 些 输 入 项 进 行 计 算, 然 后 将 其 输 出 项 传 到 下 一 层 如 果 有 下 一 层, 它 可 能 还 是 一 个 隐 含 层 最 后 一 个 隐 含 层 中 各 神 经 元 的 输 出 项 传 递 给 生 成 网 络 最 终 输 出 项 ( 如 : 鲍 鱼 的 年 龄 ) 的 神 经 元 数 值 预 测 和 范 畴 预 测 将 神 经 网 络 用 于 预 测 数 值 时, 它 们 通 常 只 有 一 个 输 出 项 这 是 因 为 单 输 出 项 网 络 比 多 输 出 项 网 络 更 可 靠, 几 乎 所 有 预 测 问 题 都 可 使 用 单 输 出 网 络 来 加 以 解 决 例 如 : 对 于 未 来 几 天 的 股 票 交 易 量 和 股 价, 最 好 构 建 一 个 网 络 来 预 测 股 价, 构 建 另 外 一 个 网 络 来 预 测 股 票 交 易 量, 而 不 是 构 建 一 个 既 预 测 股 票 交 易 量 又 预 测 股 价 的 网 络 另 外, 在 用 于 分 类 / 范 畴 预 测 时, 神 经 网 络 有 多 个 输 出 例 如, 假 设 我 们 想 预 测 某 只 股 票 的 价 格 在 次 日 会 上 升 1% 以 上 下 降 1% 以 上 还 是 变 化 不 超 过 1% 这 样, 网 络 将 有 三 个 输 出 数 值, 最 大 的 输 出 值 就 代 表 网 络 选 择 的 范 畴 训 练 网 络 训 练 网 络 是 微 调 计 算 参 数 的 过 程, 旨 在 使 网 络 输 出 逼 近 给 定 输 入 项 的 正 确 值 这 一 过 程 一 方 面 是 由 训 练 数 据 引 导 的, 另 一 方 面 是 由 训 练 算 法 引 导 的 训 练 算 法 选 择 若 干 组 计 算 参 数, 通 过 对 每 个 训 练 案 例 应 用 网 络 来 评 估 每 组 参 数, 以 确 定 网 络 给 出 答 案 的 理 想 程 度 每 组 参 数 都 是 一 个 试 验 ; 训 练 算 法 根 据 之 前 的 试 验 结 果 选 择 若 干 组 新 参 数 72 神 经 网 络 基 本 知 识
神 经 网 络 的 计 算 机 处 理 神 经 网 络 是 一 种 可 在 各 种 计 算 机 硬 件 上 执 行 的 计 算 模 型 可 使 用 若 干 小 处 理 部 件 建 立 一 个 神 经 网 络, 每 个 部 件 执 行 一 个 神 经 元 的 工 作 不 过, 神 经 网 络 通 常 在 有 一 个 强 大 处 理 器 的 计 算 机 上 执 行, 即 当 今 使 用 的 大 多 数 计 算 机 采 用 单 处 理 器 计 算 机, 诸 如 NeuralTools 之 类 的 程 序 使 用 一 个 处 理 器 来 执 行 所 有 神 经 元 的 计 算 ; 在 这 种 情 况 下, 神 经 元 的 概 念 表 述 的 是 获 得 预 测 所 需 的 那 部 分 计 算, 与 实 际 处 理 部 件 不 同 神 经 网 络 的 类 型 各 种 神 经 网 络 在 结 构 神 经 元 内 执 行 的 计 算 以 及 训 练 算 法 上 各 有 不 同 NeuralTools 提 供 的 一 种 神 经 网 络 是 多 层 前 馈 网 络 (MLF) 通 过 MLF 网 络,NeuralTools 用 户 可 指 定 需 要 一 层 还 是 两 层 隐 含 神 经 元, 以 及 隐 含 层 中 应 包 含 多 少 神 经 元 (NeuralTools 可 帮 助 您 做 出 适 当 的 选 择, 请 参 见 MLF 网 络 部 分 的 说 明 ) NeuralTools 还 提 供 广 义 回 归 神 经 网 络 (GRN) 和 概 率 神 经 网 络 (PN); 二 者 密 切 相 关, 前 者 用 于 数 值 预 测, 后 者 用 于 范 畴 预 测 / 分 类 使 用 GRN/PN 网 络, 用 户 无 需 确 定 网 络 的 结 构 这 些 网 络 总 是 有 两 层 隐 含 神 经 元, 在 第 一 个 隐 含 层, 每 个 训 练 案 例 都 有 一 个 神 经 元, 第 二 层 的 大 小 取 决 于 训 练 数 据 的 某 些 因 素 本 章 的 以 下 部 分 将 详 细 探 讨 NeuralTools 提 供 的 每 一 种 神 经 网 络 神 经 网 络 的 更 多 信 息 73
74
多 层 前 馈 网 络 多 层 前 馈 网 络 ( 也 称 为 多 层 预 测 网 络 ) 是 能 逼 近 复 杂 函 数, 进 而 能 对 自 变 量 和 因 变 量 之 间 的 复 杂 关 系 建 模 的 系 统 MLF 结 构 下 图 显 示 了 使 用 三 个 数 值 自 变 量 进 行 数 值 预 测 的 MLF 网 络 ; 该 网 络 的 配 置 为 第 一 个 隐 含 层 有 2 个 神 经 元 / 节 点, 第 二 个 隐 含 层 有 3 个 神 经 元 / 节 点 输 出 项 第 二 个 隐 含 层 第 一 个 隐 含 层 输 入 项 网 络 的 行 为 由 以 下 因 素 确 定 : 其 拓 扑 结 构 ( 隐 含 层 数 量 和 这 些 层 中 的 节 点 数 ) 连 接 的 权 重 ( 分 配 给 每 个 连 接 的 参 数 ) 和 偏 差 项 ( 分 配 给 每 个 神 经 元 的 参 数 ) 激 活 / 传 递 函 数, 用 于 将 每 个 神 经 元 的 输 入 项 转 化 为 输 出 项 神 经 网 络 的 更 多 信 息 75
尤 其 应 注 意, 有 N 个 输 入 项 的 隐 含 神 经 元 先 计 算 其 输 入 项 的 加 权 和 : 和 = in 0 * w 0 + in 1 * w 1 +...+ in n * w n + 偏 差 项 其 中,in 0 到 in n 是 上 一 层 神 经 元 的 输 出 项, 而 w0 到 wn 是 连 接 权 重 ; 每 个 神 经 元 都 有 自 己 的 偏 差 值 然 后, 对 该 和 应 用 激 活 函 数 以 生 成 神 经 元 的 输 出 项 S 形 函 数 用 作 隐 含 层 神 经 元 的 激 活 函 数 尤 其 值 得 一 提 的 是, NeuralTools 使 用 双 曲 正 切 函 数 在 NeuralTools 中, 将 输 出 神 经 元 用 作 激 活 函 数 即 : 它 只 返 回 其 输 入 项 的 加 权 和 神 经 网 络 有 时 采 用 对 输 出 神 经 元 使 用 S 形 激 活 函 数 的 构 造 不 过, 神 经 网 络 不 一 定 需 要 逼 近 复 杂 函 数 此 外,S 形 函 数 有 严 格 的 输 出 项 范 围 ( 对 双 曲 正 切 函 数 为 -1 到 1), 通 常 会 有 超 出 范 围 的 因 变 量 值 因 此, 在 输 出 神 经 元 中 使 用 S 形 函 数 必 须 对 输 出 值 再 进 行 一 次 变 换, 然 后 再 将 训 练 数 据 传 递 给 网 络 使 用 MLF 网 络 进 行 分 类 时, 这 些 网 络 有 多 个 输 出 神 经 元, 每 个 神 经 元 对 应 一 个 可 能 的 范 畴 因 变 量 网 络 通 过 计 算 输 出 数 值 来 对 一 个 案 例 进 行 分 类 ; 所 选 范 畴 是 与 输 出 最 高 值 的 神 经 元 对 应 的 范 畴 76 多 层 前 馈 网 络
训 练 MLF 网 络 训 练 一 个 MLF 网 络 包 括 找 出 一 组 可 以 让 网 络 对 新 案 例 给 出 正 确 答 案 的 连 接 权 重 和 偏 差 项 ( 为 了 简 单 起 见, 以 下 陈 述 将 省 去 偏 差 项 ) 训 练 由 分 配 一 组 随 机 选 择 的 连 接 权 重 入 手, 然 后 对 每 个 训 练 案 例 进 行 预 测 ( 通 过 将 自 变 量 值 作 为 输 入 项 来 获 得 输 出 项 ) 输 出 项 很 可 能 与 已 知 因 变 量 值 不 同 因 此, 对 于 每 个 训 练 案 例, 我 们 都 有 一 个 误 差 值 从 这 些 值 中 计 算 出 整 个 训 练 集 的 误 差 标 准 ; 它 会 告 诉 我 们 在 给 定 的 初 始 权 重 下, 网 络 的 表 现 如 何 网 络 在 最 初 随 机 分 配 的 权 重 下 表 现 可 能 欠 佳, 我 们 会 继 续 进 行 试 验 : 使 用 其 他 权 重 分 配 不 过, 分 配 的 权 重 不 再 是 随 机 的, 而 是 由 我 们 的 训 练 算 法 确 定 的, 即 根 据 先 前 试 验 的 结 果 选 择 连 接 权 重 的 方 法 问 题 是 一 个 优 化 问 题 : 我 们 期 望 通 过 更 改 连 接 权 重 尽 量 减 小 误 差 标 准 历 史 背 景 误 差 标 准 训 练 时 间 拓 扑 结 构 选 择 在 MLF 网 络 中 训 练 连 接 权 重 的 第 一 个 成 功 的 算 法 是 反 向 传 播 ; 研 究 人 员 目 前 趋 向 于 采 用 其 他 算 法, 因 为 这 些 算 法 更 快, 也 更 可 能 找 到 全 局 最 优 值 NeuralTools 使 用 多 层 感 知 器 法, 它 属 于 二 级 优 化 法 范 畴 这 些 决 定 性 的 优 化 法 旨 在 找 出 一 个 函 数 的 局 部 最 小 值, 它 们 沿 着 误 差 函 数 的 曲 线 有 效 递 减 为 了 降 低 找 到 局 部 最 小 值 而 不 是 全 局 最 小 值 的 风 险,NeuralTools 综 合 使 用 了 决 定 性 优 化 法 和 随 机 性 优 化 法 尤 其 值 得 一 提 的 是, 随 机 模 拟 退 火 法 与 多 层 感 知 器 法 配 合 使 用 该 算 法 根 据 先 前 试 验 的 结 果, 决 定 在 某 一 点 使 用 什 么 方 法 有 关 多 层 感 知 器 法 的 更 多 信 息, 请 参 见 Bishop (1995) 和 Masters (1995) 有 关 模 拟 退 火 法 的 更 多 信 息, 请 参 见 Masters (1995) 训 练 数 值 预 测 网 络 时 使 用 的 误 差 标 准 是 所 有 训 练 案 例 的 均 方 差, 它 是 正 确 答 案 和 网 络 给 出 的 答 案 之 间 的 平 均 方 差 对 于 分 类, 每 个 训 练 案 例 有 多 个 输 出 项 ( 每 个 输 出 项 对 应 一 个 范 畴 因 变 量 ) 我 们 参 考 期 望 输 出 值, 计 算 所 有 训 练 案 例 的 所 有 输 出 项 的 均 方 差 : 对 于 每 个 训 练 案 例, 我 们 希 望 输 出 值 接 近 1, 即 : 输 出 值 与 正 确 的 范 畴 对 应 ; 同 时 希 望 其 余 输 出 值 接 近 0 NeuralTools MLF 训 练 算 法 采 用 不 同 的 起 始 权 重 多 次 进 行 重 新 计 算 因 此, 训 练 网 络 的 时 间 越 长 越 好 等 待 重 新 计 算 的 时 间 越 长, 就 越 有 可 能 找 到 误 差 函 数 的 全 局 最 小 值 对 层 数 和 各 层 中 的 神 经 元 数 目 的 选 择 决 定 网 络 是 否 能 学 习 自 变 量 和 因 变 量 之 间 的 关 系 通 常 有 一 个 隐 含 层 和 两 个 隐 含 神 经 元 的 网 络 不 能 训 练 到 满 意 的 误 差 水 平 但 是 增 加 层 数 和 节 点 数 又 太 不 划 算 一 个 隐 含 层 足 以 应 对 几 乎 所 有 问 题 ; 使 用 两 层 通 常 会 无 谓 地 延 长 训 练 时 间 而 且, 一 个 隐 含 层 中 有 几 个 神 经 元 通 常 就 足 够 了 神 经 网 络 的 更 多 信 息 77