光纤通道 SAN 配置指南

Size: px
Start display at page:

Download "光纤通道 SAN 配置指南"

Transcription

1 ESX 4.0 ESXi 4.0 vcenter Server 4.0 ZH_CN

2 您 可 以 在 VMware 的 网 站 上 找 到 最 新 的 技 术 文 档, 网 址 为 VMware 网 站 还 提 供 了 最 新 的 产 品 更 新 如 果 您 对 本 文 档 有 任 何 意 见 和 建 议, 请 将 您 的 反 馈 提 交 到 : docfeedback@vmware.com 2009 VMware, Inc. 保 留 所 有 权 利 本 产 品 受 美 国 和 国 际 版 权 及 知 识 产 权 法 的 保 护 VMware 产 品 受 一 项 或 多 项 专 利 保 护, 有 关 专 利 详 情, 请 访 问 VMware VMware 箱 状 徽 标 及 设 计 Virtual SMP 和 VMotion 都 是 VMware, Inc. 在 美 国 和 / 或 其 他 法 律 辖 区 的 注 册 商 标 或 商 标 此 处 提 到 的 所 有 其 他 商 标 和 名 称 分 别 是 其 各 自 公 司 的 商 标 VMware, Inc Hillview Ave. Palo Alto, CA 北 京 办 公 室 北 京 市 海 淀 区 科 学 院 南 路 2 号 融 科 资 讯 中 心 C 座 南 8 层 上 海 办 公 室 上 海 市 浦 东 新 区 浦 东 南 路 999 号 新 梅 联 合 广 场 23 楼 广 州 办 公 室 广 州 市 天 河 北 路 233 号 中 信 广 场 7401 室 2 VMware, Inc.

3 目 录 关 于 本 文 档 5 1 VMware ESX/ESXi 概 述 7 ESX/ESXi 简 介 7 了 解 虚 拟 化 8 与 ESX/ESXi 系 统 交 互 11 2 将 ESX/ESXi 与 光 纤 通 道 SAN 配 合 使 用 13 存 储 区 域 网 络 概 念 13 将 ESX/ESXi 与 SAN 配 合 使 用 概 述 14 了 解 VMFS 数 据 存 储 16 决 定 LUN 的 大 小 和 数 目 17 将 SAN 存 储 器 与 ESX/ESXi 配 合 使 用 的 细 节 18 虚 拟 机 如 何 访 问 SAN 上 的 数 据 19 了 解 多 路 径 和 故 障 切 换 19 选 择 虚 拟 机 位 置 22 针 对 服 务 器 故 障 的 设 计 23 优 化 资 源 利 用 24 3 要 求 和 安 装 25 常 规 ESX/ESXi SAN 要 求 25 ESX 从 SAN 引 导 的 要 求 26 安 装 和 设 置 27 4 设 置 与 ESX/ESXi 配 合 使 用 的 SAN 存 储 设 备 29 测 试 ESX/ESXi SAN 配 置 29 光 纤 通 道 SAN 阵 列 的 常 规 设 置 注 意 事 项 30 EMC CLARiiON 存 储 系 统 30 EMC Symmetrix 存 储 系 统 31 IBM TotalStorage DS4800 存 储 系 统 31 IBM TotalStorage HP StorageWorks 存 储 系 统 34 Hitachi Data Systems 存 储 器 36 Network Appliance 存 储 器 36 5 对 ESX 系 统 使 用 从 SAN 引 导 37 从 SAN 引 导 概 述 37 准 备 从 SAN 引 导 38 为 从 SAN 引 导 设 置 QLogic FC HBA 40 为 从 SAN 引 导 设 置 Emulex FC HBA 42 VMware, Inc. 3

4 6 管 理 使 用 SAN 存 储 器 的 ESX/ESXi 系 统 45 查 看 存 储 适 配 器 信 息 45 查 看 存 储 设 备 信 息 46 查 看 数 据 存 储 信 息 48 解 决 显 示 问 题 48 N-Port ID 虚 拟 化 51 路 径 扫 描 和 声 明 53 路 径 管 理 和 手 动 或 静 态 负 载 平 衡 56 故 障 切 换 57 共 享 诊 断 分 区 58 避 免 和 解 决 SAN 问 题 58 优 化 SAN 存 储 器 性 能 59 解 决 性 能 问 题 60 SAN 存 储 器 备 份 注 意 事 项 62 分 层 应 用 程 序 64 管 理 重 复 VMFS 数 据 存 储 64 A 多 路 径 对 照 表 69 B 管 理 存 储 路 径 和 多 路 径 插 件 71 列 出 主 机 的 声 明 规 则 71 显 示 多 路 径 模 块 72 显 示 主 机 的 SATP 73 显 示 NMP 存 储 设 备 73 添 加 PSA 声 明 规 则 74 删 除 PSA 声 明 规 则 74 屏 蔽 路 径 75 取 消 路 径 屏 蔽 76 定 义 NMP SATP 规 则 76 esxcli corestorage 命 令 行 选 项 77 索 引 79 4 VMware, Inc.

5 关 于 本 文 档 目 标 读 者 文 档 反 馈 本 手 册 ( 光 纤 通 道 SAN 配 置 指 南 ) 说 明 如 何 将 VMware ESX 和 VMware ESXi 系 统 与 光 纤 通 道 存 储 区 域 网 络 (SAN) 配 合 使 用 本 手 册 将 在 以 下 主 要 主 题 中 讨 论 背 景 概 念 安 装 要 求 和 管 理 信 息 : 了 解 ESX/ESXi 向 SAN 管 理 员 介 绍 ESX/ESXi 系 统 ESX/ESXi 与 SAN 配 合 使 用 - 讨 论 使 用 ESX/ESXi 时 在 设 置 SAN 方 面 的 要 求 与 明 显 差 异, 以 及 如 何 在 两 个 系 统 并 用 的 情 况 下 进 行 管 理 和 故 障 排 除 使 ESX 系 统 可 从 SAN 上 的 LUN 进 行 引 导 - 讨 论 从 SAN 进 行 引 导 的 要 求 限 制 及 管 理 光 纤 通 道 SAN 配 置 指 南 涵 盖 了 ESX ESXi 和 vcenter Server 本 手 册 的 目 标 读 者 为 熟 悉 虚 拟 机 技 术 和 数 据 中 心 操 作 且 具 丰 富 经 验 的 Windows 或 Linux 系 统 管 理 员 VMware 欢 迎 您 提 出 宝 贵 建 议, 以 便 改 进 我 们 的 文 档 如 有 意 见, 请 将 反 馈 发 送 到 docfeedback@vmware.com VMware vsphere 文 档 VMware vsphere 文 档 包 括 VMware vcenter Server 和 ESX/ESXi 文 档 集 VMware, Inc. 5

6 技 术 支 持 和 教 育 资 源 您 可 以 获 取 以 下 技 术 支 持 资 源 有 关 本 文 档 和 其 他 文 档 的 最 新 版 本, 请 访 问 : 在 线 支 持 和 电 话 支 持 要 通 过 在 线 支 持 提 交 技 术 支 持 请 求 查 看 产 品 和 合 同 信 息 以 及 注 册 您 的 产 品, 请 访 问 客 户 只 要 拥 有 相 应 的 支 持 合 同, 就 可 以 通 过 电 话 支 持, 尽 快 获 得 对 优 先 级 高 的 问 题 的 答 复 请 访 问 支 持 服 务 项 目 VMware 专 业 服 务 要 了 解 VMware 支 持 服 务 项 目 如 何 帮 助 您 满 足 业 务 需 求, 请 访 问 VMware 教 育 服 务 课 程 提 供 了 大 量 实 践 操 作 环 境 案 例 研 究 示 例, 以 及 用 作 作 业 参 考 工 具 的 课 程 材 料 这 些 课 程 可 以 通 过 现 场 指 导 教 室 授 课 的 方 式 学 习, 也 可 以 通 过 在 线 直 播 的 方 式 学 习 关 于 现 场 试 点 项 目 及 实 施 的 最 佳 实 践, VMware 咨 询 服 务 可 提 供 多 种 服 务, 协 助 您 评 估 计 划 构 建 和 管 理 虚 拟 环 境 要 了 解 有 关 教 育 课 程 认 证 计 划 和 咨 询 服 务 的 信 息, 请 访 问 6 VMware, Inc.

7 VMware ESX/ESXi 概 述 1 您 可 以 将 ESX/ESXi 与 光 纤 通 道 存 储 区 域 网 络 (SAN) 配 合 使 用, 后 者 是 使 用 光 纤 通 道 (FC) 协 议 在 您 的 计 算 机 系 统 与 高 性 能 存 储 子 系 统 之 间 传 输 数 据 的 专 用 高 速 网 络 将 ESX/ESXi 与 SAN 配 合 使 用 可 为 整 合 提 供 额 外 的 存 储 器, 提 高 可 靠 性, 并 在 灾 难 恢 复 方 面 提 供 帮 助 要 将 ESX/ESXi 与 SAN 有 效 配 合 使 用, 您 必 须 掌 握 ESX/ESXi 系 统 与 SAN 概 念 的 相 关 应 用 知 识 本 章 讨 论 了 以 下 主 题 : 第 7 页, ESX/ESXi 简 介 第 8 页, 了 解 虚 拟 化 第 11 页, 与 ESX/ESXi 系 统 交 互 ESX/ESXi 简 介 系 统 组 件 管 理 员 通 过 ESX/ESXi 架 构 可 将 硬 件 资 源 分 配 给 完 全 隔 离 的 环 境 中 的 多 个 工 作 负 载, 这 些 环 境 称 作 虚 拟 机 ESX/ESXi 的 主 要 组 件 包 括 虚 拟 化 层 硬 件 接 口 组 件 和 用 户 界 面 ESX/ESXi 系 统 具 有 以 下 关 键 组 件 虚 拟 化 层 该 层 提 供 理 想 化 的 硬 件 环 境 及 基 础 物 理 资 源 到 虚 拟 机 的 虚 拟 化 该 层 包 括 负 责 监 控 虚 拟 化 的 虚 拟 机 监 控 程 序 (VMM) 及 VMkernel VMware, Inc. 7

8 虚 拟 化 层 可 调 度 虚 拟 机 操 作 系 统, 如 果 在 ESX 主 机 上 运 行, 还 可 调 度 服 务 控 制 台 虚 拟 化 层 将 管 理 操 作 系 统 对 物 理 资 源 的 访 问 方 式 VMkernel 必 须 使 用 自 身 的 驱 动 程 序 来 提 供 对 物 理 设 备 的 访 问 VMkernel 驱 动 程 序 是 经 过 修 改 的 Linux 驱 动 程 序, 尽 管 VMkernel 并 非 Linux 变 体 硬 件 接 口 组 件 虚 拟 机 使 用 硬 件 接 口 组 件 与 CPU 或 磁 盘 之 类 的 硬 件 进 行 通 信 这 些 组 件 包 括 设 备 驱 动 程 序, 可 实 现 特 定 于 硬 件 的 服 务 交 付, 同 时 隐 藏 与 系 统 其 他 组 成 部 分 的 硬 件 差 异 用 户 界 面 管 理 员 可 以 通 过 几 种 方 式 查 看 和 管 理 ESX/ESXi 主 机 和 虚 拟 机 : VMware vsphere Client (vsphere Client) 可 以 直 接 连 接 到 ESX/ESXi 主 机 此 设 置 适 合 环 境 中 仅 有 一 台 主 机 的 情 况 vsphere Client 也 可 连 接 vcenter Server 并 与 vcenter Server 管 理 的 所 有 ESX/ESXi 主 机 交 互 vsphere Web Access Client 可 让 您 使 用 基 于 浏 览 器 的 界 面 执 行 多 项 管 理 任 务 当 必 须 使 用 命 令 行 访 问 时, 可 以 使 用 VMware vsphere 命 令 行 界 面 (vsphere CLI) 软 件 和 硬 件 兼 容 性 在 VMware ESX/ESXi 架 构 中, 虚 拟 机 的 操 作 系 统 ( 客 户 机 操 作 系 统 ) 仅 与 虚 拟 化 层 呈 现 的 标 准 x86 兼 容 虚 拟 硬 件 交 互 通 过 此 架 构,VMware 产 品 可 支 持 任 何 x86 兼 容 操 作 系 统 大 多 数 应 用 程 序 仅 与 客 户 机 操 作 系 统 交 互, 并 不 与 基 础 硬 件 交 互 因 此, 如 果 在 虚 拟 机 上 安 装 了 应 用 程 序 所 需 的 操 作 系 统, 您 便 能 够 在 所 选 硬 件 上 运 行 应 用 程 序 了 解 虚 拟 化 VMware 虚 拟 化 层 在 各 款 VMware 桌 面 产 品 ( 如 VMware Workstation) 及 服 务 器 产 品 ( 如 VMware ESX/ ESXi) 之 间 是 通 用 的 该 层 为 应 用 程 序 工 作 负 载 的 开 发 测 试 交 付 及 支 持 提 供 了 一 致 平 台 虚 拟 化 层 构 成 方 式 如 下 : 每 台 虚 拟 机 都 运 行 各 自 的 操 作 系 统 ( 客 户 机 操 作 系 统 ) 和 应 用 程 序 虚 拟 化 层 提 供 映 射 至 特 定 物 理 设 备 份 额 的 虚 拟 设 备 这 些 设 备 包 括 虚 拟 化 的 CPU 内 存 I/O 总 线 网 络 接 口 存 储 适 配 器 和 设 备 人 机 接 口 设 备 及 BIOS 8 VMware, Inc.

9 第 1 章 VMware ESX/ESXi 概 述 CPU 内 存 及 网 络 虚 拟 化 VMware 虚 拟 机 可 提 供 完 全 的 硬 件 虚 拟 化 虚 拟 机 上 运 行 的 客 户 机 操 作 系 统 和 应 用 程 序 永 远 无 法 直 接 确 定 其 所 访 问 的 物 理 资 源 ( 例 如, 在 多 处 理 器 系 统 中 运 行 了 哪 个 物 理 CPU, 或 者 哪 个 物 理 内 存 映 射 到 了 其 页 面 ) 将 发 生 以 下 虚 拟 化 过 程 CPU 虚 拟 化 每 台 虚 拟 机 显 示 为 分 别 运 行 于 各 自 的 CPU( 或 一 组 CPU) 之 上, 与 其 他 虚 拟 机 完 全 隔 离 各 虚 拟 机 的 注 册 表 翻 译 后 备 缓 存 及 其 他 控 制 结 构 将 分 开 保 存 大 多 数 指 令 直 接 在 物 理 CPU 上 执 行, 使 得 需 占 用 大 量 资 源 的 工 作 负 载 才 能 以 接 近 本 地 的 速 度 运 行 虚 拟 化 层 可 安 全 执 行 特 权 指 令 内 存 虚 拟 化 各 虚 拟 机 可 见 一 块 连 续 的 内 存 空 间 但 是, 所 分 配 的 物 理 内 存 可 能 并 不 连 续, 而 是 将 非 连 续 的 物 理 页 面 重 新 映 射 并 呈 现 给 各 虚 拟 机 对 于 占 用 极 大 内 存 的 负 载, 服 务 器 内 存 将 处 于 过 量 使 用 状 态 在 这 种 情 况 下, 虚 拟 机 的 部 分 物 理 内 存 可 能 映 射 到 共 享 页 面, 或 者 映 射 到 未 映 射 或 换 出 的 页 面 ESX/ESXi 无 需 客 户 机 操 作 系 统 所 具 有 的 信 息 便 可 执 行 此 虚 拟 内 存 管 理, 并 且 不 会 影 响 客 户 机 操 作 系 统 的 内 存 管 理 子 系 统 网 络 虚 拟 化 虚 拟 化 层 确 保 每 台 虚 拟 机 与 其 他 虚 拟 机 相 隔 离 虚 拟 机 仅 可 通 过 用 于 连 接 独 立 物 理 机 的 类 似 网 络 机 制 相 互 通 信 这 种 隔 离 可 让 管 理 员 构 建 内 部 防 火 墙 或 其 他 网 络 隔 离 环 境, 从 而 使 一 些 虚 拟 机 可 与 外 部 连 接, 而 另 一 些 虚 拟 机 只 能 通 过 虚 拟 网 络 与 其 他 虚 拟 机 连 接 存 储 器 虚 拟 化 ESX/ESXi 提 供 主 机 级 别 的 存 储 器 虚 拟 化, 即 采 用 逻 辑 方 式 从 虚 拟 机 中 抽 象 物 理 存 储 器 层 在 ESX/ESXi 主 机 上 运 行 的 虚 拟 机 不 清 楚 主 机 所 连 接 的 存 储 设 备 的 复 杂 性 和 特 殊 性 ESX/ESXi 虚 拟 机 使 用 虚 拟 硬 盘 来 存 储 其 操 作 系 统 程 序 文 件, 以 及 与 其 活 动 相 关 联 的 其 他 数 据 虚 拟 磁 盘 是 一 个 大 型 物 理 文 件 或 一 组 文 件, 可 以 像 任 何 其 他 文 件 一 样 轻 松 地 对 其 进 行 复 制 移 动 存 档 和 备 份 您 可 以 配 置 具 有 多 个 虚 拟 磁 盘 的 虚 拟 机 要 访 问 虚 拟 磁 盘, 虚 拟 机 需 使 用 虚 拟 SCSI 控 制 器 这 些 虚 拟 控 制 器 对 于 虚 拟 机 而 言 是 不 同 类 型 的 控 制 器, 包 括 BusLogic 并 行 LSI 逻 辑 并 行 LSI Logic SAS 和 VMware 准 虚 拟 虚 拟 机 只 能 查 看 和 访 问 以 上 类 型 的 SCSI 控 制 器 虚 拟 机 可 通 过 上 述 某 一 虚 拟 SCSI 控 制 器 访 问 的 每 个 虚 拟 磁 盘, 驻 留 在 VMware 虚 拟 机 文 件 系 统 (VMFS) 数 据 存 储 ( 基 于 NFS 的 数 据 存 储 ) 或 裸 磁 盘 上 从 虚 拟 机 的 角 度 而 言, 每 个 虚 拟 磁 盘 看 上 去 都 好 像 是 与 SCSI 控 制 器 连 接 的 SCSI 驱 动 器 实 际 的 物 理 磁 盘 设 备 是 通 过 并 行 SCSI iscsi 网 络 还 是 主 机 上 的 光 纤 通 道 适 配 器 来 访 问, 这 对 客 户 机 操 作 系 统 以 及 虚 拟 机 上 运 行 的 应 用 程 序 而 言 是 透 明 的 图 1-1 概 述 了 存 储 器 虚 拟 化 图 中 所 示 为 使 用 VMFS 的 存 储 器 和 使 用 裸 机 映 射 (RDM) 的 存 储 器 VMware, Inc. 9

10 图 1-1 SAN 存 储 器 虚 拟 化 ESX/ESXi 虚 拟 机 1 SCSI 控 制 器 虚 拟 磁 盘 1 虚 拟 磁 盘 2 VMware 虚 拟 化 层 HBA VMFS LUN1 LUN2 LUN5.vmdk RDM 虚 拟 机 文 件 系 统 在 简 单 配 置 中, 虚 拟 机 磁 盘 作 为 虚 拟 机 文 件 系 统 (VMFS) 内 的 文 件 进 行 存 储 当 客 户 机 操 作 系 统 向 其 虚 拟 磁 盘 发 出 SCSI 命 令 时, 虚 拟 化 层 会 将 这 些 命 令 转 换 成 VMFS 文 件 操 作 ESX/ESXi 主 机 使 用 VMFS 存 储 虚 拟 机 文 件 使 用 VMFS, 多 个 虚 拟 机 可 以 并 发 运 行, 并 且 可 以 并 发 访 问 它 们 的 虚 拟 磁 盘 文 件 由 于 VMFS 是 一 个 群 集 文 件 系 统, 因 此 多 台 主 机 可 以 同 时 对 SAN LUN 上 的 VMFS 数 据 存 储 进 行 共 享 访 问 VMFS 提 供 分 布 式 锁 定 以 确 保 多 主 机 环 境 的 安 全 可 以 在 本 地 磁 盘 或 SAN LUN 上 配 置 VMFS 数 据 存 储 如 果 使 用 ESXi 主 机, 则 将 在 主 机 的 首 次 引 导 期 间 捕 获 本 地 磁 盘, 并 将 其 用 于 VMFS 数 据 存 储 VMFS 数 据 存 储 可 以 映 射 到 单 个 SAN LUN, 也 可 以 跨 越 多 个 SAN LUN 可 以 通 过 增 加 数 据 存 储 或 添 加 新 的 数 据 区, 在 虚 拟 机 正 在 数 据 存 储 上 运 行 时 扩 展 数 据 存 储 VMFS 数 据 存 储 可 扩 展 为 32 个 相 同 存 储 类 型 的 物 理 存 储 数 据 区 裸 机 映 射 裸 机 映 射 (RDM) 是 VMFS 卷 中 充 当 裸 机 代 理 的 特 殊 文 件 ( 例 如 SAN LUN) 使 用 RDM,SAN LUN 可 以 直 接 整 个 分 配 到 虚 拟 机 RDM 可 提 供 VMFS 文 件 系 统 中 虚 拟 磁 盘 的 一 些 优 点, 同 时 保 持 了 直 接 访 问 物 理 设 备 的 部 分 优 势 如 果 您 使 用 Microsoft 群 集 服 务 (MSCS) 或 者 在 虚 拟 机 上 运 行 SAN 快 照 或 其 他 分 层 应 用 程 序, 则 可 能 需 要 RDM RDM 使 系 统 能 够 使 用 SAN 阵 列 所 固 有 的 硬 件 功 能 但 是, 与 具 有 存 储 在 VMFS 数 据 存 储 上 的 虚 拟 磁 盘 文 件 的 虚 拟 机 相 比, 具 有 RDM 的 虚 拟 机 并 没 有 出 现 性 能 提 升 有 关 RDM 的 详 细 信 息, 请 参 见 ESX 配 置 指 南 或 ESXi 配 置 指 南 10 VMware, Inc.

11 第 1 章 VMware ESX/ESXi 概 述 与 ESX/ESXi 系 统 交 互 可 以 通 过 几 种 不 同 方 式 与 ESX/ESXi 系 统 交 互 可 以 使 用 客 户 端 或 以 编 程 方 式 ( 在 特 殊 情 况 下 ) 交 互 管 理 员 可 以 通 过 以 下 方 式 之 一 与 ESX/ESXi 系 统 交 互 : 使 用 GUI 客 户 端 (vsphere Client 或 vsphere Web Access) 可 以 直 接 将 客 户 端 连 接 到 ESX/ESXi 主 机, 也 可 以 使 用 vcenter Server 同 时 管 理 多 台 ESX/ESXi 主 机 通 过 命 令 行 界 面 vsphere 命 令 行 界 面 (vsphere CLI) 命 令 是 在 vsphere SDK for Perl 上 运 行 的 脚 本 vsphere CLI 软 件 包 包 括 存 储 器 网 络 虚 拟 机 和 用 户 管 理 的 命 令, 并 允 许 执 行 大 多 数 管 理 操 作 有 关 详 细 信 息, 请 参 见 vsphere 命 令 行 界 面 安 装 和 参 考 指 南 ESX 管 理 员 还 可 以 使 用 ESX 服 务 控 制 台, 此 控 制 台 支 持 完 整 的 Linux 环 境, 并 包 括 所 有 vsphere CLI 命 令 使 用 服 务 控 制 台 的 安 全 性 比 远 程 运 行 vsphere CLI 的 安 全 性 低 ESXi 不 支 持 服 务 控 制 台 VMware vcenter Server vcenter Server 是 ESX/ESXi 主 机 的 中 心 管 理 员 可 以 通 过 vsphere Client 或 vsphere Web Access 访 问 vcenter Server vcenter Server vsphere Client vsphere Web Access vcenter Server 可 充 当 已 连 接 到 网 络 的 主 机 的 中 心 管 理 员 该 服 务 器 指 导 虚 拟 机 和 VMware ESX/ESXi 上 的 操 作 vsphere Client 在 Microsoft Windows 上 运 行 在 多 主 机 环 境 中, 管 理 员 使 用 vsphere Client 向 vcenter Server 发 送 请 求, 由 此 转 而 影 响 其 虚 拟 机 和 主 机 在 单 服 务 器 环 境 中,vSphere Client 直 接 连 接 ESX/ESXi 主 机 通 过 vsphere Web Access, 您 可 以 使 用 HTML 浏 览 器 连 接 vcenter Server VMware, Inc. 11

12 12 VMware, Inc.

13 将 ESX/ESXi 与 光 纤 通 道 SAN 配 合 使 用 2 将 ESX/ESXi 主 机 设 置 为 使 用 FC SAN 阵 列 存 储 时, 必 须 考 虑 若 干 特 殊 注 意 事 项 本 节 介 绍 如 何 将 ESX/ESXi 与 SAN 阵 列 配 合 使 用 本 章 讨 论 了 以 下 主 题 : 第 13 页, 存 储 区 域 网 络 概 念 第 14 页, 将 ESX/ESXi 与 SAN 配 合 使 用 概 述 第 16 页, 了 解 VMFS 数 据 存 储 第 17 页, 决 定 LUN 的 大 小 和 数 目 第 18 页, 将 SAN 存 储 器 与 ESX/ESXi 配 合 使 用 的 细 节 第 19 页, 虚 拟 机 如 何 访 问 SAN 上 的 数 据 第 19 页, 了 解 多 路 径 和 故 障 切 换 第 22 页, 选 择 虚 拟 机 位 置 第 23 页, 针 对 服 务 器 故 障 的 设 计 第 24 页, 优 化 资 源 利 用 存 储 区 域 网 络 概 念 如 果 您 是 ESX/ESXi 管 理 员, 并 计 划 设 置 ESX/ESXi 主 机 与 SAN 配 合 使 用, 那 么 您 必 须 掌 握 SAN 概 念 的 相 关 应 用 知 识 在 某 些 出 版 资 料 中 和 Internet 上 可 以 找 到 SAN 的 相 关 信 息 这 一 领 域 的 发 展 日 新 月 异, 请 时 常 查 看 上 述 资 源 如 果 您 对 SAN 技 术 不 甚 了 解, 请 先 熟 悉 基 本 术 语 存 储 区 域 网 络 (SAN) 是 将 计 算 机 系 统 或 主 机 服 务 器 连 接 到 高 性 能 存 储 子 系 统 的 专 用 高 速 网 络 SAN 组 件 包 括 主 机 服 务 器 中 的 主 机 总 线 适 配 器 (HBA) 用 于 路 由 存 储 流 量 的 交 换 机 线 缆 存 储 处 理 器 (SP) 以 及 存 储 磁 盘 阵 列 在 网 络 上 至 少 存 在 一 台 交 换 机 的 SAN 拓 扑 构 成 了 SAN 架 构 为 将 流 量 从 主 机 服 务 器 传 输 到 共 享 存 储 器,SAN 使 用 光 纤 通 道 (FC) 协 议 将 SCSI 命 令 打 包 到 光 纤 通 道 帧 中 为 限 制 服 务 器 访 问 未 分 配 给 该 服 务 器 的 存 储 阵 列,SAN 将 使 用 区 域 分 配 通 常 会 为 访 问 一 组 共 享 存 储 设 备 和 LUN 的 各 组 服 务 器 创 建 区 域 区 域 定 义 了 哪 些 HBA 可 连 接 哪 些 SP 某 区 域 以 外 的 设 备 对 该 区 域 之 内 的 设 备 不 可 见 区 域 分 配 与 LUN 屏 蔽 类 似, 后 者 常 用 于 权 限 管 理 LUN 屏 蔽 是 使 LUN 对 某 些 主 机 可 用 而 对 另 外 一 些 主 机 不 可 用 的 过 程 LUN 屏 蔽 通 常 在 SP 或 服 务 器 级 别 执 行 VMware, Inc. 13

14 端 口 在 本 文 档 的 上 下 文 中, 端 口 是 指 设 备 与 SAN 的 连 接 SAN 中 的 每 个 节 点 ( 主 机 存 储 设 备 及 架 构 组 件 ) 均 有 一 个 或 多 个 端 口, 用 于 将 其 连 接 到 SAN 端 口 可 通 过 多 种 方 式 进 行 标 识 WWPN( 全 球 端 口 名 称 ) Port_ID( 或 端 口 地 址 ) 一 种 全 球 唯 一 的 端 口 标 识 符, 可 允 许 特 定 应 用 程 序 访 问 相 应 端 口 FC 交 换 机 会 发 现 设 备 或 主 机 的 WWPN, 并 向 该 设 备 分 配 一 个 端 口 地 址 在 SAN 中, 各 端 口 具 有 唯 一 的 端 口 ID, 用 作 端 口 的 FC 地 址 通 过 这 个 唯 一 ID 可 将 数 据 经 由 SAN 路 由 至 相 应 端 口 FC 交 换 机 在 设 备 登 录 到 相 应 架 构 时 为 其 分 配 端 口 ID 仅 当 设 备 登 录 后 端 口 ID 才 有 效 使 用 N-Port ID 虚 拟 化 (NPIV) 时, 单 一 FC HBA 端 口 (N-port) 可 使 用 多 个 WWPN 向 架 构 注 册 这 个 方 法 允 许 一 个 N-port 声 明 多 个 架 构 地 址, 每 个 地 址 都 显 示 为 一 个 唯 一 的 实 体 当 ESX/ESXi 主 机 使 用 SAN 时, 上 述 多 个 唯 一 标 识 符 允 许 在 配 置 各 个 虚 拟 机 的 过 程 中 为 虚 拟 机 分 配 WWN 多 路 径 和 路 径 故 障 切 换 在 主 机 服 务 器 与 存 储 器 之 间 传 输 数 据 时,SAN 将 使 用 多 路 径 技 术 使 用 多 路 径, 您 可 以 通 过 多 条 物 理 路 径 从 ESX/ESXi 主 机 到 达 存 储 系 统 上 的 LUN 如 果 路 径 或 路 径 所 经 过 的 任 一 组 件 (HBA 或 网 卡 电 缆 交 换 机 / 交 换 机 端 口 或 存 储 处 理 器 ) 出 现 故 障, 服 务 器 将 选 择 其 他 可 用 路 径 检 测 故 障 路 径 并 切 换 到 另 一 条 路 径 的 过 程 称 为 路 径 故 障 切 换 存 储 系 统 类 型 存 储 磁 盘 系 统 类 型 可 以 是 主 动 - 主 动 和 主 动 - 被 动 ESX/ESXi 支 持 以 下 存 储 系 统 类 型 : 主 动 - 主 动 存 储 系 统, 允 许 通 过 所 有 可 用 的 存 储 器 端 口 同 时 访 问 LUN, 而 不 会 明 显 降 低 性 能 所 有 路 径 始 终 保 持 活 动 状 态, 除 非 路 径 发 生 故 障 主 动 - 被 动 存 储 系 统, 其 中 一 个 端 口 主 动 提 供 对 给 定 LUN 的 访 问 其 他 端 口 充 当 备 用 LUN, 并 且 可 以 主 动 提 供 对 其 他 LUN I/O 的 访 问 只 能 向 指 定 LUN 的 活 动 端 口 成 功 发 送 I/O 如 果 通 过 主 存 储 器 端 口 访 问 失 败, 则 其 中 一 个 辅 助 端 口 或 存 储 处 理 器 将 自 动 或 通 过 管 理 员 干 预 变 为 活 动 状 态 将 ESX/ESXi 与 SAN 配 合 使 用 概 述 将 ESX/ESXi 与 SAN 配 合 使 用 可 提 高 灵 活 性 效 率 以 及 可 靠 性 将 ESX/ESXi 与 SAN 配 合 使 用 还 支 持 集 中 式 管 理 故 障 切 换 技 术 和 负 载 平 衡 技 术 下 面 是 将 ESX/ESXi 与 SAN 配 合 使 用 的 优 点 : 可 存 储 冗 余 数 据 并 配 置 多 个 指 向 存 储 器 的 路 径, 从 而 避 免 出 现 单 一 故 障 点 ESX/ESXi 系 统 在 默 认 情 况 下 为 每 个 虚 拟 机 提 供 多 路 径 将 SAN 与 ESX/ESXi 系 统 配 合 使 用 可 将 故 障 恢 复 功 能 扩 展 到 服 务 器 使 用 SAN 存 储 器 时, 所 有 应 用 程 序 可 在 发 生 主 机 故 障 后 立 即 重 新 启 动 可 以 使 用 VMware VMotion 执 行 虚 拟 机 的 实 时 迁 移 将 VMware High Availability (HA) 与 SAN 一 同 用 于 冷 备 用 解 决 方 案, 该 解 决 方 案 可 保 证 快 速 的 自 动 响 应 14 VMware, Inc.

15 第 2 章 将 ESX/ESXi 与 光 纤 通 道 SAN 配 合 使 用 使 用 VMware Distributed Resource Scheduler (DRS) 将 虚 拟 机 从 一 台 主 机 迁 移 到 另 一 台 主 机 以 实 现 负 载 平 衡 由 于 存 储 位 于 SAN 阵 列, 因 此 应 用 程 序 可 继 续 无 缝 运 行 如 果 使 用 VMware DRS 群 集, 请 将 ESX/ESXi 主 机 置 于 维 护 模 式, 以 便 系 统 将 所 有 正 在 运 行 的 虚 拟 机 迁 移 到 其 他 ESX/ESXi 主 机 随 后 便 可 执 行 升 级 或 其 他 维 护 操 作 VMware 虚 拟 机 的 可 传 输 性 和 封 装 与 此 存 储 器 的 共 享 特 性 相 辅 相 成 当 虚 拟 机 位 于 基 于 SAN 的 存 储 器 上 时, 您 可 以 快 速 关 闭 一 台 服 务 器 上 的 虚 拟 机 并 在 另 一 台 服 务 器 上 将 其 启 动, 或 在 一 台 服 务 器 上 将 其 挂 起 并 在 同 一 网 络 上 的 另 一 台 服 务 器 上 恢 复 操 作 此 功 能 可 实 现 在 迁 移 计 算 资 源 的 同 时 保 持 一 致 的 共 享 访 问 ESX/ESXi 和 SAN 用 例 将 ESX/ESXi 与 SAN 配 合 使 用 时, 可 以 执 行 多 项 任 务 将 ESX/ESXi 与 SAN 配 合 使 用 对 于 以 下 任 务 非 常 有 效 : 零 停 机 时 间 维 护 负 载 平 衡 存 储 器 整 合 与 存 储 器 布 局 的 简 化 灾 难 恢 复 简 化 阵 列 迁 移 和 存 储 升 级 在 执 行 ESX/ESXi 主 机 或 基 础 结 构 维 护 时, 使 用 VMware DRS 或 VMotion 将 虚 拟 机 迁 移 至 其 他 服 务 器 如 果 共 享 存 储 器 位 于 SAN 上, 您 无 需 中 断 用 户 服 务 就 可 以 执 行 维 护 使 用 VMotion 或 VMware DRS 将 虚 拟 机 迁 移 至 其 他 主 机 以 实 现 负 载 平 衡 如 果 共 享 存 储 器 位 于 SAN 上, 则 无 需 中 断 用 户 连 接 就 可 以 执 行 负 载 平 衡 如 果 使 用 多 台 主 机, 且 每 台 主 机 都 运 行 多 个 虚 拟 机, 那 么 当 主 机 上 的 存 储 器 不 再 够 用 时 将 需 要 使 用 外 部 存 储 器 选 择 SAN 作 为 外 部 存 储 器 可 使 系 统 架 构 更 为 简 单, 同 时 还 有 其 他 优 点 先 预 留 一 个 较 大 的 LUN, 然 后 根 据 需 要 将 各 部 分 分 配 给 虚 拟 机 从 存 储 设 备 预 留 及 创 建 LUN 需 一 次 完 成 将 所 有 数 据 存 储 在 SAN 上 为 数 据 备 份 的 远 程 存 储 提 供 了 便 利 如 果 某 一 站 点 受 到 损 坏, 可 以 在 远 程 ESX/ESXi 主 机 上 重 新 启 动 虚 拟 机 进 行 恢 复 在 购 买 新 存 储 系 统 或 阵 列 时, 使 用 存 储 VMotion 执 行 实 时 自 动 迁 移, 将 虚 拟 机 磁 盘 文 件 从 现 有 存 储 器 迁 移 到 新 的 目 标 查 看 详 细 信 息 除 本 文 档 外, 另 有 许 多 其 他 资 源 可 帮 助 您 配 置 ESX/ESXi 系 统 与 SAN 配 合 使 用 : 对 于 大 多 数 设 置 问 题, 请 使 用 存 储 阵 列 供 应 商 的 文 档 存 储 阵 列 供 应 商 可 能 还 会 提 供 介 绍 在 ESX/ESXi 环 境 中 使 用 存 储 阵 列 的 文 档 VMware 文 档 网 站 iscsi SAN 配 置 指 南 论 述 了 ESX/ESXi 与 iscsi 存 储 区 域 网 络 配 合 使 用 的 情 况 VMware I/O 兼 容 性 指 南 列 出 了 当 前 已 认 可 的 HBA HBA 驱 动 程 序 以 及 驱 动 程 序 版 本 VMware 存 储 器 /SAN 兼 容 性 指 南 列 出 了 当 前 已 认 可 的 存 储 阵 列 VMware 发 行 说 明 提 供 了 有 关 已 知 问 题 和 解 决 办 法 的 信 息 VMware 知 识 库 包 含 有 关 常 见 问 题 和 解 决 办 法 的 信 息 VMware, Inc. 15

16 了 解 VMFS 数 据 存 储 ESX/ESXi 使 用 数 据 存 储 来 存 储 虚 拟 磁 盘, 数 据 存 储 是 一 种 逻 辑 容 器, 它 将 存 储 器 的 细 节 针 对 虚 拟 机 隐 藏 起 来, 并 提 供 一 个 统 一 的 模 型 来 存 储 虚 拟 机 文 件 存 储 设 备 上 部 署 的 数 据 存 储 使 用 VMware 虚 拟 机 文 件 系 统 (VMFS) 格 式, 该 格 式 是 针 对 存 储 虚 拟 机 而 优 化 的 特 殊 高 性 能 的 文 件 系 统 格 式 VMFS 数 据 存 储 可 将 多 个 虚 拟 机 作 为 一 个 工 作 负 载 来 运 行 VMFS 为 虚 拟 机 文 件 提 供 分 布 式 锁 定, 因 此 在 多 台 ESX/ESXi 主 机 共 享 一 组 LUN 的 SAN 环 境 中, 虚 拟 机 也 能 安 全 运 作 使 用 vsphere Client, 可 以 在 ESX/ESXi 主 机 发 现 的 任 何 基 于 SCSI 的 存 储 设 备 上 预 先 设 置 VMFS 数 据 存 储 一 个 VMFS 数 据 存 储 可 扩 展 为 多 个 物 理 存 储 数 据 区, 其 中 包 括 SAN LUN 和 本 地 存 储 器 使 用 此 功 能 可 以 将 存 储 放 在 存 储 池 中, 并 灵 活 地 创 建 虚 拟 机 所 需 的 存 储 卷 当 虚 拟 机 在 数 据 存 储 上 运 行 时, 您 可 以 增 加 数 据 存 储 的 容 量 这 一 功 能 可 让 您 在 虚 拟 机 需 要 新 空 间 时 为 VMFS 数 据 存 储 添 加 新 空 间 ESX/ESXi VMFS 专 用 于 从 多 台 物 理 机 进 行 的 并 发 访 问, 并 在 虚 拟 机 文 件 上 执 行 适 当 的 访 问 控 制 跨 ESX/ESXi 主 机 共 享 VMFS 数 据 存 储 作 为 一 个 群 集 文 件 系 统,VMFS 允 许 多 个 ESX/ESXi 主 机 同 时 访 问 同 一 个 VMFS 数 据 存 储 为 了 确 保 多 台 服 务 器 不 会 同 时 访 问 同 一 个 虚 拟 机,VMFS 提 供 了 磁 盘 锁 定 为 了 协 调 对 VMFS 内 部 文 件 系 统 信 息 的 访 问,ESX/ESXi 会 在 整 个 LUN 上 使 用 SCSI 预 留 图 2-1 显 示 了 共 享 同 一 VMFS 卷 的 若 干 ESX/ESXi 系 统 图 2-1 跨 ESX/ESXi 主 机 共 享 VMFS 数 据 存 储 ESX/ESXi ESX/ESXi ESX/ESXi A B C VM1 VM2 VM3 VMFS 卷 磁 盘 1 磁 盘 2 磁 盘 3 虚 拟 磁 盘 文 件 由 于 虚 拟 机 共 享 一 个 公 共 的 VMFS 数 据 存 储, 因 此 可 能 很 难 得 出 固 定 的 高 峰 访 问 时 段 或 优 化 性 能 必 须 针 对 高 峰 时 段 规 划 虚 拟 机 存 储 访 问, 但 是 不 同 的 应 用 程 序 可 能 具 有 不 同 的 高 峰 访 问 时 段 VMware 建 议 您 使 服 务 器 CPU 及 存 储 器 上 的 虚 拟 机 达 到 负 载 平 衡 在 每 台 服 务 器 上 都 运 行 多 台 虚 拟 机 的 组 合, 以 便 同 一 区 域 不 会 同 时 面 临 很 高 的 资 源 需 求 16 VMware, Inc.

17 第 2 章 将 ESX/ESXi 与 光 纤 通 道 SAN 配 合 使 用 元 数 据 更 新 VMFS 数 据 存 储 保 存 虚 拟 机 文 件 目 录 符 号 链 接 RDM 等 等 VMS 数 据 存 储 还 保 存 这 些 对 象 的 所 有 映 射 信 息 的 一 致 性 视 图 此 映 射 信 息 称 为 元 数 据 元 数 据 会 在 每 次 访 问 虚 拟 机 文 件 的 属 性 时 更 新 或 在 执 行 以 下 任 一 操 作 时 修 改 : 创 建 扩 展 或 锁 定 虚 拟 机 文 件 更 改 文 件 的 属 性 启 动 或 关 闭 虚 拟 机 决 定 LUN 的 大 小 和 数 目 在 使 用 VMFS 数 据 存 储 格 式 化 LUN 之 前, 必 须 规 划 如 何 设 置 ESX/ESXi 系 统 的 存 储 器 决 定 LUN 的 大 小 和 数 目 时, 请 牢 记 以 下 注 意 事 项 : 每 个 LUN 应 具 有 正 确 的 RAID 级 别 和 存 储 特 性, 适 用 于 使 用 该 LUN 的 虚 拟 机 中 的 应 用 程 序 一 个 LUN 必 须 仅 包 含 一 个 VMFS 数 据 存 储 如 果 多 台 虚 拟 机 访 问 同 一 个 VMFS, 请 使 用 磁 盘 份 额 区 分 虚 拟 机 的 优 先 级 出 于 以 下 原 因, 您 可 能 需 要 较 少 较 大 的 LUN: 在 不 向 存 储 管 理 员 要 求 更 多 空 间 的 情 况 下, 使 创 建 虚 拟 机 的 灵 活 性 更 大 使 调 整 虚 拟 磁 盘 大 小 执 行 快 照 等 等 的 灵 活 性 更 大 使 要 管 理 的 VMFS 数 据 存 储 变 得 更 少 出 于 以 下 原 因, 您 可 能 需 要 较 多 较 小 的 LUN: 减 少 存 储 空 间 浪 费 不 同 的 应 用 程 序 可 能 需 要 不 同 的 RAID 特 性 为 每 个 LUN 设 置 多 路 径 策 略 和 磁 盘 份 额, 从 而 增 加 灵 活 性 使 用 Microsoft 群 集 服 务 要 求 每 个 群 集 磁 盘 资 源 位 于 各 自 的 LUN 中 由 于 对 单 个 卷 的 争 用 情 况 较 少, 因 此 性 能 更 佳 如 果 没 有 相 关 虚 拟 机 的 存 储 描 述, 通 常 很 难 决 定 要 使 用 的 LUN 大 小 和 数 量 可 以 使 用 预 测 性 或 自 适 应 性 方 案 决 定 LUN 大 小 和 数 量 使 用 预 测 性 方 案 来 决 定 LUN 的 大 小 和 数 目 在 使 用 VMFS 数 据 存 储 格 式 化 LUN 之 前 规 划 如 何 设 置 ESX/ESXi 系 统 的 存 储 器 时, 必 须 决 定 要 使 用 的 LUN 的 大 小 和 数 目 可 以 使 用 预 测 性 方 案 决 定 LUN 的 大 小 和 数 目 1 创 建 若 干 具 有 不 同 存 储 特 性 的 LUN 2 在 每 个 LUN 上 构 建 一 个 VMFS 数 据 存 储, 并 依 照 相 应 特 性 标 记 各 个 数 据 存 储 3 分 配 虚 拟 磁 盘 以 包 含 在 LUN 上 构 建 的 VMFS 数 据 存 储 中 的 虚 拟 机 应 用 程 序 数 据, 这 些 LUN 具 有 满 足 其 上 应 用 程 序 要 求 的 RAID 级 别 VMware, Inc. 17

18 4 使 用 磁 盘 份 额 来 区 别 高 优 先 级 虚 拟 机 与 低 优 先 级 虚 拟 机 磁 盘 份 额 仅 表 示 给 定 主 机 内 的 比 例 分 配 给 某 一 主 机 上 虚 拟 机 的 份 额 并 不 影 响 其 他 主 机 上 的 虚 拟 机 5 运 行 应 用 程 序 以 确 定 虚 拟 机 性 能 是 否 可 接 受 使 用 自 适 应 性 方 案 来 决 定 LUN 的 大 小 和 数 目 在 使 用 VMFS 数 据 存 储 格 式 化 LUN 之 前 规 划 如 何 设 置 ESX/ESXi 系 统 的 存 储 器 时, 必 须 决 定 要 使 用 的 LUN 的 大 小 和 数 目 可 以 使 用 自 适 应 性 方 案 决 定 LUN 的 大 小 和 数 目 1 创 建 一 个 较 大 的 LUN(RAID 1+0 或 RAID 5), 同 时 启 用 写 入 缓 存 2 在 该 LUN 上 构 建 VMFS 3 在 VMFS 上 放 置 四 个 或 五 个 虚 拟 磁 盘 4 运 行 应 用 程 序 以 确 定 磁 盘 性 能 是 否 可 接 受 如 果 性 能 可 接 受, 您 可 以 在 VMFS 上 再 添 加 虚 拟 磁 盘 如 果 性 能 不 可 接 受, 请 新 建 更 大 的 LUN( 可 能 采 用 其 他 RAID 级 别 ) 并 重 复 此 过 程 使 用 迁 移, 以 便 不 会 在 重 新 创 建 LUN 时 丢 失 虚 拟 机 使 用 磁 盘 份 额 区 分 虚 拟 机 优 先 级 如 果 多 台 虚 拟 机 访 问 同 一 VMFS 数 据 存 储 ( 因 此 也 是 访 问 同 一 LUN), 请 使 用 磁 盘 份 额 区 分 虚 拟 机 对 磁 盘 的 访 问 优 先 级 磁 盘 份 额 可 区 别 高 优 先 级 虚 拟 机 与 低 优 先 级 虚 拟 机 1 启 动 vsphere Client 并 连 接 到 vcenter Server 2 在 清 单 面 板 中 选 择 虚 拟 机, 并 从 菜 单 中 选 择 编 辑 设 置 3 单 击 资 源 选 项 卡 并 单 击 磁 盘 4 双 击 要 修 改 的 磁 盘 的 份 额 列, 然 后 在 下 拉 菜 单 中 选 择 所 需 值 份 额 是 表 示 用 于 控 制 所 有 虚 拟 机 磁 盘 带 宽 的 相 对 衡 量 指 标 的 值 将 低 正 常 高 及 自 定 义 值 与 服 务 器 ESX 主 机 和 服 务 控 制 台 中 所 有 虚 拟 机 的 所 有 份 额 的 总 数 进 行 比 较 份 额 分 配 符 号 值 可 用 于 将 其 转 换 配 置 为 数 字 值 5 单 击 确 定 保 存 选 择 注 意 磁 盘 份 额 仅 表 示 给 定 ESX/ESXi 主 机 内 的 比 例 分 配 给 某 一 主 机 上 虚 拟 机 的 份 额 并 不 影 响 其 他 主 机 上 的 虚 拟 机 将 SAN 存 储 器 与 ESX/ESXi 配 合 使 用 的 细 节 将 SAN 与 ESX/ESXi 主 机 一 起 使 用 在 很 多 方 面 有 别 于 传 统 的 SAN 使 用 情 况 将 SAN 存 储 器 与 ESX/ESXi 配 合 使 用 时, 请 记 住 以 下 注 意 事 项 : 您 无 法 直 接 访 问 使 用 该 存 储 器 的 虚 拟 机 操 作 系 统 使 用 传 统 工 具, 只 能 监 控 VMware ESX/ESXi 操 作 系 统 可 以 使 用 vsphere Client 监 控 虚 拟 机 默 认 情 况 下, 在 创 建 虚 拟 机 时, 虚 拟 机 将 配 置 一 个 虚 拟 硬 盘 和 一 个 虚 拟 SCSI 控 制 器 可 以 通 过 使 用 vsphere Client 编 辑 虚 拟 机 设 置 来 修 改 SCSI 控 制 器 类 型 及 SCSI 总 线 共 享 特 性 您 也 可 以 将 硬 盘 添 加 到 虚 拟 机 通 过 SAN 管 理 工 具 可 看 到 的 HBA 属 于 ESX/ESXi 系 统 ( 而 不 是 属 于 虚 拟 机 ) ESX/ESXi 系 统 可 执 行 多 路 径 18 VMware, Inc.

19 第 2 章 将 ESX/ESXi 与 光 纤 通 道 SAN 配 合 使 用 第 三 方 管 理 应 用 程 序 可 以 将 第 三 方 管 理 应 用 程 序 与 ESX/ESXi 主 机 配 合 使 用 大 多 数 SAN 硬 件 都 附 送 SAN 管 理 软 件 此 软 件 通 常 在 存 储 阵 列 或 单 个 服 务 器 上 运 行, 独 立 于 使 用 SAN 作 为 存 储 器 的 服 务 器 此 第 三 方 管 理 软 件 可 用 于 执 行 下 列 任 务 : 存 储 阵 列 管 理 ( 包 括 LUN 创 建 阵 列 缓 存 管 理 LUN 映 射 以 及 LUN 安 全 ) 设 置 复 制 检 查 点 快 照 或 镜 像 如 果 决 定 在 虚 拟 机 上 运 行 SAN 管 理 软 件, 您 可 享 有 运 行 虚 拟 机 的 一 系 列 优 点, 包 括 使 用 VMotion 和 VMware HA 进 行 故 障 切 换 但 是, 由 于 附 加 了 间 接 级 别, 管 理 软 件 可 能 检 测 不 到 SAN 使 用 RDM 可 解 决 此 问 题 注 意 虚 拟 机 能 否 成 功 运 行 管 理 软 件 取 决 于 特 定 的 存 储 系 统 虚 拟 机 如 何 访 问 SAN 上 的 数 据 ESX/ESXi 将 虚 拟 机 的 磁 盘 文 件 存 储 到 SAN 存 储 设 备 上 所 部 署 的 VMFS 数 据 存 储 内 当 虚 拟 机 客 户 机 操 作 系 统 向 其 虚 拟 磁 盘 发 出 SCSI 命 令 时, 虚 拟 化 层 会 将 这 些 命 令 转 换 成 VMFS 文 件 操 作 虚 拟 机 与 其 在 SAN 上 存 储 的 虚 拟 磁 盘 交 互 时, 将 发 生 以 下 过 程 : 1 虚 拟 机 中 的 客 户 机 操 作 系 统 读 写 SCSI 磁 盘 时, 将 向 虚 拟 磁 盘 发 出 SCSI 命 令 2 虚 拟 机 操 作 系 统 中 的 设 备 驱 动 程 序 将 与 虚 拟 SCSI 控 制 器 进 行 通 信 3 虚 拟 SCSI 控 制 器 将 命 令 转 发 至 VMkernel 4 VMkernel 将 执 行 以 下 任 务 在 VMFS 卷 中 查 找 与 客 户 机 虚 拟 机 磁 盘 对 应 的 文 件 将 对 虚 拟 磁 盘 上 块 的 请 求 映 射 到 相 应 物 理 设 备 上 的 块 将 修 改 后 的 I/O 请 求 从 VMkernel 中 的 设 备 驱 动 程 序 发 送 到 物 理 HBA( 主 机 HBA) 5 主 机 HBA 将 执 行 以 下 任 务 将 请 求 从 本 身 的 二 进 制 数 据 形 式 转 换 成 经 光 缆 传 输 所 需 的 光 学 形 式 依 据 FC 协 议 的 规 则 将 请 求 打 包 将 请 求 传 输 至 SAN 6 根 据 HBA 用 于 连 接 架 构 的 端 口, 相 应 SAN 交 换 机 会 收 到 请 求 并 将 其 路 由 至 主 机 要 访 问 的 存 储 设 备 此 存 储 设 备 对 主 机 显 示 为 某 一 特 定 磁 盘, 但 它 可 能 是 与 SAN 上 的 物 理 设 备 相 对 应 的 逻 辑 设 备 交 换 机 必 须 确 定 哪 个 物 理 设 备 可 作 为 主 机 的 目 标 逻 辑 设 备 了 解 多 路 径 和 故 障 切 换 要 维 持 ESX/ESXi 主 机 和 其 存 储 器 之 间 的 持 续 连 接,ESX/ESXi 必 须 支 持 多 路 径 通 过 多 路 径 技 术, 用 户 可 以 使 用 多 个 物 理 路 径 在 主 机 和 外 部 存 储 设 备 之 间 传 输 数 据 如 果 SAN 网 络 中 的 任 一 网 元 ( 如 适 配 器 交 换 机 或 线 缆 ) 发 生 故 障, 则 ESX/ESXi 可 以 切 换 到 另 一 不 使 用 故 障 组 件 的 物 理 路 径 这 种 避 免 使 用 故 障 组 件 的 路 径 切 换 过 程 称 为 路 径 故 障 切 换 VMware, Inc. 19

20 除 路 径 故 障 切 换 外, 多 路 径 还 提 供 负 载 平 衡 负 载 平 衡 是 在 多 个 物 理 路 径 中 分 配 I/O 负 载 的 过 程 负 载 平 衡 可 以 减 少 或 消 除 潜 在 的 瓶 颈 注 意 在 路 径 故 障 切 换 发 生 时, 虚 拟 机 I/O 最 多 能 延 迟 60 秒 此 延 迟 使 SAN 可 以 在 拓 扑 更 改 后 稳 定 其 配 置 通 常, 主 动 - 被 动 阵 列 上 的 I/O 延 迟 时 间 可 能 会 更 长, 而 在 主 动 - 主 动 阵 列 上 则 更 短 基 于 主 机 的 光 纤 通 道 故 障 切 换 要 支 持 多 路 径, 主 机 通 常 具 有 两 个 或 更 多 个 可 用 的 HBA 此 配 置 对 SAN 多 路 径 配 置 进 行 补 充,SAN 多 路 径 配 置 通 常 为 SAN 架 构 提 供 一 个 或 多 个 交 换 机 并 为 存 储 阵 列 设 备 本 身 提 供 一 个 或 多 个 存 储 处 理 器 在 图 2-2 中, 可 通 过 多 条 物 理 路 径 将 每 台 服 务 器 与 存 储 设 备 相 连 例 如, 如 果 HBA1 或 HBA1 与 FC 交 换 机 之 间 的 链 路 发 生 故 障,HBA2 会 取 代 HBA1 并 提 供 服 务 器 与 交 换 机 之 间 的 连 接 一 个 HBA 取 代 另 一 个 HBA 的 过 程 称 为 HBA 故 障 切 换 图 2-2 多 路 径 和 故 障 切 换 ESX/ESXi ESX/ESXi HBA2 HBA1 HBA3 HBA4 交 换 机 交 换 机 SP1 SP2 存 储 阵 列 类 似 地, 如 果 SP1 发 生 故 障 或 SP1 与 交 换 机 之 间 的 链 路 中 断,SP2 会 取 代 SP1 并 提 供 交 换 机 与 存 储 设 备 之 间 的 连 接 此 过 程 称 为 SP 故 障 切 换 VMware ESX/ESXi 通 过 多 路 径 功 能 支 持 HBA 和 SP 故 障 切 换 管 理 多 路 径 为 管 理 存 储 多 路 径,ESX/ESXi 使 用 特 殊 的 VMkernel 层 ( 即, 可 插 入 存 储 架 构 (PSA)) PSA 是 一 个 协 调 多 个 多 路 径 插 件 (MPP) 的 同 时 操 作 的 开 放 式 模 块 框 架 ESX/ESXi 默 认 情 况 下 提 供 的 VMkernel 多 路 径 插 件 是 VMware 本 机 多 路 径 插 件 (NMP) NMP 是 管 理 子 插 件 的 可 扩 展 模 块 NMP 子 插 件 有 两 种 类 型, 即 存 储 阵 列 类 型 插 件 (SATP) 和 路 径 选 择 插 件 (PSP) SATP 和 PSP 可 以 是 VMware 提 供 的 内 置 插 件, 也 可 以 由 第 三 方 提 供 如 果 需 要 更 多 多 路 径 功 能, 第 三 方 还 可 以 提 供 MPP 以 作 为 默 认 NMP 的 附 属 或 替 代 运 行 当 协 调 VMware NMP 和 所 安 装 的 任 何 第 三 方 MPP 时,PSA 将 执 行 以 下 任 务 : 加 载 和 卸 载 多 路 径 插 件 对 特 定 插 件 隐 藏 虚 拟 机 细 节 将 特 定 逻 辑 设 备 的 I/O 请 求 路 由 到 管 理 该 设 备 的 MPP 处 理 逻 辑 设 备 的 I/O 排 队 操 作 在 虚 拟 机 之 间 实 现 逻 辑 设 备 带 宽 共 享 20 VMware, Inc.

21 第 2 章 将 ESX/ESXi 与 光 纤 通 道 SAN 配 合 使 用 处 理 物 理 存 储 HBA 的 I/O 排 队 操 作 处 理 物 理 路 径 发 现 和 移 除 提 供 逻 辑 设 备 和 物 理 路 径 I/O 统 计 信 息 如 图 2-3 所 示, 多 个 第 三 方 MPP 可 以 与 VMware NMP 并 行 运 行 第 三 方 MPP 将 替 代 NMP 的 行 为, 并 且 完 全 控 制 指 定 存 储 设 备 的 路 径 故 障 切 换 和 负 载 平 衡 操 作 图 2-3 可 插 入 存 储 架 构 VMkernel 可 插 入 存 储 架 构 第 三 方 MPP 第 三 方 MPP VMware NMP VMware SATP VMware SATP VMware SATP 第 三 方 SATP VMware PSP VMware PSP 第 三 方 PSP 多 路 径 模 块 执 行 以 下 操 作 : 管 理 物 理 路 径 声 明 和 取 消 声 明 管 理 逻 辑 设 备 的 创 建 注 册 和 取 消 注 册 将 物 理 路 径 与 逻 辑 设 备 关 联 处 理 逻 辑 设 备 的 I/O 请 求 : 为 请 求 选 择 最 佳 物 理 路 径 根 据 存 储 设 备, 执 行 处 理 路 径 故 障 和 I/O 命 令 重 试 所 需 的 特 定 操 作 支 持 管 理 任 务, 如 中 止 或 重 置 逻 辑 设 备 VMware 多 路 径 模 块 默 认 情 况 下,ESX/ESXi 提 供 名 为 本 机 多 路 径 插 件 (NMP) 的 可 扩 展 多 路 径 模 块 一 般 来 说,VMware NMP 支 持 VMware 存 储 HCL 上 列 出 的 所 有 存 储 阵 列, 并 基 于 阵 列 类 型 提 供 默 认 的 路 径 选 择 算 法 还 将 一 组 物 理 路 径 与 特 定 存 储 设 备 或 LUN 关 联 存 储 阵 列 类 型 插 件 (SATP) 负 责 处 理 给 定 存 储 阵 列 的 路 径 故 障 切 换 路 径 选 择 插 件 (PSP) 负 责 确 定 哪 个 物 理 路 径 用 于 向 存 储 设 备 发 出 I/O 请 求 SATP 和 PSP 是 NMP 模 块 中 的 子 插 件 VMware SATP 存 储 阵 列 类 型 插 件 (SATP) 与 VMware NMP 一 起 运 行, 负 责 特 定 于 阵 列 的 操 作 ESX/ESXi 为 VMware 支 持 的 各 种 类 型 阵 列 提 供 SATP 这 些 SATP 包 括 适 于 非 指 定 存 储 阵 列 的 主 动 / 主 动 SATP 和 主 动 / 被 动 SATP, 以 及 适 于 直 接 连 接 存 储 器 的 本 地 SATP 每 个 SATP 适 合 特 定 类 别 的 存 储 阵 列 的 特 殊 特 性, 并 可 以 执 行 检 测 路 径 状 况 和 激 活 被 动 路 径 所 需 的 特 定 于 阵 列 的 操 作 因 此,NMP 模 块 可 以 使 用 多 个 存 储 阵 列, 而 无 需 了 解 存 储 设 备 的 特 性 在 NMP 确 定 要 为 特 定 存 储 设 备 调 用 哪 个 SATP 并 将 该 SATP 与 存 储 设 备 的 物 理 路 径 相 关 联 之 后, 该 SATP 会 执 行 以 下 任 务 : 监 控 每 个 物 理 路 径 的 健 康 状 况 报 告 每 个 物 理 路 径 的 状 况 变 化 执 行 存 储 器 故 障 切 换 所 需 的 特 定 于 阵 列 的 操 作 例 如, 对 于 主 动 / 被 动 设 备, 它 可 以 激 活 被 动 路 径 VMware, Inc. 21

22 VMware PSP 路 径 选 择 插 件 (PSP) 与 VMware NMP 一 起 运 行, 负 责 选 择 I/O 请 求 的 物 理 路 径 VMware NMP 根 据 与 每 个 逻 辑 设 备 的 物 理 路 径 关 联 的 SATP 为 其 分 配 默 认 PSP 可 以 替 代 默 认 PSP 默 认 情 况 下,VMware NMP 支 持 以 下 PSP: 最 近 使 用 (MRU) 固 定 选 择 ESX/ESXi 主 机 最 近 用 于 访 问 指 定 设 备 的 路 径 如 果 此 路 径 不 可 用, 则 主 机 会 切 换 到 替 代 路 径 并 在 该 新 路 径 可 用 时 继 续 使 用 它 使 用 指 定 首 选 路 径 ( 如 果 已 配 置 ) 否 则, 它 将 使 用 在 系 统 引 导 时 间 发 现 的 第 一 个 工 作 路 径 如 果 主 机 不 能 使 用 首 选 路 径, 则 它 会 选 择 随 机 替 代 可 用 路 径 一 旦 首 选 路 径 可 用, 主 机 就 会 自 动 恢 复 到 首 选 路 径 注 意 对 于 具 有 固 定 路 径 策 略 的 主 动 - 被 动 阵 列, 路 径 颠 簸 可 能 是 个 问 题 循 环 (RR) 使 用 路 径 选 择 算 法 轮 流 选 择 所 有 可 用 的 路 径, 并 在 路 径 之 间 启 用 负 载 平 衡 VMware NMP I/O 流 当 虚 拟 机 向 NMP 管 理 的 存 储 设 备 发 出 I/O 请 求 时, 将 发 生 以 下 过 程 1 NMP 调 用 分 配 给 此 存 储 设 备 的 PSP 2 PSP 将 选 择 要 通 过 其 发 出 I/O 的 相 应 物 理 路 径 3 如 果 I/O 操 作 成 功, 则 NMP 报 告 其 完 成 4 如 果 I/O 操 作 报 告 错 误, 则 NMP 调 用 适 当 的 SATP 5 SATP 解 释 I/O 命 令 错 误, 并 在 适 当 时 激 活 非 活 动 路 径 6 此 时 将 调 用 PSP 以 选 择 要 通 过 其 发 出 I/O 的 新 路 径 选 择 虚 拟 机 位 置 如 果 您 想 要 优 化 虚 拟 机 的 性 能, 存 储 位 置 是 个 重 要 因 素 提 供 高 性 能 和 高 可 用 性 但 价 格 昂 贵 的 存 储 器 与 性 能 较 低 但 成 本 也 较 低 的 存 储 器 之 间 始 终 存 在 一 个 权 衡 根 据 多 种 因 素, 存 储 器 可 分 为 不 同 级 别 : 高 端 中 端 低 端 提 供 高 性 能 和 高 可 用 性 可 能 提 供 内 置 快 照, 便 于 备 份 及 时 间 点 (PiT) 还 原 支 持 复 制 完 全 SP 冗 余 和 光 纤 驱 动 器 使 用 高 成 本 心 轴 提 供 中 等 程 度 的 性 能 较 低 可 用 性 部 分 SP 冗 余 以 及 SCSI 驱 动 器 可 能 提 供 快 照 使 用 中 等 成 本 的 心 轴 提 供 低 性 能 及 少 许 内 部 存 储 冗 余 使 用 低 端 SCSI 驱 动 器 或 SATA( 串 行 低 成 本 心 轴 ) 并 非 所 有 应 用 程 序 都 需 要 性 能 最 高 可 用 性 最 佳 的 存 储 器, 至 少 不 是 在 整 个 生 命 周 期 内 一 直 需 要 如 果 要 使 用 某 些 高 端 功 能 ( 如 快 照 ), 但 不 希 望 额 外 支 出 费 用, 则 可 以 在 软 件 中 实 现 某 些 高 性 能 特 性 决 定 放 置 某 虚 拟 机 的 位 置 时, 请 考 虑 以 下 问 题 : 该 虚 拟 机 的 重 要 程 度 如 何? 有 哪 些 性 能 及 可 用 性 要 求? 有 哪 些 时 间 点 (PiT) 还 原 要 求? 22 VMware, Inc.

23 第 2 章 将 ESX/ESXi 与 光 纤 通 道 SAN 配 合 使 用 有 哪 些 备 份 要 求? 有 哪 些 复 制 要 求? 由 于 重 要 程 度 发 生 改 变 或 技 术 发 展 使 得 目 前 的 较 高 端 功 能 降 为 低 端 功 能, 虚 拟 机 在 其 整 个 生 命 周 期 过 程 中 可 能 变 更 级 别 重 要 程 度 是 相 对 的, 并 且 可 能 由 于 多 种 原 因 ( 包 括 组 织 操 作 流 程 法 规 要 求 及 灾 难 规 划 等 方 面 的 变 化 ) 而 改 变 针 对 服 务 器 故 障 的 设 计 SAN 存 储 器 的 RAID 架 构 本 质 上 是 在 物 理 磁 盘 级 别 提 供 故 障 保 护 双 重 架 构 拥 有 所 有 架 构 组 件 的 副 本, 可 在 大 多 数 架 构 发 生 故 障 的 情 况 下 保 护 SAN 使 整 个 环 境 变 得 耐 故 障 的 最 后 一 步 即 提 供 针 对 服 务 器 故 障 的 保 护 使 用 VMware HA 使 用 VMware HA 可 以 按 故 障 切 换 组 对 虚 拟 机 进 行 组 织 某 一 主 机 发 生 故 障 时, 其 所 有 虚 拟 机 将 立 即 在 其 他 主 机 上 启 动 HA 需 要 SAN 存 储 器 虚 拟 机 在 其 他 主 机 上 还 原 后 会 丢 失 其 内 存 状 况, 但 磁 盘 状 况 与 主 机 发 生 故 障 时 完 全 一 致 ( 崩 溃 一 致 故 障 切 换 ) 注 意 您 必 须 获 得 许 可 才 能 使 用 VMware HA 使 用 群 集 服 务 服 务 器 群 集 是 一 种 使 用 高 速 网 络 连 接 尝 试 将 两 个 或 更 多 服 务 器 集 合 在 一 起 的 方 法, 这 样, 一 组 服 务 器 便 可 作 为 单 个 逻 辑 服 务 器 运 行 如 果 其 中 一 台 服 务 器 发 生 故 障, 群 集 内 的 其 他 服 务 器 将 继 续 运 行, 同 时 接 管 故 障 服 务 器 所 执 行 的 操 作 VMware 对 Microsoft 群 集 服 务 与 ESX/ESXi 系 统 配 合 使 用 进 行 了 测 试, 但 是 其 他 群 集 解 决 方 案 可 能 同 样 可 行 多 种 配 置 选 项 可 用 于 通 过 群 集 实 现 故 障 切 换 : 机 箱 内 群 集 机 箱 间 群 集 物 理 到 虚 拟 群 集 (N+1 群 集 ) 同 一 主 机 上 的 两 台 虚 拟 机 可 相 互 作 为 对 方 的 故 障 切 换 服 务 器 一 台 虚 拟 机 发 生 故 障 后, 将 由 另 一 台 取 代 此 配 置 不 会 对 主 机 故 障 提 供 保 护, 而 且 最 常 用 于 测 试 群 集 应 用 程 序 某 一 ESX/ESXi 主 机 上 的 虚 拟 机 在 另 一 ESX/ESXi 主 机 上 具 有 与 其 相 匹 配 的 虚 拟 机 某 一 ESX/ESXi 主 机 上 的 虚 拟 机 用 作 一 台 物 理 服 务 器 的 故 障 切 换 服 务 器 由 于 单 个 主 机 上 运 行 的 虚 拟 机 可 用 作 多 台 物 理 服 务 器 的 故 障 切 换 服 务 器, 因 此 该 群 集 方 式 是 一 种 具 有 成 本 效 益 的 N+1 解 决 方 案 VMware, Inc. 23

24 服 务 器 故 障 切 换 和 存 储 器 注 意 事 项 对 于 各 种 类 型 的 服 务 器 故 障 切 换, 您 必 须 考 虑 有 关 存 储 器 的 问 题 仅 当 每 台 服 务 器 都 对 同 一 存 储 器 具 有 访 问 权 限 时 用 于 服 务 器 故 障 切 换 的 方 法 才 可 行 因 为 多 台 服 务 器 需 要 大 量 磁 盘 空 间, 而 且 存 储 阵 列 故 障 切 换 与 服 务 器 故 障 切 换 相 辅 相 成, 所 以 通 常 会 将 SAN 与 服 务 器 故 障 切 换 结 合 使 用 在 将 SAN 设 计 为 与 服 务 器 故 障 切 换 协 同 工 作 时, 由 群 集 虚 拟 机 使 用 的 所 有 LUN 必 须 能 够 由 所 有 的 ESX/ESXi 主 机 检 测 到 这 一 要 求 与 SAN 管 理 员 的 直 觉 正 好 相 反, 但 却 适 用 于 使 用 虚 拟 机 的 情 况 虽 然 主 机 可 以 访 问 LUN, 但 并 非 该 主 机 上 的 所 有 虚 拟 机 就 一 定 具 有 对 LUN 上 所 有 数 据 的 访 问 权 限 虚 拟 机 只 能 访 问 已 为 其 配 置 的 虚 拟 磁 盘 假 设 出 现 配 置 错 误, 在 虚 拟 机 引 导 时, 虚 拟 磁 盘 将 被 锁 定, 因 此 不 会 发 生 损 坏 现 象 注 意 一 般 来 说, 从 SAN LUN 引 导 时, 只 有 正 在 从 LUN 引 导 的 主 机 才 能 够 看 到 每 个 引 导 LUN 一 种 例 外 情 况 就 是 当 您 通 过 将 另 一 主 机 指 向 同 一 LUN 来 尝 试 从 故 障 中 恢 复 时 在 这 种 情 况 下, 上 述 SAN LUN 并 非 真 正 从 SAN 引 导 因 SAN LUN 已 损 坏, 因 此 没 有 任 何 主 机 从 其 引 导 SAN LUN 是 主 机 可 见 的 非 引 导 LUN 优 化 资 源 利 用 使 用 VMware vsphere 可 将 虚 拟 机 从 过 度 利 用 的 主 机 迁 移 到 利 用 不 足 的 主 机, 从 而 优 化 资 源 分 配 这 时 您 有 以 下 选 择 : 使 用 VMotion 手 动 迁 移 虚 拟 机 使 用 VMware DRS 自 动 迁 移 虚 拟 机 仅 当 虚 拟 磁 盘 位 于 可 由 多 台 服 务 器 访 问 的 共 享 存 储 器 上 时 才 能 使 用 VMotion 或 DRS 多 数 情 况 下 使 用 SAN 存 储 器 使 用 VMotion 迁 移 虚 拟 机 管 理 员 通 过 VMotion 可 以 手 动 将 虚 拟 机 迁 移 到 不 同 的 主 机 管 理 员 可 以 将 正 在 运 行 的 虚 拟 机 迁 移 到 同 一 SAN 所 连 接 的 另 一 台 物 理 服 务 器, 无 需 中 断 服 务 通 过 VMotion 可 以 执 行 以 下 任 务 : 通 过 移 动 虚 拟 机 执 行 零 停 机 时 间 维 护, 使 得 对 基 础 硬 件 及 存 储 器 的 维 修 不 会 导 致 用 户 会 话 中 断 根 据 业 务 需 求 的 变 化 不 断 平 衡 数 据 中 心 间 的 工 作 负 载, 实 现 最 有 效 的 资 源 利 用 使 用 VMware DRS 迁 移 虚 拟 机 VMware DRS 有 助 于 改 善 所 有 主 机 和 资 源 池 之 间 的 资 源 分 配 DRS 将 收 集 VMware 群 集 中 所 有 主 机 和 虚 拟 机 的 资 源 使 用 情 况 信 息, 并 在 出 现 以 下 两 种 情 况 之 一 时 给 出 建 议 ( 或 迁 移 虚 拟 机 ): 初 始 放 置 位 置 当 您 在 群 集 中 首 次 启 动 虚 拟 机 时,DRS 将 放 置 该 虚 拟 机 或 提 出 建 议 负 载 平 衡 DRS 通 过 执 行 虚 拟 机 自 动 迁 移 (VMotion) 或 提 供 虚 拟 机 迁 移 建 议 来 设 法 改 善 群 集 中 的 资 源 利 用 24 VMware, Inc.

25 要 求 和 安 装 3 将 ESX/ESXi 系 统 与 SAN 存 储 器 配 合 使 用 时, 存 在 特 定 的 硬 件 和 系 统 要 求 本 章 讨 论 了 以 下 主 题 : 第 25 页, 常 规 ESX/ESXi SAN 要 求 第 26 页, ESX 从 SAN 引 导 的 要 求 第 27 页, 安 装 和 设 置 常 规 ESX/ESXi SAN 要 求 当 您 准 备 配 置 SAN 并 设 置 ESX/ESXi 系 统 以 使 用 SAN 存 储 器 时, 请 查 看 要 求 和 建 议 : 确 保 支 持 使 用 的 SAN 存 储 硬 件 和 固 件 组 合 与 ESX/ESXi 系 统 配 合 使 用 将 系 统 配 置 为 每 个 LUN 只 有 一 个 VMFS 卷 使 用 VMFS-3 时 无 需 设 置 可 访 问 性 除 非 使 用 无 磁 盘 服 务 器, 否 则 请 勿 在 SAN LUN 上 设 置 诊 断 分 区 共 享 的 诊 断 分 区 适 用 于 从 SAN 引 导 无 磁 盘 服 务 器 的 情 况 VMware 建 议 从 装 有 ESX Server 2.5 或 更 高 版 本 的 计 算 机 访 问 任 意 裸 磁 盘 时 使 用 RDM 要 使 多 路 径 正 常 工 作, 每 个 LUN 必 须 对 所 有 ESX/ESXi 主 机 呈 现 相 同 的 LUN ID 号 确 保 客 户 机 操 作 系 统 中 使 用 的 驱 动 程 序 指 定 一 个 足 够 大 的 队 列 您 可 以 在 系 统 设 置 过 程 中 设 置 物 理 HBA 的 队 列 深 度 在 运 行 Microsoft Windows 的 虚 拟 机 上, 将 SCSI TimeoutValue 参 数 值 增 加 为 60 此 增 加 使 Windows 可 以 接 受 因 路 径 故 障 切 换 导 致 的 更 长 I/O 延 迟 将 ESX/ESXi 与 SAN 配 合 使 用 的 限 制 本 主 题 列 出 了 将 ESX/ESXi 与 SAN 配 合 使 用 时 存 在 的 限 制 ESX/ESXi 不 支 持 FC 连 接 磁 带 设 备 您 不 能 使 用 虚 拟 机 多 路 径 软 件 对 单 个 物 理 LUN 执 行 I/O 负 载 平 衡 您 不 能 使 用 虚 拟 机 逻 辑 卷 管 理 器 软 件 对 虚 拟 磁 盘 进 行 镜 像 Microsoft Windows 虚 拟 机 上 的 动 态 磁 盘 是 个 例 外, 但 需 要 进 行 特 殊 配 置 VMware, Inc. 25

26 设 置 LUN 分 配 此 主 题 提 供 ESX/ESXi 与 SAN 配 合 使 用 时 如 何 分 配 LUN 的 部 分 常 规 信 息 设 置 LUN 分 配 时, 请 注 意 以 下 几 点 : 存 储 器 置 备 VMotion 和 VMware DRS 主 动 / 主 动 阵 列 与 主 动 / 被 动 阵 列 间 的 比 较 为 确 保 ESX/ESXi 系 统 在 启 动 时 识 别 LUN, 将 SAN 连 接 到 ESX/ESXi 系 统 前 请 将 所 有 LUN 置 备 到 相 应 的 HBA VMware 建 议 您 同 时 将 所 有 LUN 置 备 到 所 有 ESX/ESXi HBA 仅 当 所 有 HBA 都 看 到 相 同 LUN 时 HBA 故 障 切 换 才 可 行 当 您 使 用 vcenter Server 以 及 VMotion 或 DRS 时, 请 确 保 用 于 虚 拟 机 的 LUN 已 置 备 到 所 有 的 ESX/ESXi 主 机 这 可 为 移 动 虚 拟 机 提 供 最 大 的 自 由 将 VMotion 或 DRS 用 于 主 动 / 被 动 SAN 存 储 设 备 时, 请 确 保 所 有 ESX/ESXi 系 统 通 向 所 有 存 储 处 理 器 的 路 径 均 一 致 否 则 在 进 行 VMotion 迁 移 时 可 能 导 致 路 径 抖 动 对 于 存 储 器 /SAN 兼 容 性 指 南 中 未 列 出 的 主 动 / 被 动 存 储 阵 列,VMware 不 支 持 存 储 器 端 口 故 障 切 换 在 上 述 情 况 下, 您 必 须 将 服 务 器 连 接 到 存 储 阵 列 上 的 主 动 端 口 此 配 置 可 确 保 向 ESX/ESXi 主 机 呈 现 LUN 设 置 光 纤 通 道 HBA 此 主 题 提 供 在 ESX/ESXi 主 机 上 设 置 FC HBA 的 常 规 准 则 设 置 FC HBA 的 过 程 中, 请 考 虑 以 下 几 个 问 题 : HBA 默 认 设 置 FC HBA 可 在 默 认 配 置 设 置 下 正 常 工 作 请 遵 循 存 储 阵 列 供 应 商 提 供 的 配 置 准 则 注 意 不 应 在 单 个 服 务 器 中 混 合 使 用 不 同 供 应 商 的 FC HBA 支 持 拥 有 相 同 HBA 的 不 同 型 号, 但 单 个 LUN 无 法 通 过 两 个 不 同 类 型 的 HBA 访 问, 只 能 通 过 相 同 类 型 的 HBA 访 问 请 确 保 各 HBA 上 的 固 件 级 别 相 同 HBA 间 的 静 态 负 载 平 衡 使 用 主 动 / 主 动 和 主 动 / 被 动 存 储 阵 列, 可 以 将 主 机 设 置 为 使 用 不 同 路 径 访 问 不 同 的 LUN, 从 而 实 现 适 配 器 的 均 衡 使 用 请 参 见 第 56 页, 路 径 管 理 和 手 动 或 静 态 负 载 平 衡 对 故 障 切 换 设 置 超 时 设 置 用 于 检 测 HBA 驱 动 程 序 中 的 路 径 出 现 故 障 的 超 时 值 VMware 建 议 将 超 时 设 置 为 30 秒 以 确 保 最 佳 的 性 能 对 磁 带 驱 动 器 使 用 专 用 适 配 器 为 达 到 最 佳 效 果, 请 对 ESX/ESXi 系 统 所 连 接 的 任 何 磁 带 驱 动 器 都 使 用 专 用 的 SCSI 适 配 器 不 支 持 FC 连 接 磁 带 驱 动 器 请 使 用 Consolidated Backup 代 理, 如 虚 拟 机 备 份 指 南 中 所 述 ESX 从 SAN 引 导 的 要 求 如 果 已 针 对 ESX 系 统 对 SAN 存 储 器 进 行 了 配 置, 则 可 以 将 ESX 引 导 映 像 置 于 SAN 中 的 某 个 LUN 上 此 配 置 必 须 符 合 特 定 条 件 要 使 ESX 系 统 能 够 从 SAN 引 导, 环 境 必 须 满 足 表 3-1 中 列 出 的 要 求 26 VMware, Inc.

27 第 3 章 要 求 和 安 装 表 3-1 从 SAN 引 导 的 要 求 要 求 描 述 ESX 系 统 要 求 建 议 使 用 ESX 3.x 或 更 高 版 本 使 用 ESX 3.x 系 统 或 更 高 版 本 时, 支 持 RDM 与 从 SAN 引 导 一 起 使 用 对 于 ESX Server 2.5.x 系 统, 不 支 持 RDM 与 从 SAN 引 导 一 起 使 用 HBA 要 求 必 须 启 用 并 正 确 配 置 HBA FC 卡 的 HBA BIOS 才 能 访 问 引 导 LUN 应 将 HBA 插 入 PCI 总 线 和 插 槽 号 最 小 的 位 置 这 使 得 驱 动 程 序 能 够 迅 速 检 测 到 HBA, 因 为 驱 动 程 序 按 PCI 总 线 和 插 槽 号 的 升 序 来 扫 描 HBA, 与 关 联 的 虚 拟 机 HBA 号 无 关 引 导 LUN 注 意 事 项 从 主 动 / 被 动 存 储 阵 列 引 导 时, 与 HBA BIOS 配 置 中 指 定 的 WWN 相 对 应 的 SP 必 须 是 主 动 的 如 果 该 SP 是 被 动 的, 则 HBA 无 法 支 持 引 导 过 程 为 便 于 BIOS 配 置, 请 屏 蔽 各 引 导 LUN, 使 其 仅 对 各 自 的 ESX 系 统 可 见 每 个 ESX 系 统 应 看 到 自 身 的 引 导 LUN, 但 是 不 应 看 到 任 何 其 他 ESX 系 统 的 引 导 LUN SAN 注 意 事 项 如 果 阵 列 未 通 过 直 接 连 接 拓 扑 认 证, 则 SAN 必 须 通 过 交 换 拓 扑 连 接 如 果 阵 列 已 通 过 直 接 连 接 拓 扑 认 证, 则 SAN 可 以 直 接 连 接 到 阵 列 如 果 指 定 阵 列 的 交 换 拓 扑 和 直 接 连 接 拓 扑 都 已 通 过 认 证, 则 二 者 都 支 持 从 SAN 引 导 支 持 冗 余 或 非 冗 余 配 置 在 冗 余 的 情 况 下,ESX 会 将 冗 余 路 径 折 叠 以 便 用 户 仅 看 到 一 条 LUN 路 径 特 定 于 硬 件 的 注 意 事 项 如 果 正 在 运 行 IBM eserver BladeCenter 并 使 用 从 SAN 引 导, 您 必 须 禁 用 刀 片 服 务 器 上 的 IDE 驱 动 器 安 装 和 设 置 本 主 题 提 供 配 置 SAN 环 境 以 使 用 ESX/ESXi 时 需 遵 循 的 安 装 和 设 置 的 概 述 请 遵 循 这 些 以 配 置 ESX/ESXi SAN 环 境 1 如 果 尚 未 配 置 SAN, 请 设 计 SAN 多 数 现 有 的 SAN 只 需 略 微 修 改 即 可 用 于 ESX/ESXi 2 检 查 所 有 SAN 组 件 是 否 满 足 要 求 3 进 行 任 何 必 要 的 存 储 阵 列 修 改 多 数 供 应 商 会 提 供 各 自 的 特 定 文 档, 介 绍 如 何 设 置 SAN 与 VMware ESX/ESXi 配 合 使 用 4 为 已 连 接 至 SAN 的 主 机 设 置 HBA 5 在 主 机 上 安 装 ESX/ESXi 6 创 建 虚 拟 机 7 ( 可 选 ) 为 实 现 VMware HA 故 障 切 换 或 使 用 Microsoft 群 集 服 务 而 对 系 统 进 行 设 置 8 根 据 需 要 升 级 或 修 改 环 境 VMware, Inc. 27

28 28 VMware, Inc.

29 设 置 与 ESX/ESXi 配 合 使 用 的 SAN 存 储 4 设 备 本 节 讨 论 支 持 与 VMware ESX/ESXi 一 起 使 用 的 几 种 存 储 设 备 对 于 每 种 设 备, 本 章 将 列 出 可 能 出 现 的 主 要 已 知 问 题, 指 示 特 定 供 应 商 的 信 息 ( 如 果 有 ), 并 包 括 来 自 VMware 知 识 库 文 章 的 信 息 注 意 特 定 存 储 设 备 相 关 的 信 息 仅 随 每 个 版 本 更 新 新 的 信 息 或 许 已 可 通 过 其 他 途 径 获 取 请 参 考 最 新 版 本 的 存 储 器 /SAN 兼 容 性 指 南, 咨 询 存 储 阵 列 供 应 商, 以 及 查 看 VMware 知 识 库 文 章 本 章 讨 论 了 以 下 主 题 : 第 29 页, 测 试 ESX/ESXi SAN 配 置 第 30 页, 光 纤 通 道 SAN 阵 列 的 常 规 设 置 注 意 事 项 第 30 页, EMC CLARiiON 存 储 系 统 第 31 页, EMC Symmetrix 存 储 系 统 第 31 页, IBM TotalStorage DS4800 存 储 系 统 第 33 页, IBM TotalStorage 8000 第 34 页, HP StorageWorks 存 储 系 统 第 36 页, Hitachi Data Systems 存 储 器 第 36 页, Network Appliance 存 储 器 测 试 ESX/ESXi SAN 配 置 ESX/ESXi 支 持 各 种 具 有 不 同 配 置 的 SAN 存 储 系 统 通 常,VMware 使 用 支 持 的 存 储 系 统 测 试 ESX/ESXi, 测 试 内 容 包 括 基 本 连 接 HBA 故 障 切 换 等 并 非 所 有 存 储 设 备 都 针 对 ESX/ESXi 的 所 有 特 性 和 功 能 进 行 了 认 证, 供 应 商 可 能 就 ESX/ESXi 提 供 特 定 形 式 的 支 持 基 本 连 接 HBA 故 障 切 换 存 储 器 端 口 故 障 切 换 测 试 ESX/ESXi 能 否 识 别 存 储 阵 列 并 与 存 储 阵 列 共 同 运 行 此 配 置 不 允 许 应 用 多 路 径 或 任 何 类 型 的 故 障 切 换 服 务 器 配 备 了 多 个 HBA, 这 些 HBA 与 一 个 或 多 个 SAN 交 换 机 连 接 服 务 器 仅 在 发 生 HBA 和 交 换 机 故 障 时 能 保 证 正 常 运 行 服 务 器 与 多 个 存 储 器 端 口 相 连, 并 在 发 生 存 储 器 端 口 故 障 和 交 换 机 故 障 时 能 正 常 运 行 从 SAN 引 导 ( 仅 限 ESX) ESX 主 机 从 SAN 上 配 置 的 LUN 引 导 而 不 是 从 服 务 器 自 身 引 导 VMware, Inc. 29

30 直 接 连 接 服 务 器 不 通 过 交 换 机, 而 仅 使 用 FC 线 缆 连 接 阵 列 对 于 所 有 其 他 测 试, 使 用 架 构 连 接 FC 仲 裁 环 路 (AL) 不 受 支 持 群 集 通 过 在 虚 拟 机 中 运 行 Microsoft 群 集 服 务 来 测 试 系 统 光 纤 通 道 SAN 阵 列 的 常 规 设 置 注 意 事 项 当 准 备 要 与 ESX/ESXi 配 合 使 用 的 FC SAN 存 储 时, 必 须 遵 循 适 用 于 所 有 存 储 阵 列 的 特 定 常 规 要 求 对 于 所 有 存 储 阵 列, 请 确 保 满 足 以 下 要 求 : LUN 对 每 台 主 机 的 每 个 HBA 呈 现 的 LUN ID 号 都 必 须 相 同 有 关 如 何 配 置 相 同 SAN LUN ID 的 说 明 因 供 应 商 而 异, 因 此 请 参 考 存 储 阵 列 文 档 了 解 详 细 信 息 除 非 是 个 别 存 储 阵 列 的 指 定 主 机 类 型, 否 则 请 将 向 ESX/ESXi 显 示 的 LUN 的 主 机 类 型 设 置 为 Linux Linux Cluster 或 者 设 置 为 vmware 或 esx( 如 果 可 用 ) 如 果 使 用 了 VMotion DRS 或 HA, 则 请 确 保 虚 拟 机 的 源 主 机 与 目 标 主 机 都 能 看 到 具 有 相 同 LUN ID 的 同 一 LUN 出 于 对 可 能 出 现 数 据 损 坏 的 担 心,SAN 管 理 员 可 能 认 为 使 多 个 主 机 看 见 相 同 的 LUN 不 合 常 规 但 是,VMFS 可 防 止 多 个 虚 拟 机 同 时 对 同 一 文 件 进 行 写 入, 因 此 给 所 有 需 要 的 ESX/ESXi 系 统 置 备 LUN 是 可 行 的 EMC CLARiiON 存 储 系 统 EMC CLARiiON 存 储 系 统 可 与 采 用 SAN 配 置 的 ESX/ESXi 计 算 机 配 合 使 用 基 本 配 置 包 括 以 下 : 1 安 装 并 配 置 存 储 设 备 2 在 交 换 机 级 别 配 置 分 区 3 创 建 RAID 组 4 创 建 并 绑 定 LUN 5 注 册 SAN 所 连 接 的 服 务 器 6 创 建 包 含 服 务 器 和 LUN 的 存 储 组 使 用 EMC 软 件 执 行 配 置 请 参 见 EMC 文 档 此 阵 列 是 主 动 / 被 动 磁 盘 阵 列, 因 此 适 用 于 以 下 相 关 问 题 : 为 避 免 发 生 路 径 抖 动 的 可 能, 默 认 多 路 径 策 略 为 最 近 使 用, 而 非 固 定 ESX/ESXi 系 统 在 识 别 阵 列 时 设 置 默 认 策 略 AX100 存 储 设 备 不 支 持 自 动 对 卷 再 签 名 要 使 用 从 SAN 引 导, 请 确 保 在 HBA BIOS 中 选 择 主 动 SP 作 为 引 导 LUN 的 目 标 重 要 事 项 如 果 EMC CLARiiON CX 存 储 系 统 使 用 ALUA 协 议, 主 机 将 无 法 从 系 统 引 导, 也 将 无 法 显 示 在 这 些 系 统 上 部 署 的 VMFS 数 据 存 储 在 启 用 了 ALUA 时, 这 些 存 储 系 统 不 支 持 ESX/ESXi 执 行 其 操 作 所 需 的 SCSI-2 预 留 30 VMware, Inc.

31 第 4 章 设 置 与 ESX/ESXi 配 合 使 用 的 SAN 存 储 设 备 EMC CLARiiON AX100 与 RDM 在 EMC CLARiiON AX100 系 统 上, 只 有 在 使 用 Navisphere Management Suite 进 行 SAN 管 理 时 才 支 持 RDM 不 保 证 Navilight 能 正 常 运 作 要 成 功 使 用 RDM, 给 定 的 LUN 必 须 对 群 集 中 所 有 ESX/ESXi 主 机 呈 现 相 同 的 LUN ID 默 认 情 况 下,AX100 不 支 持 此 配 置 AX100 非 活 动 连 接 的 显 示 问 题 使 用 直 接 连 接 ESX/ESXi 系 统 的 AX100 FC 存 储 设 备 时, 必 须 验 证 所 有 连 接 均 可 工 作, 并 将 任 何 不 再 使 用 的 连 接 注 销 否 则,ESX/ESXi 将 无 法 发 现 新 的 LUN 或 路 径 请 考 虑 以 下 情 况 : ESX/ESXi 系 统 直 接 连 接 AX100 存 储 设 备 ESX/ESXi 有 两 个 FC HBA 其 中 一 个 HBA 先 前 已 在 存 储 阵 列 注 册 并 且 已 对 其 LUN 进 行 了 配 置, 但 现 在 连 接 为 非 活 动 状 态 将 ESX/ESXi 主 机 上 的 另 一 HBA 连 接 到 AX100 并 进 行 注 册 后,ESX/ESXi 主 机 可 正 确 显 示 阵 列 具 有 一 个 活 动 连 接 但 是, 所 有 先 前 配 置 给 ESX/ESXi 主 机 的 LUN 均 不 可 见, 即 使 反 复 地 重 新 扫 描 也 是 如 此 要 解 决 此 问 题, 请 移 除 非 活 动 的 HBA 注 销 非 活 动 HBA 的 连 接, 或 使 所 有 非 活 动 连 接 处 于 活 动 状 态 这 会 使 得 存 储 组 中 仅 包 含 活 动 的 HBA 完 成 此 更 改 后, 通 过 重 新 扫 描 添 加 已 配 置 的 LUN 将 主 机 配 置 更 改 应 用 于 阵 列 使 用 AX100 存 储 阵 列 时, 并 无 主 机 代 理 定 期 检 查 主 机 配 置 并 将 更 改 应 用 于 阵 列 axnaviserverutil cli 实 用 程 序 将 用 于 更 新 所 作 的 更 改 此 为 手 动 操 作 并 应 根 据 需 要 执 行 该 实 用 程 序 仅 在 服 务 控 制 台 上 运 行, 而 在 ESXi 中 不 可 用 EMC Symmetrix 存 储 系 统 EMC Symmetrix 存 储 系 统 可 与 采 用 FC SAN 配 置 的 ESX/ESXi 主 机 配 合 使 用 通 常, 使 用 EMC 软 件 执 行 配 置 操 作 以 下 设 置 在 Symmetrix 网 络 存 储 系 统 上 是 必 需 的 有 关 详 细 信 息, 请 参 见 EMC 文 档 公 共 序 列 号 (C) 启 用 自 动 协 商 (EAN) 在 此 端 口 上 启 用 Fibrepath (VCM) 启 用 SCSI 3 (SC3) 集 唯 一 的 全 球 名 称 (UWN) 需 要 SPC-2 (Decal) (SPC2) SPC-2 标 记 ESX/ESXi 主 机 将 所 有 来 自 Symmetrix 存 储 阵 列 容 量 不 超 过 50 MB 的 所 有 LUN 均 视 作 管 理 LUN 这 些 LUN 也 称 为 伪 LUN 或 网 关 LUN 这 些 LUN 可 显 示 在 EMC Symmetrix Management Interface 中, 并 且 不 应 用 于 保 存 数 据 IBM TotalStorage DS4800 存 储 系 统 IBM TotalStorage DS4800 系 统 曾 叫 作 IBM FAStT 许 多 存 储 阵 列 供 应 商 ( 包 括 LSI 和 StorageTek) 都 生 产 与 DS4800 兼 容 的 SAN 存 储 阵 列 除 IBM TotalStorage 存 储 系 统 的 正 常 配 置 外, 您 还 必 须 执 行 特 定 任 务 您 必 须 确 保 多 路 径 策 略 设 置 为 最 近 使 用 VMware, Inc. 31

32 配 置 用 于 DS4800 存 储 服 务 器 SAN 故 障 切 换 的 硬 件 本 主 题 提 供 如 何 对 ESX/ESXi 主 机 和 DS4800 存 储 设 置 高 可 用 性 SAN 故 障 切 换 配 置 的 相 关 信 息 必 须 配 备 以 下 硬 件 组 件 : 每 台 ESX/ESXi 计 算 机 上 两 个 FC HBA, 如 QLogic 或 Emulex 两 台 FC 交 换 机, 将 HBA 连 接 到 SAN( 例 如,FC 交 换 机 1 和 FC 交 换 机 2) 两 个 SP( 例 如,SP1 和 SP2) 每 个 SP 必 须 至 少 有 两 个 连 接 SAN 的 端 口 使 用 以 下 ESX/ESXi 主 机 连 接 设 置, 如 图 4-1 所 示 : 将 每 台 ESX/ESXi 计 算 机 上 的 每 个 HBA 各 自 连 接 不 同 交 换 机 例 如, 使 HBA1 连 接 FC 交 换 机 1,HBA2 连 接 FC 交 换 机 2 在 FC 交 换 机 1 上,SP1 连 接 的 交 换 机 端 口 号 低 于 SP2 连 接 的 交 换 机 端 口 号, 从 而 确 保 SP1 先 列 出 例 如,SP1 连 接 FC 交 换 机 1 端 口 1,SP2 连 接 FC 交 换 机 1 端 口 2 在 FC 交 换 机 2 上,SP1 连 接 的 交 换 机 端 口 号 低 于 SP2 连 接 的 交 换 机 端 口 号, 从 而 确 保 SP1 先 列 出 例 如, 将 SP1 连 接 到 FC 交 换 机 2 上 的 端 口 1, 将 SP2 连 接 到 FC 交 换 机 2 上 的 端 口 2 图 4-1 SAN 故 障 切 换 ESX/ESXi 1 ESX/ESXi 2 HBA1 HBA2 HBA3 HBA4 FC 交 换 机 1 FC 交 换 机 2 SP1 SP2 存 储 器 此 配 置 对 每 个 HBA 提 供 两 条 路 径, 使 得 每 条 连 接 均 能 在 发 生 故 障 时 切 换 到 冗 余 路 径 此 配 置 中 的 路 径 顺 序 可 提 供 HBA 和 交 换 机 故 障 切 换, 无 需 触 发 SP 故 障 切 换 LUN 所 有 权 必 须 属 于 首 选 路 径 所 连 的 存 储 处 理 器 在 上 述 示 例 配 置 中,SP1 拥 有 LUN 的 所 有 权 注 意 上 述 示 例 假 定 交 换 机 并 非 通 过 一 个 架 构 中 的 交 换 机 内 链 路 (ISL) 连 接 验 证 存 储 处 理 器 端 口 配 置 可 以 通 过 对 比 vsphere Client 信 息 和 DS4800 子 系 统 配 置 文 件 中 的 信 息 来 验 证 SP 端 口 配 置 1 使 用 vsphere Client 连 接 ESX/ESXi 主 机 2 选 择 主 机 并 选 择 配 置 选 项 卡 3 在 硬 件 面 板 中 单 击 存 储 适 配 器 4 选 择 各 存 储 适 配 器 以 查 看 其 WWPN 5 选 择 存 储 器 查 看 可 用 数 据 存 储 对 比 WWPN 信 息 与 DS4800 存 储 子 系 统 配 置 文 件 中 列 出 的 信 息 32 VMware, Inc.

33 第 4 章 设 置 与 ESX/ESXi 配 合 使 用 的 SAN 存 储 设 备 禁 用 自 动 卷 传 输 为 避 免 发 生 路 径 抖 动 的 可 能, 请 在 SAN 存 储 处 理 器 上 禁 用 自 动 卷 传 输 (AVT) 如 果 启 用 了 AVT, 那 么 两 个 存 储 处 理 器 在 特 定 情 况 下 可 交 替 取 得 LUN 的 所 有 权, 这 会 致 使 性 能 降 低 AVT 也 称 为 ADT( 自 动 磁 盘 传 输 ) 要 禁 用 AVT, 在 DS 4800 Storage Manager 中, 对 于 包 含 一 台 或 多 台 ESX/ESXi 计 算 机 的 HBA 的 各 主 机 组, 请 为 其 中 定 义 的 每 个 端 口 将 主 机 类 型 设 置 为 LNXCL 或 VMware( 用 于 更 高 版 本 ) 更 改 AVT 配 置 后 必 须 重 新 引 导 ESX/ESXi 主 机 配 置 存 储 处 理 器 检 测 数 据 将 Windows 作 为 客 户 机 操 作 系 统 运 行 的 DS4800 SP 在 静 态 时 应 返 回 Not Ready 检 测 数 据 返 回 Unit Attention 可 能 导 致 Windows 客 户 机 操 作 系 统 在 故 障 切 换 期 间 发 生 故 障 1 在 Shell 窗 口 中, 使 用 以 下 命 令 确 定 LNXCL 主 机 类 型 的 索 引 号 输 入 每 条 命 令 后 均 按 Enter SMcli.exe <ip-addr-for-spa> show hosttopology; <Enter> SMcli.exe <ip-addr-for-spb> show hosttopology; <Enter> 以 下 命 令 假 定 13 是 NVSRAM 主 机 类 型 定 义 中 与 LNXCL 对 应 的 索 引 号 如 果 存 储 处 理 器 的 LNXCL 对 应 的 索 引 号 不 同, 请 用 其 替 换 以 下 命 令 中 的 13 2 对 SPA 执 行 下 述 命 令 使 其 返 回 Not Ready 检 测 数 据 仅 在 输 入 所 有 命 令 后 按 Enter SMcli.exe <ip-addr-for-spa> set controller [a] HostNVSRAMBYTE [13,0x12]=0x01; set controller [a] HostNVSRAMBYTE [13,0x13]=0x00; reset Controller [a]; <Enter> 3 对 SPB 执 行 下 述 命 令 使 其 返 回 Not Ready 检 测 数 据 仅 在 输 入 所 有 命 令 后 按 Enter SMcli.exe <ip-addr-for-spb> set controller [b] HostNVSRAMBYTE [13,0x12]=0x01; set controller [b] HostNVSRAMBYTE [13,0x13]=0x00; reset Controller [b]; <Enter> 注 意 如 果 使 用 DS4800 Storage Manager GUI, 请 将 用 于 两 个 存 储 处 理 器 的 配 置 命 令 粘 贴 到 单 个 脚 本 中, 并 同 时 对 二 者 进 行 配 置 如 果 使 用 SMcli.exe, 请 分 别 连 接 每 个 SP IBM TotalStorage 8000 IBM TotalStorage 8000 系 统 使 用 主 动 / 主 动 阵 列, 无 需 特 殊 配 置 即 可 与 VMware ESX/ESXi 一 起 使 用 要 成 功 使 用 RDM, 给 定 的 LUN 必 须 对 群 集 中 所 有 ESX/ESXi 主 机 呈 现 相 同 的 LUN ID 在 TotalStorage Configuration Management 工 具 中, 选 择 对 源 和 目 标 中 的 LUN 使 用 相 同 ID VMware, Inc. 33

34 IBM TotalStorage 8000 系 统 不 支 持 自 动 执 行 再 签 名 注 意 如 果 要 将 ESX 主 机 配 置 为 从 IBM TotalStorage 8000 阵 列 上 的 某 个 LUN 使 用 从 SAN 引 导, 请 在 安 装 完 成 之 前 禁 用 相 应 刀 片 服 务 器 的 内 部 光 纤 端 口 HP StorageWorks 存 储 系 统 本 节 包 含 用 于 不 同 HP StorageWorks 存 储 系 统 的 配 置 信 息 有 关 其 他 信 息, 请 参 见 HP 网 站 上 HP ActiveAnswers 有 关 VMware ESX/ESXi 的 部 分 HP StorageWorks MSA 本 节 列 出 了 使 用 HP StorageWorks MSA 主 动 / 被 动 版 本 时 用 户 所 关 心 的 问 题 将 配 置 文 件 名 称 设 置 为 Linux 要 将 HP StorageWorks MSA 1000 和 MSA 1500 与 ESX/ESXi 系 统 配 合 使 用, 请 配 置 SAN 阵 列 与 ESX/ESXi 主 机 之 间 的 FC 连 接, 将 配 置 文 件 名 称 设 置 为 Linux 1 使 用 MSA 1000 命 令 行 界 面 在 MSA 1000 上 创 建 静 态 连 接 有 关 安 装 和 配 置 命 令 行 界 面 的 信 息, 请 参 见 HP StorageWorks MSA 1000 文 档 注 意 无 法 使 用 HP Array Configuration 实 用 程 序 创 建 连 接 设 置 2 将 MSA 1000 命 令 行 界 面 连 接 至 MSA 验 证 MSA 1000 与 ESX/ESXi 主 机 之 间 的 FC 网 络 运 行 正 常 4 启 动 命 令 行 界 面, 并 在 提 示 符 处 输 入 以 下 命 令 : SHOW CONNECTIONS 输 出 显 示 MSA 1000 所 连 各 个 FC WWNN 和 WWPN 的 连 接 规 范 Connection Name: Host WWNN = 20:02:00:a0:b8:0c:d5:56 Host WWPN = 20:03:00:a0:b8:0c:d5:57 Profile Name = Default Unit Offset 0 Controller 1 Port 1 Status = Online Controller 2 Port 1 Status = Online 5 确 保 主 机 的 WWNN 和 WWPN 显 示 ESX/ESXi 计 算 机 上 每 个 FC 适 配 器 的 正 确 连 接 6 创 建 静 态 连 接 ADD CONNECTION ESX_CONN_1 WWNN=20:02:00:a0:b8:0c:d5:56 WWPN=20:03:00:a0:b8:0c:d5:57 PROFILE=LINUX 34 VMware, Inc.

35 第 4 章 设 置 与 ESX/ESXi 配 合 使 用 的 SAN 存 储 设 备 7 通 过 输 入 以 下 内 容 验 证 连 接 : SHOW CONNECTIONS 输 出 显 示 单 个 连 接, 其 WWNN 和 WWPN 对 为 20:02:00:a0:b8:0c:d5:56 和 20:03:00:a0:b8:0c:d5:57, 且 Profile Name 设 置 为 Linux: Connection Name: ESX_CONN_1 Host WWNN = 20:02:00:a0:b8:0c:d5:56 Host WWPN = 20:03:00:a0:b8:0c:d5:57 Profile Name = Linux Unit Offset = 0 Controller 1 Port 1 Status = Online Controller 2 Port 1 Status = Online 注 意 确 保 WWNN = 20:02:00:a0:b8:0c:d5:56 与 WWPN = 20:03:00:a0:b8:0c:d5:57 显 示 单 个 连 接 对 于 WWNN=20:02:00:a0:b8:0c:d5:56 和 WWPN =20:03:00:a0:b8:0c:d5:57, 此 时 不 应 再 有 连 接 名 为 unknown 的 连 接 8 使 用 不 同 的 连 接 名 称 值 为 ESX/ESXi 主 机 上 的 每 个 WWNN 和 WWPN 添 加 静 态 连 接 集 线 器 控 制 器 问 题 ESX/ESXi 系 统 在 使 用 MSA 集 线 器 控 制 器 的 情 况 下 可 能 无 法 正 常 工 作 请 改 用 2/8 内 部 交 换 机 或 单 端 口 控 制 器 HP StorageWorks EVA HP StorageWorks EVA 系 统 的 两 种 类 型 分 别 为 EVA_GL 和 EVA_XL, 前 者 为 主 动 / 被 动 系 统, 后 者 为 主 动 / 主 动 系 统 向 ESX/ESXi 主 机 显 示 LUN 时 请 将 连 接 类 型 设 置 为 自 定 义 请 采 用 以 下 值 之 一 : 对 于 HP EVAgl 3000/5000( 主 动 / 被 动 ), 请 使 用 主 机 模 式 类 型 E 对 于 HP EVAgl 固 件 4.001(GL 系 列 的 主 动 / 主 动 固 件 ) 及 更 高 版 本, 请 使 用 主 机 模 式 类 型 VMware 对 于 所 用 固 件 版 本 低 于 的 EVA4000/6000/8000 主 动 / 主 动 阵 列, 请 使 用 主 机 模 式 类 型 E 对 于 使 用 及 更 高 版 本 固 件 的 EVA4000/6000/8000 主 动 / 主 动 阵 列, 则 请 使 用 主 机 模 式 类 型 VMware 对 于 其 他 情 况,EVA 系 统 无 需 特 殊 的 配 置 更 改 即 可 与 ESX/ESXi 系 统 配 合 使 用 请 参 见 HP 网 站 上 的 VMware Infrastructure 与 HP StorageWorks 最 佳 配 置 方 案 VMware, Inc. 35

36 HP StorageWorks XP 对 于 HP StorageWorks XP, 请 将 主 机 模 式 设 置 为 Windows( 而 非 Linux) Hitachi Data Systems 也 提 供 此 系 统 Hitachi Data Systems 存 储 器 本 节 介 绍 Hitachi Data Systems 存 储 器 的 相 关 设 置 Sun 也 可 提 供 此 存 储 解 决 方 案, 且 该 方 案 可 由 HP XP 存 储 器 实 现 LUN 屏 蔽 要 屏 蔽 ESX/ESXi 主 机 上 的 LUN, 最 好 使 用 HDS Storage Navigator 软 件 微 码 和 配 置 请 咨 询 HDS 代 表 获 取 与 ESX/ESXi 交 互 操 作 所 需 的 准 确 配 置 及 微 码 级 别 如 果 微 码 不 受 支 持, 则 通 常 不 能 与 ESX/ESXi 进 行 交 互 模 式 模 式 设 置 取 决 于 所 使 用 的 机 型, 例 如 : 9900 和 9900v 使 用 Netware 主 机 模 式 9500v 系 列 使 用 Hostmode1:standard 及 Hostmode2:SUN Cluster 有 关 此 处 未 列 出 机 型 的 主 机 模 式 设 置, 请 咨 询 HDS 代 表 Network Appliance 存 储 器 配 置 Network Appliance 存 储 设 备 时, 首 先 为 存 储 阵 列 设 置 适 当 的 LUN 类 型 及 启 动 器 组 类 型 LUN 类 型 启 动 器 组 类 型 VMware( 如 果 VMware 类 型 不 可 用, 请 使 用 Linux) VMware( 如 果 VMware 类 型 不 可 用, 请 使 用 Linux) 随 后 必 须 置 备 存 储 器 从 Network Appliance 存 储 设 备 置 备 存 储 器 可 以 使 用 CLI 或 FilerView GUI 在 Network Appliance 存 储 系 统 上 置 备 存 储 器 有 关 Network Appliance 存 储 器 如 何 与 VMware 技 术 配 合 使 用 的 其 他 信 息, 请 参 见 Network Appliance 文 档 1 如 果 需 要, 可 使 用 CLI 或 FilerView GUI 创 建 集 合 aggr create <vmware-aggr> <number of disks> 2 创 建 灵 活 卷 vol create <aggregate name> <volume size> 3 创 建 Qtree 存 储 各 个 LUN qtree create <path> 4 创 建 LUN lun create -s <size> -t vmware <path> 5 创 建 启 动 器 组 igroup create -f -t vmware <igroup name> 6 将 LUN 映 射 到 刚 创 建 的 启 动 器 组 lun map (<path>) <igroup name> <LUN ID> 36 VMware, Inc.

37 对 ESX 系 统 使 用 从 SAN 引 导 5 本 节 讨 论 从 SAN 引 导 的 优 点, 并 介 绍 将 ESX 引 导 映 像 存 储 到 SAN LUN 上 时 需 要 执 行 的 任 务 注 意 如 果 不 计 划 从 SAN 引 导 ESX 主 机, 则 请 跳 过 本 信 息 本 章 讨 论 了 以 下 主 题 : 第 37 页, 从 SAN 引 导 概 述 第 38 页, 准 备 从 SAN 引 导 第 40 页, 为 从 SAN 引 导 设 置 QLogic FC HBA 第 42 页, 为 从 SAN 引 导 设 置 Emulex FC HBA 从 SAN 引 导 概 述 考 虑 如 何 设 置 系 统 从 SAN 引 导 之 前, 请 先 判 断 这 对 您 的 环 境 而 言 是 否 可 行 请 在 以 下 情 况 下 使 用 从 SAN 引 导 : 不 想 维 护 本 地 存 储 器 时 需 要 对 服 务 控 制 台 进 行 简 单 克 隆 时 在 无 磁 盘 硬 件 配 置 中, 例 如, 某 些 刀 片 系 统 上 在 以 下 情 况 下 不 应 使 用 从 SAN 引 导 : 正 在 使 用 Microsoft 群 集 服 务 时 当 服 务 控 制 台 与 VMkernel 之 间 可 能 发 生 I/O 冲 突 时 注 意 对 于 ESX Server 2.5, 从 SAN 引 导 无 法 与 RDM 一 起 使 用 而 ESX 3.x 或 更 高 版 本 中 则 取 消 了 这 一 限 制 从 SAN 引 导 的 工 作 原 理 将 主 机 设 置 为 从 SAN 引 导 时, 引 导 映 像 并 非 存 储 在 ESX 主 机 的 本 地 磁 盘 上, 而 是 存 储 在 SAN LUN 上 主 机 会 获 知 有 关 引 导 映 像 位 置 的 信 息 主 机 启 动 之 后, 即 从 SAN 阵 列 上 的 LUN 进 行 引 导 在 设 置 为 从 SAN 引 导 的 系 统 上 : HBA BIOS 必 须 指 定 FC 卡 作 为 引 导 控 制 器 必 须 配 置 FC 卡 以 启 动 与 目 标 引 导 LUN 的 原 始 连 接 VMware, Inc. 37

38 图 5-1 从 SAN 引 导 的 工 作 原 理 主 机 服 务 控 制 台 VMkernel HBA FC 交 换 机 存 储 阵 列 引 导 磁 盘 注 意 对 ESX 主 机 使 用 从 SAN 引 导 时, 每 台 主 机 都 必 须 拥 有 自 己 的 引 导 LUN 从 SAN 引 导 的 优 点 从 SAN 引 导 ESX 主 机 有 许 多 优 点 这 些 优 点 包 括 : 服 务 器 成 本 更 低 - 无 需 内 部 存 储 器, 可 更 密 集 地 安 置 服 务 器, 且 运 行 过 程 散 热 也 更 少 服 务 器 更 换 更 方 便 - 可 以 更 换 服 务 器 并 将 新 服 务 器 指 向 旧 的 引 导 位 置 减 少 了 空 间 浪 费 备 份 过 程 更 轻 松 - 可 作 为 SAN 整 体 备 份 过 程 的 一 部 分 来 备 份 SAN 中 的 系 统 引 导 映 像 改 善 了 管 理 - 创 建 和 管 理 操 作 系 统 映 像 变 得 更 简 单 且 更 高 效 准 备 从 SAN 引 导 除 了 ESX 与 SAN 合 用 的 常 规 配 置 任 务 外, 请 完 成 以 下 任 务 使 ESX 主 机 能 够 从 SAN 引 导 1 确 保 配 置 设 置 满 足 从 SAN 引 导 的 基 本 要 求 2 准 备 硬 件 元 素 其 中 包 括 HBA 网 络 设 备 和 存 储 系 统 请 参 阅 各 设 备 的 产 品 文 档 3 配 置 SAN 上 的 LUN 屏 蔽 这 将 确 保 每 个 ESX 主 机 都 有 专 用 的 LUN 作 为 引 导 分 区 引 导 LUN 必 须 专 用 于 单 台 服 务 器 4 选 择 诊 断 分 区 的 位 置 诊 断 分 区 可 与 引 导 分 区 置 于 相 同 的 LUN 上 核 心 转 储 存 储 在 诊 断 分 区 中 重 要 事 项 主 机 无 法 从 使 用 ALUA 协 议 的 EMC CLARiiON CX 存 储 系 统 引 导 启 用 ALUA 时, 这 些 存 储 系 统 不 支 持 SCSI-2 预 留, 而 ESX 需 要 此 预 留 才 能 从 SAN LUN 引 导 38 VMware, Inc.

39 第 5 章 对 ESX 系 统 使 用 从 SAN 引 导 开 始 前 当 您 准 备 将 ESX 主 机 和 存 储 阵 列 设 置 为 从 SAN 引 导 时, 请 查 看 包 括 具 体 建 议 和 要 求 供 应 商 文 档 在 内 的 所 有 可 用 信 息 请 查 看 以 下 信 息 : 所 需 配 置 类 型 的 相 关 建 议 或 样 本 设 置 : 指 向 引 导 LUN 的 单 一 路 径 或 冗 余 路 径 FC 交 换 机 架 构 适 用 于 所 用 存 储 阵 列 类 型 的 任 何 特 定 建 议 限 制 和 要 求, 其 中 包 括 : 从 SAN 引 导 的 限 制 有 关 要 用 于 从 SAN 引 导 的 存 储 阵 列 的 供 应 商 建 议 有 关 从 SAN 引 导 的 服 务 器 的 供 应 商 建 议 使 用 以 下 方 法 之 一 查 找 引 导 路 径 HBA 的 WWN: 在 引 导 刚 开 始 时 进 入 FC HBA BIOS 在 物 理 卡 上 找 到 WWN 其 与 MAC 地 址 类 似 从 SAN 引 导 模 式 中 的 LUN 屏 蔽 正 确 的 LUN 屏 蔽 对 从 SAN 引 导 模 式 非 常 重 要 每 台 服 务 器 只 能 看 到 其 自 身 的 引 导 LUN, 而 看 不 到 其 他 服 务 器 的 引 导 LUN 多 台 服 务 器 可 以 共 享 一 个 诊 断 分 区 这 点 可 以 通 过 使 用 LUN 屏 蔽 来 实 现 有 关 如 何 对 主 机 上 的 特 定 LUN 屏 蔽 路 径 的 详 细 信 息, 请 参 见 第 75 页, 屏 蔽 路 径 准 备 SAN 本 节 列 出 的 用 于 准 备 从 SAN 引 导 的 SAN 存 储 阵 列 1 连 接 FC 和 以 太 网 线 缆, 请 参 阅 适 用 于 您 的 设 置 的 任 何 线 缆 连 接 指 南 检 查 FC 交 换 机 接 线 ( 如 果 有 ) 2 配 置 存 储 阵 列 a 在 SAN 存 储 阵 列 中, 使 ESX 主 机 对 于 SAN 为 可 见 ( 这 通 常 称 为 创 建 对 象 ) b 在 SAN 存 储 阵 列 中, 设 置 ESX 主 机, 将 主 机 FC 适 配 器 的 WWPN 作 为 端 口 名 称 或 节 点 名 称 使 用 c d 创 建 LUN 分 配 LUN e 记 录 FC 交 换 机 和 存 储 阵 列 的 IP 地 址 f 记 录 涉 及 到 的 各 个 SP 及 主 机 适 配 器 的 WWPN 小 心 如 果 使 用 脚 本 式 安 装 在 从 SAN 引 导 模 式 下 安 装 ESX, 需 要 执 行 特 殊 来 避 免 意 外 丢 失 数 据 VMware, Inc. 39

何 秋 琳 张 立 春 视 觉 学 习 研 究 进 展 视 觉 注 意 视 觉 感 知

何 秋 琳 张 立 春 视 觉 学 习 研 究 进 展 视 觉 注 意 视 觉 感 知 第 卷 第 期 年 月 开 放 教 育 研 究 何 秋 琳 张 立 春 华 南 师 范 大 学 未 来 教 育 研 究 中 心 广 东 广 州 随 着 图 像 化 技 术 和 电 子 媒 体 的 发 展 视 觉 学 习 也 逐 步 发 展 为 学 习 科 学 的 一 个 研 究 分 支 得 到 研 究 人 员 和 教 育 工 作 者 的 广 泛 关 注 基 于 此 作 者 试 图 对 视 觉 学 习

More information

I

I 机 电 一 级 注 册 建 造 师 继 续 教 育 培 训 广 东 培 训 点 网 上 报 名 操 作 使 用 手 册 (2013 年 1 月, 第 一 版 ) 第 一 章 个 人 注 册 与 个 人 信 息 管 理 1. 个 人 注 册 ( 请 每 人 只 申 请 一 个 注 册 号, 如 果 单 位 批 量 报 班 单 位 帮 申 请 注 册, 不 需 个 人 再 注 册 ) 首 次 报 班,

More information

说 明 为 了 反 映 教 运 行 的 基 本 状 态, 为 校 和 院 制 定 相 关 政 策 和 进 行 教 建 设 与 改 革 提 供 据 依 据, 校 从 程 资 源 ( 开 类 别 开 量 规 模 ) 教 师 结 构 程 考 核 等 维 度, 对 2015 年 春 季 期 教 运 行 基

说 明 为 了 反 映 教 运 行 的 基 本 状 态, 为 校 和 院 制 定 相 关 政 策 和 进 行 教 建 设 与 改 革 提 供 据 依 据, 校 从 程 资 源 ( 开 类 别 开 量 规 模 ) 教 师 结 构 程 考 核 等 维 度, 对 2015 年 春 季 期 教 运 行 基 内 部 资 料 东 北 师 范 大 教 运 行 基 本 状 态 据 报 告 2015 年 春 季 期 教 务 处 2015 年 10 月 27 日 说 明 为 了 反 映 教 运 行 的 基 本 状 态, 为 校 和 院 制 定 相 关 政 策 和 进 行 教 建 设 与 改 革 提 供 据 依 据, 校 从 程 资 源 ( 开 类 别 开 量 规 模 ) 教 师 结 构 程 考 核 等 维 度,

More information

<433A5C446F63756D656E747320616E642053657474696E67735C41646D696E6973747261746F725CD7C0C3E65CC2DBCEC4CFB5CDB3CAB9D3C3D6B8C4CFA3A8BCF2BBAFA3A95CCAB9D3C3D6B8C4CF31302D31392E646F63>

<433A5C446F63756D656E747320616E642053657474696E67735C41646D696E6973747261746F725CD7C0C3E65CC2DBCEC4CFB5CDB3CAB9D3C3D6B8C4CFA3A8BCF2BBAFA3A95CCAB9D3C3D6B8C4CF31302D31392E646F63> ( 一 ) 系 统 整 体 操 作 流 程 简 述 3 ( 二 ) 系 统 中 各 角 色 操 作 功 能 说 明 5 1. 学 院 管 理 员 5 2. 教 学 院 长 8 3. 指 导 教 师 10 4. 答 辩 组 组 长 12 5. 学 生 12 6. 系 统 管 理 员 15 ( 一 ) 论 文 系 统 常 见 问 题 16 ( 二 ) 论 文 查 重 常 见 问 题 22 1 2 主

More information

深圳市新亚电子制程股份有限公司

深圳市新亚电子制程股份有限公司 证 券 代 码 :002388 证 券 简 称 : 新 亚 制 程 公 告 编 号 :2016-053 深 圳 市 新 亚 电 子 制 程 股 份 有 限 公 司 2016 年 第 二 次 临 时 股 东 大 会 决 议 公 告 本 公 司 及 董 事 会 全 体 成 员 保 证 公 告 内 容 真 实 准 确 和 完 整, 不 存 在 虚 假 记 载 误 导 性 陈 述 或 者 重 大 遗 漏 特

More information

国债回购交易业务指引

国债回购交易业务指引 附 件 1 上 海 证 券 交 易 所 新 质 押 式 国 债 回 购 交 易 业 务 指 引 一 总 述 根 据 上 海 证 券 交 易 所 债 券 交 易 实 施 细 则, 上 证 所 将 于 2006 年 5 月 8 日 起 推 出 新 质 押 式 国 债 回 购 新 质 押 式 回 购 与 现 行 质 押 式 回 购 相 比 区 别 主 要 在 以 下 几 个 方 面 :1 新 质 押 式

More information

评 委 : 李 炎 斌 - 个 人 技 术 标 资 信 标 初 步 审 查 明 细 表 序 号 投 标 单 位 投 标 函 未 按 招 标 文 件 规 定 填 写 漏 填 或 内 容 填 写 错 误 的 ; 不 同 投 标 人 的 投 标 文 件 由 同 一 台 电 脑 或 同 一 家 投 标 单

评 委 : 李 炎 斌 - 个 人 技 术 标 资 信 标 初 步 审 查 明 细 表 序 号 投 标 单 位 投 标 函 未 按 招 标 文 件 规 定 填 写 漏 填 或 内 容 填 写 错 误 的 ; 不 同 投 标 人 的 投 标 文 件 由 同 一 台 电 脑 或 同 一 家 投 标 单 评 委 : 李 炎 斌 - 个 人 清 标 评 审 明 细 表 评 审 因 素 序 号 投 标 单 位 清 标 评 审 1 深 圳 市 创 捷 科 技 有 限 合 格 2 四 川 川 大 智 胜 软 件 股 份 有 限 合 格 3 北 京 航 天 长 峰 科 技 工 业 集 团 有 限 公 司 合 格 4 深 圳 中 兴 力 维 技 术 有 限 合 格 5 深 圳 键 桥 通 讯 技 术 股 份 有

More information

修改版-操作手册.doc

修改版-操作手册.doc 职 称 信 息 系 统 升 级 指 南 须 使 用 IE9 及 其 以 上 版 本 浏 览 器 或 谷 歌 浏 览 器 登 录 www.njrs.gov.cn 南 京 市 职 称 ( 职 业 资 格 ) 工 作 领 导 小 组 办 公 室 2016 年 5 月 目 录 一 申 报 人 员 操 作 指 南...1 1.1 职 称 初 定 申 报...1 1.1.1 职 称 初 定 基 础 信 息 填

More information

0 年 上 半 年 评 价 与 考 核 细 则 序 号 部 门 要 素 值 考 核 内 容 考 核 方 式 考 核 标 准 考 核 ( 扣 原 因 ) 考 评 得 3 安 全 生 产 目 30 无 同 等 责 任 以 上 道 路 交 通 亡 人 事 故 无 轻 伤 责 任 事 故 无 重 大 质 量

0 年 上 半 年 评 价 与 考 核 细 则 序 号 部 门 要 素 值 考 核 内 容 考 核 方 式 考 核 标 准 考 核 ( 扣 原 因 ) 考 评 得 3 安 全 生 产 目 30 无 同 等 责 任 以 上 道 路 交 通 亡 人 事 故 无 轻 伤 责 任 事 故 无 重 大 质 量 0 年 上 半 年 评 价 与 考 核 细 则 序 号 部 门 要 素 值 考 核 内 容 考 核 方 式 考 核 标 准 无 同 等 责 任 以 上 道 路 交 通 亡 人 事 故 3 无 轻 伤 责 任 事 故 目 标 30 及 事 无 重 大 质 量 工 作 过 失 故 管 无 其 他 一 般 责 任 事 故 理 在 公 司 文 明 环 境 创 建 中, 无 工 作 过 失 及 被 追 究 的

More information

评 委 : 徐 岩 宇 - 个 人 技 术 标 资 信 标 初 步 审 查 明 细 表 序 号 投 标 单 位 投 标 函 未 按 招 标 文 件 规 定 填 写 漏 填 或 内 容 填 写 错 误 的 ; 不 同 投 标 人 的 投 标 文 件 由 同 一 台 电 脑 或 同 一 家 投 标 单

评 委 : 徐 岩 宇 - 个 人 技 术 标 资 信 标 初 步 审 查 明 细 表 序 号 投 标 单 位 投 标 函 未 按 招 标 文 件 规 定 填 写 漏 填 或 内 容 填 写 错 误 的 ; 不 同 投 标 人 的 投 标 文 件 由 同 一 台 电 脑 或 同 一 家 投 标 单 评 委 : 徐 岩 宇 - 个 人 清 标 评 审 明 细 表 评 审 因 素 序 号 投 标 单 位 清 标 评 审 1 深 圳 市 创 捷 科 技 有 限 合 格 2 四 川 川 大 智 胜 软 件 股 份 有 限 合 格 3 北 京 航 天 长 峰 科 技 工 业 集 团 有 限 公 司 合 格 4 深 圳 中 兴 力 维 技 术 有 限 合 格 5 深 圳 键 桥 通 讯 技 术 股 份 有

More information

《C语言基础入门》课程教学大纲

《C语言基础入门》课程教学大纲 C 语 言 开 发 入 门 教 程 课 程 教 学 大 纲 课 程 编 号 :201409210011 学 分 :5 学 分 学 时 :58 学 时 ( 其 中 : 讲 课 学 时 :39 学 时 上 机 学 时 :19 学 时 ) 先 修 课 程 : 计 算 机 导 论 后 续 课 程 :C++ 程 序 设 计 适 用 专 业 : 信 息 及 其 计 算 机 相 关 专 业 开 课 部 门 : 计

More information

18 上 报 该 学 期 新 生 数 据 至 阳 光 平 台 第 一 学 期 第 四 周 至 第 六 周 19 督 促 学 习 中 心 提 交 新 增 专 业 申 请 第 一 学 期 第 四 周 至 第 八 周 20 编 制 全 国 网 络 统 考 十 二 月 批 次 考 前 模 拟 题 第 一 学

18 上 报 该 学 期 新 生 数 据 至 阳 光 平 台 第 一 学 期 第 四 周 至 第 六 周 19 督 促 学 习 中 心 提 交 新 增 专 业 申 请 第 一 学 期 第 四 周 至 第 八 周 20 编 制 全 国 网 络 统 考 十 二 月 批 次 考 前 模 拟 题 第 一 学 1 安 排 组 织 全 国 网 络 统 考 九 月 批 次 网 上 考 前 辅 导 第 一 学 期 第 一 周 统 考 考 前 半 个 月 2 下 发 全 国 网 络 统 考 九 月 批 次 准 考 证 第 一 学 期 第 一 周 导 出 下 半 年 成 人 本 科 学 士 学 位 英 语 统 一 考 试 报 考 3 信 息 第 一 学 期 第 一 周 4 教 学 计 划 和 考 试 计 划 上 网,

More information

,,,,, :,, (.,, );, (, : ), (.., ;. &., ;.. &.., ;, ;, ),,,,,,, ( ) ( ),,,,.,,,,,, : ;, ;,.,,,,, (., : - ),,,, ( ),,,, (, : ),, :,

,,,,, :,, (.,, );, (, : ), (.., ;. &., ;.. &.., ;, ;, ),,,,,,, ( ) ( ),,,,.,,,,,, : ;, ;,.,,,,, (., : - ),,,, ( ),,,, (, : ),, :, : 周 晓 虹 : - -., - - - -. :( ), -,.( ),,, -. - ( ).( ) ', -,,,,, ( ).( ),,, -., '.,, :,,,, :,,,, ,,,,, :,, (.,, );, (, : ), (.., ;. &., ;.. &.., ;, ;, ),,,,,,, ( ) ( ),,,,.,,,,,, : ;, ;,.,,,,, (., : - ),,,,

More information

1600 1000 40 50 2030 2000 采 取 行 动 的 机 会 90% 开 拓 成 功 的 道 路 2

1600 1000 40 50 2030 2000 采 取 行 动 的 机 会 90% 开 拓 成 功 的 道 路 2 简 略 版 本 :2015 3 10 2016 2021 全 球 卫 生 部 门 病 毒 性 肝 炎 战 略 2016 2021 2015 3 12 2012 2010 2014 2015 2016 2021 140 55% 35% 5 15% 5 20% 2.4 1.3 1.5 1 1600 1000 40 50 2030 2000 采 取 行 动 的 机 会 90% 开 拓 成 功 的 道 路

More information

(2015-2016-2)-0004186-04205-1 140242 信 号 与 系 统 Ⅰ 学 科 基 础 必 修 课 37 37 1 教 203 17 周 2016 年 06 月 13 日 (08:00-09:35) (2015-2016-2)-0004186-04205-1 141011

(2015-2016-2)-0004186-04205-1 140242 信 号 与 系 统 Ⅰ 学 科 基 础 必 修 课 37 37 1 教 203 17 周 2016 年 06 月 13 日 (08:00-09:35) (2015-2016-2)-0004186-04205-1 141011 关 于 2015-2016 学 年 第 二 学 期 期 末 周 内 考 试 时 间 地 点 安 排 选 课 课 号 班 级 名 称 课 程 名 称 课 程 性 质 合 考 人 数 实 际 人 数 考 试 教 室 考 试 段 考 试 时 间 (2015-2016-2)-0006178-04247-1 130101 测 试 技 术 基 础 学 科 基 础 必 修 课 35 35 1 教 401 17 周

More information

Microsoft Word - 文件汇编.doc

Microsoft Word - 文件汇编.doc 北 京 市 中 医 管 理 局 二 一 五 年 四 月 ... 1... 18 2015... 30 京 中 医 政 字 [2014]160 号 1 2 一 充 分 认 识 中 医 健 康 乡 村 建 设 工 作 的 重 要 意 义 二 建 立 健 全 工 作 保 障 机 制 2014 12 15 三 做 好 工 作 启 动 的 准 备 事 宜 1 2014 12 15 5-10 2014 12 15

More information

Template BR_Rec_2005.dot

Template BR_Rec_2005.dot ITU-R BT.1789 建 议 书 1 ITU-R BT.1789 建 议 书 在 分 组 视 频 传 输 中 利 用 传 输 误 码 信 息 重 建 接 收 视 频 的 方 法 (ITU-R 44/6 和 ITU-R 109/6 课 题 ) (2007 年 ) 范 围 本 建 议 书 对 业 务 提 供 商 重 建 接 收 视 频 的 方 法 做 了 详 细 介 绍, 以 便 利 用 传 输

More information

目 录 一 系 统 访 问... 1 二 门 户 首 页 申 报 用 户 审 核 用 户... 2 三 系 统 登 录 用 户 名 密 码 登 录 新 用 户 注 册 用 户 登 录 已 注 册 用

目 录 一 系 统 访 问... 1 二 门 户 首 页 申 报 用 户 审 核 用 户... 2 三 系 统 登 录 用 户 名 密 码 登 录 新 用 户 注 册 用 户 登 录 已 注 册 用 水 路 运 输 建 设 综 合 管 理 信 息 系 统 - 门 户 系 统 用 户 手 册 二 零 一 五 年 十 一 月 目 录 一 系 统 访 问... 1 二 门 户 首 页... 1 1. 申 报 用 户... 1 2. 审 核 用 户... 2 三 系 统 登 录... 4 1. 用 户 名 密 码 登 录... 4 1.1 新 用 户 注 册... 4 1.2 用 户 登 录... 7

More information

<4D F736F F D D323630D6D0B9FAD3A6B6D4C6F8BAF2B1E4BBAFB5C4D5FEB2DFD3EBD0D0B6AF C4EAB6C8B1A8B8E6>

<4D F736F F D D323630D6D0B9FAD3A6B6D4C6F8BAF2B1E4BBAFB5C4D5FEB2DFD3EBD0D0B6AF C4EAB6C8B1A8B8E6> 中 国 应 对 气 候 变 化 的 政 策 与 行 动 2013 年 度 报 告 国 家 发 展 和 改 革 委 员 会 二 〇 一 三 年 十 一 月 100% 再 生 纸 资 源 目 录 前 言... 1 一 应 对 气 候 变 化 面 临 的 形 势... 3 二 完 善 顶 层 设 计 和 体 制 机 制... 4 三 减 缓 气 候 变 化... 8 四 适 应 气 候 变 化... 20

More information

上海证券交易所会议纪要

上海证券交易所会议纪要 附 件 上 海 市 场 首 次 公 开 发 行 股 票 网 下 发 行 实 施 细 则 第 一 章 总 则 第 一 条 为 规 范 拟 在 上 海 证 券 交 易 所 ( 以 下 简 称 上 交 所 ) 上 市 的 公 司 首 次 公 开 发 行 股 票 网 下 发 行 业 务, 提 高 首 次 公 开 发 行 股 票 网 下 申 购 及 资 金 结 算 效 率, 根 据 证 券 发 行 与 承 销

More information

目 录 关 于 图 标... 3 登 陆 主 界 面... 3 工 单 管 理... 5 工 单 列 表... 5 搜 索 工 单... 5 工 单 详 情... 6 创 建 工 单... 9 设 备 管 理 巡 检 计 划 查 询 详 情 销 售 管

目 录 关 于 图 标... 3 登 陆 主 界 面... 3 工 单 管 理... 5 工 单 列 表... 5 搜 索 工 单... 5 工 单 详 情... 6 创 建 工 单... 9 设 备 管 理 巡 检 计 划 查 询 详 情 销 售 管 宝 汇 德 Turbocare 微 服 务 系 统 客 户 操 作 手 册 Version 2.0 北 京 宝 汇 德 技 术 服 务 器 有 限 公 司 技 术 研 发 部 目 录 关 于 图 标... 3 登 陆 主 界 面... 3 工 单 管 理... 5 工 单 列 表... 5 搜 索 工 单... 5 工 单 详 情... 6 创 建 工 单... 9 设 备 管 理... 10 巡

More information

自 服 务 按 钮 无 法 访 问 新 系 统 的 自 服 务 页 面 因 此 建 议 用 户 从 信 网 中 心 (http://nc.tju.edu.cn) 主 页, 右 下 角 位 置 的 常 用 下 载, 或 校 园 网 用 户 自 服 务 (http://g.tju.edu.cn) 首 页

自 服 务 按 钮 无 法 访 问 新 系 统 的 自 服 务 页 面 因 此 建 议 用 户 从 信 网 中 心 (http://nc.tju.edu.cn) 主 页, 右 下 角 位 置 的 常 用 下 载, 或 校 园 网 用 户 自 服 务 (http://g.tju.edu.cn) 首 页 校 园 网 认 证 计 费 系 统 变 更 说 明 及 使 用 帮 助 为 提 高 校 园 网 的 可 靠 性 和 可 用 性, 提 升 用 户 的 上 网 体 验, 同 时 也 为 解 决 近 期 校 园 网 无 法 认 证 或 登 录 页 面 弹 出 缓 慢 的 问 题, 信 网 中 心 于 近 期 对 校 园 网 认 证 计 费 系 统 进 行 升 级 切 换 现 将 升 级 后 新 系 统

More information

2 熟 悉 Visual Basic 的 集 成 开 发 环 境 3 了 解 可 视 化 面 向 对 象 编 程 事 件 驱 动 交 互 式 开 发 等 基 本 概 念 4 了 解 Visual Basic 的 特 点 环 境 要 求 与 安 装 方 法 1 Visual Basic 开 发 应 用

2 熟 悉 Visual Basic 的 集 成 开 发 环 境 3 了 解 可 视 化 面 向 对 象 编 程 事 件 驱 动 交 互 式 开 发 等 基 本 概 念 4 了 解 Visual Basic 的 特 点 环 境 要 求 与 安 装 方 法 1 Visual Basic 开 发 应 用 Visual Basic 程 序 设 计 A 级 分 级 班 教 学 大 纲 ( 供 计 算 机 与 信 息 技 术 基 础 课 程 分 级 教 学 A 级 班 使 用 ) I 前 言 Visual Basic 程 序 设 计 课 程 是 一 门 计 算 机 语 言 基 础 课 程 通 过 对 该 课 程 的 学 习, 使 学 生 初 步 掌 握 Visual Basic 的 语 言 特 点, 掌

More information

一 公 共 卫 生 硕 士 专 业 学 位 论 文 的 概 述 学 位 论 文 是 对 研 究 生 进 行 科 学 研 究 或 承 担 专 门 技 术 工 作 的 全 面 训 练, 是 培 养 研 究 生 创 新 能 力, 综 合 运 用 所 学 知 识 发 现 问 题, 分 析 问 题 和 解 决

一 公 共 卫 生 硕 士 专 业 学 位 论 文 的 概 述 学 位 论 文 是 对 研 究 生 进 行 科 学 研 究 或 承 担 专 门 技 术 工 作 的 全 面 训 练, 是 培 养 研 究 生 创 新 能 力, 综 合 运 用 所 学 知 识 发 现 问 题, 分 析 问 题 和 解 决 上 海 市 公 共 卫 生 硕 士 专 业 学 位 论 文 基 本 要 求 和 评 价 指 标 体 系 ( 试 行 ) 上 海 市 学 位 委 员 会 办 公 室 二 O 一 二 年 三 月 一 公 共 卫 生 硕 士 专 业 学 位 论 文 的 概 述 学 位 论 文 是 对 研 究 生 进 行 科 学 研 究 或 承 担 专 门 技 术 工 作 的 全 面 训 练, 是 培 养 研 究 生 创

More information

<4D6963726F736F667420576F7264202D20B9D8D3DAB0BABBAAA3A8C9CFBAA3A3A9D7D4B6AFBBAFB9A4B3CCB9C9B7DDD3D0CFDEB9ABCBBE32303132C4EAC4EAB6C8B9C9B6ABB4F3BBE1B7A8C2C9D2E2BCFBCAE92E646F6378>

<4D6963726F736F667420576F7264202D20B9D8D3DAB0BABBAAA3A8C9CFBAA3A3A9D7D4B6AFBBAFB9A4B3CCB9C9B7DDD3D0CFDEB9ABCBBE32303132C4EAC4EAB6C8B9C9B6ABB4F3BBE1B7A8C2C9D2E2BCFBCAE92E646F6378> 上 海 德 载 中 怡 律 师 事 务 所 关 于 昂 华 ( 上 海 ) 自 动 化 工 程 股 份 有 限 公 司 二 〇 一 二 年 年 度 股 东 大 会 法 律 意 见 书 上 海 德 载 中 怡 律 师 事 务 所 上 海 市 银 城 中 路 168 号 上 海 银 行 大 厦 1705 室 (200120) 电 话 :8621-5012 2258 传 真 :8621-5012 2257

More information

登录、注册功能的测试用例设计.doc

登录、注册功能的测试用例设计.doc 注 册 登 陆 测 试 用 例 和 修 改 密 码 测 试 用 例 完 整 版 摘 自 网 络, 狗 狗 整 理 zqh139@126.com 修 改 历 史 日 期 版 本 作 者 修 改 内 容 评 审 号 变 更 控 制 号 2010-11-25 1.0 初 稿 2011-09-17 2.0 整 理 一 注 册 测 试 用 例 序 号 : 1 控 件 名 称 : 功 能 描 述 : 注 册 编

More information

证券代码:000066 证券简称:长城电脑 公告编号:2014-000

证券代码:000066         证券简称:长城电脑        公告编号:2014-000 证 券 代 码 :000066 证 券 简 称 : 长 城 电 脑 公 告 编 号 :2016-092 中 国 长 城 计 算 机 深 圳 股 份 有 限 公 司 2016 年 度 第 三 次 临 时 股 东 大 会 决 议 公 告 本 公 司 及 其 董 事 会 全 体 成 员 保 证 信 息 披 露 内 容 的 真 实 准 确 完 整, 没 有 虚 假 记 载 误 导 性 陈 述 或 重 大 遗

More information

抗 战 时 期 国 民 政 府 的 银 行 监 理 体 制 探 析 % # % % % ) % % # # + #, ) +, % % % % % % % %

抗 战 时 期 国 民 政 府 的 银 行 监 理 体 制 探 析 % # % % % ) % % # # + #, ) +, % % % % % % % % 抗 战 时 期 国 民 政 府 的 银 行 监 理 体 制 探 析 王 红 曼 抗 战 时 期 国 民 政 府 为 适 应 战 时 经 济 金 融 的 需 要 实 行 由 财 政 部 四 联 总 处 中 央 银 行 等 多 家 机 构 先 后 共 同 参 与 的 多 元 化 银 行 监 理 体 制 对 战 时 状 态 下 的 银 行 发 展 与 经 营 安 全 进 行 了 大 规 模 的 设 计 与

More information

科 学 出 版 社 科 学 出 版 社 前 言 本 书 是 针 对 普 通 高 等 院 校 经 济 类 和 工 商 管 理 类 本 科 专 业 财 务 管 理 学 的 教 学 需 求, 结 合 教 育 部 经 济 管 理 类 本 科 财 务 管 理 学 课 程 教 学 大 纲 编 写 而 成 的 本 书 执 笔 者 都 是 长 期 工 作 在 财 务 管 理 教 学 一 线 的 专 业 教 师,

More information

金 不 少 于 800 万 元, 净 资 产 不 少 于 960 万 元 ; (3) 近 五 年 独 立 承 担 过 单 项 合 同 额 不 少 于 1000 万 元 的 智 能 化 工 程 ( 设 计 或 施 工 或 设 计 施 工 一 体 ) 不 少 于 2 项 ; (4) 近 三 年 每 年

金 不 少 于 800 万 元, 净 资 产 不 少 于 960 万 元 ; (3) 近 五 年 独 立 承 担 过 单 项 合 同 额 不 少 于 1000 万 元 的 智 能 化 工 程 ( 设 计 或 施 工 或 设 计 施 工 一 体 ) 不 少 于 2 项 ; (4) 近 三 年 每 年 工 程 设 计 与 施 工 资 质 标 准 一 总 则 建 筑 智 能 化 工 程 设 计 与 施 工 资 质 标 准 ( 一 ) 为 了 加 强 对 从 事 建 筑 智 能 化 工 程 设 计 与 施 工 企 业 的 管 理, 维 护 建 筑 市 场 秩 序, 保 证 工 程 质 量 和 安 全, 促 进 行 业 健 康 发 展, 结 合 建 筑 智 能 化 工 程 的 特 点, 制 定 本 标

More information

全国建筑市场注册执业人员不良行为记录认定标准(试行).doc

全国建筑市场注册执业人员不良行为记录认定标准(试行).doc - 1 - - 2 - 附 件 全 国 建 筑 市 场 注 册 执 业 人 员 不 良 记 录 认 定 标 准 ( 试 行 ) 说 明 为 了 完 善 建 筑 市 场 注 册 执 业 人 员 诚 信 体 系 建 设, 规 范 执 业 和 市 场 秩 序, 依 据 相 关 法 律 法 规 和 部 门 规 章, 根 据 各 行 业 特 点, 我 部 制 订 了 全 国 建 筑 市 场 注 册 执 业 人

More information

 编号:

 编号: 编 号 : 企 业 内 高 技 能 人 才 培 养 评 价 实 施 方 案 ( 仅 适 用 于 企 业 特 有 行 业 特 有 工 种 ) 实 施 单 位 ( 公 章 ) 申 报 日 期 年 _ 月 日 1 企 业 内 高 技 能 人 才 培 养 评 价 项 目 实 施 方 案 申 报 表 项 目 名 称 等 级 项 目 性 质 课 时 申 报 单 位 联 系 人 通 讯 地 址 电 话 手 机 电

More information

龚 亚 夫 在 重 新 思 考 基 础 教 育 英 语 教 学 的 理 念 一 文 中 援 引 的 观 点 认 为 当 跳 出 本 族 语 主 义 的 思 维 定 式 后 需 要 重 新 思 考 许 多 相 连 带 的 问 题 比 如 许 多 发 音 的 细 微 区 别 并 不 影 响 理 解 和

龚 亚 夫 在 重 新 思 考 基 础 教 育 英 语 教 学 的 理 念 一 文 中 援 引 的 观 点 认 为 当 跳 出 本 族 语 主 义 的 思 维 定 式 后 需 要 重 新 思 考 许 多 相 连 带 的 问 题 比 如 许 多 发 音 的 细 微 区 别 并 不 影 响 理 解 和 语 音 语 篇 语 感 语 域 林 大 津 毛 浩 然 改 革 开 放 以 来 的 英 语 热 引 发 了 大 中 小 学 英 语 教 育 整 体 规 划 问 题 在 充 分 考 虑 地 区 学 校 和 个 体 差 异 以 及 各 家 观 点 的 基 础 上 遵 循 实 事 求 是 逐 级 定 位 逐 层 分 流 因 材 施 教 的 原 则 本 研 究 所 倡 导 的 语 音 语 篇 语 感 语 域

More information

珠江钢琴股东大会

珠江钢琴股东大会 证 券 代 码 :002678 证 券 简 称 : 珠 江 钢 琴 公 告 编 号 :2015-038 广 州 珠 江 钢 琴 集 团 股 份 有 限 公 司 2015 年 年 度 股 东 大 会 决 议 公 告 本 公 司 及 董 事 会 全 体 成 员 保 证 信 息 披 露 的 内 容 真 实 准 确 完 整, 没 有 虚 假 记 载 误 导 性 陈 述 或 重 大 遗 漏 特 别 提 示 :

More information

中 国 软 科 学 年 第 期!!!

中 国 软 科 学 年 第 期!!! 山 寨 模 式 的 形 成 机 理 及 其 对 组 织 创 新 的 启 示 山 寨 模 式 的 形 成 机 理 及 其 对 组 织 创 新 的 启 示 陶 厚 永 李 燕 萍 骆 振 心 武 汉 大 学 经 济 与 管 理 学 院 武 汉 大 学 中 国 产 学 研 合 作 问 题 研 究 中 心 湖 北 武 汉 北 京 大 学 经 济 研 究 所 光 华 天 成 博 士 后 工 作 站 北 京 本

More information

Microsoft Word - 第7章 图表反转形态.doc

Microsoft Word - 第7章 图表反转形态.doc 第 七 章 图 表 反 转 形 态 我 们 知 道 市 场 趋 势 共 有 三 种 : 上 升 趋 势 下 降 趋 势 和 横 向 整 理 市 场 的 价 格 波 动 都 是 运 行 在 这 三 种 趋 势 中, 所 有 的 走 势 都 是 这 三 种 趋 势 的 排 列 组 合 如 图 市 场 趋 势 结 构 示 意 图 7-1 所 示 市 场 趋 势 结 构 示 意 图 7-1 图 市 场 趋

More information

文 化 记 忆 传 统 创 新 与 节 日 遗 产 保 护 根 据 德 国 学 者 阿 斯 曼 的 文 化 记 忆 理 论 仪 式 与 文 本 是 承 载 文 化 记 忆 的 两 大 媒 体 在 各 种 仪 式 行 为 中 节 日 以 其 高 度 的 公 共 性 有 组 织 性 和 历 史 性 而 特 别 适 用 于 文 化 记 忆 的 储 存 和 交 流 节 日 的 文 化 功 能 不 仅 在 于

More information

云信Linux SSH认证代理用户手册

云信Linux SSH认证代理用户手册 Windows 主 机 登 录 保 护 (RDP) 管 理 员 配 置 手 册 V1.0 云 信 事 业 部 飞 天 诚 信 科 技 股 份 有 限 公 司 www.cloudentify.com 章 节 目 录 第 1 章 管 理 平 台 配 置 说 明... 1 1.1 注 册... 1 1.2 登 录... 3 1.3 添 加 应 用... 4 1.4 添 加 用 户... 7 1.5 激 活

More information

2. 本 次 修 改 后, 投 资 者 申 购 新 股 的 持 有 市 值 要 求 市 值 计 算 规 则 及 证 券 账 户 使 用 的 相 关 规 定 是 否 发 生 了 变 化? 答 : 未 发 生 变 化 投 资 者 申 购 新 股 的 持 有 市 值 是 指, 以 投 资 者 为 单 位

2. 本 次 修 改 后, 投 资 者 申 购 新 股 的 持 有 市 值 要 求 市 值 计 算 规 则 及 证 券 账 户 使 用 的 相 关 规 定 是 否 发 生 了 变 化? 答 : 未 发 生 变 化 投 资 者 申 购 新 股 的 持 有 市 值 是 指, 以 投 资 者 为 单 位 新 股 网 上 网 下 发 行 实 施 细 则 问 答 上 交 所 2016-01-05 一 网 上 发 行 业 务 问 答 1. 本 次 修 改 的 主 要 内 容 是 什 么? 答 : 本 次 修 改 的 主 要 内 容 包 括 : 一 是 取 消 了 投 资 者 在 申 购 委 托 时 应 全 额 缴 纳 申 购 资 金 的 规 定, 明 确 了 投 资 者 应 根 据 最 终 确 定 的 发

More information

2006年顺德区高中阶段学校招生录取分数线

2006年顺德区高中阶段学校招生录取分数线 2014 年 顺 德 区 高 中 阶 段 学 校 考 试 提 前 批 第 一 批 第 二 批 学 校 录 取 根 据 佛 山 市 办 提 供 的 考 生 数 据, 现 将 我 区 2014 年 高 中 阶 段 学 校 考 试 提 前 批 第 一 批 第 二 批 学 校 的 录 取 公 布 如 下 : 一 顺 德 一 中 录 取 分 第 1 志 愿, 总 分 585, 综 合 表 现 评 价 A, 考

More information

关于修订《沪市股票上网发行资金申购

关于修订《沪市股票上网发行资金申购 关 于 修 订 沪 市 股 票 上 网 发 行 资 金 申 购 实 施 办 法 的 通 知 各 有 关 单 位 : 沪 市 股 票 上 网 发 行 资 金 申 购 实 施 办 法 ( 修 订 稿 ) ( 见 附 件 ) 已 经 中 国 证 券 监 督 管 理 委 员 会 批 准, 现 将 修 订 所 涉 主 要 内 容 公 布 如 下 一 第 二 条 ( 二 ) 申 购 单 位 及 上 限 修 改

More information

HSK( 一 级 ) 考 查 考 生 的 日 常 汉 语 应 用 能 力, 它 对 应 于 国 际 汉 语 能 力 标 准 一 级 欧 洲 语 言 共 同 参 考 框 架 (CEF) A1 级 通 过 HSK( 一 级 ) 的 考 生 可 以 理 解 并 使 用 一 些 非 常 简 单 的 汉 语

HSK( 一 级 ) 考 查 考 生 的 日 常 汉 语 应 用 能 力, 它 对 应 于 国 际 汉 语 能 力 标 准 一 级 欧 洲 语 言 共 同 参 考 框 架 (CEF) A1 级 通 过 HSK( 一 级 ) 的 考 生 可 以 理 解 并 使 用 一 些 非 常 简 单 的 汉 语 新 汉 语 水 平 考 试 HSK 为 使 汉 语 水 平 考 试 (HSK) 更 好 地 服 务 于 汉 语 学 习 者, 中 国 国 家 汉 办 组 织 中 外 汉 语 教 学 语 言 学 心 理 学 和 教 育 测 量 学 等 领 域 的 专 家, 在 充 分 调 查 了 解 海 外 实 际 汉 语 教 学 情 况 的 基 础 上, 吸 收 原 有 HSK 的 优 点, 借 鉴 近 年 来 国

More information

3 月 30 日 在 中 国 证 券 报 上 海 证 券 报 证 券 时 报 证 券 日 报 和 上 海 证 券 交 易 所 网 站 上 发 出 召 开 本 次 股 东 大 会 公 告, 该 公 告 中 载 明 了 召 开 股 东 大 会 的 日 期 网 络 投 票 的 方 式 时 间 以 及 审

3 月 30 日 在 中 国 证 券 报 上 海 证 券 报 证 券 时 报 证 券 日 报 和 上 海 证 券 交 易 所 网 站 上 发 出 召 开 本 次 股 东 大 会 公 告, 该 公 告 中 载 明 了 召 开 股 东 大 会 的 日 期 网 络 投 票 的 方 式 时 间 以 及 审 北 京 市 君 致 律 师 事 务 所 关 于 浪 潮 软 件 股 份 有 限 公 司 2015 年 度 股 东 大 会 的 法 律 意 见 书 致 : 浪 潮 软 件 股 份 有 限 公 司 北 京 市 君 致 律 师 事 务 所 ( 以 下 简 称 本 所 ) 受 浪 潮 软 件 股 份 有 限 公 司 ( 以 下 简 称 公 司 ) 的 委 托, 指 派 律 师 出 席 2016 年 4 月

More information

上海证券交易所会议纪要

上海证券交易所会议纪要 附 件 上 海 市 场 首 次 公 开 发 行 股 票 网 上 发 行 实 施 细 则 第 一 章 总 则 第 一 条 为 规 范 上 海 市 场 首 次 公 开 发 行 股 票 网 上 发 行 行 为, 根 据 证 券 发 行 与 承 销 管 理 办 法 及 相 关 规 定, 制 定 本 细 则 第 二 条 通 过 上 海 证 券 交 易 所 ( 以 下 简 称 上 交 所 ) 交 易 系 统 并

More information

证监会行政审批事项目录

证监会行政审批事项目录 事 项 目 录 项 目 对 象 中 华 人 民 共 和 国 证 券 法 第 十 一 条 : 保 荐 人 的 资 格 及 其 管 理 办 法 由 国 务 院 证 券 监 督 管 理 机 构 规 定 44001 保 荐 机 构 注 册 国 务 院 对 确 需 要 保 留 的 项 目 设 定 的 决 定 ( 国 务 院 令 第 412 号 ) 附 件 第 383 项 保 荐 机 构 和 保 荐 代 表 人

More information

合 并 计 算 配 售 对 象 持 有 多 个 证 券 账 户 的, 多 个 证 券 账 户 市 值 合 并 计 算 确 认 多 个 证 券 账 户 为 同 一 配 售 对 象 持 有 的 原 则 为 证 券 账 户 注 册 资 料 中 的 账 户 持 有 人 名 称 有 效 身 份 证 明 文 件

合 并 计 算 配 售 对 象 持 有 多 个 证 券 账 户 的, 多 个 证 券 账 户 市 值 合 并 计 算 确 认 多 个 证 券 账 户 为 同 一 配 售 对 象 持 有 的 原 则 为 证 券 账 户 注 册 资 料 中 的 账 户 持 有 人 名 称 有 效 身 份 证 明 文 件 深 圳 市 场 首 次 公 开 发 行 股 票 网 下 发 行 实 施 细 则 ( 征 求 意 见 稿 ) 第 一 章 总 则 第 一 条 为 规 范 深 圳 市 场 首 次 公 开 发 行 股 票 网 下 发 行 行 为, 根 据 证 券 发 行 与 承 销 管 理 办 法 及 相 关 规 定, 制 定 本 细 则 第 二 条 本 细 则 所 称 网 下 发 行 是 指 首 次 公 开 发 行 股

More information

四川省卫生厅关于开展医疗美容主诊医师资格考试及换证工作的通知

四川省卫生厅关于开展医疗美容主诊医师资格考试及换证工作的通知 四 川 省 医 学 会 文 件 川 学 会 医 字 [2014]161 号 四 川 省 医 学 会 关 于 开 展 医 疗 美 容 主 诊 医 师 资 格 考 试 及 换 证 工 作 的 通 知 各 市 ( 州 ) 卫 生 局 医 学 会 省 卫 生 和 计 划 生 育 委 员 会 直 属 医 疗 机 构 国 家 卫 生 和 计 划 生 育 委 员 会 驻 川 医 疗 机 构 : 根 据 四 川 省

More information

2 2015 年 8 月 11 日, 公 司 召 开 2015 年 第 五 次 临 时 股 东 大 会, 审 议 通 过 了 关 于 公 司 <2015 年 股 票 期 权 激 励 计 划 ( 草 案 )> 及 其 摘 要 的 议 案 关 于 提 请 股 东 大 会 授 权 董 事 会 办 理 公

2 2015 年 8 月 11 日, 公 司 召 开 2015 年 第 五 次 临 时 股 东 大 会, 审 议 通 过 了 关 于 公 司 <2015 年 股 票 期 权 激 励 计 划 ( 草 案 )> 及 其 摘 要 的 议 案 关 于 提 请 股 东 大 会 授 权 董 事 会 办 理 公 证 券 代 码 :300017 证 券 简 称 : 网 宿 科 技 公 告 编 号 :2016-053 网 宿 科 技 股 份 有 限 公 司 关 于 调 整 公 司 2015 年 股 票 期 权 激 励 计 划 激 励 对 象 股 票 期 权 数 量 和 行 权 价 格 的 公 告 本 公 司 及 董 事 会 全 体 成 员 保 证 公 告 内 容 真 实 准 确 和 完 整, 没 有 虚 假 记

More information

新, 各 地 各 部 门 ( 单 位 ) 各 文 化 事 业 单 位 要 高 度 重 视, 切 实 加 强 领 导, 精 心 组 织 实 施 要 根 据 事 业 单 位 岗 位 设 置 管 理 的 规 定 和 要 求, 在 深 入 调 查 研 究 广 泛 听 取 意 见 的 基 础 上, 研 究 提

新, 各 地 各 部 门 ( 单 位 ) 各 文 化 事 业 单 位 要 高 度 重 视, 切 实 加 强 领 导, 精 心 组 织 实 施 要 根 据 事 业 单 位 岗 位 设 置 管 理 的 规 定 和 要 求, 在 深 入 调 查 研 究 广 泛 听 取 意 见 的 基 础 上, 研 究 提 广 西 壮 族 自 治 区 人 事 厅 广 西 壮 族 自 治 区 文 化 厅 文 件 桂 人 发 2009 42 号 关 于 印 发 广 西 壮 族 自 治 区 文 化 事 业 单 位 岗 位 设 置 结 构 比 例 指 导 标 准 的 通 知 各 市 人 事 局 文 化 局, 区 直 各 部 门 ( 单 位 ): 根 据 人 事 部 印 发 的 事 业 单 位 岗 位 设 置 管 理 试 行 办

More information

正 规 培 训 达 规 定 标 准 学 时 数, 并 取 得 结 业 证 书 二 级 可 编 程 师 ( 具 备 以 下 条 件 之 一 者 ) (1) 连 续 从 事 本 职 业 工 作 13 年 以 上 (2) 取 得 本 职 业 三 级 职 业 资 格 证 书 后, 连 续 从 事 本 职 业

正 规 培 训 达 规 定 标 准 学 时 数, 并 取 得 结 业 证 书 二 级 可 编 程 师 ( 具 备 以 下 条 件 之 一 者 ) (1) 连 续 从 事 本 职 业 工 作 13 年 以 上 (2) 取 得 本 职 业 三 级 职 业 资 格 证 书 后, 连 续 从 事 本 职 业 1. 职 业 概 况 1.1 职 业 名 称 可 编 程 师 1.2 职 业 定 义 可 编 程 师 国 家 职 业 标 准 从 事 可 编 程 序 控 制 器 (PLC) 选 型 编 程, 并 对 应 用 进 行 集 成 和 运 行 管 理 的 人 员 1.3 职 业 等 级 本 职 业 共 设 四 个 等 级, 分 别 为 : 四 级 可 编 程 师 ( 国 家 职 业 资 格 四 级 ) 三

More information

上证指数

上证指数 上 证 与 修 正 方 法 一 ( 一 ) 计 算 公 式 1. 上 证 指 数 系 列 均 采 用 派 许 加 权 综 合 价 格 指 数 公 式 计 算 2. 上 证 180 指 数 上 证 50 指 数 等 以 成 份 股 的 调 整 股 本 数 为 权 数 进 行 加 权 计 算, 计 算 公 式 为 : 报 告 期 指 数 =( 报 告 期 样 本 股 的 调 整 市 值 / 基 期 )

More information

教师上报成绩流程图

教师上报成绩流程图 教 务 管 理 系 统 使 用 说 明 学 生 端 用 户 1 在 校 内 任 何 一 台 连 接 校 园 网 的 计 算 机 上 登 录 教 务 处 主 页 教 务 处 主 页 地 址 : http://jw.stdu.edu.cn/homepage 随 后 点 击 按 钮 ( 见 下 图 所 示 ), 即 可 进 入 综 合 教 务 管 理 系 统 2 在 综 合 教 务 管 理 区 域 内 键

More information

目 录 第 一 章 博 星 卓 越 电 子 商 务 营 销 策 划 实 践 平 台 硬 件 使 用 介 绍... 3 第 二 章 博 星 卓 越 电 子 商 务 营 销 策 划 实 践 平 台 管 理 员 端 功 能 使 用 介 绍... 4 2.1 系 统 管 理 员 登 陆... 4 2.2 班

目 录 第 一 章 博 星 卓 越 电 子 商 务 营 销 策 划 实 践 平 台 硬 件 使 用 介 绍... 3 第 二 章 博 星 卓 越 电 子 商 务 营 销 策 划 实 践 平 台 管 理 员 端 功 能 使 用 介 绍... 4 2.1 系 统 管 理 员 登 陆... 4 2.2 班 博 星 卓 越 电 子 商 务 营 销 策 划 实 践 平 台 使 用 说 明 书 制 作 : 北 京 博 导 前 程 信 息 技 术 有 限 公 司 目 录 第 一 章 博 星 卓 越 电 子 商 务 营 销 策 划 实 践 平 台 硬 件 使 用 介 绍... 3 第 二 章 博 星 卓 越 电 子 商 务 营 销 策 划 实 践 平 台 管 理 员 端 功 能 使 用 介 绍... 4 2.1

More information

2015-2016 学 年 第 二 学 期 集 中 考 试 安 排 (18 周 ) 考 试 日 期 :6 月 27 日 星 期 一 8:10-9:50 第 二 公 共 教 学 楼 A 区 A303 10811046 高 等 数 学 ( 理 二 2) 复 材 1501-2 材 料 科 学 与 工 程

2015-2016 学 年 第 二 学 期 集 中 考 试 安 排 (18 周 ) 考 试 日 期 :6 月 27 日 星 期 一 8:10-9:50 第 二 公 共 教 学 楼 A 区 A303 10811046 高 等 数 学 ( 理 二 2) 复 材 1501-2 材 料 科 学 与 工 程 考 试 时 间 2015-2016 学 年 第 二 学 期 集 中 考 试 安 排 (18 周 ) 考 试 日 期 :6 月 27 日 星 期 一 考 场 所 在 教 学 楼 ( 教 学 区 ) 考 试 教 室 课 程 号 课 程 名 考 生 所 在 专 业 ( 班 级 ) 考 生 所 属 学 院 8:10-9:50 第 二 公 共 教 学 楼 A 区 A101 10811026 高 等 数 学 (

More information

名 称 生 命 科 学 学 院 083001 环 境 科 学 1 生 物 学 仅 接 收 院 内 调 剂, 初 试 分 数 满 足 我 院 生 物 学 复 试 最 低 分 数 线 生 命 科 学 学 院 071300 生 态 学 5 生 态 学 或 生 物 学 生 命 科 学 学 院 040102

名 称 生 命 科 学 学 院 083001 环 境 科 学 1 生 物 学 仅 接 收 院 内 调 剂, 初 试 分 数 满 足 我 院 生 物 学 复 试 最 低 分 数 线 生 命 科 学 学 院 071300 生 态 学 5 生 态 学 或 生 物 学 生 命 科 学 学 院 040102 华 中 师 范 大 学 2016 年 接 收 校 内 外 优 秀 硕 士 研 究 生 调 剂 信 息 表 名 称 经 济 与 工 商 管 理 学 院 020101 政 治 经 济 学 1 经 济 学 类 毕 业 学 校 与 报 考 学 校 不 低 于 我 校 办 学 层 次 经 济 与 工 商 管 理 学 院 020105 世 界 经 济 学 1 经 济 学 类 毕 业 学 校 与 报 考 学 校

More information

第 一 部 分 MagiCAD for Revit 安 装 流 程

第 一 部 分 MagiCAD for Revit 安 装 流 程 MagiCAD 软 件 安 装 流 程 MagiCAD v2015.4 for Revit 广 联 达 软 件 股 份 有 限 公 司 BIM 中 心 编 写 2015 年 06 月 第 一 部 分 MagiCAD for Revit 安 装 流 程 一 安 装 前 需 要 确 认 的 内 容 安 装 MagiCAD 程 序 之 前, 请 您 先 确 定 以 下 事 宜 1. 当 前 用 户 账 户

More information

一 从 分 封 制 到 郡 县 制 一 从 打 虎 亭 汉 墓 说 起

一 从 分 封 制 到 郡 县 制 一 从 打 虎 亭 汉 墓 说 起 县 乡 两 级 的 政 治 体 制 改 革 如 何 建 立 民 主 的 合 作 新 体 制 县 乡 人 大 运 行 机 制 研 究 课 题 组 引 言 一 从 分 封 制 到 郡 县 制 一 从 打 虎 亭 汉 墓 说 起 二 密 县 在 周 初 是 两 个 小 国 密 国 和 郐 国 三 密 县 的 第 一 任 县 令 卓 茂 四 明 清 时 代 的 密 县 二 从 集 中 的 动 员 体

More information

2016 年 荔 湾 区 财 政 核 定 支 出 汇 总 表 表 二 单 位 名 称 : 广 州 文 化 公 园 基 本 支 出 项 目 支 出 科 目 编 码 预 算 科 目 名 称 一 般 公 共 预 算 5,800.54 4,695.54 3,092.96 1,481.18 121.40 1,

2016 年 荔 湾 区 财 政 核 定 支 出 汇 总 表 表 二 单 位 名 称 : 广 州 文 化 公 园 基 本 支 出 项 目 支 出 科 目 编 码 预 算 科 目 名 称 一 般 公 共 预 算 5,800.54 4,695.54 3,092.96 1,481.18 121.40 1, 表 一 2016 年 荔 湾 区 收 支 预 算 总 表 单 位 名 称 : 广 州 文 化 公 园 预 算 收 入 预 算 支 出 项 目 预 算 数 项 目 预 算 数 一 一 般 公 共 预 算 拨 款 5,800.54 一 基 本 支 出 4,695.54 工 资 福 利 支 出 3,092.96 二 政 府 性 基 金 预 算 拨 款 商 品 和 服 务 支 出 121.40 三 国 有

More information

世华财讯模拟操作手册

世华财讯模拟操作手册 第 一 部 分 : 股 票 模 拟 操 作 部 分 1. 登 录 与 主 界 面 1.1 登 录 学 生 在 桌 面 上, 打 开 世 华 文 件 夹, 直 接 双 击 文 件 夹 中 的 快 捷 图 标, 系 统 弹 出 世 华 财 讯 模 拟 股 票 交 易 系 统 ( 客 户 端 ) 窗 口, 如 图 1.1 所 示 图 1.1 请 输 入 登 录 名 称 及 密 码, 单 击 确 认 登 录

More information

物 流 从 业 人 员 职 业 能 力 等 级 证 书 分 为 四 个 级 别, 分 别 为 初 级 助 理 级 中 级 和 高 级 ; 采 购 从 业 人 员 职 业 能 力 等 级 证 书 分 为 三 个 级 别, 分 别 为 中 级 高 级 和 注 册 级 请 各 有 关 单 位 按 照 通

物 流 从 业 人 员 职 业 能 力 等 级 证 书 分 为 四 个 级 别, 分 别 为 初 级 助 理 级 中 级 和 高 级 ; 采 购 从 业 人 员 职 业 能 力 等 级 证 书 分 为 三 个 级 别, 分 别 为 中 级 高 级 和 注 册 级 请 各 有 关 单 位 按 照 通 物 联 培 字 2016 16 号 各 有 关 单 位 : 为 适 应 国 家 一 带 一 路 战 略 实 施 和 物 流 产 业 转 型 升 级 对 人 才 的 新 要 求, 确 保 物 流 采 购 人 才 培 养 工 作 有 序 衔 接 和 持 续 健 康 发 展, 参 照 国 际 惯 例, 中 国 物 流 与 采 购 联 合 会 ( 以 下 简 称 中 物 联 ) 经 研 究 决 定, 以 物

More information

收 入 支 出 项 目 2016 年 预 算 项 目 2016 年 预 算 预 算 01 表 单 位 : 万 元 ( 保 留 两 位 小 数 ) 一 公 共 财 政 预 算 拨 款 50.06 一 人 员 经 费 23.59 1 一 般 财 力 50.06 1 人 员 支 出 21.95 2 成 品

收 入 支 出 项 目 2016 年 预 算 项 目 2016 年 预 算 预 算 01 表 单 位 : 万 元 ( 保 留 两 位 小 数 ) 一 公 共 财 政 预 算 拨 款 50.06 一 人 员 经 费 23.59 1 一 般 财 力 50.06 1 人 员 支 出 21.95 2 成 品 100.12 2016 年 龙 岩 市 部 门 预 算 表 报 送 日 期 : 年 月 日 单 位 负 责 人 签 章 : 财 务 负 责 人 签 章 : 制 表 人 签 章 : 收 入 支 出 项 目 2016 年 预 算 项 目 2016 年 预 算 预 算 01 表 单 位 : 万 元 ( 保 留 两 位 小 数 ) 一 公 共 财 政 预 算 拨 款 50.06 一 人 员 经 费 23.59

More information

工 程 勘 察 资 质 标 准 根 据 建 设 工 程 勘 察 设 计 管 理 条 例 和 建 设 工 程 勘 察 设 计 资 质 管 理 规 定, 制 定 本 标 准 一 总 则 ( 一 ) 本 标 准 包 括 工 程 勘 察 相 应 专 业 类 型 主 要 专 业 技 术 人 员 配 备 技 术

工 程 勘 察 资 质 标 准 根 据 建 设 工 程 勘 察 设 计 管 理 条 例 和 建 设 工 程 勘 察 设 计 资 质 管 理 规 定, 制 定 本 标 准 一 总 则 ( 一 ) 本 标 准 包 括 工 程 勘 察 相 应 专 业 类 型 主 要 专 业 技 术 人 员 配 备 技 术 住 房 和 城 乡 建 设 部 关 于 印 发 工 程 勘 察 资 质 标 准 的 通 知 建 市 [2013]9 号 各 省 自 治 区 住 房 和 城 乡 建 设 厅, 北 京 市 规 划 委, 天 津 上 海 市 建 设 交 通 委, 重 庆 市 城 乡 建 设 委, 新 疆 生 产 建 设 兵 团 建 设 局, 总 后 基 建 营 房 部 工 程 局, 国 务 院 有 关 部 门 建 设 司,

More information

( 二 ) 现 行 统 一 高 考 制 度 不 利 于 培 养 人 的 创 新 精 神,,,,,,,,,,,,, [ ],,,,,,,,,,, :, ;,,,,,,? ( 三 ) 现 行 统 一 高 考 制 度 不 利 于 全 体 学 生 都 获 得 全 面 发 展,, [ ],,,,,,,,,,,

( 二 ) 现 行 统 一 高 考 制 度 不 利 于 培 养 人 的 创 新 精 神,,,,,,,,,,,,, [ ],,,,,,,,,,, :, ;,,,,,,? ( 三 ) 现 行 统 一 高 考 制 度 不 利 于 全 体 学 生 都 获 得 全 面 发 展,, [ ],,,,,,,,,,, ( ) ( )... 李 雪 岩, 龙 耀 (. 广 西 民 族 大 学 商 学 院, 广 西 南 宁 ;. 中 山 大 学 教 育 学 院, 广 东 广 州 ) : 高 等 教 育 是 专 业 教 育 高 考 是 为 高 等 教 育 服 务 的, 是 为 高 等 专 业 教 育 选 拔 有 专 业 培 养 潜 质 的 人 才 现 行 高 考 制 度 忽 略 专 业 潜 质 的 因 素, 过 份 强

More information

第 六 章 债 券 股 票 价 值 评 估 1 考 点 一 : 债 券 价 值 的 影 响 因 素 2

第 六 章 债 券 股 票 价 值 评 估 1 考 点 一 : 债 券 价 值 的 影 响 因 素 2 Professional Accounting Education Provided by Academy of Professional Accounting (APA) CPA 财 务 管 理 习 题 班 第 八 讲 债 券 股 票 价 值 评 估 IreneGao ACCAspace 中 国 ACCA 国 际 注 册 会 计 师 教 育 平 台 Copyright ACCAspace.com

More information

<4D6963726F736F667420576F7264202D20BFC9B1E0B3CCD0F2BFD8D6C6CFB5CDB3C9E8BCC6CAA6B9FABCD2D6B0D2B5B1EAD7BC2E646F63>

<4D6963726F736F667420576F7264202D20BFC9B1E0B3CCD0F2BFD8D6C6CFB5CDB3C9E8BCC6CAA6B9FABCD2D6B0D2B5B1EAD7BC2E646F63> 国 家 职 业 标 准 1 可 编 程 序 控 制 系 统 设 计 师 国 家 职 业 标 准 1. 职 业 概 况 1.1 职 业 名 称 可 编 程 序 控 制 系 统 设 计 师 1.2 职 业 定 义 从 事 可 编 程 序 控 制 器 (PLC) 选 型 编 程, 并 对 应 用 系 统 进 行 设 计 集 成 和 运 行 管 理 的 人 员 1.3 职 业 等 级 本 职 业 共 设 四

More information

马 克 思 主 义 公 正 观 的 基 本 向 度 及 方 法 论 原 则!! # #

马 克 思 主 义 公 正 观 的 基 本 向 度 及 方 法 论 原 则!! # # 马 克 思 主 义 公 正 观 的 基 本 向 度 及 方 法 论 原 则 马 俊 峰 在 社 会 公 正 问 题 的 大 讨 论 中 罗 尔 斯 诺 齐 克 哈 耶 克 麦 金 泰 尔 等 当 代 西 方 思 想 家 的 论 述 被 反 复 引 用 和 申 说 而 将 马 克 思 恩 格 斯 等 经 典 作 家 的 观 点 置 于 一 种 被 忽 视 甚 至 被 忘 却 的 状 态 形 成 这 种

More information

现 场 会 议 时 间 为 :2016 年 5 月 19 日 网 络 投 票 时 间 为 :2016 年 5 月 18 日 -2016 年 5 月 19 日 其 中 通 过 深 圳 证 券 交 易 所 交 易 系 统 进 行 网 络 投 票 的 时 间 为 2016 年 5 月 19 日 9:30-

现 场 会 议 时 间 为 :2016 年 5 月 19 日 网 络 投 票 时 间 为 :2016 年 5 月 18 日 -2016 年 5 月 19 日 其 中 通 过 深 圳 证 券 交 易 所 交 易 系 统 进 行 网 络 投 票 的 时 间 为 2016 年 5 月 19 日 9:30- 证 券 代 码 :300439 证 券 简 称 : 美 康 生 物 公 告 编 号 :2016-046 宁 波 美 康 生 物 科 技 股 份 有 限 公 司 2015 年 度 股 东 大 会 决 议 公 告 公 司 及 董 事 会 全 体 成 员 保 证 信 息 披 露 的 内 容 真 实 准 确 完 整, 没 有 虚 假 记 载 误 导 性 陈 述 或 重 大 遗 漏 特 别 提 示 : 1 2016

More information

一、资质申请

一、资质申请 二 工 程 监 理 企 业 资 质 有 关 问 答 111 什 么 样 的 企 业 可 以 在 本 省 申 请 工 程 监 理 企 业 资 质? 答 : 在 鄂 取 得 法 人 营 业 执 照 或 合 伙 企 业 营 业 执 照 的 企 业, 都 可 依 法 向 工 商 注 册 所 在 省 或 市 建 设 行 政 主 管 部 门 行 政 审 批 部 门 申 请 工 程 监 理 企 业 资 质 取 得

More information

课程类 别

课程类 别 美 声 演 唱 方 向 培 养 方 案 一 培 养 目 标 本 方 向 要 求 学 生 德 智 体 美 全 面 发 展, 培 养 能 在 文 艺 团 体 从 事 声 乐 演 唱 及 能 在 艺 术 院 校 从 事 本 方 向 教 学 的 高 级 门 人 才 二 培 养 规 格 本 方 向 学 生 应 系 统 掌 握 声 乐 演 唱 方 面 的 理 论 和 技 能, 具 备 较 高 的 声 乐 演 唱

More information

·岗位设置管理流程

·岗位设置管理流程 实 施 岗 位 设 置 岗 位 设 置 编 码 受 控 状 态 执 行 心 门 行 政 人 力 资 控 制 门 总 经 办 源 各 职 能 门 行 政 人 力 资 源 总 经 办 总 经 理 根 据 公 司 发 展 战 略 进 行 职 能 分 解 和 机 构 设 置 工 作 分 析 根 据 人 力 资 源 规 划 确 定 编 制 意 见 职 责 划 分 与 岗 位 设 置 制 作 职 务 说 明 书

More information

光明乳业股份有限公司

光明乳业股份有限公司 光 明 乳 业 股 份 有 限 公 司 非 公 开 发 行 A 股 股 票 募 集 资 金 存 放 与 实 际 使 用 情 况 的 专 项 报 告 及 审 核 报 告 截 至 2012 年 12 月 31 日 止 审 核 报 告 光 明 乳 业 股 份 有 限 公 司 全 体 股 东 : 德 师 报 ( 核 ) 字 (13) 第 E0019 号 我 们 审 核 了 后 附 的 光 明 乳 业 股 份

More information

全国教师资格认定管理信息系统

全国教师资格认定管理信息系统 操 作 说 明 一 教 师 资 格 认 定 申 请 人 1 : 1. 未 参 加 全 国 统 考 申 请 人 2.1 登 录 未 参 加 全 国 统 考 申 请 人 网 上 报 名 系 统 登 录 中 国 教 师 资 格 网 (http://www.jszg.edu.cn), 未 参 加 全 国 统 考 申 请 人 有 两 种 途 径 进 入 报 名 系 统 第 一 种 途 径 : 点 击 网 站

More information

张 荣 芳 中 山 大 学 历 史 系 广 东 广 州 张 荣 芳 男 广 东 廉 江 人 中 山 大 学 历 史 系 教 授 博 士 生 导 师 我 们 要 打 破 以 前 学 术 界 上 的 一 切 偶 像 以 前 学 术 界 的 一 切 成 见 屏 除 我 们 要 实 地 搜 罗 材 料 到 民 众 中 寻 方 言 到 古 文 化 的 遗 址 去 发 掘 到 各 种 的 人 间 社 会 去

More information

一 开 放 性 的 政 策 与 法 规 二 两 岸 共 同 的 文 化 传 承 三 两 岸 高 校 各 自 具 有 专 业 优 势 远 见 杂 志 年 月 日

一 开 放 性 的 政 策 与 法 规 二 两 岸 共 同 的 文 化 传 承 三 两 岸 高 校 各 自 具 有 专 业 优 势 远 见 杂 志 年 月 日 河 北 师 范 大 学 学 报 新 时 期 海 峡 两 岸 高 校 开 放 招 生 问 题 探 讨 郑 若 玲 王 晓 勇 海 峡 两 岸 高 校 开 放 招 生 是 新 时 期 推 进 海 峡 两 岸 高 等 教 育 交 流 与 合 作 的 重 要 尝 试 系 统 梳 理 改 革 开 放 以 来 两 岸 招 生 政 策 与 就 学 人 数 发 展 变 化 的 历 史 进 程 可 发 现 促 进 两

More information

公 开 刊 物 须 有 国 内 统 一 刊 (CN), 发 表 文 章 的 刊 物 需 要 在 国 家 新 闻 出 版 广 电 总 局 (www.gapp.gov.cn 办 事 服 务 便 民 查 询 新 闻 出 版 机 构 查 询 ) 上 能 够 查 到 刊 凡 在 有 中 国 标 准 书 公 开

公 开 刊 物 须 有 国 内 统 一 刊 (CN), 发 表 文 章 的 刊 物 需 要 在 国 家 新 闻 出 版 广 电 总 局 (www.gapp.gov.cn 办 事 服 务 便 民 查 询 新 闻 出 版 机 构 查 询 ) 上 能 够 查 到 刊 凡 在 有 中 国 标 准 书 公 开 杭 教 人 2014 7 杭 州 市 教 育 局 关 于 中 小 学 教 师 系 列 ( 含 实 验 教 育 管 理 ) 晋 升 高 级 专 业 技 术 资 格 有 关 论 文 要 求 的 通 知 各 区 县 ( 市 ) 教 育 局 ( 社 发 局 ), 直 属 学 校 ( 单 位 ), 委 托 单 位 : 为 进 一 步 规 范 杭 州 市 中 小 学 教 师 系 列 ( 含 实 验 教 育 管

More information

<4D6963726F736F667420576F7264202D20B6C0C1A2B6ADCAC2D0ECCCFABEFDCFC8C9FABCB0CCE1C3FBC8CBC9F9C3F72E646F63>

<4D6963726F736F667420576F7264202D20B6C0C1A2B6ADCAC2D0ECCCFABEFDCFC8C9FABCB0CCE1C3FBC8CBC9F9C3F72E646F63> 证 券 代 码 :000420 证 券 简 称 : 吉 林 化 纤 公 告 编 号 :2010-20 吉 林 化 纤 股 份 有 限 公 司 第 六 届 董 事 会 独 立 董 事 提 名 人 声 明 提 名 人 吉 林 化 纤 股 份 有 限 公 司 董 事 会 现 提 名 徐 铁 君 先 生 为 本 公 司 第 六 届 董 事 会 独 立 董 事 候 选 人, 并 发 表 公 开 声 明, 被

More information

21 业 余 制 -- 高 起 专 (12 级 ) 75 元 / 学 分 网 络 学 院 学 生 沪 教 委 财 (2005)49 号 江 西 化 校 工 科 22 业 余 制 -- 高 起 专 (12 级 ) 70 元 / 学 分 网 络 学 院 学 生 沪 教 委 财 (2005)49 号 吉

21 业 余 制 -- 高 起 专 (12 级 ) 75 元 / 学 分 网 络 学 院 学 生 沪 教 委 财 (2005)49 号 江 西 化 校 工 科 22 业 余 制 -- 高 起 专 (12 级 ) 70 元 / 学 分 网 络 学 院 学 生 沪 教 委 财 (2005)49 号 吉 1 普 通 高 校 学 费 5000 元 / 学 年 一 般 专 业 2 普 通 高 校 学 费 5500 元 / 学 年 特 殊 专 业 3 普 通 高 校 学 费 10000 元 / 学 年 艺 术 专 业 4 中 德 合 作 办 学 15000 元 / 学 年 本 科 生 本 科 学 费 5 ( 含 港 澳 修 读 第 二 专 业 辅 修 专 业 及 学 位 学 费 不 超 过 选 读 专 业

More information

¹ º ¹ º 农 业 流 动 人 口 是 指 户 口 性 质 为 农 业 户 口 在 流 入 地 城 市 工 作 生 活 居 住 一 个 月 及 以 上 的 流 动 人 口 非 农 流 动 人 口 是 指 户 口 性 质 为 非 农 户 口 在 流 入 地 城 市 工 作 生 活 居 住 一 个

¹ º ¹ º 农 业 流 动 人 口 是 指 户 口 性 质 为 农 业 户 口 在 流 入 地 城 市 工 作 生 活 居 住 一 个 月 及 以 上 的 流 动 人 口 非 农 流 动 人 口 是 指 户 口 性 质 为 非 农 户 口 在 流 入 地 城 市 工 作 生 活 居 住 一 个 ¹ 改 革 开 放 年 来 人 口 流 动 规 模 持 续 增 加 对 我 国 社 会 经 济 的 持 续 发 展 起 到 了 重 要 作 用 为 全 面 了 解 我 国 流 动 人 口 生 存 状 况 准 确 把 握 流 动 人 口 发 展 规 律 和 趋 势 不 断 加 强 流 动 人 口 服 务 管 理 引 导 人 口 有 序 流 动 合 理 分 布 国 家 人 口 计 生 委 于 年 月 启

More information

第1篇 道路桥梁工程技术核心专业课程标准及学习绩效考评体系

第1篇 道路桥梁工程技术核心专业课程标准及学习绩效考评体系 陕 西 铁 路 工 程 职 业 技 术 学 院 课 程 标 准 ( 适 用 建 筑 工 程 技 术 专 业 ) 课 程 名 称 : 单 位 工 程 施 工 组 织 设 计 执 笔 人 : 王 恒 博 审 定 人 : 编 制 时 间 : 年 月 日 陕 西 铁 路 工 程 职 业 技 术 学 院 制 表 二 〇 一 一 年 九 月 课 程 标 准 一 课 程 基 本 信 息 课 程 编 码 略 开 设

More information

西 南 大 学 硕 士 学 位 论 文 网 络 购 物 动 机 问 卷 的 编 制 及 实 测 姓 名 : 曹 建 英 申 请 学 位 级 别 : 硕 士 专 业 : 基 础 心 理 学 指 导 教 师 : 张 进 辅 20090401 网 络 购 物 动 机 问 卷 的

More information

附件1:

附件1: 附 件 5 增 列 硕 士 专 业 学 位 授 权 点 申 请 表 硕 士 专 业 学 位 类 别 ( 工 程 领 域 ): 工 程 硕 士 ( 控 制 工 程 领 域 ) 申 报 单 位 名 称 : 上 海 工 程 技 术 大 学 一 申 请 增 列 硕 士 专 业 学 位 授 权 点 论 证 报 告 申 请 增 列 硕 士 专 业 学 位 授 权 点 论 证 报 告 一 专 业 人 才 需 求

More information

附 件 : 上 海 市 建 筑 施 工 企 业 施 工 现 场 项 目 管 理 机 构 关 键 岗 位 人 员 配 备 指 南 二 一 四 年 九 月 十 一 日 2

附 件 : 上 海 市 建 筑 施 工 企 业 施 工 现 场 项 目 管 理 机 构 关 键 岗 位 人 员 配 备 指 南 二 一 四 年 九 月 十 一 日 2 公 开 上 海 市 城 乡 建 设 和 管 理 委 员 会 文 件 沪 建 管 2014 758 号 上 海 市 城 乡 建 设 和 管 理 委 员 会 关 于 印 发 上 海 市 建 筑 施 工 企 业 施 工 现 场 项 目 管 理 机 构 关 键 岗 位 人 员 配 备 指 南 的 通 知 各 区 县 建 设 和 交 通 委 员 会 : 为 进 一 步 加 强 对 建 设 工 程 施 工 现

More information

4 进 入 交 互 区 设 置 的 组 件 管 理, 在 组 件 管 理 中, 教 师 可 以 选 择 课 程 空 间 中 的 所 有 组 件, 并 通 过 点 击 启 用 或 不 启 用 选 定 组 件 在 课 程 空 间 中 的 显 示 5 进 入 工 作 室 管 理 的 工 作 室 首 页,

4 进 入 交 互 区 设 置 的 组 件 管 理, 在 组 件 管 理 中, 教 师 可 以 选 择 课 程 空 间 中 的 所 有 组 件, 并 通 过 点 击 启 用 或 不 启 用 选 定 组 件 在 课 程 空 间 中 的 显 示 5 进 入 工 作 室 管 理 的 工 作 室 首 页, 网 络 教 育 新 平 台 教 师 使 用 简 易 手 册 一 登 录 教 师 工 作 室 1 打 开 西 南 科 技 大 学 网 络 教 育 教 学 教 务 新 平 台 主 页 面 :http://www.swust.net.cn/ 2 在 主 页 面 左 边 的 登 陆 区 中, 用 户 名 和 密 码 处 分 别 输 入 自 己 的 用 户 名 ( 教 师 ID 号 ) 和 密 码 ( 初 始

More information

三门峡市质量技术监督局清单公示

三门峡市质量技术监督局清单公示 附 件 4 卢 氏 县 财 政 局 行 政 职 权 运 行 流 程 图 一 行 政 处 罚 类 1. 第 1 项 一 般 程 序 流 程 图 案 件 来 源 初 步 确 认 违 法 事 实, 责 令 停 止 违 法 行 为 县 财 政 局 立 案 审 批 综 合 股 登 记 立 案 调 查 取 证 不 予 立 案 综 合 股 撰 写 调 查 终 结 报 告 移 送 有 关 部 门 综 合 股 提 出

More information

四川省农村义务教育学生

四川省农村义务教育学生 四 川 省 农 村 义 务 教 育 学 生 营 养 改 善 计 划 协 调 小 组 办 公 室 川 学 生 营 养 办 函 2015 7 号 关 于 填 报 2015 年 农 村 义 务 教 育 学 生 营 养 改 善 计 划 受 益 学 生 数 据 的 通 知 各 相 关 市 ( 州 ) 学 生 营 养 办 : 为 了 贯 彻 落 实 国 务 院 办 公 厅 关 于 实 施 农 村 义 务 教 育

More information

《深圳市场首次公开发行股票网上按市值申购实施办法》.doc

《深圳市场首次公开发行股票网上按市值申购实施办法》.doc 深 圳 市 场 首 次 公 开 发 行 股 票 网 上 按 市 值 申 购 实 施 办 法 深 证 上 2014 158 号 第 一 章 总 则 第 一 条 为 规 范 投 资 者 按 持 有 的 深 圳 市 场 非 限 售 A 股 股 份 市 值 ( 以 下 简 称 市 值 ) 参 与 首 次 公 开 发 行 股 票 网 上 资 金 申 购 业 务, 根 据 证 券 发 行 与 承 销 管 理 办

More information

北京信息科技大学本科学生成绩管理办法

北京信息科技大学本科学生成绩管理办法 北 京 信 息 科 技 大 学 文 件 校 教 发 2012 113 号 关 于 印 发 北 京 信 息 科 技 大 学 本 科 学 生 成 绩 管 理 办 法 的 通 知 各 相 关 单 位 : 现 将 北 京 信 息 科 技 大 学 本 科 学 生 成 绩 管 理 办 法 印 发 给 你 们, 请 遵 照 执 行 北 京 信 息 科 技 大 学 2012 年 12 月 17 日 1 北 京 信

More information

第2章 数据类型、常量与变量

第2章  数据类型、常量与变量 第 2 章 数 据 类 型 常 量 与 变 量 在 计 算 机 程 序 中 都 是 通 过 值 (value) 来 进 行 运 算 的, 能 够 表 示 并 操 作 值 的 类 型 为 数 据 类 型 在 本 章 里 将 会 介 绍 JavaScript 中 的 常 量 (literal) 变 量 (variable) 和 数 据 类 型 (data type) 2.1 基 本 数 据 类 型 JavaScript

More information

中 中 中 中 部 中 岗 位 条 件 历 其 它 历 史 师 地 理 师 生 物 师 体 与 健 康 师 04 05 06 07 从 事 中 历 史 工 从 事 中 地 理 工 从 事 中 生 物 工 从 事 中 体 与 健 康 工 2. 课 程 与 论 ( 历 史 ); 2. 科 ( 历 史 )

中 中 中 中 部 中 岗 位 条 件 历 其 它 历 史 师 地 理 师 生 物 师 体 与 健 康 师 04 05 06 07 从 事 中 历 史 工 从 事 中 地 理 工 从 事 中 生 物 工 从 事 中 体 与 健 康 工 2. 课 程 与 论 ( 历 史 ); 2. 科 ( 历 史 ) 中 中 中 部 中 26 年 系 统 事 业 公 开 计 划 岗 位 条 件 历 其 它 数 师 英 语 师 物 理 师 02 0 从 事 中 数 工 从 事 中 英 语 工 从 事 中 物 理 工 2. 课 程 与 论 ( 数 ); 2. 科 ( 数 );. 数 ; 4. 基 础 数 ; 5. 计 算 数 ; 6. 概 率 论 与 数 理 统 计 ; 7. 应 用 数 ; 8. 数. 课 程 与

More information

<433A5C55736572735C6B73625C4465736B746F705CB9FABCCAD6D0D2BDD2A9D7A8D2B5B8DFBCB6BCBCCAF5D6B0B3C6C6C0C9F3C9EAC7EBD6B8C4CFA3A832303136CDA8D3C3B0E6A3A92E646F63>

<433A5C55736572735C6B73625C4465736B746F705CB9FABCCAD6D0D2BDD2A9D7A8D2B5B8DFBCB6BCBCCAF5D6B0B3C6C6C0C9F3C9EAC7EBD6B8C4CFA3A832303136CDA8D3C3B0E6A3A92E646F63> 附 件 1 国 际 中 药 专 业 高 级 技 术 职 称 评 审 条 件 及 报 名 材 料 一 系 列 ( 一 ) 中 1 高 级 专 科 ( 副 ) 高 级 专 科 ( 副 ) 1 取 得 中 专 科 职 称 后, 独 立 从 事 中 临 床 实 践 5 年 以 上 2 取 得 中 博 士 学 位 后, 临 床 实 践 2 年 以 上 3 取 得 中 硕 士 学 位 后, 临 床 实 践 7

More information

定 位 和 描 述 : 程 序 设 计 / 办 公 软 件 高 级 应 用 级 考 核 内 容 包 括 计 算 机 语 言 与 基 础 程 序 设 计 能 力, 要 求 参 试 者 掌 握 一 门 计 算 机 语 言, 可 选 类 别 有 高 级 语 言 程 序 设 计 类 数 据 库 编 程 类

定 位 和 描 述 : 程 序 设 计 / 办 公 软 件 高 级 应 用 级 考 核 内 容 包 括 计 算 机 语 言 与 基 础 程 序 设 计 能 力, 要 求 参 试 者 掌 握 一 门 计 算 机 语 言, 可 选 类 别 有 高 级 语 言 程 序 设 计 类 数 据 库 编 程 类 全 国 计 算 机 等 级 考 试 调 整 方 案 2011 年 7 月, 教 育 部 考 试 中 心 组 织 召 开 了 第 五 届 全 国 计 算 机 等 级 考 试 (NCRE) 考 委 会 会 议, 会 议 完 成 NCRE 考 委 会 换 届 选 举, 并 确 定 了 下 一 步 改 革 和 发 展 的 目 标 在 新 的 历 史 时 期,NCRE 将 以 保 持 稳 定 为 前 提 以

More information

目 录 页 1. 欢 迎 使 用 网 上 预 约 面 谈 访 问 系 统... 3 2. 新 用 户... 4 2.1 新 用 户 登 入 帐 户 程 序... 4 2.2 启 动 网 上 预 约 面 谈 访 问 帐 户... 5 2.2.1 核 对 帐 户 的 地 址 资 料... 5 2.2.2

目 录 页 1. 欢 迎 使 用 网 上 预 约 面 谈 访 问 系 统... 3 2. 新 用 户... 4 2.1 新 用 户 登 入 帐 户 程 序... 4 2.2 启 动 网 上 预 约 面 谈 访 问 帐 户... 5 2.2.1 核 对 帐 户 的 地 址 资 料... 5 2.2.2 网 上 预 约 面 谈 访 问 使 用 指 南 香 港 特 别 行 政 区 政 府 统 计 处 目 录 页 1. 欢 迎 使 用 网 上 预 约 面 谈 访 问 系 统... 3 2. 新 用 户... 4 2.1 新 用 户 登 入 帐 户 程 序... 4 2.2 启 动 网 上 预 约 面 谈 访 问 帐 户... 5 2.2.1 核 对 帐 户 的 地 址 资 料... 5 2.2.2 阅

More information

<4D F736F F D20322EC9F3BACBC8CBD4B1D7CAB8F1D7A2B2E1B9DCC0EDB9E6B7B6B8BDB1ED2E646F63>

<4D F736F F D20322EC9F3BACBC8CBD4B1D7CAB8F1D7A2B2E1B9DCC0EDB9E6B7B6B8BDB1ED2E646F63> 审 核 人 员 资 格 管 理 规 范 版 次 :F/0 附 表 1: QMS/EMS/OHSMS 管 理 体 系 审 核 员 通 用 要 求 申 请 条 件 初 次 综 合 素 质 考 核 越 级 晋 升 条 件 实 习 审 核 员 审 核 员 主 任 审 核 员 1. 高 等 教 育 : 大 学 本 科 以 上 学 历, 或 大 专 学 历 及 相 2. 工 作 1 : ; 3. 专 业 工 作

More information

国际财务报告准则第13号——公允价值计量

国际财务报告准则第13号——公允价值计量 附 件 : 企 业 会 计 准 则 第 39 号 公 允 价 值 计 量 第 一 章 总 则 第 一 条 为 了 规 范 公 允 价 值 的 计 量 和 披 露, 根 据 企 业 会 计 准 则 基 本 准 则, 制 定 本 准 则 第 二 条 公 允 价 值, 是 指 市 场 参 与 者 在 计 量 日 发 生 的 有 序 交 易 中, 出 售 一 项 资 产 所 能 收 到 或 者 转 移 一

More information

ETF、分级基金规模、份额变化统计20130816

ETF、分级基金规模、份额变化统计20130816 ETF 分 级 基 金 规 模 份 额 变 化 统 计 截 至 上 周 末, 全 市 场 股 票 型 ETF 规 模 约 1451 亿, 份 额 约 1215 亿,ETF 总 份 额 及 规 模 的 周 变 动 值 分 别 为 -23-44 亿, 份 额 与 规 模 均 下 降 ; 分 级 基 金 规 模 约 438 亿, 份 额 572 亿, 总 份 额 及 规 模 的 周 变 动 值 分 别 为

More information

<4D6963726F736F667420576F7264202D20B9D8D3DA32303135BDECB1CFD2B5C9FAC5C9C7B2B1A8B5BDB5C8D3D0B9D8B9A4D7F7B5C4CDA8D6AAA3A8323031352E362E38A3A92E646F63>

<4D6963726F736F667420576F7264202D20B9D8D3DA32303135BDECB1CFD2B5C9FAC5C9C7B2B1A8B5BDB5C8D3D0B9D8B9A4D7F7B5C4CDA8D6AAA3A8323031352E362E38A3A92E646F63> 山 东 农 业 大 学 学 生 工 作 处 通 知 山 农 大 学 通 字 2015 42 号 关 于 2015 届 毕 业 生 派 遣 报 到 等 有 关 工 作 的 通 知 根 据 教 育 部 山 东 省 人 力 资 源 和 社 会 保 障 厅 毕 业 生 就 业 政 策 有 关 规 定, 现 将 2015 届 毕 业 生 派 遣 报 到 及 离 校 后 就 业 手 续 办 理 等 有 关 工

More information

工 程 造 价 咨 询 企 业 管 理 系 统 操 作 手 册 目 录 1 造 价 企 业 登 录... 1 2 企 业 基 本 信 息 查 看... 3 3 企 业 人 员 信 息 查 看... 4 4 企 业 基 本 信 息 操 作... 5 4.1 企 业 简 介... 5 4.2 企 业 章

工 程 造 价 咨 询 企 业 管 理 系 统 操 作 手 册 目 录 1 造 价 企 业 登 录... 1 2 企 业 基 本 信 息 查 看... 3 3 企 业 人 员 信 息 查 看... 4 4 企 业 基 本 信 息 操 作... 5 4.1 企 业 简 介... 5 4.2 企 业 章 工 程 造 价 咨 询 企 业 管 理 系 统 操 作 手 册 工 程 造 价 咨 询 企 业 管 理 系 统 ( 造 价 企 业 ) 用 户 手 册 工 程 造 价 咨 询 企 业 管 理 系 统 操 作 手 册 目 录 1 造 价 企 业 登 录... 1 2 企 业 基 本 信 息 查 看... 3 3 企 业 人 员 信 息 查 看... 4 4 企 业 基 本 信 息 操 作... 5 4.1

More information

2016年德州市机构编制委员会

2016年德州市机构编制委员会 2016 年 德 州 市 机 构 编 制 委 员 会 办 公 室 部 门 预 算 -1- 第 一 部 分 部 门 概 况 目 录 一 主 要 职 能 二 部 门 预 算 单 位 构 成 第 二 部 分 2016 年 部 门 预 算 表 表 1 2016 年 收 支 预 算 总 表 表 2 2016 2016 年 收 入 预 算 表 ( 科 目 ) 表 3 2016 年 收 入 预 算 表 ( 单 位

More information

Cybozu Garoon 3 管理员手册

Cybozu Garoon 3 管理员手册 附 录 D 数 据 的 输 入 样 式 数 据 的 种 类 和 输 入 字 符 的 值 等, 在 Garoon3 的 页 面 输 入 的 数 据 样 式 如 下 所 示 基 本 系 统 客 户 信 息 法 人 姓 名 字 符 串 ( 00 法 人 姓 名 ( 拼 音 ) 字 符 串 ( 00 图 标 (URL) 字 符 串 ( 255 应 用 程 序 新 名 称 字 符 串 ( 00 用 户 姓 名

More information