大数据分析技术 [13] 1.1 大数据 Big Data [2] IBM 5V Volume Velocity Variety Value Veracity Volume Velocity Variety Value Veracity 表 1 大数据特征表 Tab.1

Similar documents
2013_6_3.indd

Azure_s

<4D F736F F D20312D3120B9ABBFAAD7AAC8C3CBB5C3F7CAE95FB5DAB6FEB4CEB7B4C0A1B8FCD0C25F636C65616E5F76322E646F63>

Reducing Client Incidents through Big Data Predictive Analytics

Microsoft Word 記錄附件

CHINA SCIENCE AND TECHNOLOGY DEVELOPMENT REPORT

Microsoft Word - 专论综述1.doc

标题

0896-电力信息与系统通信-02期.indb

科 研 信 息 化 技 术 与 应 用,2015, 6 (1) of identity and the framework of identity management, this paper analyses the development trend of Identity Management


Cloudy computing forEducation

University of Science and Technology of China A dissertation for master s degree Research of e-learning style for public servants under the context of

Microsoft Word D 孙竹森.doc

1.2 资 金 的 管 理 1.1 权 利 义 务 来 源 MOU 1.3 数 据 的 使 用 和 保 护 2 国 际 空 间 站 资 源 分 配 方 案 54

信 息 化 的 整 合 过 程 要 分 为 若 干 阶 段 来 实 现 1. IDC 建 设 阶 段 最 初 需 要 建 设 的 是 一 个 全 校 统 一 的 数 据 中 心, 将 运 行 的 设 备 和 管 理 环 境 进 行 简 单 的 物 理 合 并, 这 样 做 的 好 处 在 于 降 低

标题

F3

南威软件股份有限公司

<4D F736F F D20312D3120D5D0B9C9CBB5C3F7CAE9A3A8C9EAB1A8B8E5A3A9>

业 务 与 运 营 Business & Operation (Transform) 加 载 (Load) 至 目 的 端 的 过 程, 该 部 分 在 数 据 挖 掘 和 分 析 过 程 中 为 最 基 础 的 一 部 分 一 个 良 好 的 ETL 系 统 应 该 有 以 下 几 个 功 能 1

附件1:

Microsoft Word - A _ doc

2016台灣遊戲產業發展趨勢及商機

<4D F736F F D20C8EDCDC1B5D8BBF9CDB2BBF9CAD4B2C9C6BDCCA8B5C4CACAD3C3D0D4B7D6CEF6>

CNAIS 2011

財金資訊-84期.indd

交流活动

CHINA SCIENCE AND TECHNOLOGY DEVELOPMENT REPORT ()

Microsoft Word tb 赵宏宇s-高校教改纵横.doc

Construction of Chinese pediatric standard database A Dissertation Submitted for the Master s Degree Candidate:linan Adviser:Prof. Han Xinmin Nanjing

背 景 概 述 企 业 需 要 一 种 灵 活 的 平 台 来 快 速 构 建 测 试 和 扩 展 新 的 应 用 程 序 服 务 并 对 市 场 中 发 生 的 数 字 化 变 革 作 出 反 应 数 字 化 变 革 正 在 加 快 步 伐, 因 为 流 程 和 信 息 的 日 益 融 合 带 来

Microsoft Word - A doc

白 皮 书 英 特 尔 IT 部 门 实 施 Apache Hadoop* 英 特 尔 分 发 版 软 件 的 最 佳 实 践 目 录 要 点 概 述...1 业 务 挑 战...2 Hadoop* 分 发 版 注 意 事 项...3 Hadoop* 基 础 架 构 注 意 事 项

国家重点实验室建设与运行管理办法

untitled

CH01.indd

b) 350 /t /t /m 2 30 cm 6 mm /m 2 8 mm /m 2. a) c) /m 2. b) c) 2 d) 3.2 a) ( 2) P i (100 kn) N s 16 N s =

应 用 为 先, 统 筹 规 划 摘 要 : 总 体 上 看, 我 国 的 云 计 算 还 没 有 进 入 良 性 发 展 的 轨 道 目 前 的 形 势 是 政 府 比 企 业 积 极, 企 业 比 用 户 积 极, 大 企 业 比 中 小 企 业 积 极, 建 设 数 据 中 心 比 推 广 应

Microsoft Word - A doc

标题

IP TCP/IP PC OS µclinux MPEG4 Blackfin DSP MPEG4 IP UDP Winsock I/O DirectShow Filter DirectShow MPEG4 µclinux TCP/IP IP COM, DirectShow I

Microsoft Word _editing

亚临界大容量电站锅炉过热器系统阻力

具有多个输入 特别是多个输出的 部门 或 单位 ( 称为 决策单元 Decision Making Unit 简称 DMU) 间的相对有效 8 性 C2R 模型是 DEA 的个模型 也是 DEA 的基础 和重要模型 假设有 n 个决策单元 DMUj( j = n) 每个 DMU 有 m

附3

% % CHINA SCIENCE AND TECHNOLOGY DEVELOPMENT REPORT % % % % 28.6%

201316

数据存储

02

How to Use the PowerPoint Template

2

<4D F736F F D FB0F6B056BEF7BA63B056BD6DAB7EBDE8BADEB27AB6B3BADDA5ADA578B942A5CEA4A7ACE3A873>

Microsoft Word - 专论综述1.doc

标题

2016年第2期

Transcription:

2016 2016, Vol. 37, No. 01 37 01 COMPUTER ENGINEERING & SOFTWARE IT 大数据在输变电设备状态评估中的研究 周广 1, 闫丹凤 1, 许光可 2, 李笋 1. 100876 2. 250001 2 摘要 : 电网的高速发展带来海量数据的存储和分析问题, 传统的数据管理和分析工具不再适用 本文主要对大数据分析的相关技术在输变电设备状态评估中的应用进行了研究 本文首先分析了大数据以及数据挖掘技术的优点和应用, 并介绍了输变电设备状态评估技术的相关内容, 随后讨论了大数据和数据挖掘技术在输变电设备状态评估中的应用, 并利用分布式存储 时间序列分析 频繁项挖掘以及专家系统等数据挖掘技术在输变电设备评估进行研究, 以此提高电网管理的效率和运营的安全性 关键词 : 计算机科学与技术 ; 大数据 ; 输变电设备状态评估中图分类号 : TP399 文献标识码 : A DOI:10.3969/j.issn.1003-6970.2016.01.003 本文著录格式 : 周广, 闫丹凤, 许光可等. 大数据在输变电设备状态评估中的研究 [J]. 软件,2016,37(01):09-13 Research on Big Data for Transmission Equipment Status Evaluation ZHOU Guang 1 YAN Dan-feng 1 XU Guang-ke 2 LI Sun 2 1.Beijing University of Posts and Telecommunications Beijing State Key Laboratory of networking and switching Beijing 100876 China 2.State Grid Shandong Electric Power Company Jinan 250001 China AbstractThe high speed development of state grid has brought massive data and the problem of data storage and analysis which make it hard for traditional data manage and analysis tool no longer capable.this article mainly research on the relevant technology of Big Data and its application in Transmission Equipment Status Evaluation.First this paper analyzes the advantages and applications of big data and data mining and introduces the technology of Transmission Equipment Status Evaluation.Then the application of technology of Big Data and data mining in Transmission Equipment Status Evaluation is discussed especially distributed database time series analysis frequent item mining and expert system are introduced and experimented to show the performance to improve the efficacy and security of state grid. Key wordscomputing science and technology Big data Transmission equipment status evaluation 0 引言 [1] [2][3][12] AWS Azure 基金项目 : 国家 863 项目 (2015AA050204) 作者简介 : 周广 (1990-), 男, 硕士研究生, 主要研究方向 : 数据挖掘, 云计算 ; 通信联系人 : 闫丹凤, 副教授, 主要研究方向 : 云计算 数据挖掘.

37 01 1 大数据分析技术 [13] 1.1 大数据 1.1.1 Big Data [2] IBM 5V Volume Velocity Variety Value Veracity Volume Velocity Variety Value Veracity 表 1 大数据特征表 Tab.1 Characteristic of Big Data 7300 33% 21% T-Mobile IBM 1.1.2 Hadoop Hadoop [4] Apache Hadoop Distributed File System HDFS [5] MapReduce Hadoop Hadoop 1.2 云计算 HDFS 分布式文件系统 Hbase 分布式数据库 MapReduce 计算框架 1 Hadoop Fig.1 Architecture of Hadoop [6] Software as a Service SaaS Platform as a Service Paas Infrastructure as a Service Iaas SaaS PaaS IaaS Amazon AWS AppEngine Azure GFS MapReduce BigTable 1.3 数据挖掘技术 软件 杂志欢迎推荐投稿 :cosoft@163.com 10

[7][11] k-means SVM Apriori EM PageRank Adaboost Naïve Bayes 2 输变电设备状态评估技术简介 2014 13.6 5.5 1 4038 [8][9] 2.1 输变电设备状态参数 2.2 输变电设备状态评价 100 Score = SO* e l e f * f * T Score SO l fe 2.3 输变电设备状态决策 f 2.3.1 A B C D A B C D A B C D 表 2 检修分类及检修项目表 Tab.2 Maintenance projects 1 2 3 1 1 2 3 4 2 1 2 3 4 1 2 3 4 5 6 1 1 2 3 2 11 软件 杂志欢迎推荐投稿 :cosoft@163.com

37 01 2.3.2 C D C D 3 大数据在输变电设备状态评估中的应用 3.1 分布式存储在设备状态评估中的应用 NoSQL MongoDB Hbase [14] 1. 2. 3. PB 3.1.1 MongoDB 3 2 CPU 4G 500GB 2 Hbase 3 2 CPU 4G 500GB 2 MySQL 1 4 CPU 4G 1TB 130 表 3 输变电设备状态信息存储实验 Tab.3 Results of data storage for Transmission Equipment /ms / MySql MongoDB Hbase 1000 911 288 1792 10000 8099 603 15403 100000 80753 4107 162204 1000000 810961 35968 1304502 表 4 输变电设备状态信息查询实验 Tab.3 Results of data inquiry for Transmission Equipment / /ms MySql MongoDB Hbase 10 6 41 210 90 84 822 100 6 45 189 889 425 7778 MySQL MongoDB Hbase MongoDB MySQL HbaseMySQL MongoDB 3.2 时间序列分析在设备状态评估中的应用 [10] 软件 杂志欢迎推荐投稿 :cosoft@163.com 12

1. 2. 3. 3.3 频繁项挖掘技术在设备状态评估中的应用 [15] Apriori FP-growth Fp-growth FP FP FP-growth 3.4 专家系统在设备状态评估中的应用 4 结论 参考文献 [1]. [J]. 2014 1. [2].[J]. 2015 50 1146-169. [3]. [J].2013 39-10. [4] White T.Hadoop The definitive guide[m]." O'Reilly Media Inc." 2012. [5] Shvachko K Kuang H Radia S et al.the hadoop distributed file system[c]//mass Storage Systems and Technologies MSST 2010 IEEE 26th Symposium on.ieee 2010 1-10. [6]. [J].2011 38 4 32-37. [7] Rajaraman A Ullman J D. [J].2012. [8]. [D].2014. [9]. [J]. 2015 35 2255-267. [10] 皞. [J].2015 7 022. [11]. [D].2013. [12].[J]. 2013 34 12247-248. [13]. [J]. 2014 35 4130-131. [14]. Hive [J]. 2014 35 1194-100 [15].[J]. 2013 34 1171-72. 13 软件 杂志欢迎推荐投稿 :cosoft@163.com