文章题名不超过20字黑体二号

Size: px

Start display at page:

Download "文章题名不超过20字黑体二号"

殊伍
5 years ago
Views:

1 7th International Conference on Education, Management, Computer and Society (EMCS 2017) Personal Credit Scoring Based on Decision Tree C5.0 Algorithm Shang Gao* and Changbao Wang School of Computer Science and Engineering, Jiangsu University of Science and Technology, Zhenjiang , China *The corresponding author Abstract. There are some problems still exist in traditional individual credit assessment system. To solve the problems, a decision tree individual credit assessment model is proposed. Using SPSS Clementine data mining tool, the personal credit data is clustering analysis by decision tree C5.0 method. It is worse to class a customer as good when they are bad, than it is to class a customer as bad when they are good. It is discussed as the different proportion of loss. Keywords: Personal credit scoring; Decision tree; C5.0 algorithm 基于决策树 C5.0 算法的个人信用评估高尚王长宝 (江苏科技大学计算机科学与工程学院江苏镇江 ) 摘要针对当前传统个人信用评价中的种种问题,提出了利用决策树进行个人信用评估的方法该方法利用 SPSS Clementine 数据挖掘工具使用 C5.0 方法进行聚类分析个人信用评估时接受坏客户损失比拒绝好客户的损失的要高对不同的比例进行了分析关键词个人信用评估决策树 C5.0 算法中图分类号 TP391 文献标志码 A 引言随着中国经济的快速发展信用消费已逐步浮出水面住房按揭汽车贷款教育贷款信用卡等各种个人消费贷款的规模在迅速扩大在消费信贷热不断升温的形势下各商业银行均把发展消费贷款作为未来发展战略的重要组成部分但是目前国内商业银行对消费贷款的风险管理水平较低管理手段与方法均较落后其中缺乏一套有效的个人信用评估方法是阻碍了个人消费信贷业务进一步开展的主要因素之一 [1-2] 信用评估可以较精确地估计消费信贷的风险给贷款人提供了一个可靠的技术手段避免不良贷款控制债务拖欠和清偿个人信用评估可以使贷款人更加精确地界定可以接受的消费信贷的风险扩大消费信贷的发放在我国个人信用评估体系尚不健全个人信用长期没有评估良好的信誉没有得到合理的优惠欠债不还也没有受到相应的惩罚使我国的个人信用较为脆弱个人资信程度降低由此导致以下结果: 1 缺乏完善的消费者个人信用评估体系必将导致贷款审批时间延长手续复杂 2 缺乏完善的消费者个人信用评估体系容易导致非个人因素的信贷风险目前国内商业银行对消费贷款的风险管理水平较低管理手段与方法均较落后在消费信贷的发放过程中仍然采用传统的比率分析方法根据 5C 原则来评价消费信贷申请者的信用状况及还款能力主观成分较多在个人信用评估方法上仍然没有形成稳健可靠的模型没有一套科学合理的个人信用评价指标体系刚刚启动的个人征信数据库虽然解决了个人信用记录 Copyright 2017, the Authors. Published by Atlantis Press. This is an open access article under the CC BY-NC license ( 1729

2 有限和样本数据缺失的问题但如何充分有效的利用这些数据提高信贷审批的效率避免不良贷款的出现在目前仍然是一个亟待解决的问题 3 缺乏完善的消费者个人信用评估体系资料影响了消费者申办消费信贷的积极性进行科学的个人信用评估是贷款决策最重要的环节除了建立个人信用档案系统并能够提供全社会交流外就是建立科学客观的数学模型[3-4] 目前国外商业银行信用评估中应用最为广泛的是多元统计分析方法其基本思路是根据己经掌握的历史上每个类别(违约类不违约类或正常类) 的若干样本点从中总结出分类的规律建立判别公式用于对新样本点的分类近年来随着技术的突破性进展许多学者将其应用于信用评估中[5-9] 文[7]提出了一种将分类树和支持向量机结合起来处理个人信用评估的新方法针对信用评估指标维数较高的问题文[8]运用主成分分析与支持向量机理论建立了一个新的个人信用评估预测模型本文将采用决策树运用到个人信用评估中 1 决策树方法决策树(Decision Tree)是一个可以自动对数据进行分类的树形结构是树形结构的知识表示其每一个内部节点(非叶子节点)都代表了一个属性上的测试也就是一个分裂属性决策树也可解释为一种特殊形式的规则集其特征是规则的层次组织关系决策树算法有很多如 ID3 算法 C4.5 算法 CART 算法 CHAID 算法 PUBLIC 算法 SLIQ 算法以及 SPRLNT 算法 C4.5 算法是在 ID3 算法基础上改进的决策树生成算法并且凭借其独特的特点和突出的优势在各行各业的数据挖掘中得到了成功的应用 ID3 算法最初的定义是假设属性值是离散值但在实际环境中有很多属性是连续的不能够用一个确定的标准来对其进行划分 C4.5 使用下面的一系列处理过程来对连续的属性划分成离散的属性进而达到能够建立决策树的目的 C4.5 算法的步骤如下 Step1 根据训练数据集 D 中各个属性的值对该训练数据集进行排序 Step2 利用其中各属性的值对该训练数据集动态地进行划分 Step3 在划分后的得到的不同的结果集中确定一个阈值该阈值将训练数据集数据划分为两个部分 Step4 针对这两边各部分的值分别计算它们的增益或增益比率以保证选择的划分使得增益最大增益比率的公式如下所示 GainRatio( A) Gain( A) SplitI ( A) 1 C5.0 与 C4.5 不同之处在于 C5.0 可以处理多种数据类型包括了日期(date) 时间(times) 时间戳 (timestamps) 序列性的离散型数据(ordered discrete attributes)等等除了处理数据部分丢失的问题 C5.0 还可以将部分属性标记为不适合以使得分析时仍能保持资料的完整性本文采用 Clementine 数据挖掘工具使用 C5.0 模型进行聚类分析 Clementine 是 SPSS 公司开发的数据挖掘软件它将聚类决策树神经网络关联规则等多种数据挖掘技术集成在直观的可视化图形界面中[9] Clementine 结合商业技术可以快速建立数据模型进而应用到商业活动中帮助人们改进决策过程在 Clementine 中建立的挖掘模型如图 1 所示具体构建方法参见文献[10] 本文选用德国一银行信贷评估实例数据进行实证分析其网址为该网站提供了 2 套数 1730

对于银行来说拒绝好客户和接受坏客户这两种错误造成的损失并不相等接受坏客户银行可能遭受较大的违约风险而拒绝好客户可能的损失则是贷款利息也就是说接受坏客户比拒绝好客户的成本高该数据集提供的建议接受坏客户损失与拒绝好客户的损失比例是 5 1 图 2 图 3 的左侧以层的形式显示决策树右侧显示的每个变量的相对重要性决策树也可以用规则集来表示

3 据这里选则是把各指标都数字化的数据集 german.data-numeric 该数据集由 1000 个样本构成每个样本含有 24 维数据和每个样本的类别变量要么取 1 (不违约好客户) 要么取 2 (违约坏客户) 测试时采用的方法是将该样本按照 2 1 的比例分为训练样本(667 个从第 1 到第 667 个样本) 和测试样本(333 个从第 668 个到 1000 个样本) 图 1 数据流图 2 误分类损失矩阵对于银行来说拒绝好客户和接受坏客户这两种错误造成的损失并不相等接受坏客户银行可能遭受较大的违约风险而拒绝好客户可能的损失则是贷款利息也就是说接受坏客户比拒绝好客户的成本高该数据集提供的建议接受坏客户损失与拒绝好客户的损失比例是 5 1 图 2 图 3 的左侧以层的形式显示决策树右侧显示的每个变量的相对重要性决策树也可以用规则集来表示如图 4 所示图 5 给出了详细的分析结果对 333 个测试样本进行测试正确率为 59.16% 2 误分类损失分析很显然拒绝好客户和接受坏客户这两种错误造成的损失并不相等由于接受坏客户损失与拒绝好客户的损失的比例不同结果也不一样表 1 给出了不同比例时的分类正确率比较比例相差越大可能会把好的客户误判为坏客户的可能性也加大其正确率降低表 1 的数据也反映了该情况接受坏客户损失与拒绝好客户的损失比例 6:1 5:1 4:1 3:1 2:1 表 1 不同误分类损失比例的结果训练集 667 个样测试集 333 个样本的正确率本正确率 62.67% 54.65% 64.32% 59.16% 70.16% 63.66% 70.31% 63.06% 77.66% 72.67% 全部数据 1000 个样本正确率 60% 62.6% 68% 67.9% 76% 1731

4 图 3 以层的形式显示决策树图 4 规则集 1732

图 5 分析结果 3 结束语随着消费信贷规模的扩大如何提高信用评估准确率已经成为信贷行业的一个重要问题因为信用评估准确率直接影响信贷机构的收益决策树是归纳学习和数据挖掘的重要方法通常用来形成分类器和预测模型本文利用决策树方法对个人信用进行了评估由于 C5.

5 图 5 分析结果 3 结束语随着消费信贷规模的扩大如何提高信用评估准确率已经成为信贷行业的一个重要问题因为信用评估准确率直接影响信贷机构的收益决策树是归纳学习和数据挖掘的重要方法通常用来形成分类器和预测模型本文利用决策树方法对个人信用进行了评估由于 C5.0 决策树既可以非常直观的解释也可以根据规则进行解释适合对某一属性作深入的分析本文利用 SPSS Clementine 数据挖掘工具使用 C5.0 方法进行聚类分析试验结果表明该算法能够将数据分类和预测 4 致谢论文得到人工智能四川省重点实验室开放基金(2016RYJ03)支持 Acknowledgement This work was supported by Artificial Intelligence of Key Laboratory of Sichuan Province (2016RYJ03). 参考文献 [1] 石庆众靳云汇.个人信用评分的主要模型与方法综述[J].统计研究 (20): [2] R. A. Fisher. The Use of Multiple Measurement in Taxonomic Problem[R]. Annuals of Eugenie : [3] D Durand. Risk Elements in consumer Installment financing[m]. National Bureua of Economic Research New York [4] J. Myers, W. Forgy. The Development of Numerieal Credit Evaluation System[J]. Jounral of the American statistical Association (58): [5] 于兆吉胡祥培毛强. 电子商务环境下信用评级的一种新方法[J].控制与决策 (11): [6] 姜明辉谢行恒王树林温潇.个人信用评估的 Logistic-RBF 组合模型[J]. 哈尔滨工业大学学报 (7): [7] 高莉.基于分类树和支持向量机的个人信用评估方法[J].内江师范学院学报.2009,24(8): [8] 肖智,李文娟.基于主成分分析和支持向量机的个人信用评估[J].技术经济. 2010, 29(3): [9] 于兆吉郭亚军. 基于信用级别的银行信贷优化模型[J].控制与决策 (12):

6 [10] 熊平.数据挖掘算法与 Clementine 实践[M].清华大学出版社,2011: References [1] Shi Qing-zong, Le Yun-hui: Consumer credit scoring model:a survey [J]. Statistical Research,Vol.8(2003), No.20,p.36-39(in Chinese) [2] R. A. Fisher. The Use of Multiple Measurement in Taxonomic Problem[R]. Annuals of Eugenie, 1936, 7: [3] D Durand. Risk Elements in consumer Installment financing[m]. National Bureua of Economic Research, New York, [4] J. Myers, W. Forgy. The Development of Numerieal Credit Evaluation System[J]. Jounral of the American statistical Association, 1963, 303(58): [5] Yu zhao-ji, Hu Xiang-pei, Mao Qiang: Novel credit rating method under electronic commerce [J]. Control and Decision, Vol.24 (2009), No.11,p (in Chinese) [6] Jiang Ming-hui, Xie Xing-heng, Wang Shulin, et al: Personal credit scoring based on Logistic and RBF combined model [J], Journal of Harbin Institute of Technology, Vol.39(2007), No.7,p (in Chinese) [7] Gao Li: Personal Credit Scoring And Support Based on Classification Tree Vector Machines [J], Journal of Neijiang Teachers College, Vol.24(2009), No.8, p (in Chinese) [8] Xiao Zhi, Li Wen-juan: Personal Credit Scoring Based on PCA and SVM [J], Technology Economics. Vol.29(2010),No.3,p (in Chinese) [9] Yu Zhao-ji, Guo Ya-jun. Credit Level Based Optimization Model for Bank Loan [J]. Control and Decision. Vol. 21(2006),No.12,p (in Chinese) [10] Xiong Ping, Data mining algorithms and Clementine practice[m]. Tsinghua University press, 2011,p (in Chinese) 1734

1 引言

1 引言 P P 第 40 卷 Vol.40 第 7 期 No.7 计算机工程 Computer Engineering 014 年 7 月 July 014 开发研究与工程应用文章编号 :1000-348(014)07-081-05 文献标识码 :A 中图分类号 :TP391.41 摘基于图像识别的震象云地震预测方法谢庭,