核Fisher判别分析方法评估消费者信用风险.pdf

《核Fisher判别分析方法评估消费者信用风险.pdf》由会员分享，可在线阅读，更多相关《核Fisher判别分析方法评估消费者信用风险.pdf（6页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第13卷 第6期2004年12月系 统 工 程 理 论 方 法 应 用SYSTEM S EN GI N EER I N G-THEORYM ETHODOLOGY A PPL ICA T I ON SVol.13 No.6Dec.2004文章编号:100522542(2004)0620548205核Fisher判别分析方法评估消费者信用风险李建云,邱菀华(北京航空航天大学 经济管理学院,北京100083)【摘要】利用基于核函数和线性Fisher判别构建的核Fisher方法评估消费者信用风险。该方法首先通过核函数建立一个非线性映射,把原空间中的样本点投影到一个高维特征空间,然后在高维特征空间中应用

2、线性Fisher函数,把具有不同属性值的样本点判别到相应的类别。通过对个人信贷数据的研究表明,核Fisher方法可以有效地评估消费者信用风险。关键词:Fisher判别方法;核映射;信用风险;消费者信用评估中图分类号:F 830.5文献标识码:AEvaluation Consumer Credit withKernel Fisher D iscri m inant AnalysisL I J ian2yun,Q IU W an2hua(School of Econom ics andM anagement,Beijing U niv.of A eronauticsand A stronautic

3、s,Beijing 100083,China)【Abstract】In this paper kernel Fishermethod is applied to evaluate credit risk of consumer.Themethod isbased on a non2linear mapping from input space to feature space using kernel function.L inear Fisher dis2cri m inant is established in feature space,w hich corresponds to a n

4、on2linear discri m inant in input space.A ccording to the results using personal car loan data,thismethod has the value of application for forecast2ing the default and managing the credit risk.Key w ords:Fisher discri m inant;kernelmapping;credit risk;consumer credit evaluation收稿日期:2004204205修订日期:20

5、0022基金项目:国家自然科学基金项目(70372011)作者简介:李建云(19722),男,博士生。主要从事信用风险评估及应用研究。消费者信用是指一种建立在对消费者在特定的期限内付款或还款承诺信任的基础上,无须付款就可以获取商品、服务或资金的能力。根据美联储理事会的定义,消费者信用包括通过正常的商业途径发放给消费者的用于购买商品及服务等个人消费的短期及中期信贷,有时也可是为由于同样目标而出现的债务再融资而发放的信贷。近年我国在个人消费信用方面发展非常迅速,汽贷、房贷、助学贷款、大额耐用消费品等分期付款形式的贷款规模越来越大,截止2003年底,我国信用卡发放规模达3 000多万左右,信用消费方

6、式已经进入人们日常生活当中,并开始快速发展。在消费信用迅速发展的同时,呆、坏账等违约现象也浮现出来,违约风险呈逐步上升趋势。巴塞尔委员会发布的最新 信用风险管理原则要求金融机构基于风险原则管理资金。在这种情况下发展信用风险管理技术,加强信用风险分析显得尤为重要。针对消费者个人的信用风险评估目的,在于对反映消费者信用的相关信息进行分析,判断消费者的信用风险状况,为贷款、信用申请、呆账催收等提供决策依据。信用风险分析的研究对商业银行的稳健经营,保持一定的利润水平至关重要。在西方征信技术发达国家,该领域受到金融机构、信用中介机构、学者越来越多的重视。消费者信用评估是一种信用风险分析方法,是对消费者信

7、用的量化,该方法是将数学模型用于确 1995-2006 Tsinghua Tongfang Optical Disc Co.,Ltd.All rights reserved.定消费者信用等级。它起源于20世纪30年代,在60年代成为热点,继传统的比例分析法后,1968年,A ltman用Fisher判别分析方法研究了企业破产问题。1974年,Ohoson把Logistic回归引入该领域。接着线性规划、非线性规划、贝叶斯决策模型、存活分析等方法先后用来评估个人信用。到了20世纪80年代,随着人工智能的发展,专家系统、神经网络、遗传算法等新技术也被应用于银行系统的贷款决策、信用评估等方面1。随着我

8、国加入W TO,经济开放程度越来越大,中小规模信贷活动在信贷总规模中所占比重将越来越大,消费者参预的信用消费活动将进一步扩大,消费者信用问题也将更加突出。为保证我国金融秩序的稳定,促进国民经济健康成长,实行消费者信用评估,为信用提供科学的决策依据,及时识别消费者信用风险,具有十分重要的意义。本文把基于传统Fisher判别分析和核函数的核Fisher方法应用到信用风险评估中,并探讨其现实可行性。1判别分析方法1.1Fisher判别分析设X=(X1,X2,Xp)是P随机变量集,描述与消费者信用相关的信息,比如性别、年龄、收入、职业等。对一个消费者个体,变量的实际值表示x=(x1,x2,xp)。给定

9、一个样本数据集,该数据集由具有相同属性的个体组成,根据个体的特征样本可分为多个类别,当一个新的样本点出现时,如何判断该新样本点归属于样本中的哪一类,这就是判别分析要解决的问题。Fisher判别的基本思想是投影2,3,即将K类p维数据投影到某方向,使得组与组间的距离最大,也即采用方差分析的思想。在两类的情形下,设 1=x11,x12,x1l1和 2=x21,x22,x2l2来自2个不同类别的样本(其中xji是一个p维矢量),样本总数为=12=x1,x2,xl,各自的组内均值mi=li6lij=1xij。Fisher线性判别通过最大化下式,得到使组间距离最大的w:maxJ(w)=wTSBwwTSw

10、w(1)式中,SB=(m1-m2)(m1-m2)T,为组间离差阵,反映组间的差异;Sw=6i=1,26xi(x-mi)(x-mi)T,反映组内的差异。最大化J(w)的直观意义是搜索一个方向,投影在该方向上的类间均值距离最大,两个类各自的方差最小。对任一样本X,判别该样本的归属类别,可以计算判别函数y=wTX,求它与各总体(Gi)的马氏距离:di=d2i(X,Gi)(2)最小化该距离,d2i=m in1mjd2m,则判断XGi。1.2核Fisher判别分析对样本线性可分问题,传统Fisher判别方法的判别能力得到了普遍认可,然而消费者信用评估属于非线性问题,简单的线性判别函数无法有效地区分不同特

11、征的样本。该情况下,在构造判别函数时可以采用复杂的非线性分布函数,但这在具体实现时有很多困难4,因此,可以考虑间接地采用非线性投影方法,即通过非线性映射把原始数据投影到特征空间#中,然后在特征空间中用线性Fisher判别达到分类目的。该方法基本原理如图1所示。图1核Fisher判别原理示意图设 是一个到特征空间#的非线性映射,它把原空间中的样本点非线性地映射到特征空间中。在#中找一个线性判别函数,使下式达到最大:maxJ(w)=wTSBwwTSWw(3)式中,w#,SB、SW是#中相应的矩阵,分别为SB=(m1-m2)(m1-m2)TSW=6i=1,26xi(x)-mi)(x)-mi)Tmi=

12、1li6lij=1(xij)这样,在特征空间中构建了一个线性判别函数。但是,若#的维数非常高,甚至是无限维的空间时,式(3)就无法直接求解。针对该问题,可以采用类似于核主成分分析中引进核函数的方法。传统的核函数方法是用于非参数估计问题。对于一已知的x值,要估计在x点的值f(x)。那么在估计x点的函数值时,靠近x的样本应比远离x的样本起的作用更大些,因此有必要对不同的样本进945第6期李建云,等:核Fisher判别分析方法评估消费者信用风险 1995-2006 Tsinghua Tongfang Optical Disc Co.,Ltd.All rights reserved.行一定的加权,这可

13、以采用核函数得以较好地实现。设K()为核函数,对样本的概率密度估计为fn(x)=1nhn6ni=1Kx-Xihn(4)式中,hn为窗宽。由此得到的fn(x)即为总体未知密度f的一个估计,称为核估计。在本文则把核函数方法用于高维空间的非线性投影。经研究表明,在核主成分分析和支持向量机方法中较为有效的核为RBF核5,因此,本文也尝试采用RBF核进行核Fisher判别分析,此时的影射即RBF核函数6,k(x,y)=exp-x-y222(5)式中:x和y均为样本值;为控制非线性化程度的常数。根据再生核理论,在特征空间中的任意一个解向量w#是特征空间#中训练样本的组合,因而可以找到w的扩展形式:w=6l

14、i=1i(xi)(6)由式(6)和mi的定义,可得wTmi=1li6lj=16lik=1jk(xj,xik)=TMi(7)式中,(Mi)j=1li6lik=1k(xj,xik),这里用核函数替换了点积。利用SB的定义和式(6),式(3)中的分子可写成wTSBw=TM(8)式中,M=(M1-M2)(M1-M2)T。应用SW的定义和类似于式(7)的变换,式(3)中的分母可写成wTSWw=TN(9)式中:N=6j=1,2Kj(I-1lj)KTj,Kj是llj矩阵,其中,元素(Kj)nm=k(xn,xjm)(这是类j的核矩阵),I是单位矩阵,1lj是所有元素均为lj的矩阵。联合式(8)和(9),则可在

15、特征空间中得到Fish2er线性判别函数maxJ()=TMTN(10)该判别函数隐式地对应着原空间中的一个非线性判别函数,因此,它是一种非线性方法。求解矩阵N-1M的最大特征值对应的特征向量就可以求得上式的最优解。这样可以得到一个新样本点在特征空间的投影(w(x)=6liik(xi,x)(11)上述方法通过l个样本估计l维协方差矩阵,显然是不可行的。除了数值问题会导致矩阵N非正定外,还需要在特征空间#中采取某种方法控制N。这里,对N做如下正则化处理N=N+I(12)本文取=0.001。对矩阵N做这种变换有如下优点:它会使数值求解问题更加稳定,足够大时,矩阵N会变成正定矩阵;与式(3)相比,该方

16、法降低了样本特征值估计的偏差;方法对 2进行了正则化,最佳结果具有最小的扩展系数。2实证分析2.1案例背景本文以消费者分期付款购买汽车为研究案例。消费者在购买汽车时,承诺在获得该消费品后每月按一定额度归还银行贷款。但在实际中,部分消费者因为偿债能力降低而违约,或因为该消费品大幅度降价以及其他一些原因而理性违约,导致银行不能收回贷款。本文依据与消费者信用相关的信息,建立判别模型,尝试在最大程度上把正常还款客户和违约客户分离开来。2.2变量分析及数据预处理对消费者信用状况产生影响的因素较多,有居住、年龄、性别、婚姻、职业等。比如,目前居住状况在一定程度上代表了借款人的经济实力,如果借款人经常性的搬

17、迁,那么他们违约的可能性相对要大一些;年龄小的借款人一般收入较低,收入的稳定性也较差,违约风险相对要高;女性则一般比男性违约率低。所有的这些因素中有些可连续取值,有些只能分段取值,如关于居住状况的取值为:自有;按揭;租房;与父母同住。本文根据前人研究成果1,2及数据实际可行性出发,选取12个指标作为模型输入变量,如表1所示。表1模型选取指标列表变量名称 变量类型变量名称变量类型变量名称变量类型性别0-1型婚姻状况分段分散付款比率连续年龄分段就业状况分段还款期限分段职业分段拥有电话状况分段是否储蓄账户0-1型居住状况分段贷款额度连续房屋拥有状况分段取得原始数据后,对原始数据进行有效性处理,并剔除

18、不符合要求的部分数据,得到有效数据样本1 000份。这1 000份数据包含两类样本:好客户和坏客户。坏客户定义为还款拖欠期数大于等于3期的客户,好客户定义为拖欠期数小于3期的客户。这055系统工程理论方法应用第13卷 1995-2006 Tsinghua Tongfang Optical Disc Co.,Ltd.All rights reserved.1 000项有效数据中,好客户数据为702份,坏客户数据为298份。2.3模型训练从总样本中随机抽取700个样本,包括了490个好客户和210个坏客户。根据式(1)和(10),利用R统计语言,采用表1中所列指标分别建立传统Fisher判别和核F

19、isher判别的消费者信用评估计算模型,2种模型判别结果如图2所示。其中,传统Fisher判别以最小马氏距离作为判别准则,即与研究样本距离较小的组(好或坏)为样本的所属的组。图2(a)给出的是训练样本分别与好、坏二组之间马氏距离的组间差(D)的分布,此处定义D=d好-d坏(12)由此,可把D=0作为判别限,如图2(a)中虚线所示。图2(b)给出了训练样本在核Fisher模型建立的特征空间中第1和第2投影方向的分布。显然,若以第1投影方向上的0.03作为判别界限,好客户和坏客户可以较小的误判率分开,如图2(b)中虚线所示。建立模型后样本数据的回判结果见表2。(a)(b)图2传统Fisher判别分

20、析和核Fisher判别分析两模型回判结果散点图注:图2(a)是Fisher判别分析结果,横轴表示样本序列号,纵轴表示马氏距离的组间差D;图2(b)是核Fisher判别分析结果,横轴表示样本在特征空间第1投影方向的值,纵轴表示特征空间第2投影方向值。虚线表示判别限表2两模型回判结果比较样本来源传统Fisher判别消费者信用评估结果坏客户好客户样本总数核Fisher判别消费者信用评估结果坏客户好客户样本总数坏客户1614921019713210所占比率?%76.723.310093.86.2100好客户12037049013477490所占比率?%24.575.51002.797.3100样本总数

21、281419700210490700总体正判率75.9%;总体误判率24.1%总体正判率96.3%;总体误判率3.7%从表2和图2可以看出,用核函数方法建立的核Fisher判别方法在回判中结果是比较理想的。700个样本中,好客户的回判正确率达到97.3%,坏客户的回判正确率达到93.8%,总体正确率达到了96.3%,这些结果都比对应的传统Fisher判别结果优异。该回判结果表明核Fisher判别方法从样本中抽取样本特征的能力优于传统Fisher方法。2.4模型检验对于构建模型时使用的样本来说,分类结果总是比较理想的,因为该模型的构建就是要使样本间的差别最大化。可以采用一个独立于建模时所用的样本

22、,对所建模型进行更高要求的检验。用构建模型时未使用的300份数据,其中,212个是好客户,88个是坏客户,对建立的模型进行有效性检验,结果如表3和图3所示。155第6期李建云,等:核Fisher判别分析方法评估消费者信用风险 1995-2006 Tsinghua Tongfang Optical Disc Co.,Ltd.All rights reserved.表3两模型验证结果比较样本来源传统Fisher判别消费者信用评估结果坏客户好客户样本总数核Fisher判别消费者信用评估结果坏客户好客户样本总数坏客户662288761288所占比率?%75.025.010086.413.6100好客户

23、6115121223189212所占比率?%28.871.210010.889.2100样本总数12717330099201300总体正判率72.3%;总体误判率27.7%总体正判率88.3%;总体误判率11.7%(a)(b)图3传统Fisher判别分析和核Fisher判别分析两模型检验结果散点图注:图3(a)是Fisher判别分析结果,横轴表示样本序列号,纵轴表示马氏距离的组间差;图3(b)是核Fisher判别分析结果,横轴表示样本在特征空间第1方向的投影,纵轴表示特征空间第2方向投影。虚线表示判别分界线从表3和图3可知,两模型对好、坏客户的识别能力有所差别。传统Fisher判别方法对检验样

24、本中坏客户的判断正确率要比好客户的判断正确率高3.8个百分点,说明该方法对好客户的判断能力要弱于坏客户的判断能力。核Fisher判别方法对坏客户判断正确率比好客户判断正确率低2.6个百分点,说明核Fisher判别方法对好客户的判断能力要优于传统Fisher判别。由此可见,基于传统Fisher判别基础之上构建的核Fisher判断模型,在提高模型整体判断能力的同时,并没有把对好、坏客户的判断能力(第一、二类判断错误率)继承下来。而在信用风险识别过程中,犯第一、第二类错误的代价是不同的。一般来说,对于放款机构,犯第一类错误(把坏客户判断为好客户)的代价要高于犯第二类错误,减小第一类错误率对确保利润未

25、因过度控制损失而被牺牲具有重要意义。尽管核Fisher判断模型并没有继承传统Fish2er判断方法对坏客户识别能力要优于对好客户的识别能力的优点,但是,从整体来看两模型的检验结果,如总体判断正确率、总体判断错误率,好、坏客户判断正确率及错误率,显然,核Fisher判别方法整体判断能力要优于传统Fisher判别,特别是降低了犯第一、第二类错误的概率。在表3中,核Fisher判别方法对坏客户的正确判别率为86.4%,对好客户的正确判别率为89.2%,检验样本总体正确判别率达到88.3%。由此可见,用核Fisher判别方法来判断消费者信用风险是一种有效的方法。综合表2和表3,Fisher判别方法在模

26、型训练和模型检验中对样本的总体正判率、误判率差别为3.6%,而在核Fisher判别中差别为8%,可见核Fisher判别方法对检验样本的判别能力有较大程度降低。由此推断这可能是由于核Fisher方法是构建在高维特征空间,相对于原空间,同样信息量在高维特征空间会变得较为稀疏。该问题可以通过采用更多的消费者信用信息作为建立模型的指标来加以解决,如消费者信用历史记录、信用特别记录、消费者公共事业交费记录等,相关的研究还有待于在以后的工作中逐步完成。(下转第556页)255系统工程理论方法应用第13卷 1995-2006 Tsinghua Tongfang Optical Disc Co.,Ltd.Al

27、l rights reserved.表3样本数为100时的模拟结果序号a10.008 500.988 182-0.040 801.023 1330.151 401.039 6640.081 301.021 225-0.053 400.984 126-0.002 300.977 5570.041 800.955 098-0.039 300.988 999-0.022 000.909 23100.215 401.151 56均值0.034 061.003 87方差0.008 080.004 07的分组数据,无论是样本较大还是较小的情况,利用这2个迭代公式都能得到对参数的较好的估计。参考文献:1 P

28、atricaM O,A nderson K M,DA gostino Ralph B.M axi mum likelihood esti mation for interval2censoreddata using a W eibull2based accelerated failure ti memodelJ.Biometrika,1992,48:951-995.2 Rabinow itzD,A nastasios T siatis,Jorge A ragon.Regression w ith interval2censored dataJ.Biometri2ka,1995,82:501-5

29、13.3 Huang J,RossiniA J.Sieve esti mation for the pro2portional2odds failure2ti me regression modelw ith in2terval censoringJ.JA SA,1997,92:960-967.4 Shen X T.Proportional odds regression and sievemaxi mumlikelihood esti mation J.Biometrika,1998,85:165-177.5 L i G,Zhang C H.L inear regression w ith

30、intervalcensored data J.A nn.Statist.1998,26:1306-1327.6 郑明,杨艺,郑宇.基于分组数据的威布尔分布的参数估计J.高校应用数学学报A辑,2003,18(3):303-310.7 苑诗松,王静龙,濮晓龙.高等数理统计M.北京:高等教育出版社,施普林格出版社,1997.428-441.(上接第552页)3结语Fisher判别是统计数据分析中一种标准的线性技术,它是最早应用于信用评估的多元变量模型,对信用风险管理技术的发展起到了巨大的推动作用。然而它的局限性是只能应用于线性空间,对于现实世界的很多非线性问题来说,判别效果并不理想。本文应用核Fi

31、sher方法,在非线性影射后的特征空间中,用一个Fisher线性判别函数把具有不同属性值的样本分离开来。同时,在具体算法处理中,对分母N进行正则化处理,大大提高了算法的稳定性。经过对实际个人汽车信贷数据验证表明,该方法的判别能力比Fisher线性判别有很大程度的提高。从检验样本的好、坏客户的判断正确率和总体判断正确率看,该方法可以有效地把好、坏客户识别出来,可以辅助借贷机构做出授信与否的决策。因此,核Fisher方法对预测违约客户、降低借贷机构的信用风险具有重要的理论与实践意义。参考文献:1 L ew is E M.A n introduction to credit scoringM.SI

32、AM M onographs on M athematical M odeling andCcomputation,Philadelphia,2002.2 ThomasL C.Creditscoring andits applicationsM.California:Fair&Isaac,1996.3 A ltman E I.Financial ratios,discri m inant analysisand the prediction of corporate bankruptcyJ.Jour2nal of Finance,1968,23:189-209.4 M ika G.Invari

33、ant feature extraction and classifica2tion in kernel spacesA.A dvances in N eural Infor2mation Processing System s C.M IT Press,2000.526-532.5 V apnik V.The nature of statistical learning thoeryM.N ew York:Springer V erlag,2000.6 KussM.Nonlinearmultivariateanalysisw ithgeodesic kernelsD.Berlin:Technische U niversity,2002.655系统工程理论方法应用第13卷 1995-2006 Tsinghua Tongfang Optical Disc Co.,Ltd.All rights reserved.