接受者操作特性曲線(receiver operating characteristic curve,簡稱ROC曲線),又稱為感受性曲線(sensitivity curve)。得此名的原因在于曲線上各點反映著相同的感受性,它們都是對同一信號刺激的反應(yīng),只不過是在幾種不同的判定標(biāo)準(zhǔn)下所得的結(jié)果而已。接受者操作特性曲線就是以虛驚概率為橫軸,擊中概率為縱軸所組成的坐標(biāo)圖,和被試在特定刺激條件下由于采用不同的判斷標(biāo)準(zhǔn)得出的不同結(jié)果畫出的曲線
AUC(Area Under Curve)是機器學(xué)習(xí)二分類模型中非常常用的評估指標(biāo),相比于F1-Score對項目的不平衡有更大的容忍性,目前常見的機器學(xué)習(xí)庫中(比如scikit-learn)一般也都是集成該指標(biāo)的計算,但是有時候模型是單獨的或者自己編寫的,此時想要評估訓(xùn)練模型的好壞就得自己搞一個AUC計算模塊,本文在查詢資料時發(fā)現(xiàn)libsvm-tools有一個非常通俗易懂的auc計算,因此摳出來用作日后之用。
AUC的計算分為下面三個步驟:
1、計算數(shù)據(jù)的準(zhǔn)備,如果模型訓(xùn)練時只有訓(xùn)練集的話一般使用交叉驗證的方式來計算,如果有評估集(evaluate)一般就可以直接計算了,數(shù)據(jù)的格式一般就是需要預(yù)測得分以及其目標(biāo)類別(注意是目標(biāo)類別,不是預(yù)測得到的類別)
2、根據(jù)閾值劃分得到橫(X:False Positive Rate)以及縱(Y:True Positive Rate)點
3、將坐標(biāo)點連成曲線之后計算其曲線下面積,就是AUC的值
#! -*- coding=utf-8 -*-import pylab as pl from math import log,exp,sqrt evaluate_result="you file path"db = [] #[score,nonclk,clk]pos, neg = 0, 0 with open(evaluate_result,'r') as fs: for line in fs: nonclk,clk,score = line.strip().split('\t') nonclk = int(nonclk) clk = int(clk) score = float(score) db.append([score,nonclk,clk]) pos += clk neg += nonclk db = sorted(db, key=lambda x:x[0], reverse=True) #計算ROC坐標(biāo)點xy_arr = []tp, fp = 0., 0. for i in range(len(db)): tp += db[i][2] fp += db[i][1] xy_arr.append([fp/neg,tp/pos]) #計算曲線下面積auc = 0. prev_x = 0for x,y in xy_arr: if x != prev_x: auc += (x - prev_x) * y prev_x = x print "the auc is %s."%auc x = [_v[0] for _v in xy_arr] y = [_v[1] for _v in xy_arr] pl.title("ROC curve of %s (AUC = %.4f)" % ('svm',auc)) pl.xlabel("False Positive Rate") pl.ylabel("True Positive Rate") pl.plot(x, y)# use pylab to plot x and y pl.show()# show the plot on the screen
其格式為:
nonclk \t clk \t score
其中:
1、nonclick:未點擊的數(shù)據(jù),可以看做負(fù)樣本的數(shù)量
2、clk:點擊的數(shù)量,可以看做正樣本的數(shù)量
3、score:預(yù)測的分?jǐn)?shù),以該分?jǐn)?shù)為group進行正負(fù)樣本的預(yù)統(tǒng)計可以減少AUC的計算量
運行的結(jié)果為:
如果本機沒安裝pylab可以直接注釋依賴以及畫圖部分
注意
上面貼的代碼:
1、只能計算二分類的結(jié)果(至于二分類的標(biāo)簽隨便處理)
2、上面代碼中每個score都做了一次閾值,其實這樣效率是相當(dāng)?shù)偷模梢詫颖具M行采樣或者在計算橫軸坐標(biāo)時進行等分計
另外有需要云服務(wù)器可以了解下創(chuàng)新互聯(lián)scvps.cn,海內(nèi)外云服務(wù)器15元起步,三天無理由+7*72小時售后在線,公司持有idc許可證,提供“云服務(wù)器、裸金屬服務(wù)器、高防服務(wù)器、香港服務(wù)器、美國服務(wù)器、虛擬主機、免備案服務(wù)器”等云主機租用服務(wù)以及企業(yè)上云的綜合解決方案,具有“安全穩(wěn)定、簡單易用、服務(wù)可用性高、性價比高”等特點與優(yōu)勢,專為企業(yè)上云打造定制,能夠滿足用戶豐富、多元化的應(yīng)用場景需求。
當(dāng)前文章:如何用python制作ROC曲線圖和計算AUC-創(chuàng)新互聯(lián)
鏈接URL:http://www.chinadenli.net/article14/didede.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站維護、網(wǎng)站營銷、品牌網(wǎng)站制作、網(wǎng)站策劃、動態(tài)網(wǎng)站、Google
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容