第一篇：機(jī)器學(xué)習(xí)中關(guān)于模型評(píng)估方法總結(jié)

模型評(píng)估

我們?cè)诮⒛Ｐ椭?，接下?lái)就要去評(píng)估模型，確定這個(gè)模型是否有用。在實(shí)際情況中，我們會(huì)用不同的度量去評(píng)估我們的模型，而度量的選擇取決于模型的類型和模型以后要做的事。

1.1 二分類評(píng)估

二分類模型的評(píng)估。

1.1.1 業(yè)界標(biāo)準(zhǔn)叫法

二分類評(píng)估；分類算法。

1.1.2 應(yīng)用場(chǎng)景

信息檢索、分類、識(shí)別、翻譯體系中。

1.1.2.1 新聞質(zhì)量分類評(píng)估 對(duì)于新聞APP，其通過(guò)各種來(lái)源獲得的新聞，質(zhì)量通常良莠不齊。為了提升用戶體驗(yàn)，通常需要構(gòu)建一個(gè)分類器模型分類低質(zhì)新聞和優(yōu)質(zhì)新聞，進(jìn)而進(jìn)行分類器的評(píng)估。

1.1.2.2垃圾短信分類評(píng)估 垃圾短信已經(jīng)日益成為困擾運(yùn)營(yíng)商和手機(jī)用戶的難題，嚴(yán)重影響人們的生活、侵害到運(yùn)營(yíng)商的社會(huì)公眾形象。構(gòu)建二分類器模型對(duì)垃圾短信和正常短信進(jìn)行分類，并進(jìn)行二分類評(píng)估。

1.1.3 原理

1.1.3.1混淆矩陣 混淆矩陣（Confusion Matrix）。來(lái)源于信息論，在機(jī)器學(xué)習(xí)、人工智能領(lǐng)域，混淆矩陣又稱為可能性表格或錯(cuò)誤矩陣，是一種矩陣呈現(xiàn)的可視化工具，用于有監(jiān)督學(xué)習(xí)，在無(wú)監(jiān)督學(xué)習(xí)中一般叫匹配矩陣?；煜仃囀且粋€(gè)N*N的矩陣，N為分類（目標(biāo)值）的個(gè)數(shù)，假如我們面對(duì)的是一個(gè)二分類模型問(wèn)題，即N=2，就得到一個(gè)2*2的矩陣，它就是一個(gè)二分類評(píng)估問(wèn)題?；煜仃嚨拿恳涣写眍A(yù)測(cè)類別，每一列的總數(shù)表示預(yù)測(cè)為該類別的數(shù)據(jù)的數(shù)目，每一行代表了數(shù)據(jù)的真實(shí)歸屬類別，每一行的數(shù)據(jù)總數(shù)表示該類別的實(shí)例的數(shù)目。

圖1 2*2混淆矩陣圖

陽(yáng)性（P，Positive）： 陰性（N，Negative）：

真陽(yáng)性（TP，True Positive）：正確的肯定，又稱“命中”（Hit）；被模型預(yù)測(cè)為正類的正樣本。

真陰性（TN，True Negative）：正確的否定，又稱“正確拒絕”（correct rejection），被模型預(yù)測(cè)為負(fù)類的負(fù)樣本。

偽陽(yáng)性（FP，false Positive）：錯(cuò)誤的肯定，又稱“假警報(bào)”（false alarm）；被模型預(yù)測(cè)為負(fù)類的正樣本。

偽陰性（FN，false Negative）：錯(cuò)誤的否定，又稱“未命中”（miss）；被模型預(yù)測(cè)為正類的負(fù)樣本。

靈敏度（Sensitivity）或真陽(yáng)性率（TPR，Ture Negative Rate）：又稱“召回率”（recall）、命中率（Hit Rate）。在陽(yáng)性值中實(shí)際被預(yù)測(cè)正確所占的比例。TPR=TP/P=TP/(TP+FN)偽陽(yáng)性率（FPR，false positive rate）：又稱“假正類率”、“錯(cuò)誤命中率”、“假警報(bào)率”。FPR=FP/(FP+TN)特異度（SPC，Specificity）或真陰性率：在陰性值中實(shí)際被預(yù)測(cè)正確所占的比例。SPC=TN/N=TN/(FP+TN)=1-FPR 假發(fā)現(xiàn)率(FDR,false discovery rate)：FDR=FP/(FP+TP)=1-TPR 準(zhǔn)確度（ACC）：預(yù)測(cè)正確的數(shù)占樣本數(shù)的比例。ACC=(TP+TN)/(P+N)陽(yáng)性預(yù)測(cè)值(PPV,positive predictive value)或精度(precision)：陽(yáng)性預(yù)測(cè)值被預(yù)測(cè)正確的比例。PPV=TP/(TP+FP)陰性預(yù)測(cè)值(NPV,negative predictive value)：陰性預(yù)測(cè)值被預(yù)測(cè)正確的比例。NPV=TN/(TN+FN)

圖2 一個(gè)模型的2*2混淆矩陣圖示例

我們可以看出，這個(gè)模型的準(zhǔn)確度是88%，陽(yáng)性預(yù)測(cè)值比較高而陰性預(yù)測(cè)值較低，對(duì)于靈敏度和特異度也是相同。這是因?yàn)槲覀冞x的閾值導(dǎo)致的，若我們降低閾值，這兩對(duì)數(shù)值就會(huì)變得接近。1.1.3.2 ROC曲線 ROC曲線（Receiver Operation Characteristic Curve），中文名叫“接受者操作特征曲線”，其實(shí)是從混淆矩陣衍生出來(lái)的圖形，其橫坐標(biāo)是Specificity（特異度），縱坐標(biāo)是Sensitivity（靈敏度）。

圖3 ROC曲線圖

隨著閾值的減小，更多的值歸于正類，敏感度和特異度也相應(yīng)增加。而那條45度線是一條參照線，ROC曲線要與這條參照線比較。如果我們不用模型，直接把客戶分類，我們得到的曲線就是這條參照線，然而，我們使用了模型進(jìn)行預(yù)測(cè)，就應(yīng)該比隨機(jī)的要好，所以，ROC曲線要盡量遠(yuǎn)離參照線，越遠(yuǎn)，我們的模型預(yù)測(cè)效果越好。ROC曲線反映了錯(cuò)誤命中率和靈敏度之前權(quán)衡的情況，即靈敏度隨著錯(cuò)誤命中率遞增的情況下，誰(shuí)增長(zhǎng)的更快，快多少。靈敏度增長(zhǎng)的越快，曲線越往上屈，反映了模型的分類性能越好。當(dāng)正負(fù)樣本不平衡時(shí)，這種模型評(píng)價(jià)方式比起一般的精確度評(píng)價(jià)方式好處尤為明顯。

ROC曲線快速爬向左上，表示模型準(zhǔn)確預(yù)測(cè)數(shù)據(jù)。一般情況下，ROC曲線都應(yīng)該處于參照線的上方。1.1.3.3AUC（ROC曲線下面積 Area Under ROC Curve）

圖3 AUC曲線圖

ROC曲線是根據(jù)與45度參照線比較判斷模型的好壞，但這只是一種定性的分析，如果需要定量的計(jì)算判斷，就用到了AUC，即：ROC曲線下面積。參考線的面積是0.5，ROC曲線越往左上方靠攏，AUC就越大（這里的面積是0.869），模型評(píng)估的性能越好，完美分類的AUC值是1。1.1.3.4基尼系數(shù) 基尼系統(tǒng)經(jīng)常用于分類問(wèn)題，公式：Gini=2*AUC-1?；嵯禂?shù)大于60%，就算好模型。1.1.3.5

LIFT（提升）

圖3 LIFT提升圖

LIFT=(TP/(TP+FP))/((TP+FN)/(TP+FN+FP+TN))LIFT越大，模型的預(yù)測(cè)效果越好。LIFT值應(yīng)一直大于1，如果LIFT值等于1，模型就沒(méi)有任何提升了。橫軸是預(yù)測(cè)為正例的比例，即：(TP+FN)/(TP+FN+FP+TN)1.1.3.6

Gains（增益）

圖3 Gains增益圖

與LIFT類似，區(qū)別在于縱軸的刻度不同，橫軸相同。Gains= TP/(TP+FP)=LIFT*((TP+FN)/(TP+FN+FP+TN))

1.1.3.7

K-S（Kolmogorov-Smirnov chart）圖 K-S圖是用來(lái)度量陽(yáng)性和陰性分類區(qū)分程度的。若我們把總體嚴(yán)格按照陽(yáng)性和陰性分成兩組，則K-S值為100，如果我們是隨機(jī)區(qū)分陽(yáng)性和陰性，則K-S值為0。所以，分類模型的K-S值在0到100之間，值越大，模型表現(xiàn)越好。

1.2 多分類評(píng)估

多分類模型的評(píng)估。

1.2.1 業(yè)界標(biāo)準(zhǔn)叫法

多分類評(píng)估。

1.2.2 應(yīng)用場(chǎng)景

1.2.2.1商品圖片分類 淘寶、京東等電商含有數(shù)以百萬(wàn)級(jí)的商品圖片，“拍照購(gòu)”等應(yīng)用必須對(duì)用戶提供的商品圖片進(jìn)行分類。

1.2.3 原理

同1.1.3節(jié)。

1.2.3.1 混淆矩陣 如果有150個(gè)樣本數(shù)據(jù)，這些數(shù)據(jù)分成3類，每類50個(gè)。分類結(jié)束后得到的混淆矩陣如下：

每一行之和為50，表示50個(gè)樣本。第一行說(shuō)明類1的50個(gè)樣本有43個(gè)分類正確，5個(gè)錯(cuò)分為類2，2個(gè)錯(cuò)分為類3。第一行第一列中的43表示有43個(gè)實(shí)際歸屬第一類的實(shí)例被預(yù)測(cè)為第一類，同理，第二行第一列的2表示有2個(gè)實(shí)際歸屬為第二類的實(shí)例被錯(cuò)誤預(yù)測(cè)為第一類。

1.2.4 不同應(yīng)用場(chǎng)景使用的方法及參數(shù)

1.2.4.1 混淆矩陣

混淆矩陣一般只能用于分類輸出模型中。

對(duì)于混淆矩陣，一般情況下，我們只關(guān)心其中一個(gè)定義度量。例如：在醫(yī)藥公司，一般會(huì)更加關(guān)心最小化誤診率，也就是高特異度。而在磨損模型中，我們更關(guān)心的是靈敏度。1.2.4.2ROC和AUC曲線 ROC曲線的一個(gè)應(yīng)用場(chǎng)景是在人臉檢測(cè)中，很多相關(guān)的研究或者企業(yè)評(píng)價(jià)他們的檢測(cè)性能程度是通過(guò)ROC曲線來(lái)評(píng)定的。

ROC和AUC曲線常被用來(lái)評(píng)價(jià)一個(gè)二值分類器的優(yōu)劣。

1.3 Spark模型預(yù)測(cè)

Apache Spark是專為大規(guī)模數(shù)據(jù)處理而設(shè)計(jì)的快速通用的計(jì)算引擎。是一種計(jì)算框架。

1.3.1 業(yè)界標(biāo)準(zhǔn)叫法

Spark。

1.3.2 應(yīng)用

1.3.2.1 騰訊社交廣告平臺(tái)—廣點(diǎn)通 廣點(diǎn)通是最早使用Spark的應(yīng)用之一。騰訊大數(shù)據(jù)精準(zhǔn)推薦借助Spark快速迭代的優(yōu)勢(shì)，圍繞“數(shù)據(jù)+算法+系統(tǒng)”這套技術(shù)方案，實(shí)現(xiàn)了在“數(shù)據(jù)實(shí)時(shí)采集、算法實(shí)時(shí)訓(xùn)練、系統(tǒng)實(shí)時(shí)預(yù)測(cè)”的全流程實(shí)時(shí)并行高維算法，最終成功應(yīng)用于廣點(diǎn)通pCTR投放系統(tǒng)上，支持每天上百億的請(qǐng)求量。基于日志數(shù)據(jù)的快速查詢系統(tǒng)業(yè)務(wù)構(gòu)建于Spark之上的Shark，利用其快速查詢以及內(nèi)存表等優(yōu)勢(shì)，承擔(dān)了日志數(shù)據(jù)的即席查詢工作。在性能方面，普遍比Hive高2-10倍，如果使用內(nèi)存表的功能，性能將會(huì)比hive快百倍。

1.3.2.2 Yahoo—Audience Expansion（讀者擴(kuò)張）Yahoo將Spark用在Audience Expansion中的應(yīng)用。Audience Expansion是廣告中尋找目標(biāo)用戶的一種方法：首先廣告者提供一些觀看了廣告并且購(gòu)買產(chǎn)品的樣本客戶，據(jù)此進(jìn)行學(xué)習(xí)，尋找更多可能轉(zhuǎn)化的用戶，對(duì)他們定向廣告。Yahoo采用的算法是logistic regression。同時(shí)由于有些SQL負(fù)載需要更高的服務(wù)質(zhì)量，又加入了專門跑Shark的大內(nèi)存集群，用于取代商業(yè)BI/OLAP工具，承擔(dān)報(bào)表/儀表盤和交互式/即席查詢，同時(shí)與桌面BI工具對(duì)接。目前在Yahoo部署的Spark集群有112臺(tái)節(jié)點(diǎn)，9.2TB內(nèi)存。1.3.2.3 淘寶—搜索和廣告業(yè)務(wù) 阿里搜索和廣告業(yè)務(wù)，最初使用Mahout或者自己寫的MR來(lái)解決復(fù)雜的機(jī)器學(xué)習(xí)，導(dǎo)致效率低而且代碼不易維護(hù)。淘寶技術(shù)團(tuán)隊(duì)使用了Spark來(lái)解決多次迭代的機(jī)器學(xué)習(xí)算法、高計(jì)算復(fù)雜度的算法等。將Spark運(yùn)用于淘寶的推薦相關(guān)算法上,同時(shí)還利用Graphx解決了許多生產(chǎn)問(wèn)題，包括以下計(jì)算場(chǎng)景：基于度分布的中樞節(jié)點(diǎn)發(fā)現(xiàn)、基于最大連通圖的社區(qū)發(fā)現(xiàn)、基于三角形計(jì)數(shù)的關(guān)系衡量、基于隨機(jī)游走的用戶屬性傳播等。

1.3.2.4 優(yōu)酷土豆—視頻推薦和廣告業(yè)務(wù) 優(yōu)酷土豆在使用Hadoop集群的突出問(wèn)題主要包括：第一是商業(yè)智能BI方面，分析師提交任務(wù)之后需要等待很久才得到結(jié)果;第二就是大數(shù)據(jù)量計(jì)算，比如進(jìn)行一些模擬廣告投放之時(shí)，計(jì)算量非常大的同時(shí)對(duì)效率要求也比較高，最后就是機(jī)器學(xué)習(xí)和圖計(jì)算的迭代運(yùn)算也是需要耗費(fèi)大量資源且速度很慢。最終發(fā)現(xiàn)這些應(yīng)用場(chǎng)景并不適合在MapReduce里面去處理。通過(guò)對(duì)比，發(fā)現(xiàn)Spark性能比MapReduce提升很多。首先，交互查詢響應(yīng)快，性能比Hadoop提高若干倍;模擬廣告投放計(jì)算效率高、延遲小(同hadoop比延遲至少降低一個(gè)數(shù)量級(jí));機(jī)器學(xué)習(xí)、圖計(jì)算等迭代計(jì)算，大大減少了網(wǎng)絡(luò)傳輸、數(shù)據(jù)落地等，極大的提高的計(jì)算性能。目前Spark已經(jīng)廣泛使用在優(yōu)酷土豆的視頻推薦(圖計(jì)算)、廣告業(yè)務(wù)等。

1.3.3 原理

1.3.3.1Spark生態(tài)圈 如下圖所示為Spark的整個(gè)生態(tài)圈，最底層為資源管理器，采用Mesos、Yarn等資源管理集群或者Spark自帶的Standalone模式，底層存儲(chǔ)為文件系統(tǒng)或者其他格式的存儲(chǔ)系統(tǒng)如Hbase。Spark作為計(jì)算框架，為上層多種應(yīng)用提供服務(wù)。Graphx和MLBase提供數(shù)據(jù)挖掘服務(wù)，如圖計(jì)算和挖掘迭代計(jì)算等。Shark提供SQL查詢服務(wù)，兼容Hive語(yǔ)法，性能比Hive快3-50倍，BlinkDB是一個(gè)通過(guò)權(quán)衡數(shù)據(jù)精確度來(lái)提升查詢晌應(yīng)時(shí)間的交互SQL查詢引擎，二者都可作為交互式查詢使用。Spark Streaming將流式計(jì)算分解成一系列短小的批處理計(jì)算，并且提供高可靠和吞吐量服務(wù)。

圖4 spark生態(tài)圈圖

1.3.3.2 Spark運(yùn)行框架

圖5 spark運(yùn)行框架圖

Spark的運(yùn)行框架首先有集群資源管理服務(wù)（Cluster Manager）和運(yùn)行作業(yè)任務(wù)節(jié)點(diǎn)（Worker Node），然后就是每個(gè)應(yīng)用的任務(wù)控制節(jié)點(diǎn)Driver和每個(gè)機(jī)器節(jié)點(diǎn)上有具體任務(wù)的執(zhí)行進(jìn)程。與MR計(jì)算框架相比，Executor有二個(gè)優(yōu)點(diǎn)：一個(gè)是多線程來(lái)執(zhí)行具體的任務(wù)，而不是像MR那樣采用進(jìn)程模型，減少了任務(wù)的啟動(dòng)開(kāi)稍。二個(gè)是Executor上會(huì)有一個(gè)BlockManager存儲(chǔ)模塊，類似于KV系統(tǒng)(內(nèi)存和磁盤共同作為存儲(chǔ)設(shè)備)，當(dāng)需要迭代多輪時(shí)，可以將中間過(guò)程的數(shù)據(jù)先放到這個(gè)存儲(chǔ)系統(tǒng)上，下次需要時(shí)直接讀該存儲(chǔ)上數(shù)據(jù)，而不需要讀寫到hdfs等相關(guān)的文件系統(tǒng)里，或者在交互式查詢場(chǎng)景下，事先將表Cache到該存儲(chǔ)系統(tǒng)上，提高讀寫IO性能。另外Spark在做Shuffle時(shí)，在Groupby，Join等場(chǎng)景下去掉了不必要的Sort操作，相比于MapReduce只有Map和Reduce二種模式，Spark還提供了更加豐富全面的運(yùn)算操作如filter,groupby,join等。1.3.3.3 Spark與hadoop

? Hadoop有兩個(gè)核心模塊，分布式存儲(chǔ)模塊HDFS和分布式計(jì)算模塊Mapreduce ? spark本身并沒(méi)有提供分布式文件系統(tǒng)，因此spark的分析大多依賴于Hadoop的分布式文件系統(tǒng)HDFS ? Hadoop的Mapreduce與spark都可以進(jìn)行數(shù)據(jù)計(jì)算，而相比于Mapreduce，spark的速度更快并且提供的功能更加豐富 1.3.3.4 Spark運(yùn)行流程

圖5 spark運(yùn)行流程圖

1.構(gòu)建Spark Application的運(yùn)行環(huán)境，啟動(dòng)SparkContext。2.SparkContext向資源管理器（可以是Standalone，Mesos，Yarn）申請(qǐng)運(yùn)行Executor資源，并啟動(dòng)StandaloneExecutorbackend。3.Executor向SparkContext申請(qǐng)Task。4.SparkContext將應(yīng)用程序分發(fā)給Executor。

5.SparkContext構(gòu)建成DAG圖，將DAG圖分解成Stage、將Taskset發(fā)送給Task Scheduler，最后由Task Scheduler將Task發(fā)送給Executor運(yùn)行。

6.Task在Executor上運(yùn)行，運(yùn)行完釋放所有資源。1.3.3.5 Spark運(yùn)行特點(diǎn)

1.每個(gè)Application獲取專屬的executor進(jìn)程，該進(jìn)程在Application期間一直駐留，并以多線程方式運(yùn)行Task。這種Application隔離機(jī)制是有優(yōu)勢(shì)的，無(wú)論是從調(diào)度角度看（每個(gè)Driver調(diào)度他自己的任務(wù)），還是從運(yùn)行角度看（來(lái)自不同Application的Task運(yùn)行在不同JVM中），當(dāng)然這樣意味著Spark Application不能跨應(yīng)用程序共享數(shù)據(jù)，除非將數(shù)據(jù)寫入外部存儲(chǔ)系統(tǒng)。2.Spark與資源管理器無(wú)關(guān)，只要能夠獲取executor進(jìn)程，并能保持相互通信就可以了。

3.提交SparkContext的Client應(yīng)該靠近Worker節(jié)點(diǎn)（運(yùn)行Executor的節(jié)點(diǎn)），最好是在同一個(gè)Rack里，因?yàn)镾park Application運(yùn)行過(guò)程中SparkContext和Executor之間有大量的信息交換。4.Task采用了數(shù)據(jù)本地性和推測(cè)執(zhí)行的優(yōu)化機(jī)制。

1.4 回歸評(píng)估

對(duì)回歸模型的評(píng)估。

1.4.1 業(yè)界標(biāo)準(zhǔn)叫法

回歸模型評(píng)估。

1.4.2 應(yīng)用

1.4.3 原理及方法

1.4.3.1

均方根誤差（Root Mean Squared Error，RMSE）RMSE是一個(gè)衡量回歸模型誤差率的常用公式。然而，它僅能比較誤差是相同單位的模型。

1.4.3.2

相對(duì)平方誤差（Relative Squared Error，RSE）與RMSE不同，RSE可以比較誤差是不同單位的模型。

1.4.3.3

平均絕對(duì)誤差（Mean Absolute Error，MAE）MAE與原始數(shù)據(jù)單位相同，它僅能比較誤差是相同單位的模型。量級(jí)近似與RMSE，但是誤差值相對(duì)小一些。

1.4.3.4

相對(duì)絕對(duì)誤差（Relative Absolute Error，RAE）

1.4.3.5

相對(duì)絕對(duì)誤差（Coefficient of Determination）

決定系數(shù)(R2)回歸模型匯總了回歸模型的解釋度，由平方和術(shù)語(yǔ)計(jì)算而得。R2描述了回歸模型所解釋的因變量方差在總方差中的比例。R2很大，即自變量和因變量之間存在線性關(guān)系，如果回歸模型是“完美的”，SSE為零，則R2為1。R2小，則自變量和因變量之間存在線性關(guān)系的證據(jù)不令人信服。如果回歸模型完全失敗，SSE等于SST，沒(méi)有方差可被回歸解釋，則R2為零。

1.4.3.6 標(biāo)準(zhǔn)化殘差圖（Standardized Residuals Plot）標(biāo)準(zhǔn)化殘差圖是一個(gè)對(duì)在標(biāo)準(zhǔn)化尺度上顯示殘差分散圖有幫助的可視化工具。標(biāo)準(zhǔn)化殘差圖與普通殘差圖之間沒(méi)有實(shí)質(zhì)不同，唯一區(qū)別是在Y軸的標(biāo)準(zhǔn)化可以更容易檢測(cè)到潛在的異常值。

第二篇：責(zé)任心評(píng)估模型

責(zé)任心評(píng)估模型

評(píng)估一個(gè)人的責(zé)任心比較流行的方式有兩種：

一是：從流程上評(píng)估，二是：從“態(tài)度”和“行為”兩個(gè)維度去評(píng)估。

所謂從流程上評(píng)估，亦即通過(guò)考察一個(gè)人在做某件事情或完成某個(gè)目標(biāo)中從事前事中事后所思所為，去考查此人的責(zé)任心的方式。考查3個(gè)階段2大要素，分別是事前計(jì)劃與準(zhǔn)備，事中控制與推進(jìn)，事后總結(jié)與助攻。

從態(tài)度和行為上評(píng)估，實(shí)際上時(shí)考察一個(gè)人做人和做事兩方面表現(xiàn)，概括起來(lái)可從六個(gè)維度進(jìn)行考察，進(jìn)而評(píng)價(jià)一個(gè)人的責(zé)任心的方式。

下面就本人幾年來(lái)工作的經(jīng)驗(yàn)，簡(jiǎn)單地介紹一下第一種評(píng)估方式的建模和操作方法：

事前

各軸滿分5分，據(jù)知行合一的原理，有計(jì)劃有行動(dòng)才得分，有計(jì)劃無(wú)行動(dòng)和無(wú)計(jì)劃無(wú)行動(dòng)均無(wú)分，無(wú)計(jì)劃有行動(dòng)（調(diào)動(dòng)了資源），根據(jù)事中推進(jìn)的難易評(píng)分。只是要注意將這些定性的事后

事中

評(píng)分準(zhǔn)則通過(guò)一定的狀態(tài)描述來(lái)取評(píng)分標(biāo)準(zhǔn)，以近似評(píng)價(jià)各維度分?jǐn)?shù)。

獲取信息的方式多種多樣，可以是情景演示，可以是執(zhí)行游戲，也可以是問(wèn)話，如下面：在過(guò)去的學(xué)習(xí)、生活、工作中你處理過(guò)不少事情，舉一件印象比較深刻的，描述一下當(dāng)時(shí)你是怎么考慮的，采取了哪些行動(dòng)，效果又怎樣？

第一種方式評(píng)價(jià)結(jié)果稍顯粗略，但易于操作。第二種方式則較為精細(xì)，操作起來(lái)須費(fèi)些功夫。根據(jù)評(píng)價(jià)要素的不同，第二種方式的評(píng)價(jià)模型如下（我們?nèi)匀挥美走_(dá)圖）：

做事 關(guān)注細(xì)節(jié)做人 敬業(yè)精神543210做人 積極主動(dòng)分值分值分值做人 為人正直做事 過(guò)程監(jiān)控做事 表率作用

最簡(jiǎn)單易行的考察方式-------問(wèn)話 要素

一、敬業(yè)精神

釋義：能夠盡職盡責(zé)第履行工作職責(zé)，試圖調(diào)動(dòng)各種資源、發(fā)揮創(chuàng)造力地完成工作 問(wèn)話

1、在以往的工作、學(xué)習(xí)和生活中，你感覺(jué)壓力最大的是什么？怎么想的？怎么做的？效果怎么樣? 答案越正向和肯定，分值越高。

要素

二、積極主動(dòng)

釋義：在沒(méi)有外界壓力的情況下，能夠自覺(jué)地完成崗位職責(zé)之外且無(wú)人負(fù)責(zé)的工作。問(wèn)話

2、你身邊的電話響了，然而你的同事又不在位上，你會(huì)怎么辦？

A 通常要等它響幾聲，之后看一下沒(méi)別人認(rèn)，我再接。B 如果不忙就去接，忙了就不接。

C 通常不去接，因?yàn)椴恢缹?duì)方是誰(shuí)或者不知道是什么事情，怕尷尬。D 通常去接，并告訴對(duì)方自己同事不在，讓他一會(huì)再打過(guò)來(lái)。E 通常去接，并了解一下對(duì)方是誰(shuí)或什么事情，以便轉(zhuǎn)告。分值依次是：1，2，3，4，5

要素

三、為人正直

釋義：不考慮個(gè)人私利，為了公司的利益，敢于堅(jiān)持原則，不怕得罪人，敢于承擔(dān)責(zé)任。問(wèn)話

3、假如你們公司規(guī)定：遲到不能超過(guò)三次，三次以上者每次計(jì)曠工半天。而在你的考勤核算中有一個(gè)人，有一個(gè)平時(shí)德高望重的干部偶爾遲到超了一次。當(dāng)他找你問(wèn)及此事時(shí)，你怎么講? A遲到是偶然的，又是老員工，可以酌情放寬，我?guī)е闳ジI(lǐng)導(dǎo)反映一下。B領(lǐng)導(dǎo)規(guī)定這樣的，超過(guò)一次就要算半天曠工，我也沒(méi)辦法,要不你去找領(lǐng)導(dǎo)問(wèn)問(wèn)。C這是公司的規(guī)定，我們只能按制度辦

D 您是知道的，公司既然規(guī)定了，我們就要帶頭執(zhí)行呀！E這只是偶然，我想咱們做領(lǐng)導(dǎo)的不會(huì)再有第二次了。分值依次是：1，2，3，4，5

要素

四、表率作用

釋義：為實(shí)現(xiàn)公司戰(zhàn)略目標(biāo)和工作結(jié)果的達(dá)成，用自己的行動(dòng)去影響他人和帶動(dòng)他人。問(wèn)話

4、某股份制民營(yíng)企業(yè)，某階段核心領(lǐng)導(dǎo)狠拼業(yè)績(jī)。公司明文規(guī)定：所有職工必須穿工衣上班，且公司給每個(gè)員工都發(fā)了兩套工衣，包括領(lǐng)導(dǎo)。一個(gè)下雨天的上班時(shí)間，車間的絕大部分員工都穿工衣；辦公室人員有一半人穿了，一半人沒(méi)穿，其中有些核心領(lǐng)導(dǎo)也沒(méi)穿。作為公司這項(xiàng)制度的監(jiān)督落實(shí)者，你怎么看？

A 既然是下雨天，特殊情況特殊考慮嘛，個(gè)別人沒(méi)穿也沒(méi)事。B 領(lǐng)導(dǎo)都沒(méi)穿，看來(lái)對(duì)天氣的情況都有考慮，今天就算了。

D 辦公室里的領(lǐng)導(dǎo)和其他辦公職員跟車間不同，沒(méi)必要整天都穿那套工衣服，將來(lái)考慮給定做不同的制服。

E 調(diào)查一下，情況是偶然的，要先匯報(bào)給直接上司知道，之前也出現(xiàn)過(guò)或許多人都有不同的看法，要想一定的對(duì)策呈報(bào)給上司。分值依次是：1，2，3，4，5

要素

五、過(guò)程監(jiān)控

釋義：根據(jù)工作計(jì)劃，對(duì)工作過(guò)程進(jìn)行監(jiān)督，確保工作結(jié)果的達(dá)成

問(wèn)話

5、你是某個(gè)項(xiàng)目組的成員之一，項(xiàng)目的關(guān)鍵問(wèn)題都已經(jīng)攻克，整個(gè)項(xiàng)目也進(jìn)入尾聲，就差某些局部細(xì)節(jié)的復(fù)查和資料的整理。這時(shí)有幾個(gè)人提出喝茶、唱歌等活動(dòng)放松一下，你怎么做？

A 自己不喜歡或者累了，不去湊熱鬧。

B 看一下別的人，選擇出去放松的人多，就跟著去。C無(wú)所謂，去也行，不去也行。

D最后的工作做完了再說(shuō)，不然我睡不著覺(jué)的。

E 按照分工，要求項(xiàng)目組的部分人留守，把工作做完再去。分值依次是：1，2，3，4，5

要素

六、關(guān)注細(xì)節(jié)

釋義：考慮問(wèn)題周密，做事細(xì)致，追求工作成果的完美。

問(wèn)話

6、公司要在總部組織全國(guó)性的營(yíng)銷會(huì)議，將歷時(shí)3天，由行政副總領(lǐng)銜統(tǒng)籌，組成會(huì)務(wù)小組，負(fù)責(zé)整個(gè)會(huì)務(wù)的接待和會(huì)議服務(wù)工作。副總已經(jīng)給各小組成員分工明確了，大家各自也很清楚自己該在什么時(shí)間什么地點(diǎn)做做什么事情，做為會(huì)務(wù)組的協(xié)調(diào)者，你該做些什么呢？

描述的要點(diǎn)要切合工作開(kāi)展的五步驟給分：

1、有目標(biāo)分解

2、有危機(jī)計(jì)劃

3、有時(shí)間節(jié)點(diǎn)

4、有過(guò)程控制

5、有階段總結(jié) 每切合一點(diǎn)給1分。

第三篇：自然語(yǔ)言處理常用模型方法總結(jié)

自然語(yǔ)言處理常用模型使用方法總結(jié)

一、N元模型

思想：

如果用變量W代表一個(gè)文本中順序排列的n個(gè)詞，即W = W1W2…Wn，則統(tǒng)計(jì)語(yǔ)言模型的任務(wù)是給出任意詞序列W 在文本中出現(xiàn)的概率P(W)。利用概率的乘積公式，P(W)可展開(kāi)為：P(W)= P(w1)P(w2|w1)P(w3| w1 w2)…P(wn|w1 w2…wn-1)，不難看出，為了預(yù)測(cè)詞Wn的出現(xiàn)概率，必須已知它前面所有詞的出現(xiàn)概率。從計(jì)算上來(lái)看，這太復(fù)雜了。如果任意一個(gè)詞Wi的出現(xiàn)概率只同它前面的N-1個(gè)詞有關(guān)，問(wèn)題就可以得到很大的簡(jiǎn)化。這時(shí)的語(yǔ)言模型叫做N元模型(N-gram)，即P(W)= P(w1)P(w2|w1)P(w3| w1 w2)…P(wi|wi-N+1…wi-1)…實(shí)際使用的通常是N=2 或N=3的二元模型(bi-gram)或三元模型(tri-gram)。以三元模型為例，近似認(rèn)為任意詞Wi的出現(xiàn)概率只同它緊接的前面的兩個(gè)詞有關(guān)。重要的是這些概率參數(shù)都是可以通過(guò)大規(guī)模語(yǔ)料庫(kù)來(lái)估值的。比如三元概率有P(wi|wi-2wi-1)≈ count(wi-2 wi-1… wi)/ count(wi-2 wi-1)式中count(…)表示一個(gè)特定詞序列在整個(gè)語(yǔ)料庫(kù)中出現(xiàn)的累計(jì)次數(shù)。統(tǒng)計(jì)語(yǔ)言模型有點(diǎn)像天氣預(yù)報(bào)的方法。用來(lái)估計(jì)概率參數(shù)的大規(guī)模語(yǔ)料庫(kù)好比是一個(gè)地區(qū)歷年積累起來(lái)的氣象紀(jì)錄，而用三元模型來(lái)做天氣預(yù)報(bào)，就像是根據(jù)前兩天的天氣情況來(lái)預(yù)測(cè)今天的天氣。天氣預(yù)報(bào)當(dāng)然不可能百分之百正確。這也算是概率統(tǒng)計(jì)方法的一個(gè)特點(diǎn)吧。(摘自黃昌寧論文《中文信息處理的主流技術(shù)是什么?》)

條件: 該模型基于這樣一種假設(shè)，第n個(gè)詞的出現(xiàn)只與前面N-1個(gè)詞相關(guān)，而與其它任何詞都不相關(guān)，整句的概率就是各個(gè)詞出現(xiàn)概率的乘積。這些概率可以通過(guò)直接從語(yǔ)料中統(tǒng)計(jì)N個(gè)詞同時(shí)出現(xiàn)的次數(shù)得到。常用的是二元的Bi-Gram和三元的Tri-Gram。

問(wèn)題：

雖然我們知道元模型中, n越大約束力越強(qiáng),但由于計(jì)算機(jī)容量和速度的限制及數(shù)據(jù)的稀疏,很難進(jìn)行大n的統(tǒng)計(jì)。

二、馬爾可夫模型以及隱馬爾可夫模型

思想：

馬爾可夫模型實(shí)際上是個(gè)有限狀態(tài)機(jī)，兩兩狀態(tài)間有轉(zhuǎn)移概率；隱馬爾可夫模型中狀態(tài)不可見(jiàn)，我們只能看到輸出序列，也就是每次狀態(tài)轉(zhuǎn)移會(huì)拋出個(gè)觀測(cè)值；當(dāng)我們觀察到觀測(cè)序列后，要找到最佳的狀態(tài)序列。隱馬爾科夫模型是一種用參數(shù)表示的用于描述隨機(jī)過(guò)程統(tǒng)計(jì)特性的概率模型，是一個(gè)雙重隨機(jī)過(guò)程，由兩個(gè)部分組成：馬爾科夫鏈和一般隨機(jī)過(guò)程。其中馬爾科夫鏈用來(lái)描述狀態(tài)的轉(zhuǎn)移，用轉(zhuǎn)移概率描述。一般隨機(jī)過(guò)程用來(lái)描述狀態(tài)與觀察序列之間的關(guān)系，用觀察值概率描述。因此，隱馬爾可夫模型可以看成是能夠隨機(jī)進(jìn)行狀態(tài)轉(zhuǎn)移并輸出符號(hào)的有限狀態(tài)自動(dòng)機(jī)，它通過(guò)定義觀察序列和狀態(tài)序列的聯(lián)合概率對(duì)隨機(jī)生成過(guò)程進(jìn)行建模。每一個(gè)觀察序列可以看成是由一個(gè)狀態(tài)轉(zhuǎn)移序列生成，狀態(tài)轉(zhuǎn)移過(guò)程是依據(jù)初始狀態(tài)概率分布隨機(jī)選擇一個(gè)初始狀態(tài)開(kāi)始，輸出一個(gè)觀察值后再根據(jù)狀態(tài)轉(zhuǎn)移概率矩陣隨機(jī)轉(zhuǎn)移到下一狀態(tài)，直到到達(dá)某一預(yù)先指定的結(jié)束狀態(tài)為止，在每一個(gè)狀態(tài)將根據(jù)輸出概率矩陣隨機(jī)輸出一個(gè)觀察序列的元素。

一個(gè) HMM有 5個(gè)組成部分，通常記為一個(gè)五元組{S,K, π,A,B}，有時(shí)簡(jiǎn)寫為一個(gè)三元組{π ,A,B}，其中：①S是模型的狀態(tài)集，模型共有 N個(gè)狀態(tài)，記為 S={s1,s2, ?,sN}；②K是模型中狀態(tài)輸出符號(hào)的集合，符號(hào)數(shù)為 M，符號(hào)集記為K={k1,k2,?,kM}；③是初始狀態(tài)概率分布，記為 ={ 1, 2,?, N}，其中 i是狀態(tài) Si作為初始狀態(tài)的概率；④A是狀態(tài)轉(zhuǎn)移概率矩陣，記為A={aij},1≤i≤N,1≤j≤N。其中 aij是從狀態(tài) Si轉(zhuǎn)移到狀態(tài) Sj的概率；⑤B是符號(hào)輸出概率矩陣，記為B={bik},1≤i≤N,1≤k≤M。其中 bik是狀態(tài) Si輸出 Vk的概率。要用HMM解決實(shí)際問(wèn)題，首先需要解決如下 3個(gè)基本問(wèn)題：①給定一個(gè)觀察序列 O=O1O2?OT和模型{ π,A,B}，如何高效率地計(jì)算概率P(O|λ)，也就是在給定模型的情況下觀察序列O的概率；②給定一個(gè)觀察序列 O=O1O2?OT和模型{ π,A,B}，如何快速地選擇在一定意義下“最優(yōu)”的狀態(tài)序列Q=q1q2?qT，使得該狀態(tài)序列“最好地解釋”觀察序列；③給定一個(gè)觀察序列 O=O1O2?OT，以及可能的模型空間，如何來(lái)估計(jì)模型參數(shù)，也就是說(shuō)，如何調(diào)節(jié)模型{π,A,B}的參數(shù)，使得 P(O|λ)最大。

問(wèn)題：

隱馬模型中存在兩個(gè)假設(shè)：輸出獨(dú)立性假設(shè)和馬爾可夫性假設(shè)。其中，輸出獨(dú)立性假設(shè)要求序列數(shù)據(jù)嚴(yán)格相互獨(dú)立才能保證推導(dǎo)的正確性，而事實(shí)上大多數(shù)序列數(shù)據(jù)不能被表示 2 成一系列獨(dú)立事件。

三、最大熵模型

最大熵原理原本是熱力學(xué)中一個(gè)非常重要的原理，后來(lái)被廣泛應(yīng)用于自然語(yǔ)言處理方面。其基本原理很簡(jiǎn)單：對(duì)所有的已知事實(shí)建模，對(duì)未知不做任何假設(shè)。也就是建模時(shí)選擇這樣一個(gè)統(tǒng)計(jì)概率模型，在滿足約束的模型中選擇熵最大的概率模型。若將詞性標(biāo)注或者其他自然語(yǔ)言處理任務(wù)看作一個(gè)隨機(jī)過(guò)程，最大熵模型就是從所有符合條件的分布中，選擇最均勻的分布，此時(shí)熵值最大。

求解最大熵模型，可以采用拉格朗日乘數(shù)法，其計(jì)算公式為：

p?y?x??1??exp???ifi(x,y)?Z?(x)?i?

??Z?(x)??exp???ifi(x,y)?y?i?為歸一化因子 ,?i是對(duì)應(yīng)特征的權(quán)重，fi表示其中,一個(gè)特征。每個(gè)特征對(duì)詞性選擇的影響大小由特征權(quán)重學(xué)習(xí)算法自動(dòng)得到。

?i決定，而這些權(quán)值可由GIS或IIS

四、支持向量機(jī)

原理：

支持向量機(jī)的主要思想可以概括為兩點(diǎn):(1)它是針對(duì)線性可分情況進(jìn)行分析,對(duì)于線性不可分的情況, 通過(guò)使用非線性映射算法將低維輸入空間線性不可分的樣本轉(zhuǎn)化為高維特征空間使其線性可分,從而使得高維特征空間采用線性算法對(duì)樣本的非線性特征進(jìn)行線性分析成為可能;(2)它基于結(jié)構(gòu)風(fēng)險(xiǎn)最小化理論之上在特征空間中建構(gòu)最優(yōu)分割超平面,使得學(xué)習(xí)器得到全局最優(yōu)化,并且在整個(gè)樣本空間的期望風(fēng)險(xiǎn)以某個(gè)概率滿足一定上界。

支持向量機(jī)的目標(biāo)就是要根據(jù)結(jié)構(gòu)風(fēng)險(xiǎn)最小化原理,構(gòu)造一個(gè)目標(biāo)函數(shù)將兩類模式盡可能地區(qū)分開(kāi)來(lái), 通常分為兩類情況來(lái)討論,：(1)線性可分；(2)線性不可分。

線性可分情況

在線性可分的情況下,就會(huì)存在一個(gè)超平面使得訓(xùn)練樣本完全分開(kāi),該超平面可描述為: w ·x + b = 0(1)其中,“·”是點(diǎn)積, w 是n 維向量, b 為偏移量。

最優(yōu)超平面是使得每一類數(shù)據(jù)與超平面距離最近的向量與超平面之間的距離最大的這樣的平面.3 最優(yōu)超平面可以通過(guò)解下面的二次優(yōu)化問(wèn)題來(lái)獲得： 滿足約束條件： , i = 1 ,2 ,3 ,......, n.(3)

在特征數(shù)目特別大的情況,可以將此二次規(guī)劃問(wèn)題轉(zhuǎn)化為其對(duì)偶問(wèn)題：

(4)

(5)(6 滿足約束條件:

這里

(7)

是Lagrange 乘子，是最優(yōu)超平面的法向量，是最優(yōu)超平面的偏移量,在這類優(yōu)化問(wèn)題的求解與分析中, KKT條件將起到很重要的作用,在(7)式中,其解必須滿足：

從式(5)可知,那些

(8)

= 0 的樣本對(duì)分類沒(méi)有任何作用,只有那些

> 0 的樣本才對(duì)分類起作用,這些樣本稱為支持向量,故最終的分類函數(shù)為：

根據(jù)f(x)的符號(hào)來(lái)確定X 的歸屬。線性不可分的情況

(9)對(duì)于線性不可分的情況,可以把樣本X 映射到一個(gè)高維特征空間H,并在此空間中運(yùn)用原空間的函 數(shù)來(lái)實(shí)現(xiàn)內(nèi)積運(yùn)算,這樣將非線性問(wèn)題轉(zhuǎn)換成另一空間的線性問(wèn)題來(lái)獲得一個(gè)樣本的歸屬.根據(jù)泛函的有關(guān)理論,只要一種核函數(shù)滿足Mercer 條件,它就對(duì)應(yīng)某一空間中的內(nèi)積,因此只要在最優(yōu)分類面上采用適當(dāng)?shù)膬?nèi)積函數(shù)就可以實(shí)現(xiàn)這種線性不可分的分類問(wèn)題.此時(shí)的目標(biāo)函數(shù)為：

0）

（1 4 其分類函數(shù)為:（11）

內(nèi)積核函數(shù) ：

目前有三類用的較多的內(nèi)積核函數(shù)：第一類是

（12）

我們所能得到的是p階多項(xiàng)式分類器，第二類是徑向基函數(shù)（RBF），也稱作高斯核函數(shù)：

第三類是Sigmoid函數(shù)

特點(diǎn)：

概括地說(shuō)，支持向量機(jī)就是首先通過(guò)內(nèi)積函數(shù)定義的非線性變換將輸入空間變換到另一個(gè)高維空間，在這個(gè)空間中求最優(yōu)分類面。SVM分類函數(shù)形式上類似于一個(gè)神經(jīng)網(wǎng)絡(luò)，輸出是中間節(jié)點(diǎn)的線性組合，每個(gè)中間節(jié)點(diǎn)對(duì)應(yīng)一個(gè)輸入樣本與一個(gè)支持向量的內(nèi)積，因此也叫做支持向量網(wǎng)絡(luò)。

SVM方法的特點(diǎn)：

① 非線性映射是SVM方法的理論基礎(chǔ),SVM利用內(nèi)積核函數(shù)代替向高維空間的非線性映射;② 對(duì)特征空間劃分的最優(yōu)超平面是SVM的目標(biāo),最大化分類邊際的思想是SVM方法的核心;③ 支持向量是SVM的訓(xùn)練結(jié)果,在SVM分類決策中起決定作用的是支持向量。

SVM 是一種有堅(jiān)實(shí)理論基礎(chǔ)的新穎的小樣本學(xué)習(xí)方法。它基本上不涉及概率測(cè)度及大數(shù)定律等,因此不同于現(xiàn)有的統(tǒng)計(jì)方法。從本質(zhì)上看,它避開(kāi)了從歸納到演繹的傳統(tǒng)過(guò)程,實(shí)現(xiàn)了高效的從訓(xùn)練樣本到預(yù)報(bào)樣本的“轉(zhuǎn)導(dǎo)推理”,大大簡(jiǎn)化了通常的分類和回歸等問(wèn)題。

SVM 的最終決策函數(shù)只由少數(shù)的支持向量所確定,計(jì)算的復(fù)雜性取決于支持向量的數(shù)目,而不是樣本空間的維數(shù),這在某種意義上避免了“維數(shù)災(zāi)難”。少數(shù)支持向量決定了最終結(jié)果,這不但可以幫助我們抓住關(guān)鍵樣本、“剔除”大量冗余樣本,而且注定了該方法不但算法簡(jiǎn)單,而且具有較好的“魯棒”性。這種 “魯棒”性主要體現(xiàn)在: ①增、刪非支持向量樣本對(duì)模型沒(méi)有影響;②支持向量樣本集具有一定的魯棒性;③有些成功的應(yīng)用中,SVM 方法對(duì)核的選取不敏感

五、條件隨機(jī)場(chǎng)

原理：

條件隨機(jī)場(chǎng)(CRFs)是一種基于統(tǒng)計(jì)的序列標(biāo)記識(shí)別模型，由John Lafferty等人在2001年首次提出。它是一種無(wú)向圖模型，對(duì)于指定的節(jié)點(diǎn)輸入值，它能夠計(jì)算指定的節(jié)點(diǎn)輸出值上的條件概率，其訓(xùn)練目標(biāo)是使得條件概率最大化。線性鏈?zhǔn)荂RFs中常見(jiàn)的特定圖結(jié)構(gòu)之一，它由指定的輸出節(jié)點(diǎn)順序鏈接而成。一個(gè)線性鏈與一個(gè)有限狀態(tài)機(jī)相對(duì)應(yīng)，可用于解決序列數(shù)據(jù)的標(biāo)注問(wèn)題。在多數(shù)情況下，CRFs均指線性的CRFs。用x=(x1,x2,…,xn)表示要進(jìn)行標(biāo)注的數(shù)據(jù)序列，y=(y1,y2,…,yn)表示對(duì)應(yīng)的結(jié)果序列。例如對(duì)于中文詞性標(biāo)注任務(wù)，x可以表示一個(gè)中文句子x=(上海，浦東，開(kāi)發(fā)，與，法制，建設(shè)，同步)，y則表示該句子中每個(gè)詞的詞性序列y=(NR,NR,NN,CC,NN,NN,VV)。

對(duì)于(X，Y)，C由局部特征向量f和對(duì)應(yīng)的權(quán)重向量λ確定。對(duì)于輸入數(shù)據(jù)序列x和標(biāo)注結(jié)果序列y，條件隨機(jī)場(chǎng)C的全局特征表示為

F?y,x???f?y,x,i?i ⑴

其中i遍歷輸入數(shù)據(jù)序列的所有位置，f(y,x，i)表示在i位置時(shí)各個(gè)特征組成的特征向量。于是，CRFs定義的條件概率分布為

p?(Y,X)?其中 exp????F?Y,X???Z??X?

⑵

Z??X???exp????F?y,x???y ⑶

給定一個(gè)輸入數(shù)據(jù)序列X，標(biāo)注的目標(biāo)就是找出其對(duì)應(yīng)的最可能的標(biāo)注結(jié)果序列了，即

y?argmaxp??y|x?y ⑷

由于Zλ(X)不依賴于y，因此有

y?argmaxp??y|x??argmax??F?y,x?yy ⑸

CRFs模型的參數(shù)估計(jì)通常采用L—BFGS算法實(shí)現(xiàn)，CRFs解碼過(guò)程，也就是求解未知串標(biāo)注的過(guò)程，需要搜索計(jì)算該串上的一個(gè)最大聯(lián)合概率，解碼過(guò)程采用Viterbi算法來(lái)完成。

CRFs具有很強(qiáng)的推理能力，能夠充分地利用上下文信息作為特征，還可以任意地添加其他外部特征，使得模型能夠獲取的信息非常豐富。CRFs通過(guò)僅使用一個(gè)指數(shù)模型作為在給定觀測(cè)序列條件下整個(gè)標(biāo)記序列的聯(lián)合概率，使得該模型中不同狀態(tài)下的不同特征權(quán)值可以彼此交替，從而有效地解決了其他非生成有向圖模型所產(chǎn)生的標(biāo)注偏置的問(wèn)題。這些特點(diǎn)，使得CRFs從理論上講，非常適合中文詞性標(biāo)注?！?/p>

總結(jié)

首先，CRF，HMM(隱馬模型)都常用來(lái)做序列標(biāo)注的建模，像詞性標(biāo)注，True casing。但隱馬模型一個(gè)最大的缺點(diǎn)就是由于其輸出獨(dú)立性假設(shè)，導(dǎo)致其不能考慮上下文的特征，限制了特征的選擇，而另外一種稱為最大熵隱馬模型則解決了這一問(wèn)題，可以任意的選擇特征，但由于其在每一節(jié)點(diǎn)都要進(jìn)行歸一化，所以只能找到局部的最優(yōu)值，同時(shí)也帶來(lái)了標(biāo)記偏見(jiàn)的問(wèn)題（label bias），即凡是訓(xùn)練語(yǔ)料中未出現(xiàn)的情況全都忽略掉，而條件隨機(jī)場(chǎng)則很好的解決了這一問(wèn)題，他并不在每一個(gè)節(jié)點(diǎn)進(jìn)行歸一化，而是所有特征進(jìn)行全局歸一化，因此可以求得全局的最優(yōu)值。目前，條件隨機(jī)場(chǎng)的訓(xùn)練和解碼的開(kāi)源工具還只支持鏈?zhǔn)降男蛄校瑥?fù)雜的尚不支持，而且訓(xùn)練時(shí)間很長(zhǎng)，但效果還可以。最大熵隱馬模型的局限性在于其利用訓(xùn)練的局部模型去做全局預(yù)測(cè)。其最優(yōu)預(yù)測(cè)序列只是通過(guò)viterbi算法將局部的最大熵模型結(jié)合而成的。條件隨機(jī)場(chǎng)，隱馬模型，最大熵隱馬模型這三個(gè)模型都可以用來(lái)做序列標(biāo)注模型。但是其各自有自身的特點(diǎn)，HMM模型是對(duì)轉(zhuǎn)移概率和表現(xiàn)概率直接建模，統(tǒng)計(jì)共現(xiàn)概率。而最大熵隱馬模型是對(duì)轉(zhuǎn)移概率和表現(xiàn)概率建立聯(lián)合概率，統(tǒng)計(jì)時(shí)統(tǒng)計(jì)的是條件概率。最大熵隱馬模型容易陷入局部最優(yōu)，是因?yàn)樽畲箪仉[馬模型只在局部做歸一化，而CRF模型中，統(tǒng)計(jì)了全局概率，在 做歸一化時(shí)，考慮了數(shù)據(jù)在全局的分布，而不是僅僅在局部歸一化，這樣就解決了MEMM中的標(biāo)記偏置的問(wèn)題。

第四篇：機(jī)器學(xué)習(xí)報(bào)告

機(jī)器學(xué)習(xí)總結(jié)報(bào)告

劉皓冰

大部分人錯(cuò)誤地以為機(jī)器學(xué)習(xí)是計(jì)算機(jī)像人一樣去學(xué)習(xí)。事實(shí)上，計(jì)算機(jī)是死的，怎么可能像人類一樣“學(xué)習(xí)”呢，機(jī)器學(xué)習(xí)依靠的是數(shù)學(xué)，更確切地說(shuō)是靠統(tǒng)計(jì)。

如果我們讓計(jì)算機(jī)工作，是給它一串指令，然后計(jì)算機(jī)會(huì)遵照這個(gè)指令一步步執(zhí)行下去，有因有果，非常明確。但這種方式在機(jī)器學(xué)習(xí)中是行不通的。機(jī)器學(xué)習(xí)是不會(huì)接受你輸入的指令的，它接受的是你輸入的數(shù)據(jù)。也就是說(shuō)，機(jī)器學(xué)習(xí)是一種讓計(jì)算機(jī)利用數(shù)據(jù)而不是指令來(lái)進(jìn)行各種工作的方法。這聽(tīng)起來(lái)非常不可思議，但結(jié)果上卻是非常可行的?！敖y(tǒng)計(jì)”思想將在你學(xué)習(xí)“機(jī)器學(xué)習(xí)”相關(guān)理念時(shí)無(wú)時(shí)無(wú)刻不伴隨，相關(guān)而不是因果的概念將是支撐機(jī)器學(xué)習(xí)能夠工作的核心概念。

依據(jù)數(shù)據(jù)所做的判斷跟機(jī)器學(xué)習(xí)的思想根本上是一致的。機(jī)器學(xué)習(xí)方法是計(jì)算機(jī)利用已有的數(shù)據(jù)(輸入)，得出了某種模型，并利用此模型預(yù)測(cè)未來(lái)(輸出)的一種方法。從數(shù)據(jù)中學(xué)得模型的過(guò)程稱為“學(xué)習(xí)”（learning）或“訓(xùn)練”（training），這個(gè)過(guò)程通過(guò)執(zhí)行某個(gè)學(xué)習(xí)算法來(lái)完成。訓(xùn)練過(guò)程中使用的數(shù)據(jù)成為“訓(xùn)練數(shù)據(jù)”（training data），其中每個(gè)樣本稱為一個(gè)“訓(xùn)練樣本”（training sample），訓(xùn)練樣本組成的集合稱為“訓(xùn)練集“（training set）。學(xué)得模型對(duì)應(yīng)了關(guān)于數(shù)據(jù)的某種潛在的規(guī)律，因此亦稱”假設(shè)“（hypothesis）；這種潛在規(guī)律自身，則稱為”真相“或”真實(shí)“（ground-truth），學(xué)習(xí)過(guò)程就是為了找出或逼近真相。模型有時(shí)也被稱為”學(xué)習(xí)器“（learner），可看作學(xué)習(xí)算法在給定數(shù)據(jù)和參數(shù)空間上的實(shí)例化。

若欲預(yù)測(cè)的是離散值則此類學(xué)習(xí)任務(wù)被稱為“分類”；若欲預(yù)測(cè)的是連續(xù)值則此類學(xué)習(xí)任務(wù)稱為“回歸”；對(duì)只涉及兩個(gè)類別的“二分類”任務(wù)，通常稱其中一個(gè)類為“正類”，另一個(gè)類為“反類”；涉及多個(gè)類別時(shí)，則稱為“多分類”任務(wù)。

模型是否準(zhǔn)確依賴與數(shù)據(jù)。如果我的數(shù)據(jù)越多，我的模型就越能夠考慮到越多的情況，由此對(duì)于新情況的預(yù)測(cè)效果可能就越好。這是機(jī)器學(xué)習(xí)界“數(shù)據(jù)為王”思想的一個(gè)體現(xiàn)。一般來(lái)說(shuō)(不是絕對(duì))，數(shù)據(jù)越多，最后機(jī)器學(xué)習(xí)生成的模型預(yù)測(cè)的效果越好。

機(jī)器學(xué)習(xí)里面有非常多的經(jīng)典算法，每種算法都能形成一個(gè)模型。下面在簡(jiǎn)要介紹一下機(jī)器學(xué)習(xí)中的經(jīng)典代表方法。重點(diǎn)介紹的是這些方法內(nèi)涵的思想。

1、回歸算法 在大部分機(jī)器學(xué)習(xí)課程中，回歸算法都是介紹的第一個(gè)算法。原因有兩個(gè)：一.回歸算法比較簡(jiǎn)單，介紹它可以讓人平滑地從統(tǒng)計(jì)學(xué)遷移到機(jī)器學(xué)習(xí)中。二.回歸算法是后面若干強(qiáng)大算法的基石，如果不理解回歸算法，無(wú)法學(xué)習(xí)那些強(qiáng)大的算法?；貧w算法有兩個(gè)重要的子類：即線性回歸和邏輯回歸。

線性回歸一般使用“最小二乘法”來(lái)求解。“最小二乘法”的思想是這樣的，假設(shè)我們擬合出的直線代表數(shù)據(jù)的真實(shí)值，而觀測(cè)到的數(shù)據(jù)代表?yè)碛姓`差的值。為了盡可能減小誤差的影響，需要求解一條直線使所有誤差的平方和最小。最小二乘法將最優(yōu)問(wèn)題轉(zhuǎn)化為求函數(shù)極值問(wèn)題。函數(shù)極值在數(shù)學(xué)上我們一般會(huì)采用求導(dǎo)數(shù)為0的方法。但這種做法并不適合計(jì)算機(jī)，可能求解不出來(lái)，也可能計(jì)算量太大。計(jì)算機(jī)科學(xué)界專門有一個(gè)學(xué)科叫“數(shù)值計(jì)算”，專門用來(lái)提升計(jì)算機(jī)進(jìn)行各類計(jì)算時(shí)的準(zhǔn)確性和效率問(wèn)題。例如，著名的“梯度下降”以及“牛頓法”就是數(shù)值計(jì)算中的經(jīng)典算法，也非常適合來(lái)處理求解函數(shù)極值的問(wèn)題。梯度下降法是解決回歸模型中最簡(jiǎn)單且有效的方法之一。

邏輯回歸是一種與線性回歸非常類似的算法，但是，從本質(zhì)上講，線型回歸處理的問(wèn)題類型與邏輯回歸不一致。線性回歸處理的是數(shù)值問(wèn)題，也就是最后預(yù)測(cè)出的結(jié)果是數(shù)字，例如預(yù)測(cè)一所房子大約可以買多少錢。而邏輯回歸屬于分類算法，也就是說(shuō)，邏輯回歸預(yù)測(cè)結(jié)果是離散的分類，例如判斷腫瘤是惡性還是良性等等。實(shí)現(xiàn)方面的話，邏輯回歸只是對(duì)對(duì)線性回歸的計(jì)算結(jié)果加上了一個(gè)Sigmoid函數(shù)，將數(shù)值結(jié)果轉(zhuǎn)化為了0到1之間的概率(Sigmoid函數(shù)的圖像一般來(lái)說(shuō)并不直觀，你只需要理解對(duì)數(shù)值越大，函數(shù)越逼近1，數(shù)值越小，函數(shù)越逼近0)，接著我們根據(jù)這個(gè)概率可以做預(yù)測(cè)，例如概率大于0.5，腫瘤就是惡性的等等。

2、神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)(也稱之為人工神經(jīng)網(wǎng)絡(luò)，ANN)算法是80年代機(jī)器學(xué)習(xí)界非常流行的算法，不過(guò)在90年代中途衰落?，F(xiàn)在，攜著“深度學(xué)習(xí)”之勢(shì)，神經(jīng)網(wǎng)絡(luò)重裝歸來(lái)，重新成為最強(qiáng)大的機(jī)器學(xué)習(xí)算法之一。

神經(jīng)網(wǎng)絡(luò)的誕生起源于對(duì)大腦工作機(jī)理的研究。早期生物界學(xué)者們使用神經(jīng)網(wǎng)絡(luò)來(lái)模擬大腦。機(jī)器學(xué)習(xí)的學(xué)者們使用神經(jīng)網(wǎng)絡(luò)進(jìn)行機(jī)器學(xué)習(xí)的實(shí)驗(yàn)，發(fā)現(xiàn)在視覺(jué)與語(yǔ)音的識(shí)別上效果都相當(dāng)好。在BP算法(加速神經(jīng)網(wǎng)絡(luò)訓(xùn)練過(guò)程的數(shù)值算法)誕生以后，神經(jīng)網(wǎng)絡(luò)的發(fā)展進(jìn)入了一個(gè)熱潮。

下圖是一個(gè)簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)的邏輯架構(gòu)。在這個(gè)網(wǎng)絡(luò)中，分成輸入層，隱藏層，和輸出層。輸入層負(fù)責(zé)接收信號(hào)，隱藏層負(fù)責(zé)對(duì)數(shù)據(jù)的分解與處理，最后的結(jié)果被整合到輸出層。每層中的一個(gè)圓代表一個(gè)處理單元，可以認(rèn)為是模擬了一個(gè)神經(jīng)元，若干個(gè)處理單元組成了一個(gè)層，若干個(gè)層再組成了一個(gè)網(wǎng)絡(luò)，也就是”神經(jīng)網(wǎng)絡(luò)”。

圖神經(jīng)網(wǎng)絡(luò)的邏輯架構(gòu)

在神經(jīng)網(wǎng)絡(luò)中，每個(gè)處理單元事實(shí)上就是一個(gè)邏輯回歸模型，邏輯回歸模型接收上層的輸入，把模型的預(yù)測(cè)結(jié)果作為輸出傳輸?shù)较乱粋€(gè)層次。通過(guò)這樣的過(guò)程，神經(jīng)網(wǎng)絡(luò)可以完成非常復(fù)雜的非線性分類。

進(jìn)入90年代，神經(jīng)網(wǎng)絡(luò)的發(fā)展進(jìn)入了一個(gè)瓶頸期。其主要原因是盡管有BP算法的加速，神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過(guò)程仍然很困難。因此90年代后期支持向量機(jī)(SVM)算法取代了神經(jīng)網(wǎng)絡(luò)的地位。

3、SVM（支持向量機(jī)）

支持向量機(jī)算法是誕生于統(tǒng)計(jì)學(xué)習(xí)界，同時(shí)在機(jī)器學(xué)習(xí)界大放光彩的經(jīng)典算法。

支持向量機(jī)算法從某種意義上來(lái)說(shuō)是邏輯回歸算法的強(qiáng)化：通過(guò)給予邏輯回歸算法更嚴(yán)格的優(yōu)化條件，支持向量機(jī)算法可以獲得比邏輯回歸更好的分類界線。但是如果沒(méi)有某類函數(shù)技術(shù)，則支持向量機(jī)算法最多算是一種更好的線性分類技術(shù)。

但是，通過(guò)跟高斯“核”的結(jié)合，支持向量機(jī)可以表達(dá)出非常復(fù)雜的分類界線，從而達(dá)成很好的的分類效果?！昂恕笔聦?shí)上就是一種特殊的函數(shù)，最典型的特征就是可以將低維的空間映射到高維的空間。

上述機(jī)器學(xué)習(xí)算法均為監(jiān)督學(xué)習(xí)算法。監(jiān)督學(xué)習(xí)，就是人們常說(shuō)的分類回歸，通過(guò)已有的訓(xùn)練樣本（即已知數(shù)據(jù)以及其對(duì)應(yīng)的輸出）去訓(xùn)練得到一個(gè)最優(yōu)模型（這個(gè)模型屬于某個(gè)函數(shù)的集合，最優(yōu)則表示在某個(gè)評(píng)價(jià)準(zhǔn)則下是最佳的），再利用這個(gè)模型將所有的輸入映射為相應(yīng)的輸出。在人對(duì)事物的認(rèn)識(shí)中，我們從孩子開(kāi)始就被大人們教授這是貓啊、那是狗啊、那是桌子啊，等等。我們所見(jiàn)到的景物就是輸入數(shù)據(jù)，而大人們對(duì)這些景物的判斷結(jié)果（是房子還是鳥?。┚褪窍鄳?yīng)的輸出。當(dāng)我們見(jiàn)識(shí)多了以后，腦子里就慢慢地得到了一些泛化的模型，這就是訓(xùn)練得到的那個(gè)（或者那些）函數(shù)，從而不需要大人在旁邊指點(diǎn)的時(shí)候，我們也能分辨的出來(lái)哪些是貓，哪些是狗。無(wú)監(jiān)督學(xué)習(xí)則是另一種研究的比較多的學(xué)習(xí)方法，它與監(jiān)督學(xué)習(xí)的不同之處，在于我們事先沒(méi)有任何訓(xùn)練樣本，而需要直接對(duì)數(shù)據(jù)進(jìn)行建模。這聽(tīng)起來(lái)似乎有點(diǎn)不可思議，但是在我們自身認(rèn)識(shí)世界的過(guò)程中很多處都用到了無(wú)監(jiān)督學(xué)習(xí)。比如我們?nèi)⒂^一個(gè)畫展，我們完全對(duì)藝術(shù)一無(wú)所知，但是欣賞完多幅作品之后，我們也能把它們分成不同的派別（比如哪些更朦朧一點(diǎn)，哪些更寫實(shí)一些，即使我們不知道什么叫做朦朧派，什么叫做寫實(shí)派，但是至少我們能把他們分為兩個(gè)類）。無(wú)監(jiān)督學(xué)習(xí)里典型的例子就是聚類了。聚類的目的在于把相似的東西聚在一起，而我們并不關(guān)心這一類是什么。因此，一個(gè)聚類算法通常只需要知道如何計(jì)算相似度就可以開(kāi)始工作了。

那么，什么時(shí)候應(yīng)該采用監(jiān)督學(xué)習(xí)，什么時(shí)候應(yīng)該采用非監(jiān)督學(xué)習(xí)呢？一種非常簡(jiǎn)單的回答就是從定義入手，如果我們?cè)诜诸惖倪^(guò)程中有訓(xùn)練樣本，則可以考慮用監(jiān)督學(xué)習(xí)的方法；如果沒(méi)有訓(xùn)練樣本，則不可能用監(jiān)督學(xué)習(xí)的方法。但是事實(shí)上，我們?cè)卺槍?duì)一個(gè)現(xiàn)實(shí)問(wèn)題進(jìn)行解答的過(guò)程中，即使我們沒(méi)有現(xiàn)成的訓(xùn)練樣本，我們也能夠憑借自己的雙眼，從待分類的數(shù)據(jù)中人工標(biāo)注一些樣本，并把他們作為訓(xùn)練樣本，這樣的話就可以把條件改善，用監(jiān)督學(xué)習(xí)的方法來(lái)做。然而對(duì)于不同的場(chǎng)景，正負(fù)樣本的分布如果會(huì)存在偏移（可能是大的偏移，也可能偏移比較?。?，這樣的話用監(jiān)督學(xué)習(xí)的效果可能就不如用非監(jiān)督學(xué)習(xí)了。

今天，在計(jì)算機(jī)科學(xué)的諸多分支學(xué)科領(lǐng)域中，都能找到機(jī)器學(xué)習(xí)技術(shù)的身影，尤其是在計(jì)算機(jī)視覺(jué)、語(yǔ)音識(shí)別、模式識(shí)別、自然語(yǔ)言處理等“計(jì)算機(jī)應(yīng)用技術(shù)”領(lǐng)域，機(jī)器學(xué)習(xí)已成為最重要的技術(shù)進(jìn)步源泉之一。此外，機(jī)器學(xué)習(xí)還為許多交叉學(xué)科提供了重要的技術(shù)支撐比如說(shuō)“生物信息學(xué)”。

可以說(shuō)“計(jì)算機(jī)視覺(jué)=圖像處理+機(jī)器學(xué)習(xí)“。圖像處理技術(shù)用于將圖像處理為適合進(jìn)入機(jī)器學(xué)習(xí)模型中的輸入，機(jī)器學(xué)習(xí)則負(fù)責(zé)從圖像中識(shí)別出相關(guān)的模式。計(jì)算機(jī)視覺(jué)相關(guān)的應(yīng)用非常的多，例如百度識(shí)圖、手寫字符識(shí)別、車牌識(shí)別等等應(yīng)用。這個(gè)領(lǐng)域是應(yīng)用前景非常火熱的，同時(shí)也是研究的熱門方向。隨著機(jī)器學(xué)習(xí)的新領(lǐng)域深度學(xué)習(xí)的發(fā)展，大大促進(jìn)了計(jì)算機(jī)圖像識(shí)別的效果，因此未來(lái)計(jì)算機(jī)視覺(jué)界的發(fā)展前景不可估量。

如果說(shuō)“計(jì)算機(jī)視覺(jué)=圖像處理+機(jī)器學(xué)習(xí)“，那么”語(yǔ)音識(shí)別=語(yǔ)音處理+機(jī)器學(xué)習(xí)“。語(yǔ)音識(shí)別就是音頻處理技術(shù)與機(jī)器學(xué)習(xí)的結(jié)合。語(yǔ)音識(shí)別技術(shù)一般不會(huì)單獨(dú)使用，一般會(huì)結(jié)合自然語(yǔ)言處理的相關(guān)技術(shù)。目前的相關(guān)應(yīng)用有蘋果語(yǔ)音助手siri、微軟小娜等。

“自然語(yǔ)言處理=文本處理+機(jī)器學(xué)習(xí)“。自然語(yǔ)言處理技術(shù)主要是讓機(jī)器理解人類的語(yǔ)言的一門領(lǐng)域。在自然語(yǔ)言處理技術(shù)中，大量使用了編譯原理相關(guān)的技術(shù)，例如詞法分析，語(yǔ)法分析等等，除此之外，在理解這個(gè)層面，則使用了語(yǔ)義理解，機(jī)器學(xué)習(xí)等技術(shù)。作為唯一由人類自身創(chuàng)造的符號(hào)，自然語(yǔ)言處理一直是機(jī)器學(xué)習(xí)界不斷研究的方向。按照百度機(jī)器學(xué)習(xí)專家余凱的說(shuō)法“聽(tīng)與看，說(shuō)白了就是阿貓和阿狗都會(huì)的，而只有語(yǔ)言才是人類獨(dú)有的”。如何利用機(jī)器學(xué)習(xí)技術(shù)進(jìn)行自然語(yǔ)言的的深度理解，一直是工業(yè)和學(xué)術(shù)界關(guān)注的焦點(diǎn)。

談到對(duì)數(shù)據(jù)進(jìn)行分析利用，很多人會(huì)想到“數(shù)據(jù)挖掘”（data mining）。數(shù)據(jù)挖掘領(lǐng)域在二十世紀(jì)九十年代形成，它受到很多學(xué)科領(lǐng)域的影響，其中數(shù)據(jù)庫(kù)、機(jī)器學(xué)習(xí)、統(tǒng)計(jì)學(xué)無(wú)疑影響最大。數(shù)據(jù)挖掘是從海量數(shù)據(jù)中發(fā)掘知識(shí)，這就必然涉及對(duì)“海量數(shù)據(jù)”的管理和分析。大體來(lái)說(shuō)，“數(shù)據(jù)挖掘=機(jī)器學(xué)習(xí)+數(shù)據(jù)庫(kù)“——數(shù)據(jù)庫(kù)領(lǐng)域的研究為數(shù)據(jù)挖掘提供數(shù)據(jù)管理技術(shù)，而機(jī)器學(xué)習(xí)和統(tǒng)計(jì)學(xué)的研究為數(shù)據(jù)挖掘提供數(shù)據(jù)分析技術(shù)。由于統(tǒng)計(jì)學(xué)往往醉心于理論的優(yōu)美而忽視實(shí)際的效用，因此，統(tǒng)計(jì)學(xué)界提供的很多技術(shù)通常都要在機(jī)器學(xué)習(xí)界進(jìn)一步研究，變成有效的機(jī)器學(xué)習(xí)算法之后才能再進(jìn)入數(shù)據(jù)挖掘領(lǐng)域。從這個(gè)意義上說(shuō)，統(tǒng)計(jì)學(xué)主要是通過(guò)機(jī)器學(xué)習(xí)來(lái)對(duì)數(shù)據(jù)挖掘發(fā)揮影響，而機(jī)器學(xué)習(xí)和數(shù)據(jù)庫(kù)則是數(shù)據(jù)挖掘的兩大支撐技術(shù)。從數(shù)據(jù)分析的角度來(lái)看，絕大多數(shù)數(shù)據(jù)挖掘技術(shù)都來(lái)自機(jī)器學(xué)習(xí)領(lǐng)域，但機(jī)器學(xué)習(xí)研究往往并不把海量數(shù)據(jù)作為處理對(duì)象，因此，數(shù)據(jù)挖掘要對(duì)算法進(jìn)行改造，使得算法性能和空間占用達(dá)到實(shí)用的地步。同時(shí)，數(shù)據(jù)挖掘還有自身獨(dú)特的內(nèi)容，即關(guān)聯(lián)分析。

通過(guò)上面的介紹，可以看出機(jī)器學(xué)習(xí)是多么的重要，應(yīng)用是多么的廣泛。現(xiàn)隨著大數(shù)據(jù)（big data）概念的興起，機(jī)器學(xué)習(xí)大量的應(yīng)用都與大數(shù)據(jù)高度耦合，幾乎可以認(rèn)為大數(shù)據(jù)是機(jī)器學(xué)習(xí)應(yīng)用的最佳場(chǎng)景。例如經(jīng)典的Google利用大數(shù)據(jù)預(yù)測(cè)了H1N1在美國(guó)某小鎮(zhèn)的爆發(fā)、百度預(yù)測(cè)2014年世界杯結(jié)果從淘汰賽到?jīng)Q賽全部正確。這實(shí)在太神奇了，那么究竟是什么原因?qū)е麓髷?shù)據(jù)具有這些魔力的呢？簡(jiǎn)單來(lái)說(shuō)，就是機(jī)器學(xué)習(xí)技術(shù)。正是基于機(jī)器學(xué)習(xí)技術(shù)的應(yīng)用，數(shù)據(jù)才能發(fā)揮其魔力。

大數(shù)據(jù)的核心是利用數(shù)據(jù)的價(jià)值，機(jī)器學(xué)習(xí)是利用數(shù)據(jù)價(jià)值的關(guān)鍵技術(shù)，對(duì)于大數(shù)據(jù)而言，機(jī)器學(xué)習(xí)是不可或缺的。相反，對(duì)于機(jī)器學(xué)習(xí)而言，越多的數(shù)據(jù)會(huì)越可能提升模型的精確性，同時(shí)，復(fù)雜的機(jī)器學(xué)習(xí)算法的計(jì)算時(shí)間也迫切需要分布式計(jì)算與內(nèi)存計(jì)算這樣的關(guān)鍵技術(shù)。因此，機(jī)器學(xué)習(xí)的興盛也離不開(kāi)大數(shù)據(jù)的幫助。大數(shù)據(jù)與機(jī)器學(xué)習(xí)兩者是互相促進(jìn)，相依相存的關(guān)系。

機(jī)器學(xué)習(xí)與大數(shù)據(jù)緊密聯(lián)系。但是，必須清醒的認(rèn)識(shí)到，大數(shù)據(jù)并不等同于機(jī)器學(xué)習(xí)，同理，機(jī)器學(xué)習(xí)也不等同于大數(shù)據(jù)。大數(shù)據(jù)中包含有分布式計(jì)算、內(nèi)存數(shù)據(jù)庫(kù)、多維分析等等多種技術(shù)。單從分析方法來(lái)看，大數(shù)據(jù)也包含以下四種分析方法：

1.大數(shù)據(jù)，小分析：即數(shù)據(jù)倉(cāng)庫(kù)領(lǐng)域的OLAP分析思路，也就是多維分析思想。2.大數(shù)據(jù)，大分析：這個(gè)代表的就是數(shù)據(jù)挖掘與機(jī)器學(xué)習(xí)分析法。3.流式分析：這個(gè)主要指的是事件驅(qū)動(dòng)架構(gòu)。4.查詢分析：經(jīng)典代表是NoSQL數(shù)據(jù)庫(kù)。

也就是說(shuō)，機(jī)器學(xué)習(xí)僅僅是大數(shù)據(jù)分析中的一種而已。盡管機(jī)器學(xué)習(xí)的一些結(jié)果具有很大的魔力，在某種場(chǎng)合下是大數(shù)據(jù)價(jià)值最好的說(shuō)明。但這并不代表機(jī)器學(xué)習(xí)是大數(shù)據(jù)下的唯一的分析方法。

第五篇：行業(yè)納稅評(píng)估模型模版

行業(yè)（產(chǎn)品）納稅評(píng)估模型模版

一、行業(yè)（產(chǎn)品）介紹

（一）行業(yè)（產(chǎn)品）定義

介紹該行業(yè)定義、概況、屬性以及編號(hào)。

（二）企業(yè)類型劃分

對(duì)該行業(yè)（產(chǎn)品）企業(yè)具體劃分類型，并加以說(shuō)明。

（三）工藝簡(jiǎn)介

簡(jiǎn)要介紹該行業(yè)（產(chǎn)品）的主要工藝流程及特點(diǎn)。

二、行業(yè)（產(chǎn)品）生產(chǎn)經(jīng)營(yíng)規(guī)律及涉稅管理難點(diǎn)

（一）行業(yè)生產(chǎn)經(jīng)營(yíng)規(guī)律

描述該行業(yè)（產(chǎn)品）的主要經(jīng)營(yíng)規(guī)律。

（二）涉稅管理難點(diǎn)

詳細(xì)列舉評(píng)估可能存在的難點(diǎn)。

三、評(píng)估方法

結(jié)合該行業(yè)企業(yè)的生產(chǎn)工藝流程、生產(chǎn)經(jīng)營(yíng)規(guī)律、涉稅管理難點(diǎn)，詳細(xì)列舉主要評(píng)估方法。每種評(píng)估方法不是孤立存在，在稅收管理過(guò)程中，應(yīng)運(yùn)用二種以上方法進(jìn)行評(píng)估測(cè)算，相互比對(duì)和印證。

具體的評(píng)估方法包括以下部分：

1.原理描述

2.評(píng)估模型

３.標(biāo)準(zhǔn)值參考范圍

4.數(shù)據(jù)獲取途徑

5.疑點(diǎn)判斷

6.應(yīng)用要點(diǎn)

四、印證案例

選取若干典型案例對(duì)評(píng)估模型進(jìn)行驗(yàn)證。驗(yàn)證案例應(yīng)包括以下內(nèi)容：

1.企業(yè)基本情況介紹

2.數(shù)據(jù)采集來(lái)源及內(nèi)容

3.確定疑點(diǎn)列舉

4.實(shí)地核查情況

5.測(cè)算稅收差異情況

6.評(píng)估約談

7.評(píng)定處理