第一篇：2013年第一期保健總結(jié)

2012學(xué)年第一學(xué)期保健保育組總結(jié)

BYB.JMP---01--2012

時(shí)間過(guò)得真快，一個(gè)學(xué)期即將結(jié)束，在上級(jí)領(lǐng)導(dǎo)和園分管領(lǐng)導(dǎo)的關(guān)心、支持下、班級(jí)老師的配合和保健室各位成員的共同努力下，衛(wèi)生保健工作如期完成了學(xué)期初的工作計(jì)劃。以下是本學(xué)期的工作總結(jié)。

一：保育

1、本學(xué)期保育工作在學(xué)期初按園務(wù)計(jì)劃的要求，本學(xué)期全園的環(huán)境合格率達(dá)

到了100%，環(huán)境優(yōu)秀率達(dá)到了70%。

2、本學(xué)期保育業(yè)務(wù)學(xué)習(xí)了《戶外活動(dòng)中的保育工作》、《冬季幼兒的保健常識(shí)》、《洪水過(guò)后對(duì)飲食、消毒、預(yù)防疾病的主要事項(xiàng)》、《冬季飯菜如何保溫的管理》。

3、本學(xué)期保育老師分別以年級(jí)組為單位舉行了保育技能比賽：小班年級(jí)組開展了穿衣服比賽；中班年級(jí)組開展了講故事比賽；大班年級(jí)組開展了折紙比賽。奪得年級(jí)組魁冠的分別是小二班李元秀老師、中六班的林方老師、大一班周英君老師。

4、由于本學(xué)期是很特別一學(xué)期，國(guó)慶期間寧波遇到了前所未有的臺(tái)風(fēng)“菲特”侵襲，使我園小班班級(jí)遭到嚴(yán)重的水澇，6個(gè)班級(jí)幼兒和教師的用品受到損壞你，為了使幼兒園財(cái)產(chǎn)損失降低到最少，保育老師在園領(lǐng)導(dǎo)的帶領(lǐng)和指揮下，一個(gè)個(gè)忘記了自己并不年輕的身軀，毫無(wú)怨言帶頭扛起了笨重的東西在水里一趟一趟的來(lái)回搬動(dòng)著東西，使受淹的物品移到干燥的地方后馬上進(jìn)行整理清洗和消毒，為幼兒園早日恢復(fù)開學(xué)做了前期的準(zhǔn)備。對(duì)我印象比較深的是在一次從4樓搬床到一樓，由于一時(shí)沒有想到門口的把手，搬到門口的時(shí)候速度太快了，把手碰到了盧維波老師的腰，可想而知當(dāng)時(shí)盧老師痛的哎呦一聲，就沒法動(dòng)了，在別的老師攙護(hù)下到醫(yī)務(wù)室進(jìn)行了簡(jiǎn)單的處理后，當(dāng)時(shí)正是幼兒中餐的時(shí)候，盧老師忍著疼痛馬上到食堂拿飯菜去了，這就是我們年過(guò)半百可親可敬負(fù)責(zé)的保育老師。還有很多老師每天默默無(wú)聞的保育工作，不能一一說(shuō)出他們的名字，在這里我要提一下中一班保育老師，前段時(shí)間班級(jí)里老鼠猖獗，每天把幼兒的被子弄壞，每天馮老師都要為幼兒清洗整理好被子給幼兒中午睡覺 二：衛(wèi)生保健

1、對(duì)于每天晨檢工作，不管刮風(fēng)下雨，我們保健醫(yī)生每天堅(jiān)守崗位，由于今年幼兒園在改造的特殊時(shí)期，我們克服了兩個(gè)地方晨檢的不便，早班醫(yī)生每天7:30前就站到單位門口，對(duì)小朋友做好“一摸、二看、三問(wèn)、四查”嚴(yán)格的晨檢工作，盡量不漏查一個(gè)幼兒，發(fā)現(xiàn)異?；騻魅静∏闆r做到及時(shí)隔離與治療，阻斷了傳染病蔓延。

2、對(duì)患病兒我們將隨時(shí)進(jìn)行觀察，按時(shí)喂藥；及時(shí)了解班級(jí)幼兒的健康狀況、與班級(jí)共同做好生病幼兒的全日觀察記錄、發(fā)現(xiàn)問(wèn)題及時(shí)匯報(bào)及時(shí)處理，堅(jiān)持晨檢與全日觀察相結(jié)合，并做到有記錄、有分析、有措施。

3、由于上級(jí)部門非常重視幼兒年齡段的身心發(fā)展健康，幼兒的體檢都是按幼兒生日去醫(yī)院去檢查，由于有些家長(zhǎng)不是很重視幼兒的體檢，增加了保健部門很大的工作量，拿到健康檔案本后沒有及時(shí)去醫(yī)院體檢，我們每月在無(wú)數(shù)次發(fā)短信及書面通知家長(zhǎng)及時(shí)體檢，總算收回了今年體檢幼兒的健康檔案本。積極配合上級(jí)衛(wèi)生保健部門做好疾病的防治、防疫工作。全面做好10月份洪水后的班級(jí)消毒工作。配合了區(qū)婦保所進(jìn)行了幼兒防齲齒慢性疾病工作，確保幼兒健康、快樂(lè)地成長(zhǎng)。由于人為因素?zé)o法控制的因素，本學(xué)期在11月份中四班發(fā)生了2例手足口病，在進(jìn)行了一系列的消毒和預(yù)防措施和班級(jí)老師的配合下，病情很快的得到了控制。

4、衛(wèi)生消毒工作

繼續(xù)堅(jiān)持衛(wèi)生消毒制度，對(duì)于毛巾、茶杯、玩具、被褥、圖書、空氣等進(jìn)行嚴(yán)格消毒，做到一人三巾一杯制，堅(jiān)持幼兒餐具每餐進(jìn)行消毒，每天多次開窗通風(fēng)，以保證空氣清新潔凈，并定期進(jìn)行空氣消毒，床單被褥在天氣好的情況下做到每周帶回家清洗暴曬一次、環(huán)境衛(wèi)生做到一周一大掃，每日二掃或拖抹二次；餐具餐餐消毒，玩具積木、各種物品定期消毒，責(zé)任到人，責(zé)任到班，從而大大提高了我園衛(wèi)生消毒工作質(zhì)量，預(yù)防和控制了傳染病的發(fā)生。

在保健部門和班級(jí)老師共同努力下，幼兒的出勤率一直很高，全園平均出勤率為 96 %。大班年級(jí)組平均出勤率為96.9；中班平均出勤率為96.6%；小班平均出勤率為95.1%%；全園幼兒的發(fā)病率平均1.25%，傳染病發(fā)病率為0.3%。

5、幼兒膳食：

為了提高幼兒菜譜的質(zhì)量與花色品種多樣化，三個(gè)園區(qū)由每個(gè)保健醫(yī)生每周輪流制定一周菜譜，然后總園進(jìn)行統(tǒng)一的調(diào)正配葷素搭配，營(yíng)養(yǎng)計(jì)算，保證幼兒每天有足夠的營(yíng)養(yǎng)素的攝入，經(jīng)常廚師協(xié)商，在廚師的配合下，烹飪質(zhì)量及色香、味有了很大的提高，讓幼兒吃好吃飽，班級(jí)午餐反饋好評(píng)率為99.3%，每月召開膳食會(huì)商量協(xié)商，討論改進(jìn)措施，廣泛聽取各園區(qū)教師、廚師、家長(zhǎng)的意見與建議，及時(shí)調(diào)整幼兒的菜譜花色，本學(xué)期繼續(xù)在豆?jié){上的基礎(chǔ)上進(jìn)行每周一次花色豆?jié){及牛奶，每周向家長(zhǎng)公布幼兒帶量食譜，讓家長(zhǎng)評(píng)價(jià)孩子在園的膳食，增加了幼兒膳食的透明度。

6、加強(qiáng)幼兒安全工作

在幼兒園一日生活中，我們?cè)谧龊酶鞣N衛(wèi)生保健工作的同時(shí)，十分重視安全教育，本學(xué)期在班級(jí)老師努力下無(wú)一例安全事故發(fā)生。

7、衛(wèi)生宣教

根據(jù)季節(jié)和發(fā)病情況，定期宣傳衛(wèi)生保健知識(shí)，宣傳育兒、護(hù)理等保健常識(shí)。本學(xué)期刊出了《秋季幼兒注意事情》《秋季預(yù)防發(fā)病小常識(shí)》《秋季幼兒保健小常識(shí)》《秋季幼兒易得哪些病》《秋冬季節(jié)的幼兒保健》《冬季幼兒正確睡姿》衛(wèi)生宣傳文章。并發(fā)到幼兒園網(wǎng)站

8、體弱兒的管理

幼兒體弱兒個(gè)案的管理是保健部門一項(xiàng)重要的管理工作，個(gè)案的名單一開學(xué)保健醫(yī)生對(duì)新入園的新生，去班級(jí)詢問(wèn)老師及結(jié)合班級(jí)調(diào)查表把哮喘、貧血、支氣管炎、反復(fù)呼吸感染等疾病建立檔案后進(jìn)行個(gè)案管理。肥胖兒在期初測(cè)量身高體重中得出，進(jìn)行個(gè)案跟蹤管理。每月進(jìn)班級(jí)詢問(wèn)幼兒發(fā)病情況，進(jìn)行個(gè)案分析，配合每月的身高體重測(cè)量并分析，及時(shí)向班級(jí)與家長(zhǎng)反饋。

班級(jí)老師做好在園的日常起居管理工作,對(duì)肥胖兒午餐適當(dāng)?shù)目刂?，要求老師?duì)肥胖兒午餐前要先吃湯、控制吃飯的速度、適當(dāng)控制飯量等可以有效的控制體重的措施，增加運(yùn)動(dòng)量。要求家長(zhǎng)幼兒在家不要吃或少吃高脂、高糖飲食、少吃零食和碳水化合物的飲料，餐前先吃湯、入睡前1小時(shí)不能進(jìn)食、加強(qiáng)體育鍛煉，如慢跑，打球、游泳等有氧運(yùn)動(dòng)。經(jīng)過(guò)一學(xué)期來(lái)對(duì)家長(zhǎng)提出幼兒在家的飲食運(yùn)動(dòng)等要求和意見及在園一日活動(dòng)中運(yùn)動(dòng)、餐點(diǎn)等有針對(duì)性的干預(yù)措施。本學(xué)期初有24名肥胖兒，期末經(jīng)過(guò)體重測(cè)量和評(píng)估新增1 名肥胖兒，有 3個(gè)轉(zhuǎn)為正常，實(shí)際增加 1名，對(duì)幼兒體檢中發(fā)現(xiàn)的疾病缺點(diǎn)及時(shí)與家長(zhǎng)進(jìn)行溝通進(jìn)行規(guī)范矯治，疾病矯治率達(dá)100%。本學(xué)期我園視力不良幼兒22個(gè)，我們每二個(gè)月進(jìn)行視力復(fù)查，在家長(zhǎng)和學(xué)校的共同努力下，本學(xué)期無(wú)一例幼兒發(fā)生貧血。

本學(xué)期體能測(cè)試技能優(yōu)秀率為88.7%，合格率為92.6%，不合格率7.4%。

體能優(yōu)秀率92.6%，合格率100%（全園平均率貝貝班未參加）。

9、加強(qiáng)家園聯(lián)系

為了讓家長(zhǎng)積極配合學(xué)校做好衛(wèi)生保健，我園通過(guò)告家長(zhǎng)書、網(wǎng)絡(luò)、手機(jī)短信讓每位家長(zhǎng)知曉幼兒衛(wèi)生保健工作的重要性，從而能積極配合幼兒園做好衛(wèi)生保健工作。

10、努力的方向

回顧這一學(xué)期的保健工作，有工作收獲也有工作不足，如體弱兒，肥胖兒的工作有待我們繼續(xù)加強(qiáng)努力，下學(xué)期，希望在全體老師的共同努力下，各類傳染病預(yù)防工作更加完善，使傳染病發(fā)病降到最低。

2014-1-13

寶韻幼兒園保健室

第二篇：保健總結(jié)

衛(wèi)生與保健工作總結(jié)

文殊鎮(zhèn)中心小學(xué) 夏婷婷

一學(xué)學(xué)期的衛(wèi)生保鍵工作結(jié)束了，靜下心來(lái)回顧在這一學(xué)期的工作，在各級(jí)領(lǐng)導(dǎo)、校長(zhǎng)的正確領(lǐng)導(dǎo)下，經(jīng)過(guò)全體師生的共同努力下。作了大量細(xì)致的工作，現(xiàn)將衛(wèi)生保鍵工作匯報(bào)如下；

一、防近工作

保護(hù)學(xué)生視力，尤其抓好學(xué)生近視防治工作是衛(wèi)生保鍵工作的一項(xiàng)極其重要而又繁重的工作。根據(jù)教委要求，利用班會(huì)向全校師生進(jìn)行有關(guān)防近知識(shí)講座，要求每個(gè)人認(rèn)真收聽，做到了解保護(hù)視力的重要性，自覺的養(yǎng)成良好的用眼衛(wèi)生習(xí)慣，要求每位教師隨時(shí)糾正學(xué)生的讀寫姿勢(shì)，學(xué)生之間互相提醒，自己有意識(shí)的養(yǎng)成等。

另外，利用課余時(shí)間對(duì)各班衛(wèi)生員進(jìn)行培訓(xùn)，充分發(fā)揮小衛(wèi)生員在班級(jí)里的監(jiān)督作用，使其防近工作盡善盡美。每天利用眼操時(shí)間對(duì)學(xué)生的眼操穴位進(jìn)行糾正和指導(dǎo)。使學(xué)生提高了防近的認(rèn)識(shí)，起到了愛護(hù)眼睛從現(xiàn)在做起的作用。在普查視力中對(duì)視力不良的學(xué)生讓其班主任了解在作位上進(jìn)行調(diào)換，在讀寫姿視上加以強(qiáng)化，并與其家長(zhǎng)聯(lián)系讓學(xué)生在家也要重視預(yù)防近視，使得防近視工作得以順利進(jìn)行。

二、傳染病防治

自開學(xué)以來(lái)，我校、市疾控中心和文殊鎮(zhèn)衛(wèi)生院作了大量的傳染病防治宣傳工作。

首先，我校對(duì)學(xué)生進(jìn)行晨、午檢，密切注意學(xué)生的身體變化，要求零報(bào)告制度，貫徹班主任初查，校醫(yī)復(fù)查的兩級(jí)晨檢把關(guān)制度，責(zé)任到人，記錄詳細(xì)、及時(shí)發(fā)現(xiàn)、及時(shí)報(bào)告。

2、加強(qiáng)環(huán)境衛(wèi)生管理，做到日掃日清，無(wú)衛(wèi)生死角，教室達(dá)到窗明幾凈，四壁無(wú)灰塵。

3、教育學(xué)生加強(qiáng)個(gè)人衛(wèi)生的清洗。建立小衛(wèi)生員日檢查，衛(wèi)生室抽查的制度。

4、加強(qiáng)教室及教學(xué)樓的通風(fēng)，指定專人管理，經(jīng)常開窗通風(fēng)，保持室內(nèi)空氣的新鮮。

5、加強(qiáng)宣傳，利用宣傳手冊(cè)向?qū)W生進(jìn)行宣傳傳染病的危害及預(yù)防。讓每位學(xué)生知道、了解、掌握一些常見傳染病的預(yù)防知識(shí)和方法。

6、發(fā)放傳染病防治宣傳單，保證學(xué)生人手一份。

四-六月份我校參加了文殊鎮(zhèn)衛(wèi)生院和中心組織的學(xué)生體檢及“如何防治傳染病”的講座活動(dòng)，在活動(dòng)中由校領(lǐng)導(dǎo)親自安排，校醫(yī)負(fù)責(zé)，對(duì)學(xué)生、教師較全面的就各種傳染病的發(fā)病癥狀、診治渠道、傳播方式、預(yù)防方法進(jìn)行詳細(xì)的宣傳。使宣傳工作得到了師生的認(rèn)可，受到了家長(zhǎng)的好評(píng)。

進(jìn)入四、五月流感和水痘高發(fā)期，跟據(jù)學(xué)校傳染病預(yù)防應(yīng)急方案。確定領(lǐng)導(dǎo)組織，建立健全各項(xiàng)宣傳教育制度、晨檢制度、消毒通風(fēng)制度和報(bào)告制度等。每天有專人負(fù)則通風(fēng)，每2天進(jìn)行一次消毒。堅(jiān)持把好晨檢關(guān)，做到早發(fā)現(xiàn)、早報(bào)告、早隔離、早治療。對(duì)晨、午檢中發(fā)現(xiàn)的發(fā)熱并達(dá)到37度5以上，伴有明顯流感樣癥狀（咳嗽或咽痛之一）的學(xué)生進(jìn)行隔離并通知家長(zhǎng)接回治療，直到癥狀消失，體溫正常解除隔離。解除后由就診的醫(yī)院或駐校醫(yī)生出具健康證明方可復(fù)課。

三、保鍵工作

衛(wèi)生保鍵工作是復(fù)雜的、艱巨的、責(zé)任重大的。是一項(xiàng)牽一發(fā)動(dòng)全身的工作，每一項(xiàng)工作都要全校師生參于的，每一項(xiàng)工作都是關(guān)系到師生的鍵康。既不同于醫(yī)院的醫(yī)生，又不同于衛(wèi)生防疫部門的醫(yī)務(wù)人員；即管預(yù)防又管治療，肩負(fù)則著長(zhǎng)身體、長(zhǎng)知識(shí)的特殊人群的保鍵工作。針對(duì)這一特點(diǎn)；

1、利用班會(huì)課向?qū)W生講解一些常見病的預(yù)防，用靈活多樣的教學(xué)手段，使學(xué)生在看看、聽聽、說(shuō)說(shuō)中輕松地學(xué)到了衛(wèi)生保鍵科普知識(shí)。從而養(yǎng)成好的衛(wèi)生習(xí)慣，增強(qiáng)學(xué)生的鍵康意識(shí)和自我保鍵能力。

2、利用市疾控中心向?qū)W生發(fā)放預(yù)防近視和傳染病防治手冊(cè)，使學(xué)生對(duì)衛(wèi)生保鍵有了更進(jìn)一步的認(rèn)識(shí)。

3、腿、手磕破一塊在成人眼里不當(dāng)回事，可在現(xiàn)在的孩子眼里那可是大的事了。在操場(chǎng)上玩不注意安全磕破、卡壞的學(xué)生很多，一天之內(nèi)就有十幾名學(xué)生來(lái)衛(wèi)生室上藥，無(wú)論創(chuàng)傷深淺、輕重，學(xué)生都帶著很痛苦的表情，少則1-2人攙扶著來(lái)，多則十來(lái)人扶著跟著一名學(xué)生來(lái)。

四、今后努力方向

由于每一項(xiàng)工作都按上級(jí)要求做了大量細(xì)仔工作，完成了各項(xiàng)任務(wù)。今后在工作中發(fā)揚(yáng)優(yōu)點(diǎn)克服不足，爭(zhēng)取更大的成績(jī)。

第三篇：保健總結(jié)

2016年下學(xué)期幼兒保健工作總結(jié)

這學(xué)期結(jié)束了。首先感謝在全體教職工的支持配合、團(tuán)結(jié)一致的積極工作下，促使我在自己的保健工作有了進(jìn)步。為了以后能更好地提高保健工作質(zhì)量，現(xiàn)將本學(xué)期工作做以下簡(jiǎn)單的總結(jié)：

一、學(xué)期中堅(jiān)持保教并重

從開學(xué)到學(xué)期結(jié)束托兒所的衛(wèi)生保健工作一直都貫入到了一日保教活動(dòng)中去的，使托兒所的衛(wèi)生保健工作得以正常開展，結(jié)合春夏季季節(jié)特點(diǎn)開展多種形式的體育活動(dòng)，各班根據(jù)幼兒年齡特點(diǎn)每天堅(jiān)持開展體育、戶外游戲活動(dòng)。

二、嚴(yán)格做好晨檢、全日健康跟蹤檢查工作

1、本學(xué)期堅(jiān)持嚴(yán)把晨檢關(guān)。托兒所嚴(yán)格按“一摸、二看、三問(wèn)、四查”來(lái)進(jìn)行；并杜絕危險(xiǎn)品的帶入，晨檢時(shí)有疑問(wèn)是及時(shí)向家長(zhǎng)了解幼兒在家的健康情況。

2、對(duì)患病兒我們將隨時(shí)進(jìn)行觀察，做好記錄，按時(shí)喂藥；及時(shí)了解班級(jí)幼兒的健康狀況、協(xié)助班級(jí)共同做好生病幼兒的全日觀察記錄、發(fā)現(xiàn)問(wèn)題及時(shí)匯報(bào)及時(shí)處理，堅(jiān)持晨檢與全日觀察相結(jié)合。

三、加強(qiáng)衛(wèi)生消毒工作

制定消毒記錄是非常必要的。因此我們堅(jiān)持衛(wèi)生消毒以及隔離制度，對(duì)于毛巾、玩具、圖書、空氣等進(jìn)行嚴(yán)格消毒，每天一早打開門窗，以保證空氣清新潔凈，并定期進(jìn)行空氣消毒，塑料玩具每周用消毒水浸泡消毒并日曬一次，環(huán)境衛(wèi)生做到一周一大掃，早晚各小掃或拖抹一次；便所和清潔工具每周用消毒水浸泡一次等，并嚴(yán)格對(duì)照制度做好各種消毒工作登記，做到：玩具積木、各種物品定期消毒，責(zé)任到人，責(zé)任到班。

四、學(xué)期以來(lái)的防病措施 本學(xué)期，每日為幼兒提供清潔安全的生活空間，尤其是在預(yù)防手足口和流感工作方面，積極采取有效措施，對(duì)缺席幼兒進(jìn)行，了解缺席原因，對(duì)患感冒、發(fā)熱的幼兒作好觀察隔離工作，并主動(dòng)向家長(zhǎng)做好解釋工作，取得家長(zhǎng)的配合。

五、加強(qiáng)家園聯(lián)系

為了讓家長(zhǎng)積極配合學(xué)校做好衛(wèi)生保健及安全工作，托兒所通過(guò)告知家長(zhǎng)書、電訪等形式開展一系列的家長(zhǎng)活動(dòng)，加強(qiáng)家園合作，使家長(zhǎng)掌握科學(xué)的育兒知識(shí)及常用衛(wèi)生保健知識(shí)，讓每位家長(zhǎng)懂得幼兒衛(wèi)生保健工作的重要性，從而能積極配合我們做好衛(wèi)生保健工作。

以上是我對(duì)這學(xué)期的保健工作總結(jié)，在這一學(xué)期里,我深知還存在有許多問(wèn)題，在以后的工作中我學(xué)會(huì)早發(fā)現(xiàn)，早處理，不斷的學(xué)習(xí)，不斷進(jìn)取吧！

周光珍

2016.7.27

第四篇：第一期學(xué)習(xí)總結(jié)

學(xué)習(xí)記錄

時(shí)間：7月26日至8月2日 學(xué)習(xí)內(nèi)容概述：

1、學(xué)習(xí)周志華《機(jī)器學(xué)習(xí)》前6章的內(nèi)容。

2、通讀英文文獻(xiàn)《Extreme Learning Machine》和《Outlier-robust extreme learning machine for regression problem》

學(xué)習(xí)筆記

1機(jī)器學(xué)習(xí)第一章：緒論 人類具有學(xué)習(xí)的能力，我們可以通過(guò)對(duì)經(jīng)驗(yàn)的利用，對(duì)新情況做出有效判斷。機(jī)器學(xué)習(xí)就是對(duì)“學(xué)習(xí)算法”的研究，通過(guò)“學(xué)習(xí)算法”，我們可以讓計(jì)算機(jī)通過(guò)經(jīng)驗(yàn)數(shù)據(jù)，來(lái)生成一個(gè)“算法”的模型。而算法的作用是在我們輸入一個(gè)新樣本時(shí)，能夠自動(dòng)輸出其對(duì)應(yīng)的預(yù)測(cè)值，也就是預(yù)測(cè)新樣本未知的“標(biāo)記”。而算法適用于新樣本的能力，就稱為“泛化”能力。

學(xué)習(xí)可以進(jìn)行分類。

1、若預(yù)測(cè)值為離散值，則此類學(xué)習(xí)為“分類”；若預(yù)測(cè)值為連續(xù)值，則此類學(xué)習(xí)為“回歸”。

2、訓(xùn)練數(shù)據(jù)有標(biāo)記信息，此類學(xué)習(xí)為“監(jiān)督學(xué)習(xí)”，否則為“無(wú)監(jiān)督學(xué)習(xí)”。

由于學(xué)習(xí)過(guò)程總是基于有限樣本來(lái)進(jìn)行訓(xùn)練的，那么就會(huì)出現(xiàn)多個(gè)假設(shè)都能與訓(xùn)練集都表現(xiàn)一致的情況，我們將這多個(gè)假設(shè)的集合稱之為“版本空間”。為了得出確定的學(xué)習(xí)結(jié)果，學(xué)習(xí)算法在學(xué)習(xí)過(guò)程中就必須具有對(duì)某種類型假設(shè)的偏好，即“歸納偏好”。這個(gè)“偏好”在具體的學(xué)習(xí)算法中是如何體現(xiàn)的？

2機(jī)器學(xué)習(xí)第二章：模型評(píng)估與選擇

我們把學(xué)習(xí)機(jī)實(shí)際預(yù)測(cè)輸出與樣本的真實(shí)輸出之間的差異稱為“誤差”。其中學(xué)習(xí)器在訓(xùn)練集上的誤差稱為“訓(xùn)練誤差”或“經(jīng)驗(yàn)誤差”，在新樣本上的誤差稱為“泛化誤差”。

訓(xùn)練誤差為零的學(xué)習(xí)器，通常并不是一個(gè)好的學(xué)習(xí)器，因?yàn)槠浜芸赡艹霈F(xiàn)“過(guò)擬合”的問(wèn)題，即把訓(xùn)練樣本本身的一些“特點(diǎn)”當(dāng)做潛在樣本的“性質(zhì)”進(jìn)行學(xué)習(xí)。反之，未能充分學(xué)習(xí)訓(xùn)練樣本的“性質(zhì)”，則會(huì)導(dǎo)致“欠擬合”的問(wèn)題。

我們希望的是學(xué)習(xí)器的“泛化誤差”盡可能小，在實(shí)際應(yīng)用中，我們常以測(cè)試集上的“測(cè)試誤差”作為“泛化誤差”的近似。故對(duì)于數(shù)據(jù)集D，我們需要對(duì)其進(jìn)行處理，從中產(chǎn)生出訓(xùn)練集S和測(cè)試集T。（原則：測(cè)試集應(yīng)該盡可能與訓(xùn)練集互斥。）常用方法有留出法、k折交叉驗(yàn)證法、自助法（內(nèi)含分層抽樣和多次試驗(yàn)的問(wèn)題）。

1、留出法就是簡(jiǎn)單劃分。

2、交叉驗(yàn)證法，（p26頁(yè)圖2.2.）

將D劃分為k個(gè)相同數(shù)量的子集，將k-1個(gè)子集用作訓(xùn)練集，1個(gè)子集用作測(cè)試集，然后不斷更換作為測(cè)試集的子集，進(jìn)行k次訓(xùn)練和測(cè)試。

3、自助法

假設(shè)D中包含m個(gè)樣本，有放回地從D中采樣m個(gè)樣本放入D’中，將D’ 作為訓(xùn)練樣本，根據(jù)概率會(huì)有接近36.8%的樣本未被抽取，這一部分未被抽取的樣本就作為測(cè)試集。自助法在數(shù)據(jù)集較小的時(shí)候作用很大。

但在學(xué)習(xí)算法確定后，我們還是要利用數(shù)據(jù)集D進(jìn)行重新訓(xùn)練。

找好S和T后，我們就需要找到對(duì)測(cè)試進(jìn)行評(píng)價(jià)的標(biāo)準(zhǔn)，就是“性能度量”?；貧w任務(wù)中最常用的性能度量就是“均方誤差”。而分類任務(wù)（二分類為例）中，我們可以使用錯(cuò)誤率、精度、查準(zhǔn)率、查全率、ROC曲線、AUC曲線等來(lái)進(jìn)行度量。

1、錯(cuò)誤率、精度，略。

2、查準(zhǔn)率P與查全率R。

TPTPP?R?，P與R是一對(duì)矛盾（大體上負(fù)相關(guān)）的度量。

TP?FPTP?FNP-R曲線是以P為縱軸，R為橫軸作的圖?！捌胶恻c(diǎn)BEP”是查全率=查準(zhǔn)率

2?P?R時(shí)的取值，可以作為比較的標(biāo)準(zhǔn)。更常用的還有F1度量，F(xiàn)1?，考慮

P?R到側(cè)重點(diǎn)不同還有F1的一般形式F?。（見p32頁(yè)）

當(dāng)遇到需要綜合考慮多個(gè)二分類混淆矩陣時(shí)，比如多分類任務(wù)的兩兩類別組合，則需要考慮“宏F1”和“微F1”的概念（見p32頁(yè)）

3、ROC曲線，以及AUC值。ROC 曲線縱軸是“真正例率”TPR，橫軸是“假正例率”FPR。

TPFPTPR?FPR?，AUC為ROC曲線下各部分面積求和，反映TP?FNTN?FP的是樣本預(yù)測(cè)的“排序質(zhì)量”。

當(dāng)然現(xiàn)實(shí)中也會(huì)出現(xiàn)不同的錯(cuò)誤類型，造成不同代價(jià)的損失，所以我們可以為錯(cuò)誤賦予“非均等代價(jià)”。在“非均等代價(jià)”下，我們希望最小化的不再是錯(cuò)誤次數(shù)，而是“總體代價(jià)”。（見p36式2.23）

對(duì)單個(gè)學(xué)習(xí)器進(jìn)行評(píng)價(jià)，我們假設(shè)測(cè)試樣本是從泛化錯(cuò)誤率為?的樣本總體中獨(dú)立采樣而成，求測(cè)試錯(cuò)誤率為?的概率，那么可得這種情況符合二項(xiàng)分布。那么反之，我們可以通過(guò)“二項(xiàng)檢驗(yàn)”來(lái)對(duì)?的假設(shè)進(jìn)行檢驗(yàn)。如p39頁(yè)所示，可以根據(jù)測(cè)試錯(cuò)誤率推測(cè)泛化錯(cuò)誤率的大小和取該值的概率，每一個(gè)（顯著度/置信度）對(duì)應(yīng)一個(gè)臨界值。這是單一測(cè)試錯(cuò)誤率的性能測(cè)試方法。

當(dāng)我們有多個(gè)測(cè)試錯(cuò)誤率時(shí)，我們可以采用“t檢驗(yàn)”法，進(jìn)行檢測(cè)。（明白用法，原理不明，需要重新學(xué)習(xí)概率論相應(yīng)部分的內(nèi)容）對(duì)于兩個(gè)學(xué)習(xí)器學(xué)習(xí)性能是否相同，我們可以利用交叉檢驗(yàn)t驗(yàn)證，也需要用到概率論相應(yīng)內(nèi)容。

3機(jī)器學(xué)習(xí)第三章：線性模型

線性模型試圖學(xué)得一個(gè)通過(guò)屬性的線性組合來(lái)預(yù)測(cè)的函數(shù)?！熬€性回歸”試圖學(xué)得一個(gè)線性模型以盡可能準(zhǔn)確地預(yù)測(cè)實(shí)值輸出標(biāo)記?；诰秸`差最小化來(lái)進(jìn)行模型求解的方法稱為“最小二乘法”。在線性回歸中最小二乘法就是找到一條直線，使所有樣本到直線上的歐氏距離最小。（p55中當(dāng)樣本由d個(gè)屬性描述的情況下的矩陣求導(dǎo)運(yùn)算不能讀懂）

那么推廣開來(lái)，我們可以得到“廣義線性模型”，即考慮單調(diào)可微函數(shù)g(.)（稱為聯(lián)系函數(shù)），令y?g?1(wTx?b)。前面談到了如何用線性模型和處理回歸問(wèn)題，那么如何利用線性模型來(lái)處理分類問(wèn)題呢？最理想的分類模型是階躍函數(shù)，但是我們?yōu)榱藵M足可微的條件，我們可以采用“對(duì)數(shù)幾率函數(shù)”來(lái)替代階躍函數(shù)。（關(guān)于p59頁(yè)最優(yōu)解的概率分析不明白；3.4中p61至p63的矩陣運(yùn)算不理解）

?在前面的學(xué)習(xí)中，我們大多討論的都是“二分類”的學(xué)習(xí)器。面對(duì)現(xiàn)實(shí)中的多分類問(wèn)題，我們可以要學(xué)習(xí)如何將多分類問(wèn)題拆解成二分類問(wèn)題。經(jīng)典拆分策略有“一對(duì)一”、“一對(duì)其余”、“多對(duì)多”，OVO和OVR分類示意可以參考p64圖3.4。MVM的正反類構(gòu)造需要特殊設(shè)計(jì)，比如最常用的“糾錯(cuò)輸出碼”ECOC。編碼、解碼過(guò)程參考p65的圖3.5，可能預(yù)測(cè)的編碼不屬于任何一類，即“出錯(cuò)”，但只需找到最接近的一類將其歸入，這就是“糾錯(cuò)”的過(guò)程。

前面的分類都有一個(gè)共同的基本假設(shè)，即不同類別的訓(xùn)練樣例相當(dāng)。但是現(xiàn)實(shí)中“類別不平衡”的情況，即分類任務(wù)中不同類別的訓(xùn)練例數(shù)目差別很大的情況。這種情況下利用原始數(shù)據(jù)進(jìn)行訓(xùn)練，可能讓學(xué)習(xí)機(jī)將所有樣本都分為數(shù)量上占絕對(duì)優(yōu)勢(shì)的一類來(lái)降低訓(xùn)練誤差。特別若是訓(xùn)練集是真實(shí)樣本無(wú)偏采樣的假設(shè)不成立時(shí)，問(wèn)題會(huì)更加突出。對(duì)于這種情況，我們可以采用“欠采樣”、“過(guò)采樣”、“閾值移動(dòng)”。

4機(jī)器學(xué)習(xí)第四章：決策樹

決策樹是一種常見的機(jī)器學(xué)習(xí)方法。一般的一顆決策樹包含一個(gè)根節(jié)點(diǎn)、若干個(gè)內(nèi)部節(jié)點(diǎn)和若干個(gè)葉節(jié)點(diǎn)。葉節(jié)點(diǎn)對(duì)應(yīng)于決策結(jié)果其他每個(gè)節(jié)點(diǎn)對(duì)應(yīng)于一個(gè)屬性測(cè)試；每個(gè)節(jié)點(diǎn)包含的樣本集合根據(jù)屬性測(cè)試的結(jié)果被劃分到子節(jié)點(diǎn)中；根節(jié)點(diǎn)包含樣本全集。根據(jù)p74圖4.2可知，有三種情況會(huì)導(dǎo)致遞歸返。

1、節(jié)點(diǎn)包含的樣本標(biāo)記都相同。

2、節(jié)點(diǎn)內(nèi)樣本屬性都相同。

3、節(jié)點(diǎn)內(nèi)沒有樣本了。在算法中，最關(guān)鍵的是要如何選擇最優(yōu)劃分屬性。我們希望決策樹的分支節(jié)點(diǎn)包含的樣本盡可能屬于同一類標(biāo)記，即節(jié)點(diǎn)“純度”越來(lái)越高。

“信息熵ENT”（p75 式4.1）是度量樣本集合純度最常用的一種指標(biāo)（ID3決策樹）。選擇劃分屬性時(shí)我們可以計(jì)算出假設(shè)劃分每個(gè)屬性a所對(duì)應(yīng)的“信息增益Gain”（p75 式4.2），選擇信息增益最大的屬性來(lái)劃分，因?yàn)檫@意味著“純度提升”越大。

但是增益準(zhǔn)則對(duì)選擇可取數(shù)目較多的屬性作為劃分對(duì)象有所偏好，為了平衡我們引入屬性的“固有值”概念以及“增益率”的概念，增益率準(zhǔn)則對(duì)可取數(shù)目較少的屬性有所偏好。故一種啟發(fā)性選擇是從信息增益高于平均水平的屬性中選陣容增益率最高的。此外還有基尼指數(shù)（CART決策樹）可用來(lái)度量純度，選擇劃分屬性。

那么為了緩解“過(guò)擬合”問(wèn)題，在決策樹學(xué)習(xí)中我們通常采用“剪枝”的手段。剪枝可分為“預(yù)剪枝”和“后剪枝”。

“預(yù)剪枝”方法采用測(cè)試集驗(yàn)證剪枝前后的精度，只有精度提高才允許劃分。此法可以降低過(guò)擬合風(fēng)險(xiǎn)，還顯著減少了決策樹德訓(xùn)練時(shí)間開銷和測(cè)試時(shí)間開銷，但也帶來(lái)了欠擬合的風(fēng)險(xiǎn)。

“后剪枝”方法首先需要訓(xùn)練一棵完整的決策樹，然后再由葉至根地對(duì)決策樹進(jìn)行剪枝，這種方法通常比預(yù)剪枝保留更多的分支，一般情況下“后剪枝”欠擬合風(fēng)險(xiǎn)小，泛化性能優(yōu)，但訓(xùn)練時(shí)間開銷大得多。

前面討論的都是離散的屬性值，那么為了處理連續(xù)的屬性值，我們應(yīng)該采用“二分法”進(jìn)行處理（C4.5決策樹）。若有n個(gè)元素，則我們考慮采用n-1個(gè)中位點(diǎn)作為候選劃分點(diǎn)，來(lái)計(jì)算信息增益，選擇劃分點(diǎn)。另外，若當(dāng)前節(jié)點(diǎn)劃分的屬性為連續(xù)值，其后代仍可對(duì)此屬性進(jìn)行劃分。

再來(lái)討論如何對(duì)“有缺失屬性值的訓(xùn)練樣例”來(lái)進(jìn)行劃分。我們可以利用每個(gè)屬性中未缺失屬性的樣本和其占該節(jié)點(diǎn)樣本比例來(lái)計(jì)算GAIN選擇劃分屬性（p87 式4.12）。在劃分缺失該劃分屬性的樣本時(shí)，以不同權(quán)值將該樣本劃入子節(jié)點(diǎn)，相當(dāng)于將一個(gè)樣本“分割”。

繼續(xù)擴(kuò)展，我們可以考慮，現(xiàn)在每個(gè)節(jié)點(diǎn)的劃分我們都是基于單一屬性值來(lái)進(jìn)行的。但在學(xué)習(xí)類似p91圖4.12 這樣的分類任務(wù)時(shí)，會(huì)相當(dāng)復(fù)雜，故我們可以考慮，將節(jié)點(diǎn)由“單變量決策”轉(zhuǎn)為“多變量決策”，將“軸平行決策樹”轉(zhuǎn)化為“斜決策樹”甚至更復(fù)雜的決策樹。（未深入學(xué)習(xí)）

5機(jī)器學(xué)習(xí)第五章：神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)是具有適應(yīng)性的簡(jiǎn)單單元組成的廣泛并行互聯(lián)的網(wǎng)絡(luò)，他的組織能模擬生物神經(jīng)系統(tǒng)對(duì)真實(shí)世界作出的交互反映。

“M-P神經(jīng)元模型”，神經(jīng)元接收到來(lái)自n個(gè)其他神經(jīng)元傳遞過(guò)來(lái)的輸入信號(hào)，這些輸入信號(hào)通過(guò)帶權(quán)值的連接進(jìn)行傳遞，神經(jīng)元接收到的總輸入值將于神經(jīng)元的“閾值”進(jìn)行比較，然后通過(guò)“激活函數(shù)”處理以產(chǎn)生神經(jīng)元的輸出。將這樣的神經(jīng)元按一定的層次結(jié)構(gòu)連接起來(lái)，就得到了神經(jīng)網(wǎng)絡(luò)。

“感知機(jī)”由兩層神經(jīng)元組成。輸入層接受外界信號(hào)之后傳遞給輸出層，輸出層為M-P神經(jīng)元。在y?f(?iwixi??)這個(gè)簡(jiǎn)單的公式中，我們可以將θ視為一個(gè)固定輸入為-1的“啞節(jié)點(diǎn)”所對(duì)應(yīng)的連接權(quán)重wn?1，這樣閾值和權(quán)重的學(xué)習(xí)就可以統(tǒng)一為權(quán)重的學(xué)習(xí)（這在矩陣運(yùn)算中尤其突出）。學(xué)習(xí)過(guò)程是通過(guò)錯(cuò)誤的程度對(duì)權(quán)重進(jìn)行調(diào)整。

感知學(xué)習(xí)機(jī)只能解決線性問(wèn)題，那么要解決非線性可分問(wèn)題，則必須考慮使用多層神經(jīng)網(wǎng)絡(luò)。常見的神經(jīng)網(wǎng)絡(luò)是形如p101圖5.6 的層級(jí)結(jié)構(gòu)，每層神經(jīng)元與下一層神經(jīng)元全互聯(lián)，神經(jīng)元之間不存在同層連接，也不存在跨層連接，這種神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)通常稱為“多層前饋神經(jīng)網(wǎng)絡(luò)MLFNs”。其輸入層神經(jīng)元僅是接受輸入，不進(jìn)行函數(shù)處理，隱層與輸出層包含功能神經(jīng)元。

神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程，就是根據(jù)訓(xùn)練數(shù)據(jù)來(lái)調(diào)整神經(jīng)元之間的連接權(quán)；換言之，神經(jīng)網(wǎng)絡(luò)“學(xué)”到的東西，蘊(yùn)藏在連接權(quán)與閾值中。

欲訓(xùn)練多層網(wǎng)絡(luò)，簡(jiǎn)單感知機(jī)學(xué)習(xí)規(guī)則顯然不夠了，需要更強(qiáng)大的學(xué)習(xí)算法“誤差逆?zhèn)鞑ニ惴˙P”就是其中最杰出的代表。如p102的圖5.7所示的網(wǎng)絡(luò)，有（d+l+1）q+l個(gè)參數(shù)需確定。BP算法基于“梯度下降”策略以目標(biāo)的負(fù)梯度方向參數(shù)進(jìn)行調(diào)整。

對(duì)于每個(gè)訓(xùn)練樣例，現(xiàn)將輸入示例提供給輸出層神經(jīng)元，然后逐層將信號(hào)前傳，直到產(chǎn)生輸出層的結(jié)果；然后計(jì)算輸出層的誤差，然后將誤差逆向傳播至隱層神經(jīng)元，最后根據(jù)隱誤差對(duì)連接權(quán)和閾值進(jìn)行調(diào)整，迭代過(guò)程循環(huán)進(jìn)行。（具體迭代的數(shù)學(xué)計(jì)算過(guò)程還不是很明白）

“標(biāo)準(zhǔn)BP算法”每次僅針對(duì)一個(gè)訓(xùn)練樣本更新連接權(quán)和閾值，而“累計(jì)誤差逆?zhèn)鞑ァ笔敲繉W(xué)習(xí)一輪才更新一遍參數(shù)，降低參數(shù)更新的頻率。

已經(jīng)證明只需一個(gè)包含足夠多神經(jīng)元的隱層，多層前饋網(wǎng)絡(luò)就能以任意精度逼近任意復(fù)雜度的連續(xù)函數(shù)（如何設(shè)著隱層神經(jīng)元個(gè)數(shù)仍是未決問(wèn)題，實(shí)際中通常依靠“試錯(cuò)法”）。由于其強(qiáng)大的表示能力，BP神經(jīng)網(wǎng)絡(luò)經(jīng)常遭遇“過(guò)擬合”問(wèn)題。有兩種策略可以用來(lái)緩解“過(guò)擬合”。

1、早停，思想與決策樹的剪枝無(wú)二致。

2、正則化：在誤差目標(biāo)函數(shù)中增加一個(gè)用于描述網(wǎng)絡(luò)復(fù)雜度的部分。例如連接權(quán)和閾值的平方和，使網(wǎng)絡(luò)輸出更加光滑，來(lái)緩解過(guò)擬合。如p107 式5.17。

其余常見的神經(jīng)網(wǎng)絡(luò)還有RBF網(wǎng)絡(luò)、ART網(wǎng)絡(luò)、SOM網(wǎng)絡(luò)等。由于之前的聚類學(xué)習(xí)中接觸無(wú)監(jiān)督學(xué)習(xí)比較多，故只看了其中關(guān)于“自適應(yīng)諧振理論網(wǎng)絡(luò)ART”和“自組織映射網(wǎng)絡(luò)SOM”的內(nèi)容。競(jìng)爭(zhēng)型學(xué)習(xí)是一種神經(jīng)網(wǎng)絡(luò)中常用的無(wú)監(jiān)督學(xué)習(xí)策略，在使用該策略時(shí)，網(wǎng)絡(luò)的輸出神經(jīng)元相互競(jìng)爭(zhēng)，每一時(shí)刻僅有一個(gè)競(jìng)爭(zhēng)獲勝的神經(jīng)元被激活，其他神經(jīng)元被抑制。這種機(jī)制稱為“勝者通吃”原則。

ART網(wǎng)絡(luò)由比較層、識(shí)別層、識(shí)別閾值、和重置模塊構(gòu)成。比較層接收樣本，將其傳遞給識(shí)別層，（識(shí)別層每個(gè)神經(jīng)元對(duì)應(yīng)一個(gè)模式類）計(jì)算輸入向量與識(shí)別層的相似度，歸入相似度最大且大于閾值的識(shí)別層神經(jīng)元，同時(shí)更新連接權(quán)；若相似度都不大于閾值，則增設(shè)一個(gè)新的神經(jīng)元，代表向量就為當(dāng)前輸入向量。可見，識(shí)別閾值作用很大，決定了分類的細(xì)致程度。

SOM網(wǎng)絡(luò)，能將高維輸入數(shù)據(jù)映射到低維空間（通常是二維），同時(shí)保持輸入數(shù)據(jù)在高維空間的拓?fù)浣Y(jié)構(gòu)，將高維空間中相似的樣本點(diǎn)映射到網(wǎng)絡(luò)輸出層中的臨近神經(jīng)元。SOM網(wǎng)絡(luò)中的輸出層神經(jīng)元以矩陣方式排列在二維空間中，每個(gè)輸出層神經(jīng)元都擁有一個(gè)權(quán)向量，網(wǎng)絡(luò)在接收輸入向量后，將會(huì)確定輸出層獲勝神經(jīng)元，它決定了該輸入向量在低維空間中的位置。

SOM的訓(xùn)練過(guò)程：在接受一個(gè)訓(xùn)練樣本后，每個(gè)輸出層神經(jīng)元會(huì)計(jì)算該樣本與自身攜帶的權(quán)向量之間的距離，距離最近的神經(jīng)元成為競(jìng)爭(zhēng)獲勝者，然后最佳匹配單元及其鄰近神經(jīng)元的權(quán)向量將被調(diào)整，以使得這些權(quán)向量與當(dāng)前輸入樣本的距離減小。此過(guò)程不斷迭代，直至收斂。

前面介紹的神經(jīng)網(wǎng)絡(luò)大多是以單隱層為例。理論上來(lái)說(shuō)，參數(shù)越多、復(fù)雜度越高的模型能完成更復(fù)雜的學(xué)習(xí)任務(wù)。隨著云計(jì)算、大數(shù)據(jù)時(shí)代的到來(lái)，計(jì)算能力的大幅提高可以緩解訓(xùn)練的低效性，訓(xùn)練數(shù)據(jù)的大幅增加可降低過(guò)擬合風(fēng)險(xiǎn)，于是以“深度學(xué)習(xí)”為代表的復(fù)雜模型開始受到人們的關(guān)注。神經(jīng)網(wǎng)絡(luò)的提高容量的方法就是增加隱層的數(shù)目和層數(shù)。（關(guān)于深度學(xué)習(xí)只是提到一個(gè)概念，可以繼續(xù)學(xué)習(xí)專門介紹深度學(xué)習(xí)的文章）Extreme Learning Machine

首先，極限學(xué)習(xí)機(jī)ELM是針對(duì)BP學(xué)習(xí)速度緩慢提出的。BP學(xué)習(xí)速度緩慢主要是由兩方面原因造成，一是“梯度下降”迭代策略本身的性質(zhì)問(wèn)題；二是每一次迭代的過(guò)程中，大量的參數(shù)（連接權(quán)、閾值）都需要參加迭代。ELM的主要優(yōu)勢(shì)在于，它可以隨意設(shè)定隱藏層的連接權(quán)、閾值，忽略輸出層偏置，然后通過(guò)數(shù)學(xué)分析，一次確定最優(yōu)的輸出層連接權(quán)。過(guò)程無(wú)需迭代，速度極快。

在引言中提到，文獻(xiàn)《Universal approximation using incremental feedforward networks with arbitrary input weights 》中證明，SLFNs只要激勵(lì)函數(shù)滿足無(wú)限可微，理論上即使是隨機(jī)生成的任意wi和bi其值固定不變，具有N個(gè)不同樣本，包含N個(gè)隱含層神經(jīng)元的SLFNs的訓(xùn)練誤差依然可以無(wú)限接近零。作者以此作為隨機(jī)產(chǎn)生wi和bi的依據(jù)。但這并不表示這隨機(jī)產(chǎn)生的不會(huì)對(duì)學(xué)習(xí)結(jié)果造成影響，相反，這造成了學(xué)習(xí)結(jié)果有較大的隨機(jī)性和不穩(wěn)定性。

文獻(xiàn)的第二部分緊接著對(duì)ELM中要使用的Moore-Penrose 矩陣廣義求逆（看不懂）和最小二乘解進(jìn)行了介紹，同時(shí)證明了通過(guò)Moore-Penrose 求逆方法對(duì)Ax=y中A矩陣求逆得出的矩陣G，就是Ax=y對(duì)應(yīng)的最小二乘法的解之一，同時(shí)它還具有所有解矩陣中范數(shù)最小的性質(zhì)。這個(gè)性質(zhì)，使得wi值較小，可以一定程度上緩解“過(guò)擬合”的問(wèn)題，使得算法有較好的泛化性能，上面的Ax=y矩陣運(yùn)算，就對(duì)應(yīng)了ELM學(xué)習(xí)中的H??T。

介紹完ELM后，接著就是應(yīng)用環(huán)節(jié)。文章應(yīng)用了3個(gè)實(shí)例，以BP和SVM作為參照來(lái)證明了ELM的優(yōu)越性。

第一個(gè)應(yīng)用是利用加利福尼亞州的房子屬性對(duì)房子的價(jià)格進(jìn)行預(yù)測(cè)，一共進(jìn)行了50輪學(xué)習(xí)來(lái)取得平均效果。毫無(wú)疑問(wèn)ELM在速度上占盡優(yōu)勢(shì)，因?yàn)樗恍枰恍枰M(jìn)行一次求逆，而BP每一輪都需要迭代8000次（訓(xùn)練樣本數(shù)）。而且在效果上來(lái)說(shuō)，ELM測(cè)試誤差還更小些。

第二個(gè)應(yīng)用采取了“糖尿病預(yù)測(cè)”的二分類問(wèn)題，第三個(gè)采取了“森林覆蓋類型預(yù)測(cè)”的多分類問(wèn)題。結(jié)果都與第一個(gè)應(yīng)用相似。（具體來(lái)說(shuō)是怎么用ELM來(lái)產(chǎn)生離散的分類結(jié)果的？）

總體來(lái)說(shuō)，例證環(huán)節(jié)的思路非常清晰。從“連續(xù)函數(shù)的回歸問(wèn)題”到“二分類問(wèn)題”再到“多分類問(wèn)題”，令人信服。

ELM的優(yōu)越性總結(jié)為以下幾點(diǎn)：

1、速度快

2、泛化性能好

3、因?yàn)闆]有迭代過(guò)程，不要求激勵(lì)函數(shù)可微。

4、省去了一些復(fù)雜的參數(shù)比如學(xué)習(xí)率。Outlier-robust extreme learning machine for regression problems 這篇文獻(xiàn)針對(duì)ELM對(duì)離群點(diǎn)（異常數(shù)據(jù)）敏感的問(wèn)題提出了一種改進(jìn)的“離群點(diǎn)魯棒性極限學(xué)習(xí)機(jī)”(ORELM)。

文獻(xiàn)指出，目前所有的ELM及其變體都是采用“二范數(shù)”的目標(biāo)函數(shù)來(lái)對(duì)學(xué)習(xí)機(jī)進(jìn)行訓(xùn)練的，但是“二范數(shù)”會(huì)放大離群點(diǎn)所帶來(lái)的誤差。因此此文獻(xiàn)采用了“一范數(shù)”的目標(biāo)函數(shù)來(lái)訓(xùn)練學(xué)習(xí)機(jī)，因?yàn)橐环稊?shù)對(duì)于異常數(shù)據(jù)的有更好的魯棒性。另外為了得出目標(biāo)函數(shù)的最優(yōu)解，文獻(xiàn)采用了增強(qiáng)的拉格朗日乘數(shù)法（ALM）來(lái)迭代求解。（還未理解此乘數(shù)法的具體數(shù)學(xué)過(guò)程）

文獻(xiàn)第二部分，介紹了兩種極限學(xué)習(xí)機(jī)的變體。分別是正則化極限學(xué)習(xí)機(jī)Regularized extreme learning machine(RELM)，和基于RELM提出的權(quán)重正則化極限學(xué)習(xí)機(jī)Weighted regularized extreme learning machine(WRELM)。RELM的提出是為了在ELM的基礎(chǔ)上提高泛化性能，故在目標(biāo)函數(shù)中添加了一個(gè)關(guān)于連接權(quán)矩陣二范數(shù)的正則化項(xiàng)，其余沒有改變。WRELM則是在RELM運(yùn)算結(jié)束后，將每個(gè)樣本帶入網(wǎng)絡(luò)求出對(duì)應(yīng)偏差，高偏差的樣本將被賦予小權(quán)值，借此提高魯棒性。然后重新利用RELM進(jìn)行學(xué)習(xí)，得到最終結(jié)果。

文獻(xiàn)指出了WRELM存在的問(wèn)題，一方面很依賴RELM，另一方面當(dāng)不存在離群點(diǎn)時(shí)，好的樣本點(diǎn)的權(quán)值也會(huì)受到影響。

接著文獻(xiàn)就提出了利用1范數(shù)作為目標(biāo)函數(shù)的ORELM。這是一個(gè)帶約束的凸優(yōu)化問(wèn)題，可以利用ALM方法進(jìn)行迭代求解。文獻(xiàn)提出，當(dāng)數(shù)據(jù)存在異常時(shí)，ORELM有最好的魯棒性，具有實(shí)用性。

應(yīng)用環(huán)節(jié)也是采用了三個(gè)實(shí)例對(duì)方法進(jìn)行驗(yàn)證。一是利用函數(shù)SinC對(duì)帶有離群點(diǎn)的數(shù)據(jù)進(jìn)行回歸學(xué)習(xí)。對(duì)比了含有10、20、40、80個(gè)離群點(diǎn)的訓(xùn)練集的回歸效果，還分為固定偏離值的離群點(diǎn)和某區(qū)間內(nèi)任意偏離值的離群點(diǎn)兩種情況。（這里說(shuō)的偏離都是標(biāo)記值的偏離，沒有討論屬性值的偏離）二是利用乳腺癌良性惡性的二分類問(wèn)題來(lái)進(jìn)行學(xué)習(xí)。顯然ORELM的精度更高，這一點(diǎn)在“受污染數(shù)據(jù)”比例上升后更加明顯。

ORELM的優(yōu)越性表現(xiàn)為：

1、計(jì)算速度較快，雖然比ELM慢很多，但比WRELM快。

2、面對(duì)含有異常數(shù)據(jù)的樣本集時(shí)學(xué)習(xí)的魯棒性比較強(qiáng)，比文獻(xiàn)綜述提及的其他ELM變體都要強(qiáng)。

第五篇：集訓(xùn)隊(duì)第一期總結(jié)

集訓(xùn)隊(duì)第一期總結(jié)

不知不覺江農(nóng)集訓(xùn)隊(duì)第一期就這么愉快的結(jié)束了，還記得開幕當(dāng)天，由于有隊(duì)員遲到我們整體受罰，A,C組男生俯臥撐150個(gè)，女生深蹲150個(gè)，B組男生俯臥撐80個(gè)，女生深蹲80個(gè)，而隊(duì)長(zhǎng)們翻倍。這讓我很感動(dòng)到，我們的綠源家長(zhǎng)們無(wú)論何時(shí)都陪我們一起分享快樂(lè)、承擔(dān)痛苦。幾天后，我們開始了正式的集訓(xùn)。大家都準(zhǔn)備著演情景劇，而我們第二組由于組員沒來(lái)齊，劇本又得重新編寫，我們從沒想過(guò)我們臨時(shí)編寫的劇本會(huì)比得過(guò)別人?？墒亲詈笪覀円馔獾哪玫搅说诙?。我覺得我在其中得到了很多，首先隊(duì)友間要相互信任，其次即使我們不知道結(jié)果會(huì)是哪種，我們都不應(yīng)該輕易放棄。即使我們失敗了，至少我們?cè)?jīng)努力過(guò)，沒有留下遺憾。

今天的集訓(xùn)是第一期集訓(xùn)的尾聲，我們這一次集訓(xùn)內(nèi)容是定向。在整個(gè)過(guò)程中，我們都很快樂(lè)與熱情，雖然多多少少有點(diǎn)小插曲，不過(guò)我覺得今天過(guò)得還是挺充實(shí)的。總之，在集訓(xùn)隊(duì)中我收獲了很多，友誼、快樂(lè)、信念等等，還有就是我開朗很多了，認(rèn)識(shí)了很多朋友，也不再沉默寡言，我能成為集訓(xùn)隊(duì)中的一員我覺得很開心。