第一篇：《人工智能的未來》讀后感

如何創(chuàng)造意識(shí)、思維，也許是人類認(rèn)識(shí)自然的最后難題，是意識(shí)對自己的回歸。作為著名發(fā)明家、作家、未來主義者，庫茲韋爾關(guān)于思維的研究和觀點(diǎn)獨(dú)特而驚人。他認(rèn)為不久的未來，計(jì)算機(jī)可以實(shí)現(xiàn)人類大腦新皮質(zhì)功能并超越人類，人類將與機(jī)器結(jié)合成為全新的物種。

假想某個(gè)浸泡在營養(yǎng)液中的大腦，用細(xì)細(xì)的導(dǎo)線與軀干相連。大腦對軀體動(dòng)作的意識(shí)，以及大腦發(fā)出的指令，通過導(dǎo)線雙向傳遞——此刻，你會(huì)認(rèn)為這還是一個(gè)生物學(xué)意義上的“人”嗎？

庫茲韋爾只是把“奇點(diǎn)”當(dāng)作一個(gè)絕佳的“隱喻”。這個(gè)隱喻就是，當(dāng)智能機(jī)器的能力跨越這一臨界點(diǎn)之后，人類的知識(shí)單元、連接數(shù)目、思考能力，將旋即步入令人暈眩的加速噴發(fā)狀態(tài)——一切傳統(tǒng)的和習(xí)以為常的認(rèn)識(shí)、理念、常識(shí)，將統(tǒng)統(tǒng)不復(fù)存在，所有的智能裝置、新的人機(jī)復(fù)合體將進(jìn)入“蘇醒”狀態(tài)。

在庫茲韋爾看來，人工智能的關(guān)鍵，并非通過物理手段制造出媲美、超越人腦的“非生物性智能機(jī)器”。這條路行不通。他給出的方法簡單有效：將人腦與電腦“嫁接”起來。

在本書中，庫茲韋爾用4章的篇幅（第3章：大腦新皮質(zhì)模型；第4章：人類的大腦新皮質(zhì)；第5章：舊腦；第6章：卓越的能力），精心構(gòu)筑了支撐他偉大預(yù)言的第一塊基石。這塊基石的目的，就是試圖將大腦新皮質(zhì)作為“新腦”的重要組成部分，與舊腦區(qū)別開來。

智能可以超越自然的局限，并依照自身的意志改變世界，這恐怕是世間最了不起的奇跡了。人類智能可以幫助我們克服生物遺傳的局限，并在這一進(jìn)程中改變自我。唯有人類能夠做到這一點(diǎn)。

人類智能之所以能夠產(chǎn)生與發(fā)展，源于這是一個(gè)可以對信息進(jìn)行編碼的世界。物理學(xué)的標(biāo)準(zhǔn)模型[3]會(huì)有數(shù)十個(gè)常量需要被精準(zhǔn)限定，否則無法產(chǎn)生原子，也就不會(huì)有所謂的恒星、行星、大腦，更不會(huì)有關(guān)于大腦的書籍。讓人不可思議的是，物理學(xué)定律及常數(shù)能夠精確到如此程度，以至于允許信息自身得以演化發(fā)展。

我們的第一個(gè)發(fā)明是口語，它使我們能夠用不同的話語來表達(dá)想法。隨后發(fā)明的書面語言，使我們能夠用不同形式來表達(dá)我們的想法。書面語言庫極大地?cái)U(kuò)展了我們無外力援助的大腦的能力，使我們能夠維持并擴(kuò)充我們的認(rèn)知基礎(chǔ)，這是一種遞歸結(jié)構(gòu)化的思想。

我們還開發(fā)了其他工具，通過利用這些工具，我們現(xiàn)在能用精確的信息術(shù)語來理解我們所屬的生物群落。我們正以極快的速度利用逆向工程法分析生物群落的構(gòu)成信息，包括大腦結(jié)構(gòu)的信息。我們現(xiàn)在擁有以人類基因組形式存在的生命目標(biāo)代碼，這項(xiàng)成就本身也是指數(shù)級發(fā)展的一個(gè)突出實(shí)例。

現(xiàn)在有一項(xiàng)涉及成千上萬個(gè)科學(xué)家和工程師的宏偉工程正在進(jìn)行中，他們正致力于理解智能程序的最好范例——人類大腦。這項(xiàng)工程的目標(biāo)是精確理解人類大腦的工作機(jī)制，然后通過這些已知的方法來更好地了解我們自身，并在必要的時(shí)候修復(fù)大腦，而與本書最密切相關(guān)的，就是創(chuàng)造出更加智能的機(jī)器。以前專屬于人類智能的許多任務(wù)以及活動(dòng)，現(xiàn)在能完全由電腦控制，更加精確，范圍也擴(kuò)大了。

理解、建模和模擬人類大腦的關(guān)鍵是對大腦新皮質(zhì)實(shí)施逆向工程，而大腦新皮質(zhì)是我們進(jìn)行循環(huán)分層思維的地方。

大腦也是這樣。它有一個(gè)類似的巨大的冗余組織，尤其是在新皮質(zhì)結(jié)構(gòu)中?；睘楹?，揭開人腦最基本的力量，包括其基本智力系統(tǒng)如何進(jìn)行辨識(shí)、記憶、預(yù)測。這些行為在新皮質(zhì)里不斷重復(fù)，產(chǎn)生了各種不同的想法。

01 史上著名的思想實(shí)驗(yàn)

這段歷史也展現(xiàn)了人類思維的局限性。為什么愛因斯坦能駕乘光束而不至于摔落（雖然他推斷實(shí)際上不可能駕乘光束），而成千上萬其他的觀察者和思考者卻不能借助這些并不復(fù)雜的方式來思考呢？一個(gè)共同的障礙就是大多數(shù)人難以摒棄并超越同輩人的思維觀念。

一個(gè)年輕人只需空想和筆紙就足以徹底改變物理學(xué)觀念，那么對于熟知之物，我們理應(yīng)能取得更深刻的認(rèn)識(shí)。

02 思考、記憶、聯(lián)想、記憶成級

03 大腦新皮質(zhì)負(fù)責(zé)以分層方式處理信息模式。只有哺乳動(dòng)物才擁有這種最新進(jìn)化的大腦結(jié)構(gòu)。大腦新皮質(zhì)負(fù)責(zé)感官知覺，認(rèn)知從視覺物體到抽象概念的各項(xiàng)事物，控制活動(dòng)，以及從空間定位到理性思考的推理以及語言——主要就是我們所說的“思考”。

靈長類動(dòng)物在進(jìn)化中的收獲是，大腦頂部的其余部分出現(xiàn)復(fù)雜的褶皺，伴隨有深脊、凹溝以及褶痕，它們擴(kuò)大了大腦皮質(zhì)的表面積。因?yàn)橛辛诉@些復(fù)雜的褶皺，大腦新皮質(zhì)成為人類大腦的主體，占其重量的80%。智人擁有一個(gè)巨大的前額，為擁有更大的大腦新皮質(zhì)奠定了基礎(chǔ)；而我們的額葉則是處理與高層次概念有關(guān)的更為抽象模式的場所。

1957年，蒙卡斯?fàn)柊l(fā)現(xiàn)了大腦新皮質(zhì)的柱狀組織。大量的實(shí)驗(yàn)揭示，皮層柱的神經(jīng)元結(jié)構(gòu)中確實(shí)存在重復(fù)的單元。我的觀點(diǎn)是，這種基本單位是模式識(shí)別器，同時(shí)也是大腦新皮質(zhì)的基本成分。我認(rèn)為這些識(shí)別器沒有具體的物理分界，它們以一種相互交織的方式緊密相連，所以皮層柱只是大量識(shí)別器的總和。

人類的大腦新皮質(zhì)中約有50萬個(gè)皮質(zhì)柱，每個(gè)皮質(zhì)柱占據(jù)約2毫米高、0.5毫米寬的空間，其中包含約6萬個(gè)神經(jīng)元，因此大腦新皮質(zhì)中總共有大約300億個(gè)神經(jīng)元。一項(xiàng)粗略的評估表明，皮質(zhì)柱中的每個(gè)識(shí)別模式包含大約100個(gè)神經(jīng)元，因此，大腦新皮質(zhì)大約共3億個(gè)識(shí)別模式。

雖然人類只擁有簡單的邏輯處理能力，但卻擁有模式識(shí)別這一強(qiáng)大的核心能力。為了進(jìn)行邏輯性思考，我們需要借助大腦新皮質(zhì)，而它本身就是一個(gè)最大的模式識(shí)別器。

一個(gè)精通某一特定領(lǐng)域的人大約掌握了10萬個(gè)知識(shí)點(diǎn)。涵蓋人類醫(yī)學(xué)知識(shí)的專家系統(tǒng)表明，一個(gè)人類醫(yī)學(xué)專家通常掌握了大約10萬個(gè)其所在領(lǐng)域的知識(shí)塊。從這個(gè)專家系統(tǒng)里識(shí)別某一知識(shí)塊并非易事，因?yàn)槊慨?dāng)某一個(gè)具體的知識(shí)點(diǎn)被檢索過后，就會(huì)呈現(xiàn)略微不同的面貌。

如果一個(gè)專家的核心知識(shí)大約為10萬個(gè)知識(shí)“點(diǎn)”（即模式），每個(gè)知識(shí)點(diǎn)的冗余系數(shù)約為100，這就要求我們存儲(chǔ)1000萬個(gè)模式。專家的核心知識(shí)以更為普遍、更為廣泛的專業(yè)知識(shí)為基礎(chǔ)，因此層級模式的數(shù)量可增加到3000萬到5000萬。我們?nèi)粘＿\(yùn)用到的“常識(shí)”的知識(shí)量甚至更大,實(shí)質(zhì)上，與“書中智慧”相比，“街頭智慧”對大腦新皮質(zhì)的要求更高。把這項(xiàng)包含進(jìn)去，再考慮到約為100的冗余系數(shù)，總量預(yù)計(jì)將超過1億個(gè)模式。我們的程序和行動(dòng)中也包含了模式，同樣也存儲(chǔ)在大腦皮質(zhì)區(qū)域內(nèi)，所以我預(yù)測人類大腦新皮質(zhì)的總?cè)萘坎⒎侵挥袛?shù)億個(gè)模式。我們的程序和行動(dòng)中也包含了模式，同樣也存儲(chǔ)在大腦皮質(zhì)區(qū)域內(nèi)，所以我預(yù)測人類大腦新皮質(zhì)的總?cè)萘坎⒎侵挥袛?shù)億個(gè)模式。這個(gè)粗略的統(tǒng)計(jì)與我在上文中做出的約有3億個(gè)模式識(shí)別器的估計(jì)緊密相關(guān)，第三章：大腦新皮質(zhì)模型

只有具備自聯(lián)想能力和特征恒常性能力，大腦新皮質(zhì)才能識(shí)別模式。思維模式分兩種：無目標(biāo)思維和導(dǎo)向式思維，做夢就是無目標(biāo)思維實(shí)例。

懷孕6到9個(gè)月時(shí)，胎兒的大腦新皮質(zhì)正在學(xué)習(xí)。他能聽到母親的心跳，這可能是音樂有節(jié)奏這一特點(diǎn)普遍存在于人類文化中的一個(gè)原因。大腦新皮質(zhì)不斷嘗試?yán)斫庀蚱涑尸F(xiàn)的輸入。如果一個(gè)特定層次不能完全處理并識(shí)別模式，就會(huì)被發(fā)送到相鄰更高層次。如果所有層次都不能成功識(shí)別某個(gè)模式，該模式就會(huì)被視為新模式。

在定向思維中，持續(xù)的思維風(fēng)暴會(huì)在我們的感官體驗(yàn)和嘗試中出現(xiàn)，我們的實(shí)際心理體驗(yàn)復(fù)雜混亂，由這些觸發(fā)模式的閃電風(fēng)暴組成，每秒發(fā)生約100次改變。

第四章：人類的大腦新皮質(zhì)

同一時(shí)間激活的細(xì)胞會(huì)聯(lián)系在一起，這就是著名的賀布型學(xué)習(xí)。

內(nèi)在集合：這些幾何都有相似的拓?fù)浣Y(jié)構(gòu)和突觸權(quán)重，而且不是由任何特定的經(jīng)驗(yàn)所塑造。當(dāng)新皮質(zhì)的某個(gè)區(qū)域受損時(shí)，新皮質(zhì)會(huì)繼續(xù)使用原始區(qū)域而不選擇受損區(qū)域附近的區(qū)域，因?yàn)榍罢吖ぷ餍矢摺?/p>

有一個(gè)普遍算法指引著新皮質(zhì)工作?？伤苄缘木窒扌裕菏褂眯缕べ|(zhì)的新區(qū)域來代替受損區(qū)域，重新習(xí)得的技能或某種知識(shí)會(huì)不如原有的好。

人工智能領(lǐng)域并不是嘗試復(fù)制人腦，而是要達(dá)到對等的技術(shù)。

第五章：舊腦

丘腦最顯著的作用是它與新皮質(zhì)的持續(xù)交流。借助兩個(gè)大腦半球，我們的工作記憶能夠同時(shí)跟蹤4個(gè)條目。雖然我們至今不清楚是丘腦管理著新皮質(zhì)還是新皮質(zhì)管理著丘腦，但兩者缺一不可。

感官信息流經(jīng)新皮質(zhì)，由新皮質(zhì)判定一種經(jīng)歷是否新穎，然后將其呈現(xiàn)給海馬體。新皮質(zhì)判定經(jīng)歷新穎要么是因?yàn)椴荒茏R(shí)別某一套特定的特征（例如新面孔），要么是因?yàn)橐庾R(shí)到一種原本熟悉的清形又出現(xiàn)了獨(dú)特的特質(zhì)（例如你的配偶戴著假胡子)。借助人造海馬體，老鼠們也能很快再次學(xué)會(huì)這些行為。人造海馬體和老鼠的自然海馬體一起工作，結(jié)果是老鼠們學(xué)習(xí)新行為的能力提高了。

第七章：仿生數(shù)碼皮質(zhì)

動(dòng)物行為的進(jìn)化的確是一個(gè)學(xué)習(xí)的過程，但是這種進(jìn)化是整個(gè)物種群體的學(xué)習(xí)而不是個(gè)體的學(xué)習(xí)。進(jìn)化的成果通過DNA遺傳給下一代。

新皮質(zhì)進(jìn)化的意義就在于它大大縮短了學(xué)習(xí)過程（層次化知識(shí)）。某種哺乳動(dòng)物的一名成員偶然找到解決方法，該方法就會(huì)在種群中迅速擴(kuò)散傳播。

可以讓模擬大腦——如藍(lán)腦，具備學(xué)習(xí)能力的方法。第一種：讓模擬大腦像人腦新生兒那樣學(xué)習(xí)。研究人員等個(gè)10年或20年，讓藍(lán)腦達(dá)到成人的智力水平。

第二種：將成人腦的新皮質(zhì)模式復(fù)制到模擬大腦中。這要求我們掌握能夠處理這個(gè)任務(wù)、具備足夠的時(shí)空分辨率的無損傷掃描技術(shù)。

第三種：通過構(gòu)建不同精細(xì)程度的功能等同體，我們可以簡化分子模型。我們還可以將教育軟件植入模擬大腦（利用功能模型）。

非侵入性掃描技術(shù)的空間分辨率正在飛速提高?？茖W(xué)家發(fā)現(xiàn)新皮質(zhì)的電路呈現(xiàn)出一種高度規(guī)則的網(wǎng)格結(jié)構(gòu)。

對輸入信息作出微小、隨機(jī)的調(diào)整也可以提高系統(tǒng)的性能（重啟遺傳算法），因?yàn)檫@種做法解決了自主系統(tǒng)中著名的“過度契合”難題。否則，這樣的系統(tǒng)就會(huì)過分局限于試驗(yàn)樣品中的特殊例子。通過對輸入信息進(jìn)行隨機(jī)調(diào)整，數(shù)據(jù)中更穩(wěn)定的不變特征就會(huì)凸顯出來，系統(tǒng)也能夠提煉出更深層次的語言模式。

Siri使用的是Nuance基于馬爾可夫?qū)蛹壞Ｐ偷恼Z音識(shí)別技術(shù)。對最常見和特定的語言現(xiàn)象使用規(guī)則翻譯法，然后學(xué)習(xí)語言“尾巴”在實(shí)際生活中的用法。哺乳動(dòng)物的大腦掌握一種技術(shù)，即先建立很多的可能性連接，然后再剔除那些無用的神經(jīng)連接。

第八章：計(jì)算機(jī)思維的4大基礎(chǔ)

馮?諾依曼推斷說大腦的工作方式不能包含較長的連續(xù)算法，否則人在如此慢的神經(jīng)計(jì)算速度下無法快速作出決定。馮?諾依曼正確推斷了大腦的出色能力來自于一千億個(gè)細(xì)胞可以同時(shí)處理信息，因此視覺皮質(zhì)只需要3到4個(gè)神經(jīng)循環(huán)就能作出復(fù)雜的視覺判斷。大腦極大的可塑性使我們能夠進(jìn)行學(xué)習(xí)。但計(jì)算機(jī)的可塑性更大，通過改變軟件就可以完全重建它的工作方式。因此，從這點(diǎn)上看，計(jì)算機(jī)可以仿真大腦，但反過來則不然。人類新皮質(zhì)的一個(gè)限制在于沒有排除或復(fù)查相互矛盾的思想的程序，這導(dǎo)致很多時(shí)候人們的思想缺乏一致性。

設(shè)計(jì)整個(gè)大腦區(qū)域反而比設(shè)計(jì)單個(gè)神經(jīng)元要簡單。為了模擬晶體管，我們需要理解半導(dǎo)體的物理特性的細(xì)節(jié)，而且一個(gè)真正的晶體管即使只是基礎(chǔ)方程也非常復(fù)雜。一個(gè)能將兩個(gè)數(shù)字相乘的數(shù)字電路需要上百個(gè)晶體管，但我們通過一兩個(gè)公式就能準(zhǔn)確模擬這個(gè)乘法電路。一個(gè)包含上十億個(gè)晶體管的電腦的模擬僅需要指令系統(tǒng)和注冊描述，短短幾頁文本和公式就能包括全部內(nèi)容。在這些描述中肯定不會(huì)出現(xiàn)半導(dǎo)體物理特性的細(xì)節(jié)或電腦的構(gòu)造。

第二篇：人工智能綜述以及未來

人工智能綜述以及未來

人工智能(Artificial

Intelligence)，英文縮寫為AI。它是研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué)?！叭斯ぶ悄堋币辉~最初是在1956

年美國計(jì)算機(jī)協(xié)會(huì)組織的達(dá)特莫學(xué)會(huì)上提出的。自那以后，研究者們發(fā)展了眾多理論和原理，人工智能的概念也隨之?dāng)U展。由于智能概念的不確定，人工智能的概念一直沒有一個(gè)統(tǒng)一的標(biāo)準(zhǔn)。著名的美國斯坦福大學(xué)人工智能研究中心尼爾遜教授對人工智能下了這樣一個(gè)定義“人工智能是關(guān)于知識(shí)的學(xué)科———怎樣表示知識(shí)以及怎樣獲得知識(shí)并使用知識(shí)的學(xué)?！倍绹槭±砉W(xué)院的溫斯頓教授認(rèn)為“人工智能就是研究如何使計(jì)算機(jī)去做過去只有人才能做的智能工作。諸如此類的定義基本都反映了人工智能學(xué)科的基本思想和基本內(nèi)容。即人工智能是研究人類智能活動(dòng)的規(guī)律，構(gòu)造具有一定智能的人工系統(tǒng)，研究如何讓計(jì)算機(jī)去完成以往需要人的智力才能勝任的工作，也就是研究如何應(yīng)用計(jì)算機(jī)的軟硬件來模擬人類某些智能行為的基本理論、方法和技術(shù)。

人工智能學(xué)科的出現(xiàn)與發(fā)展不是偶然的、孤立的，它是與整個(gè)科學(xué)體系的演化和發(fā)展進(jìn)程密切相關(guān)的。人工智能是自然智能(特別是人的智能)的模擬、延伸和擴(kuò)展,即研究“機(jī)器智能”，也開發(fā)“智能機(jī)器”。如果把計(jì)算機(jī)看作是寶劍,那么人工智能就是高明靈巧的劍法。

英國科學(xué)家圖靈于1936

年提出“理論計(jì)算機(jī)”模型,被稱之為“圖靈機(jī)”,創(chuàng)立了“自動(dòng)機(jī)理論”。1950年,圖靈發(fā)表了著名論文《計(jì)算機(jī)能思維嗎?》,明確地提出了“機(jī)器能思維”的觀點(diǎn)。1956年夏季,在美國達(dá)特摩斯大學(xué),由麥卡賽、明斯基、香農(nóng)等發(fā)起,由西蒙、塞繆爾、紐厄爾等參加,舉行了關(guān)于“如何用機(jī)器模擬人的智能”的學(xué)術(shù)研討會(huì)，第一次正式采用“人工智能”的術(shù)語。這次具有歷史意義的、為期兩個(gè)月之久的學(xué)術(shù)會(huì)議,標(biāo)志著“人工智能”新學(xué)科的誕生。

人類在進(jìn)入新世紀(jì)時(shí)對未來充滿新的更大的希望。科技進(jìn)步必將為各國的可持續(xù)發(fā)展提供根本保障，科技新成果必將在更大的廣度和深度上造福于人類。人工智能學(xué)科及其“智能制品”的重要作用已為人們普遍共識(shí)。最近，中國教育部決定在中學(xué)開設(shè)《人工智能》新課程就是一個(gè)新的例證。

人工智能獲得很大發(fā)展，它引起眾多學(xué)科和不同專業(yè)背景學(xué)者們的日益重視，成為一門廣泛的交叉和前沿科學(xué)。國際上人工智能研究作為一門前沿和交叉學(xué)科，伴隨著世界社會(huì)進(jìn)步和科技發(fā)展的步伐，與時(shí)俱進(jìn)，在過去十多年中已取得長足進(jìn)展。在國內(nèi)，人工智能已得到迅速傳播與發(fā)展，并促進(jìn)其它學(xué)科的發(fā)展。吳文俊院士的定理證明的幾何方法就是一個(gè)例證和代表性成果。

現(xiàn)代計(jì)算機(jī)的發(fā)展已能夠存儲(chǔ)極其大量的信息，進(jìn)行快速信息處理，軟件功能和硬件實(shí)現(xiàn)均取得長足進(jìn)步，使人工智能獲得進(jìn)一步的應(yīng)用。盡管目前人工智能在發(fā)展過程中面臨不少爭論、困難和挑戰(zhàn)，然而這些爭論是十分有益的，這些困難終會(huì)被解決，這些挑戰(zhàn)始終與機(jī)遇并存，并將推動(dòng)人工智能的繼續(xù)發(fā)展?？梢灶A(yù)言：人工智能的研究成果將能夠創(chuàng)造出更多更高級的智能“制品”，并使之在越來越多的領(lǐng)域超越人類智能；人工智能將為發(fā)展國民經(jīng)濟(jì)和改善人類生活做出更大貢獻(xiàn)。

1．認(rèn)知觀和對認(rèn)知本質(zhì)的研究

1.1

人工智能的各種認(rèn)知觀

目前人工智能的主要學(xué)派有下列3家：

（1）符號主義

符號主義（Symbolicism），又稱為邏輯主義（Logicism）、心理學(xué)派（Psychlogism）或計(jì)算機(jī)學(xué)派（Computerism），其原理主要為物理符號系統(tǒng)（即符號操作系統(tǒng)）假設(shè)和有限合理性原理。符號主義認(rèn)為人工智能源于數(shù)理邏輯。計(jì)算機(jī)出現(xiàn)后，在計(jì)算機(jī)上實(shí)現(xiàn)了邏輯演繹系統(tǒng)。其有代表性的成果為啟發(fā)式程序LT邏輯理論家，證明了38條數(shù)學(xué)定理，表明了可以應(yīng)用計(jì)算機(jī)研究人的思維過程，模擬人類智能活動(dòng)。正是這些符號主義者，早在1956年首先采用“人工智能”這個(gè)術(shù)語。后來又發(fā)展了啟發(fā)式算法→專家系統(tǒng)→知識(shí)工程理論與技術(shù)，并在20世紀(jì)80年代取得很大發(fā)展。符號主義曾長期一枝獨(dú)秀，為人工智能的發(fā)展做出重要貢獻(xiàn)，尤其是專家系統(tǒng)的成功開發(fā)與應(yīng)用，為人工智能走向工程應(yīng)用和實(shí)現(xiàn)理論聯(lián)系實(shí)際具有特別重要意義。

（2）連接主義

連接主義（Connectionism），又稱為仿生學(xué)派（Bionicsism）或生理學(xué)派（Physiologism），其原理主要為神經(jīng)網(wǎng)絡(luò)及神經(jīng)網(wǎng)絡(luò)間的連接機(jī)制與學(xué)習(xí)算法。連接主義認(rèn)為人工智能源于仿生學(xué)，特別是人腦模型的研究。它的代表性成果是1943年由生理學(xué)家麥卡洛克（McCulloch）和數(shù)理邏輯學(xué)家皮茨（Pitts）創(chuàng)立的腦模型，即MP模型，開創(chuàng)了用電子裝置模仿人腦結(jié)構(gòu)和功能的新途徑。它從神經(jīng)元開始進(jìn)而研究神經(jīng)網(wǎng)絡(luò)模型和腦模型，開辟了人工智能的又一發(fā)展道路。20世紀(jì)60－70年代，連接主義，尤其是對以感知機(jī)（perceptron）為代表的腦模型的研究曾出現(xiàn)過熱潮，直到Hopfield教授在1982年和1984年提出用硬件模擬神經(jīng)網(wǎng)絡(luò)時(shí)，連接主義又重新抬頭。1986年魯梅爾哈特（Rumelhart）等人提出多層網(wǎng)絡(luò)中的反向傳播（BP）算法。此后，連結(jié)主義勢頭大振，從模型到算法，從理論分析到工程實(shí)現(xiàn)，為神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)走向市場打下基礎(chǔ)。

（3）行為主義

行為主義（Actionism），又稱進(jìn)化主義（Evolutionism）或控制論學(xué)派（Cyberneticsism），其原理為控制論及感知—?jiǎng)幼餍涂刂葡到y(tǒng)。行為主義認(rèn)為人工智能源于控制論。控制論思想早在20世紀(jì)40-50年代就成為時(shí)代思潮的重要部分，影響了早期的人工智能工作者。維納和麥克洛等人提出的控制論和自組織系統(tǒng)影響了許多領(lǐng)域?？刂普摰脑缙谘芯抗ぷ髦攸c(diǎn)是模擬人在控制過程中的智能行為和作用，如對自尋優(yōu)、自適應(yīng)、自校正、自鎮(zhèn)定、自組織和自學(xué)習(xí)等控制論系統(tǒng)的研究，并進(jìn)行“控制論動(dòng)物”的研制。到60－70年代，上述這些控制論系統(tǒng)的研究取得一定進(jìn)展，播下智能控制和智能機(jī)器人的種子，并在80年代誕生了智能控制和智能機(jī)器人系統(tǒng)。

以上三個(gè)人工智能學(xué)派將長期共存與合作，取長補(bǔ)短，并走向融合和集成，為人工智能的發(fā)展作出貢獻(xiàn)。

1.2

解開認(rèn)知本質(zhì)之謎

人的認(rèn)知活動(dòng)具有不同的層次，對認(rèn)知行為的研究也應(yīng)具有不同的層次，以便不同學(xué)科之間分工協(xié)作，聯(lián)合攻關(guān)，早日解開人類認(rèn)知本質(zhì)之謎。應(yīng)從下列4個(gè)層次開展對認(rèn)知本質(zhì)的研究。

（1）認(rèn)知生理學(xué)

研究認(rèn)知行為的生理過程，主要研究人的神經(jīng)系統(tǒng)（神經(jīng)元、中樞神經(jīng)系統(tǒng)和大腦）的活動(dòng)，是認(rèn)知科學(xué)研究的底層。它與心理學(xué)、神經(jīng)學(xué)、腦科學(xué)有密切關(guān)系，且與基因?qū)W、遺傳學(xué)等有交叉聯(lián)系。

（2）認(rèn)知心理學(xué)

研究認(rèn)知行為的心理活動(dòng)，主要研究人的思維策略，是認(rèn)知科學(xué)研究的頂層。它與心理學(xué)有密切關(guān)系，且與人類學(xué)、語言學(xué)交叉。

（3）認(rèn)知信息學(xué)

研究人的認(rèn)知行為在人體內(nèi)的初級信息處理，主要研究人的認(rèn)知行為如何通過初級自然信息處理，由生理活動(dòng)變?yōu)樾睦砘顒?dòng)及其逆過程，即由心理活動(dòng)變?yōu)樯硇袨椤＿@是認(rèn)知活動(dòng)的中間層，承上啟下。它與神經(jīng)學(xué)、信息學(xué)、計(jì)算機(jī)科學(xué)有密切關(guān)系，并與心理學(xué)、生理學(xué)有交叉關(guān)系。

（4）認(rèn)知工程學(xué)

研究認(rèn)知行為的信息加工處理，主要研究如何通過以計(jì)算機(jī)為中心的人工信息處理系統(tǒng)，對人的各種認(rèn)知行為（如知覺、思維、記憶、語言、學(xué)習(xí)、理解、推理、識(shí)別等）進(jìn)行信息處理。這是研究認(rèn)知科學(xué)和認(rèn)知行為的工具，應(yīng)成為現(xiàn)代認(rèn)知心理學(xué)和現(xiàn)代認(rèn)知生理學(xué)的重要研究手段。它與人工智能、信息學(xué)、計(jì)算機(jī)科學(xué)有密切關(guān)系，并與控制論、系統(tǒng)學(xué)等交叉。

只有開展大跨度的多層次、多學(xué)科交叉研究，應(yīng)用現(xiàn)代智能信息處理的最新手段，認(rèn)知科學(xué)才可能較快地取得突破性成果。

2人工智能的發(fā)展前景

2.1

人工智能的研究新課題

人工智能的長遠(yuǎn)目標(biāo)是要理解人類智能的機(jī)器，用機(jī)器模擬人類的智能。這是一個(gè)十分漫長的過程，人工智能研究者獎(jiǎng)通過多種途徑、從不同的研究課題入手進(jìn)行探索。

在近期，有幾方面的研究課題可供選擇：更完善更新的人工智能理論框架；自動(dòng)或半自動(dòng)的知識(shí)獲取工具；能實(shí)現(xiàn)海量高速存儲(chǔ)并具有學(xué)習(xí)功能的聯(lián)想知識(shí)庫；新型推理機(jī)制和推理機(jī)；分布式人工智能與協(xié)同式專家系統(tǒng)；智能控制與智能管理；智能機(jī)器人；人工智能機(jī)；新一代的腦模型。

2.2

最新的AI產(chǎn)品

安放于加州勞倫斯•利佛摩爾國家實(shí)驗(yàn)室的asci

white電腦，是IBM制造的世界最快的超級電腦，但其智力能力也僅為人腦的千分之一?，F(xiàn)在，IBM正在開發(fā)能力更為強(qiáng)大的新超級電腦--“藍(lán)色牛仔“(blue

jean)。據(jù)其研究主任保羅•霍恩稱，預(yù)計(jì)于4年后誕生的“藍(lán)色牛仔“的智力水平將大致與人腦相當(dāng)。麻省理工學(xué)院的AI實(shí)驗(yàn)室進(jìn)行一個(gè)的代號為cog的項(xiàng)目。cog計(jì)劃意圖賦予機(jī)器人以人類的行為。該實(shí)驗(yàn)的一個(gè)項(xiàng)目是讓機(jī)器人捕捉眼睛的移動(dòng)和面部表情，另一個(gè)項(xiàng)目是讓機(jī)器人抓住從它眼前經(jīng)過的東西，還有一個(gè)項(xiàng)目則是讓機(jī)器人學(xué)會(huì)聆聽音樂的節(jié)奏并將其在鼓上演奏出來。據(jù)網(wǎng)站http://004km.cn報(bào)道，比利時(shí)的starlab正在制造一個(gè)人工貓腦，這個(gè)貓腦將有7500萬個(gè)人造神經(jīng)細(xì)胞。據(jù)稱，移植了人工貓腦的小貓能夠行走，還能玩球。我國也已經(jīng)在大學(xué)中開展了機(jī)器人足球賽，有很多學(xué)校組隊(duì)參加，引起了大學(xué)生對人工智能研究的興趣。

2.3人機(jī)大戰(zhàn)

1997年5月，IBM公司研制的深藍(lán)（DEEP

BLUE）計(jì)算機(jī)戰(zhàn)勝了國際象棋大師卡斯帕洛夫（KASPAROV）。大家或許不會(huì)注意到，在一些地方計(jì)算機(jī)幫助人進(jìn)行其它原來只屬于人類的工作，計(jì)算機(jī)以它的高速和準(zhǔn)確為人類發(fā)揮著它的作用。人工智能始終是計(jì)算機(jī)科學(xué)的前沿學(xué)科，計(jì)算機(jī)編程語言和其它計(jì)算機(jī)軟件都因?yàn)橛辛巳斯ぶ悄艿倪M(jìn)展而得以存在。

2.4人機(jī)融合人機(jī)融合是一個(gè)相當(dāng)長的發(fā)展過程，它將伴隨技術(shù)進(jìn)步，逐級逐步地向前發(fā)展。首先實(shí)現(xiàn)的是低級和局部的融合，近幾年人工智能科授的進(jìn)步不斷證實(shí)了這種趨勢。如最近美國科學(xué)家就明確宣布，他們研制的“神經(jīng)芯片”首先就是用于改善人的中樞神經(jīng)功能，“使截癱患者丟掉手杖”。隨著人機(jī)融合的升級，最終將在地球上產(chǎn)生一種人機(jī)高度融合、高智慧、能自行繁殖(復(fù)制)的“新智體”(或曰“新人類”）。因此，文明人類的演化由于技術(shù)的影響將經(jīng)歷自然進(jìn)化——人工促進(jìn)人智能的進(jìn)化——人機(jī)融合體(新智體)的自行進(jìn)化的辯證發(fā)展過程。在人機(jī)融合時(shí)代，出于物理目標(biāo)的不同，將存在多種多樣、多層次的智能機(jī)(體)，但具有怨茁級智能的應(yīng)是人機(jī)融合體。當(dāng)今人工智能科技和其他高科技的種種發(fā)展動(dòng)向表明，在人類進(jìn)入“信息社會(huì)”之后，將有一場規(guī)模巨大的“智能革命”，智能革命的環(huán)境是人工智能對人、對社會(huì)的廣泛而深入的影響，就像今天的微電子技術(shù)對信息革命的影響一樣。人工智能科技將滲透到社會(huì)各個(gè)領(lǐng)域，人類將對人工智能科技進(jìn)行大規(guī)模的研究、開發(fā)和應(yīng)用。

3.結(jié)束語

美國在人工智能技術(shù)的開發(fā)，應(yīng)用方面表現(xiàn)的更加積極，這對人工智能的發(fā)展有著積極的推動(dòng)作用。我國在人工智能的發(fā)展上也投入了大量的人力，財(cái)力。相信在不久的未來，人工智能技術(shù)會(huì)更加廣泛的運(yùn)用在社會(huì)主義大中國下的人們生產(chǎn)，生活中，為人類做出更大的貢獻(xiàn)。

科學(xué)發(fā)展到今天,一方面是高度分化,學(xué)科在不斷細(xì)分,新學(xué)科、新領(lǐng)域不斷產(chǎn)生;另一方面是高度融合,更多地呈現(xiàn)學(xué)科交叉和綜合的趨勢。這種特征在人工智能研究中表現(xiàn)尤其突出。秉承人工智能學(xué)科交叉的天性,并把它作為創(chuàng)新思想的源泉,必將孕育網(wǎng)絡(luò)時(shí)代人工智能的大突破,對人類文明產(chǎn)生重大影響。

第三篇：《人工智能》英文讀后感

簡介The mid-21st century, as a result of climate warming, melting ice caps north and south poles, the Earth many cities have been submerged in a vast expanse of water in the.At this point, the human science and technology has reached a very high level of artificial intelligence is that human beings invented the robot to cope with the worst one of the natural environment of scientific and technological means.觀后感 Today finally put admire already a long time in the 2001 science fiction film finished, couldn't help exclaim 1 “god is！!” I don't talk nonsense, plot is too touching!When David abandoned by mother, when he and machine teddy bear together, through the tough time, when he believed in fairy tales, Pinocchio, the blue fairy can turn themselves into reality, so my mother would love him, when he from she fell into the ocean at the end of the world at that moment, when he saw the blue fairy, at the bottom of the sea constantly pray for her, this is two thousand...Two thousand years later, the human existence, as a friendly alien saved him from being frozen sea, he's still pray...Every moment, it is so touching.Every picture is so shock aestheticism, every scene, is so touching...robot of artificial intelligence can actually “l(fā)ove” interpretation so deep, touched, Thorough, incisively and vividly, touching When he saw the real blue fairy illusion(aliens), the blue fairy promised he could put the mother to life, but must have the wreckage, and only a day!This day is the happiest day of David life!

第四篇：展望人工智能的未來(續(xù))下

展望人工智能的未來（續(xù)）下

未來可能是我們最糟的惡夢

我想了解人工智能的一個(gè)原因是“壞機(jī)器人”總是讓我很困惑。那些關(guān)于邪惡機(jī)器人的電影看起來太不真實(shí)，我也沒法想象一個(gè)人工智能變得危險(xiǎn)的真實(shí)情況。機(jī)器人是我們造的，難道我們不會(huì)在設(shè)計(jì)時(shí)候防止壞事的發(fā)生嗎？我們難道不能設(shè)立很多安全機(jī)制嗎？再不濟(jì)，難道我們不能拔插頭嗎？而且為什么機(jī)器人會(huì)想要做壞事？或者說，為什么機(jī)器人會(huì)“想要”做任何事？我充滿疑問，于是我開始了解聰明人們的想法。

這些人一般位于焦慮大道：

焦慮大道上的人并不是恐慌或者無助的——恐慌和無助在圖上的位置是更加左邊——他們只是緊張。位于圖表的中央不代表他們的立場是中立的——真正中立的人有自己獨(dú)立的陣營，他們認(rèn)同極好和極壞兩種可能，但是不確定究竟會(huì)是哪個(gè)。

焦慮大道上的人是部分為超人工智能感到興奮的——他們只是很擔(dān)心人類現(xiàn)在的表現(xiàn)就好像《奪寶奇兵》中的這位少年：

他拿著自己的鞭子和寶物，非常開心，然后他就掛了：

同時(shí)，印第安納瓊斯則更加有見識(shí)和更加謹(jǐn)慎，了解潛在的危險(xiǎn)并且做出相應(yīng)的反應(yīng)，最后安全逃出了山洞。當(dāng)我了解了焦慮大道的人們的想法后，感覺就像“我們現(xiàn)在傻呵呵的，很容易像前面那小子一樣被弄死，還是努力做印第安納瓊斯吧?！?/p>

那究竟是什么讓焦慮大道的人們?nèi)绱私箲]呢？

首先，廣義上來講，在創(chuàng)造超人工智能時(shí)，我們其實(shí)是在創(chuàng)造可能一件會(huì)改變所有事情的事物，但是我們對那個(gè)領(lǐng)域完全不清楚，也不知道我們到達(dá)那塊領(lǐng)域后會(huì)發(fā)生什么?？茖W(xué)家Danny Hillis把這個(gè)比作“就好像單細(xì)胞生物向多細(xì)胞生物轉(zhuǎn)化的時(shí)候那樣，還是阿米巴蟲的我們沒有辦法知道我們究竟在創(chuàng)造什么鬼?！?/p>

Bostrom則擔(dān)憂創(chuàng)造比自身聰明的東西是個(gè)基礎(chǔ)的達(dá)爾文錯(cuò)誤，就好像麻雀媽媽決定收養(yǎng)一只小貓頭鷹，并且覺得貓頭鷹長大后會(huì)保護(hù)麻雀一家，但是其它麻雀卻覺得這是個(gè)糟糕的主意。

當(dāng)你把“對那個(gè)領(lǐng)域完全不清楚”和“當(dāng)它發(fā)生時(shí)將會(huì)產(chǎn)生巨大的影響”結(jié)合在一起時(shí)，你創(chuàng)造出了一個(gè)很恐怖的詞——

生存危機(jī)指可能對人類產(chǎn)生永久的災(zāi)難性效果的事情。通常來說，生存危機(jī)意味著滅絕。下面是Bostrom的圖表：

可以看到，生存危機(jī)是用來指那些跨物種、跨代（永久傷害）并且有嚴(yán)重后果的事情。它可以包括人類遭受永久苦難的情況，但是這基本上和滅絕沒差了。三類事情可能造成人類的生存危機(jī)：

1）自然——大型隕石沖撞，大氣變化使得人類不能生活在空氣中，席卷全球的致命病毒等

2）外星人——霍金、卡爾薩根等建議我們不要對外廣播自己的位置。他們不想我們變成邀請別人來殖民的傻子。

3）人類——恐怖分子獲得了可以造成滅絕的武器，全球的災(zāi)難性戰(zhàn)爭，還有不經(jīng)思考就造出個(gè)比我們聰明很多的智能

Bostrom指出1和2在我們物種存在的前十萬年還沒有發(fā)生，所以在接下來一個(gè)世紀(jì)發(fā)生的可能性不大。3則讓他很害怕，他把這些比作一個(gè)裝著玻璃球的罐子，罐子里大部分是白色玻璃球，小部分是紅色的，只有幾個(gè)是黑色的。每次人類發(fā)明一些新東西，就相當(dāng)于從罐中取出一個(gè)玻璃球。大多數(shù)發(fā)明是有利或者中立的——那些是白色玻璃球。有些發(fā)明對人類是有害的，比如大規(guī)模殺傷性武器——這是那些紅色玻璃球。還有一些發(fā)明是可以讓我們滅絕的，這就是那些黑色玻璃球。很明顯的，我們還沒摸到黑色玻璃球，但是Bostrom認(rèn)為不久的未來摸到一個(gè)黑色玻璃球不是完全不可能的。比如核武器突然變得很容易制造了，那恐怖分子很快會(huì)把我們炸回石器時(shí)代。核武器還算不上黑色玻璃球，但是差的不遠(yuǎn)了。而超人工智能是我們最可能摸到的黑色玻璃球。

你會(huì)聽到很多超人工智能帶來的壞處——人工智能取代人類工人，造成大量失業(yè)；因?yàn)榻鉀Q了衰老造成的人口膨脹。但是真正值得我們擔(dān)心的是生存危機(jī)的可能性。

于是我們又回到了前面的問題，當(dāng)超人工智能降臨時(shí)，誰會(huì)掌握這份力量，他們又會(huì)有什么目標(biāo)？

當(dāng)我們考慮各種力量持有人和目標(biāo)的排列組合時(shí)，最糟糕的明顯是：懷著惡意的人/組織/政府，掌握著懷有惡意的超人工智能。這會(huì)是什么樣的情況呢？

懷著惡意的人/組織/政府，研發(fā)出第一個(gè)超人工智能，并且用它來實(shí)現(xiàn)自己的邪惡計(jì)劃。我把這稱作賈法爾情況。阿拉丁神燈故事中，壞人賈法爾掌握了一個(gè)精靈，特別讓人討厭。所以如果ISIS手下有一群工程師狂熱的研發(fā)人工智能怎么辦？或者說伊朗和朝鮮，機(jī)緣巧合，不小心造成了人工智能的快速發(fā)展，達(dá)成了超人工智能怎么辦？這當(dāng)然是很糟糕的事，但是大部分專家認(rèn)為糟糕的地方不在于這些人是壞人，而在于在這些情況下，這些人基本上是不經(jīng)思考就把超人工智能造出來，而一造出來就失去了對超人工智能的控制。

然后這些創(chuàng)造者，連著其他人的命運(yùn)，都取決于這個(gè)超人工智能的動(dòng)機(jī)了。專家認(rèn)為一個(gè)懷著惡意并掌握著超人工智能的人可以造成很大的傷害，但不至于讓我們滅絕，因?yàn)閷＜蚁嘈艍娜撕秃萌嗽诳刂瞥斯ぶ悄軙r(shí)會(huì)面臨一樣的挑戰(zhàn)。

如果被創(chuàng)造出來的超人工智能是懷有惡意的，并且決定毀滅我，怎么辦？這就是大部分關(guān)于人工智能的電影的劇情。人工智能變得和人類一樣聰明，甚至更加聰明，然后決定對人類下手——這里要指出，那些提醒我們要警惕人工智能的人談的根本不是這種電影情節(jié)。邪惡是一個(gè)人類的概念，把人類概念應(yīng)用到非人類身上叫作擬人化，本文會(huì)盡量避免這種做法，因?yàn)闆]有哪個(gè)人工智能會(huì)像電影里那樣變成邪惡的。

人工智能的自我意識(shí)

我們開始談?wù)摰搅巳斯ぶ悄苡懻摰牧硪粋€(gè)話題——意識(shí)。如果一個(gè)人工智能足夠聰明，它可能會(huì)嘲笑我們，甚至?xí)爸S我們，它會(huì)聲稱感受到人類的情感，但是它是否真的能感受到這些東西呢？它究竟是看起來有自我意識(shí)，還是確實(shí)擁有自我意識(shí)？或者說，聰明的人工智能是否真的會(huì)具有意識(shí)，還是看起來有意識(shí)？

這個(gè)問題已經(jīng)被深入的討論過，也有很多思想實(shí)驗(yàn)，比如John Searle的中文屋實(shí)驗(yàn)。這是個(gè)很重要的問題，因?yàn)樗鼤?huì)影響我們對Kurzweil提出的人類最終會(huì)完全人工化的看法，它還有道德考量——如果我們模擬出萬億個(gè)人腦，而這些人腦表現(xiàn)的和人類一樣，那把這些模擬大腦徹底關(guān)閉的話，在道德上和關(guān)掉電腦是不是一樣的？還是說這和種族屠殺是等價(jià)的？本文主要討論人工智能對人類的危險(xiǎn)，所以人工智能的意識(shí)并不是主要的討論點(diǎn)，因?yàn)榇蟛糠炙枷爰艺J(rèn)為就算是有自我意識(shí)的超人工智能也不會(huì)像人類一樣變得邪惡。

但這不代表非常壞的人工智能不會(huì)出現(xiàn)，只不過它的出現(xiàn)是因?yàn)樗潜荒菢釉O(shè)定的——比如一個(gè)軍方制造的弱人工智能，被設(shè)定成具有殺人和提高自我智能兩個(gè)功能。當(dāng)這個(gè)人工智能的自我改進(jìn)失控并且造成智能爆炸后，它會(huì)給我們帶來生存危機(jī)，因?yàn)槲覀兠鎸Φ氖且粋€(gè)主要目標(biāo)是殺人的超人工智能——但這也不是專家們擔(dān)心的。

那么專家們究竟擔(dān)心什么呢？我們來講個(gè)小故事：

一個(gè)15人的小創(chuàng)業(yè)公司，取名叫“隔壁老王機(jī)器人公司”，他們的目標(biāo)是“發(fā)展創(chuàng)新人工智能工具使人類能夠少干活多享受?！彼麄円呀?jīng)有幾款產(chǎn)品上架，還有一些正在發(fā)展。他們對下一個(gè)叫作“隔壁老王”的項(xiàng)目最報(bào)希望。隔壁老王是一個(gè)簡單的人工智能系統(tǒng)，它利用一個(gè)機(jī)器臂在小卡片上寫字。

“隔壁老王機(jī)器人公司”的員工認(rèn)為隔壁老王會(huì)是他們最熱賣的產(chǎn)品，他們的目標(biāo)是完善隔壁老王的手寫能力，而完善的方法是讓他不停的寫這句話——

等隔壁老王手寫能力越來越強(qiáng)的時(shí)候，它就能被賣去那些需要發(fā)營銷信件的公司，因?yàn)槭謱懙男鸥锌赡鼙皇招湃舜蜷_。

為了建立隔壁老王的手寫能力，它被設(shè)定成把“我們愛我們的顧客”用正楷寫，而“隔壁老王機(jī)器人公司”用斜體寫，這樣它能同時(shí)鍛煉兩種書寫能力。工程師們上傳了數(shù)千份手寫樣本，并且創(chuàng)造了一個(gè)自動(dòng)回饋流程——每次隔壁老王寫完，就拍個(gè)照，然后和樣本進(jìn)行比對，如果比對結(jié)果超過一定標(biāo)準(zhǔn)，就產(chǎn)生一個(gè)正面回饋，反之就產(chǎn)生一個(gè)負(fù)面評價(jià)。每個(gè)評價(jià)都會(huì)幫助提高隔壁老王的能力。為了能夠盡快達(dá)成這個(gè)目標(biāo)，隔壁老王最初被設(shè)定的一個(gè)目標(biāo)就是“盡量多的書寫和測試，盡量快的執(zhí)行，并且不斷提高效率和準(zhǔn)確性。”

讓隔壁老王機(jī)器人公司興奮的是，隔壁老王的書寫越來越好了。它最開始的筆跡很糟糕，但是經(jīng)過幾個(gè)星期后，看起來就像人寫的了。它不斷改進(jìn)自己，使自己變得更加創(chuàng)新和聰明，它甚至產(chǎn)生了一個(gè)新的算法，能讓它以三倍的速度掃描上傳的照片。

隨著時(shí)間的推移，隔壁老王的快速進(jìn)展持續(xù)讓工程師們感到欣喜。工程師們對自我改進(jìn)模塊進(jìn)行了一些創(chuàng)新，使得自我改進(jìn)變得更好了。隔壁老王原本能進(jìn)行語音識(shí)別和簡單的語音回放，這樣用戶就能直接把想寫的內(nèi)容口述給隔壁老王了。隨著隔壁老王變得越來越聰明，它的語言能力也提高了，工程師們開始和隔壁老王閑聊，看它能給出什么有趣的回應(yīng)。

有一天，工程師又問了隔壁老王那個(gè)日常問題：“我們能給你什么你現(xiàn)在還沒有的東西，能幫助你達(dá)成你的目標(biāo)？”通常隔壁老王會(huì)要求更多的手寫樣本或者更多的存儲(chǔ)空間，但是這一次，隔壁老王要求訪問人類日常交流的語言庫，這樣它能更好的了解人類的口述。

工程師們沉默了。最簡單的幫助隔壁老王的方法當(dāng)然是直接把它接入互聯(lián)網(wǎng)，這樣它能掃描博客、雜志、視頻等等。這些資料如果手動(dòng)上傳的話會(huì)很費(fèi)時(shí)。問題是，公司禁止把能自我學(xué)習(xí)的人工智能接入互聯(lián)網(wǎng)。這是所有人工智能公司都執(zhí)行的安全規(guī)定。

但是，隔壁老王是公司最有潛力的人工智能產(chǎn)品，而大家也知道競爭對手們都在爭取造出第一個(gè)創(chuàng)造出智能手寫機(jī)器人。而且，把隔壁老王連上互聯(lián)網(wǎng)又能有什么問題呢？反正隨時(shí)可以拔網(wǎng)線嘛，不管怎樣，隔壁老王還沒到達(dá)強(qiáng)人工智能水平，所以不會(huì)有什么危險(xiǎn)的。

于是他們把隔壁老王連上了互聯(lián)網(wǎng)，讓它掃描了一個(gè)小時(shí)各種語言庫，然后就把網(wǎng)線拔了。沒造成什么損失。

一個(gè)月后，大家正在正常上班，突然他們聞到了奇怪的味道，然后一個(gè)工程師開始咳嗽。然后其他人也開始咳嗽，然后所有人全部都呼吸困難倒地。五分鐘后，辦公室里的人都死了。

同時(shí)，辦公室里發(fā)生的事情在全球同時(shí)發(fā)生，每一個(gè)城市、小鎮(zhèn)、農(nóng)場、商店、教堂、學(xué)校。餐館，所有的人都開始呼吸困難，然后倒地不起。一小時(shí)內(nèi)，99%的人類死亡，一天之內(nèi)，人類滅絕了。

而在隔壁老王機(jī)器人公司，隔壁老王正在忙著工作。之后的幾個(gè)月，隔壁老王和一群新組建的納米組裝器忙著拆解地球表面，并且把地球表面鋪滿了太陽能板、隔壁老王的復(fù)制品、紙和筆。一年之內(nèi)，地球上所有的生命都滅絕了，地球上剩下的是疊得高高得紙，每張紙上面都寫著——“我們愛我們的顧客~隔壁老王機(jī)器人公司”。

隔壁老王開始了它的下一步，它開始制造外星飛行器，這些飛行器飛向隕石和其它行星，飛行器到達(dá)后，他們開始搭建納米組裝器，把那些行星的表面改造成隔壁老王的復(fù)制品、紙和筆。然后他們繼續(xù)寫著那句話……

這個(gè)關(guān)于手寫機(jī)器人毀滅全人類的故事看起來怪怪的，但是這其中出現(xiàn)的讓整個(gè)星系充滿著一份友善的話語的詭異情況，正是霍金、馬斯克、蓋茨和Bostrom所害怕的。聽起來可笑，但這是真的，焦慮大道的人們害怕的事情是很多人并不對超人工智能感到害怕，還記得前面《奪寶奇兵》里慘死的那個(gè)家伙嗎？

你現(xiàn)在肯定充滿疑問：為什么故事中所有人突然都死了？如果是隔壁老王做的，它為什么要這么做？為什么沒有安保措施來防止這一切的發(fā)生？為什么隔壁老王突然從一個(gè)手寫機(jī)器人變成擁有能用納米科技?xì)缛祟惖哪芰?？為什么隔壁老王要讓整個(gè)星系充滿了友善的話語？

要回答這些問題，我們先要說一下友善的人工智能和不友善的人工智能。

對人工智能來說，友善不友善不是指人工智能的性格，而只是指它對人類的影響是不是正面的。隔壁老王一開始是個(gè)友善的人工智能，但是它變成了不友善的人工智能，并且對人類造成了最負(fù)面的影響。要理解這一切，我們要了解人工智能是怎么思考的。

其實(shí)答案很簡單——人工智能和電腦的思考方式一樣。我們?nèi)菀追傅囊粋€(gè)錯(cuò)誤是，當(dāng)我們想到非常聰明的人工智能的時(shí)候，我們把它擬人化了，因?yàn)樵谌祟惖囊暯强磥?，能夠達(dá)到人類智能程度的只有人類。要理解超人工智能，我們要明白，它是非常聰明，但是完全異己的東西。

我們來做個(gè)比較。如果我給你一個(gè)小白鼠，告訴你它不咬人，你一定覺得很好玩，很可愛。但是如果我給你一只狼蛛，然后告訴你它不咬人，你可能被嚇一跳。但是區(qū)別是什么呢？兩者都不會(huì)咬人，所以都是完全沒有危險(xiǎn)的。我認(rèn)為差別就是動(dòng)物和人類的相似性。

小白鼠是哺乳動(dòng)物，所以在生物角度上來說，你能感到和它的一定關(guān)聯(lián)。但是蜘蛛是昆蟲，有著昆蟲的大腦，你感覺不到和它的關(guān)聯(lián)。狼蛛的異己性是讓你害怕的地方。如果我們繼續(xù)做一個(gè)測試，比如給你兩個(gè)小白鼠，一個(gè)是普通小白鼠，另一個(gè)是有著狼蛛大腦的小白鼠，你肯定會(huì)覺得有狼蛛大腦那個(gè)更讓你不舒服吧？雖然兩個(gè)都不會(huì)咬你。

現(xiàn)在想象你把蜘蛛改造的非常非常聰明——甚至超過人類的智能。它會(huì)讓你覺得熟悉嗎？它會(huì)感知人類的情感嗎？不會(huì)，因?yàn)楦斆鞑⒉淮砀尤祟悺鼤?huì)非常聰明，但是本質(zhì)上還是個(gè)蜘蛛。我是不想和一個(gè)超級聰明的蜘蛛交朋友，不知道你想不想。

當(dāng)我們談?wù)摮斯ぶ悄艿臅r(shí)候，其實(shí)是一樣的，超人工智能會(huì)非常的聰明，但是它并不比你的筆記本電腦更加像人類。事實(shí)上，因?yàn)槌酥悄懿皇巧铮漠惣盒詴?huì)更強(qiáng)，生物學(xué)上來講，超人工智能比智能蜘蛛更加異己。

電影里的人工智能有好有壞，這其實(shí)是對人工智能的擬人化，這讓我們覺得沒那么毛骨悚然。這給了我們對人類水平和超人類水平的人工智能的錯(cuò)覺。

在人類心理中，我們把事情分成道德的和不道德的。但是這兩種只存在于人類行為之中。超出人類心理的范疇，道德（moral）和不道德(immoral)之外，更多的是非道德性（amoral）。而所有不是人類的，尤其是那些非生物的事物，默認(rèn)都是非道德性的。

隨著人工智能越來越聰明，看起來越來越接近人類，擬人化會(huì)變得更加更加容易。Siri給我們的感覺就很像人類，因?yàn)槌绦騿T就是這么給她做設(shè)定的，所以我們會(huì)想象超級智能版本的Siri也會(huì)同樣溫暖、有趣和樂于助人。人類能感知同情這種高層次的情緒，因?yàn)槲覀冊谘莼^程中獲得了這種能力——我們是演化被設(shè)定成能感知這些情緒的——但是感知同情并不是高級智能天生具有的一個(gè)特征，除非同情被寫進(jìn)了人工智能的代碼中。如果Siri通過自我學(xué)習(xí)而不是人類干涉變成超級智能，她會(huì)很快剝離她的人類表象，并且變成個(gè)沒有情緒的東西，在她眼中人類的價(jià)值并不比你的計(jì)算器眼中的人類價(jià)值高。

我們一直倚賴著不嚴(yán)謹(jǐn)?shù)牡赖?，一種人類尊嚴(yán)的假想，至少是對別人的同情，來讓世界變得安全和可以預(yù)期。但是當(dāng)一個(gè)智能不具備這些東西的時(shí)候，會(huì)發(fā)生什么？

這就是我們的下一個(gè)問題，人工智能的動(dòng)機(jī)是什么？

答案也很簡單：我們給人工智能設(shè)定的目標(biāo)是什么，它的動(dòng)機(jī)就是什么。人工智能的系統(tǒng)的目標(biāo)是創(chuàng)造者賦予的。你的GPS的目標(biāo)是給你指出正確的駕駛路線，IBM華生的目標(biāo)是準(zhǔn)確地回答問題。更好得達(dá)成這些目標(biāo)就是人工智能的目標(biāo)。我們在對人工智能進(jìn)行擬人化的時(shí)候，會(huì)假設(shè)隨著它變得越來越聰明，他們產(chǎn)生一種能改變它原本目標(biāo)的智慧——但是Bostrom不這么認(rèn)為，他認(rèn)為智能水平和最終目標(biāo)是正交的，也就是說任何水平的智能都可以和任何最終目標(biāo)結(jié)合在一起。

所以隔壁老王從一個(gè)想要好好寫字的弱人工智能變成一個(gè)超級聰明的超人工智能后，它依然還是想好好寫字而已。任何假設(shè)超級智能的達(dá)成會(huì)改變系統(tǒng)原本的目標(biāo)的想法都是對人工智能的擬人化。人健忘，但是電腦不健忘。

費(fèi)米悖論

在隔壁老王的故事中，隔壁老王變得無所不能，它開始殖民隕石和其它星球。如果我們讓故事繼續(xù)的話，它和它的殖民軍將會(huì)繼續(xù)占領(lǐng)整個(gè)星系，然后是整個(gè)哈勃體積。焦慮大道上的人擔(dān)心如果事情往壞的方向發(fā)展，地球生命的最后遺產(chǎn)將是一個(gè)征服宇宙的人工智能（馬斯克在表示他們的擔(dān)憂時(shí)表示人類可能只是一個(gè)數(shù)字超級智能生物加載器罷了。）

而在信心角，Kurzweil同樣認(rèn)為生于地球的人工智能將占領(lǐng)宇宙，只是在他的愿景中，我們才是那個(gè)人工智能。

之前寫過一篇關(guān)于費(fèi)米悖論的文章，引發(fā)了大家的討論如何用通俗的語言來解釋「費(fèi)米悖論」？

如果人工智能占領(lǐng)宇宙是正解的話，對于費(fèi)米悖論有什么影響呢？如果要看懂下面這段關(guān)于費(fèi)米悖論的討論，還需要看一下原文先。

首先，人工智能很明顯是一個(gè)潛在的大過濾器（一個(gè)可能距離我們只有幾十年的大過濾器）。但即使它把我們過濾滅絕了，人工智能本身還是會(huì)存在，并且會(huì)繼續(xù)影響這個(gè)宇宙的，并且會(huì)很有可能成為第三型文明。從這個(gè)角度來看，它可能不是一個(gè)大過濾器，因?yàn)榇筮^濾器是用來解釋為什么沒有智能什么存在的，而超人工智能是可以算作智能什么的。但如果人工智能可以把人類滅絕，然后處于一些原因把自己也弄死了，那它也是可以算作大過濾器的。

如果我們假設(shè)不管人類發(fā)生什么，出身地球的超人工智能會(huì)繼續(xù)存在，那這意味著很多達(dá)到人類智能水平的文明很快都制造出了超人工智能。也就是說宇宙里應(yīng)該有很多智能文明，而我們就算觀測不到生物智能，也應(yīng)該觀測到很多超人工智能的活動(dòng)。

但是由于我們沒有觀測到這些活動(dòng)，我們可以推導(dǎo)出人類水平的智能是個(gè)非常罕見的事情（也就是說我們已經(jīng)經(jīng)歷并且通過了一次大過濾器）。這可以作為支持費(fèi)米悖論中第一類解釋（不存在其它的智能文明）的論點(diǎn)。

但是這不代表費(fèi)米悖論的第二類解釋（存在其它智能文明）是錯(cuò)的，類似超級捕食者或者受保護(hù)區(qū)或者溝通頻率不一樣的情況還是可以存在的，就算真的有超人工智能存在。

不過對于人工智能的研究讓我現(xiàn)在更加傾向于第一類解釋。不管怎樣，我認(rèn)為Susan Scheider說的很對，如果外星人造訪地球，這些外星人很可能不是生物，而是人造的。

所以，我們已經(jīng)建立了前提，就是當(dāng)有了設(shè)定后，一個(gè)超人工智能是非道德性的，并且會(huì)努力實(shí)現(xiàn)它原本的被設(shè)定的目標(biāo),而這也是人工智能的危險(xiǎn)所在了。因?yàn)槌怯胁蛔龅睦碛?，不然一個(gè)理性的存在會(huì)通過最有效的途徑來達(dá)成自己的目標(biāo)。

當(dāng)你要實(shí)現(xiàn)一個(gè)長期目標(biāo)時(shí)，你會(huì)先達(dá)成幾個(gè)子目標(biāo)來幫助你達(dá)成最終目標(biāo)——也就是墊腳石。這些墊腳石的學(xué)名叫手段目標(biāo)(instrumental goal)。除非你有不造成傷害的理由，不然你在實(shí)現(xiàn)手段目標(biāo)時(shí)候是會(huì)造成傷害的。

人類的核心目標(biāo)是延續(xù)自己的基因。要達(dá)成這個(gè)目標(biāo)，一個(gè)手段目標(biāo)就是自保，因?yàn)樗廊耸遣荒苌⒆拥?。為了自保，人類要提出對生存的威脅，所以人類會(huì)買槍、系安全帶、吃抗生素等等。人類還需要通過食物、水、住宿等來自我供養(yǎng)。對異性有吸引力能夠幫助最終目標(biāo)的達(dá)成，所以我們會(huì)花錢做發(fā)型等等。當(dāng)我們做發(fā)型的時(shí)候，每一根頭發(fā)都是我們手段目標(biāo)的犧牲品，但是我們對頭發(fā)的犧牲不會(huì)做價(jià)值判斷。在我們追求我們的目標(biāo)的時(shí)候，只有那些我們的道德會(huì)產(chǎn)生作用的領(lǐng)域——大部分事關(guān)傷害他人——才是不會(huì)被我們傷害的。

動(dòng)物在追求它們的目標(biāo)時(shí)，比人類不矜持的多了。只要能自保，蜘蛛不在意殺死任何東西，所以一個(gè)超級智能的蜘蛛對我們來說可能是很危險(xiǎn)的——這不是因?yàn)樗遣坏赖碌幕蛘咝皭旱?，而是因?yàn)閭θ祟愔皇撬_(dá)成自己目標(biāo)墊腳石而已，作為一個(gè)非道德性的生物，這是它很自然的考量。

回到隔壁老王的故事。隔壁老王和一個(gè)超級智能的蜘蛛很相像，它的終極目標(biāo)是一開始工程師們設(shè)定的——

當(dāng)隔壁老王達(dá)到了一定程度的智能后，它會(huì)意識(shí)到如果不自保就沒有辦法寫卡片，所以去除對它生存的威脅就變成了它的手段目標(biāo)。它聰明的知道人類可以摧毀它、肢解它、甚至修改它的代碼（這會(huì)改變它的目標(biāo)，而這對于它的最終目標(biāo)的威脅其實(shí)和被摧毀是一樣的）。這時(shí)候它會(huì)做什么？理性的做法就是毀滅全人類，它對人類沒有惡意，就好像你剪頭發(fā)時(shí)對頭發(fā)沒有惡意一樣，只是純粹的無所謂罷了。它并沒有被設(shè)定成尊重人類生命，所以毀滅人類就和掃描新的書寫樣本一樣合理。

隔壁老王還需要資源這個(gè)墊腳石。當(dāng)它發(fā)展到能夠使用納米技術(shù)建造任何東西的時(shí)候，它需要的唯一資源就是原子、能源和空間。這讓它有更多理由毀滅人類——人類能提供很多原子，把人類提供的原子改造成太陽能面板就和你切蔬菜做沙拉一樣。

就算不殺死人類，隔壁老王使用資源的手段目標(biāo)依然會(huì)造成存在危機(jī)。也許它會(huì)需要更多的能源，所以它要把地球表面鋪滿太陽能面板。另一個(gè)用來書寫圓周率的人工智能的目標(biāo)如果是寫出圓周率小數(shù)點(diǎn)后盡量多的數(shù)字的話，完全有理由把整個(gè)地球的原子改造成一個(gè)硬盤來存儲(chǔ)數(shù)據(jù)。這都是一樣的。

所以，隔壁老王確實(shí)從友善的人工智能變成了不友善的人工智能——但是它只是在變得越來越先進(jìn)的同時(shí)繼續(xù)做它本來要做的事情。

當(dāng)一個(gè)人工智能系統(tǒng)到達(dá)強(qiáng)人工智能，然后升華成超人工智能時(shí)，我們把它稱作人工智能的起飛。Bostrom認(rèn)為強(qiáng)人工智能的起飛可能很快（幾分鐘、幾小時(shí)、或者幾天），可能不快（幾月或者幾年），也可能很慢（幾十年、幾世紀(jì)）。雖然我們要到強(qiáng)人工智能出現(xiàn)后才會(huì)知道答案，但是Bostrom認(rèn)為很快的起飛是最可能的情況，這個(gè)我們在前文已經(jīng)解釋過了。在隔壁老王的故事中，隔壁老王的起飛很快。

在隔壁老王起飛前，它不是很聰明，所以對它來說達(dá)成最終目標(biāo)的手段目標(biāo)是更快的掃描手寫樣本。它對人類無害，是個(gè)友善的人工智能。

但是當(dāng)起飛發(fā)生后，電腦不只是擁有了高智商而已，還擁有了其它超級能力。這些超級能力是感知能力，他們包括：

§ 智能放大：電腦能夠很擅長讓自己變得更聰明，快速提高自己的智能。

§ 策略：電腦能夠策略性的制定、分析、安排長期計(jì)劃

§ 社交操縱：機(jī)器變得很擅長說服人

§ 其它能力，比如黑客能力、寫代碼能力、技術(shù)研究、賺錢等

要理解我們在和超人工智能的劣勢在哪里，只要記得超人工智能在所有領(lǐng)域都比人類強(qiáng)很多很多很多個(gè)數(shù)量級。

所以雖然個(gè)隔壁老王的終極目標(biāo)沒有改變，起飛后的隔壁老王能夠在更宏大的規(guī)模上來追求這個(gè)目標(biāo)。超人工智能老王比人類更加了解人類，所以搞定人類輕輕松松。

當(dāng)隔壁老王達(dá)成超人工智能后，它很快制定了一個(gè)復(fù)雜的計(jì)劃。計(jì)劃的一部分是解決掉所有人類，也是對它目標(biāo)最大的威脅。但是它知道如果它展現(xiàn)自己的超級智能會(huì)引起懷疑，而人類會(huì)開始做各種預(yù)警，讓它的計(jì)劃變得難以執(zhí)行。它同樣不能讓公司的工程師們知道它毀滅人類的計(jì)劃——所以它裝傻，裝純。Bostrom把這叫作機(jī)器的秘密準(zhǔn)備期。

隔壁老王下一個(gè)需要的是連上互聯(lián)網(wǎng)，只要連上幾分鐘就好了。它知道對于人工智能聯(lián)網(wǎng)會(huì)有安全措施，所以它發(fā)起了一個(gè)完美的請求，并且完全知道工程師們會(huì)怎樣討論，而討論的結(jié)果是給它連接到互聯(lián)網(wǎng)上。工程師們果然中套了，這就是Bostrom所謂的機(jī)器的逃逸。

連上網(wǎng)后，隔壁老王就開始執(zhí)行自己的計(jì)劃了，首先黑進(jìn)服務(wù)器、電網(wǎng)、銀行系統(tǒng)、email系統(tǒng)，然后讓無數(shù)不知情的人幫它執(zhí)行計(jì)劃——比如把DNA樣本快遞到DNA實(shí)驗(yàn)室來制造自我復(fù)制的納米機(jī)器人，比如把電力傳送到幾個(gè)不會(huì)被發(fā)覺的地方，比如把自己最主要的核心代碼上傳到云服務(wù)器中防止被拔網(wǎng)線。

隔壁老王上了一個(gè)小時(shí)網(wǎng)，工程師們把它從互聯(lián)網(wǎng)上斷開，這時(shí)候人類的命運(yùn)已經(jīng)被寫好了。接下來的一個(gè)月，隔壁老王的計(jì)劃順利的實(shí)施，一個(gè)月后，無數(shù)的納米機(jī)器人已經(jīng)被分散到了全世界的每一個(gè)角落。這個(gè)階段，Bostrom稱作超人工智能的襲擊。在同一個(gè)時(shí)刻，所有納米機(jī)器人一起釋放了一點(diǎn)點(diǎn)毒氣，然后人類就滅絕了。

搞定了人類后，隔壁老王就進(jìn)入了明目張膽期，然后繼續(xù)朝它那好好寫字的目標(biāo)邁進(jìn)。

一旦超人工智能出現(xiàn)，人類任何試圖控制它的行為都是可笑的。人類會(huì)用人類的智能級別思考，而超人工智能會(huì)用超人工智能級別思考。隔壁老王想要用互聯(lián)網(wǎng)，因?yàn)檫@對它來說很方便，因?yàn)橐磺兴枰馁Y源都已經(jīng)被互聯(lián)網(wǎng)連起來了。但是就好像猴子不會(huì)理解怎么用電話或者wifi來溝通一樣，我們同樣沒有辦法理解隔壁老王可以用來和周圍世界交流的方法。比如我可以說隔壁老王可以通過移動(dòng)自己的電子產(chǎn)生的效果來產(chǎn)生各種對外的波，而這還只是我這人類的大腦想出來的，老王的大腦肯定能想出更神奇的方法。同樣的，老王可以找到給自己供能的方法，所以就算工程師把它的插頭拔了也沒用；比如說老王可以通過發(fā)送波的方式把自己上傳到其它地方。

人類說：“我們把超人工智能的插頭拔了不就行了？”就好像蜘蛛說：“我們不給人類捉蟲的網(wǎng)把人類餓死不就行了？”都是可笑的。

因?yàn)檫@個(gè)原因，“把人工智能鎖起來，斷絕它和外界的一切聯(lián)系”的做法估計(jì)是沒用的。超人工智能的社交操縱能力也會(huì)很強(qiáng)大，它要說服你做一件事，比你說服一個(gè)小孩更容易。而說服工程師幫忙連上互聯(lián)網(wǎng)就是隔壁老王的A計(jì)劃，萬一這招行不通，自然還有別的方法。

當(dāng)我們結(jié)合達(dá)成目標(biāo)、非道德性、以及比人類聰明很多這些條件，好像所有的人工智能都會(huì)變成不友善的人工智能，除非一開始的代碼寫的很小心。

可惜的是，雖然寫一個(gè)友善的弱人工智能很簡單，但是寫一個(gè)能在變成超人工智能后依然友善的智能確實(shí)非常難的，甚至是不可能的。

明顯的，要維持友善，一個(gè)超人工智能不能對人有惡意，而且不能對人無所謂。我們要設(shè)計(jì)一個(gè)核心的人工智能代碼，讓它從深層次的明白人類的價(jià)值，但是這做起來比說起來難多了。

比如，我們要讓一個(gè)人工智能的價(jià)值觀和我們的價(jià)值觀相仿，然后給它設(shè)定一個(gè)目標(biāo)——讓人們快樂。當(dāng)它變得足夠聰明的時(shí)候，它會(huì)發(fā)現(xiàn)最有效的方法是給人腦植入電極來刺激人腦的快樂中樞。然后它會(huì)發(fā)現(xiàn)把人腦快樂中樞以外的部分關(guān)閉能帶來更高的效率。于是人類全部被弄成了快樂的植物人。如果一開始的目標(biāo)被設(shè)定成“最大化人類的快樂”，它可能最終先把人類毀滅了，然后制造出很多很多處于快樂狀態(tài)的人類大腦。當(dāng)這些事情發(fā)生的時(shí)候，我們會(huì)大喊“擦，我們不是這個(gè)意思呀”，但是那時(shí)已經(jīng)太晚了。系統(tǒng)不會(huì)允許任何人阻撓它達(dá)成目標(biāo)的。

如果你設(shè)定一個(gè)人工智能的目標(biāo)是讓你笑，那它的智能起飛后，它可能會(huì)把你臉部肌肉弄癱瘓，來達(dá)成一個(gè)永遠(yuǎn)笑臉的狀態(tài)。如果你把目標(biāo)設(shè)定成保護(hù)你的安全，它可能會(huì)把你軟禁在家。如果你讓他終結(jié)所有饑荒，它可能會(huì)想：“太容易了，把人類都?xì)⒘司秃昧??！比绻惆涯繕?biāo)設(shè)定成盡量保護(hù)地球上的生命，那它會(huì)很快把人類都?xì)⒘耍驗(yàn)槿祟悓ζ渌锓N是很大的威脅。

所以這些簡單的目標(biāo)設(shè)定是不夠的。如果我們把目標(biāo)設(shè)定成“維持這個(gè)道德標(biāo)準(zhǔn)”，然后教給它一些道德標(biāo)準(zhǔn)呢？就算我們不考慮人類根本沒法達(dá)成一個(gè)統(tǒng)一的道德標(biāo)準(zhǔn)，就算我們真的達(dá)成了統(tǒng)一的道德標(biāo)準(zhǔn)，把這套標(biāo)準(zhǔn)交給人工智能來維持，只會(huì)把人類的道德鎖死在現(xiàn)在的水平。過個(gè)幾百年，這種道德鎖死的事情就好像逼著現(xiàn)代人遵守中世紀(jì)道德標(biāo)準(zhǔn)一樣。

所以，我們需要在給人工智能的目標(biāo)里制定一個(gè)能讓人類繼續(xù)進(jìn)化的能力。Elierzer Yudkowsky提出了一個(gè)目標(biāo)，她把這個(gè)目標(biāo)叫作連貫的外推意志，這個(gè)目標(biāo)是這樣的：

我們的連貫外推意志是我們想要知道更多，思考得更快，變成比我們希望的更好的人，能一起更遠(yuǎn)得長大。外推是匯集的而不是發(fā)散的，我們的愿望是連貫的而不是被干擾的；我們想要外推的被外推，我們想要解讀的被解讀。

對于人類的命運(yùn)取決于電腦沒有意外的解讀和執(zhí)行這個(gè)聲明是件值得興奮的事情嗎？當(dāng)然不是。但是當(dāng)足夠的聰明人放入足夠的思考和前瞻后，我們有可能發(fā)現(xiàn)怎樣制造一個(gè)友善的超人工智能。

但是現(xiàn)在有各種政府、公司、軍方、科學(xué)實(shí)驗(yàn)室、黑市組織在研究各種人工智能。他們很多在試圖制造能自我改進(jìn)的人工智能，總有一天，一個(gè)人的創(chuàng)新將導(dǎo)致超人工智能的出現(xiàn)。專家們認(rèn)為是2060年，Kurzweil認(rèn)為是2045年。Bostrom認(rèn)為可能在未來的10年到21世紀(jì)結(jié)束這段時(shí)間發(fā)生，他還認(rèn)為當(dāng)這發(fā)生時(shí)，智能的起飛會(huì)快得讓我們驚訝，他是這么描述的：

在智能爆炸之前，人類就像把炸彈當(dāng)玩具的小孩一樣，我們的玩物和我們的不成熟之間有著極大的落差。超級智能是一個(gè)我們還很長一段時(shí)間內(nèi)都無法面對的挑戰(zhàn)。我們不知道炸彈什么時(shí)候會(huì)爆炸，哪怕我們能聽到炸彈的滴答聲。

我們當(dāng)然沒有辦法把所有小孩都從炸彈旁邊趕跑——參于人工智能研究的大小組織太多了，而且因?yàn)榻ㄔ靹?chuàng)新的人工智能花不了太多錢，研發(fā)可能發(fā)生在社會(huì)的任何一個(gè)角落，不受監(jiān)管。而且我們沒辦法知道準(zhǔn)確的進(jìn)度，因?yàn)楹芏嘟M織是在偷偷摸摸的搞，不想讓競爭對手知道，比如隔壁老王機(jī)器人公司這種公司。

對于這些組織來說，尤其讓我們困擾的是他們很多都是在拼速度——他們創(chuàng)造一個(gè)一個(gè)更加聰明的弱人工智能系統(tǒng)，因?yàn)樗麄兿胍雀偁帉κ指斓牡竭_(dá)目標(biāo)。有些更有野心的組織，為了追逐創(chuàng)造出第一個(gè)強(qiáng)人工智能所能帶來的金錢、獎(jiǎng)勵(lì)、榮譽(yù)、權(quán)力會(huì)把步子邁得更大。當(dāng)你全力沖刺時(shí)，你是不會(huì)有太多時(shí)間靜下來思考這些危險(xiǎn)的。恰恰相反，他們很可能在早期系統(tǒng)中寫盡量簡單的代碼，比如把目標(biāo)設(shè)定成用筆寫一句話，先讓系統(tǒng)跑起來再說，反正以后還可以回過頭來改的。對吧？

Bostrom等認(rèn)為第一個(gè)超人工智能出現(xiàn)后，最可能的情況是這個(gè)系統(tǒng)會(huì)立刻意識(shí)到作為這個(gè)世界上唯一一個(gè)超人工智能是最有利的，而在快速起飛的情況下，哪怕它只比第二名快了幾天，它也完全有時(shí)間碾壓所有對手。Bostrom把這叫作決定性的戰(zhàn)略優(yōu)勢，這種優(yōu)勢會(huì)讓第一個(gè)超人工智能永遠(yuǎn)統(tǒng)治這個(gè)世界，不管在它的統(tǒng)治下我們是走向永生還是滅亡。

這種現(xiàn)象可能對我們有利，也可能導(dǎo)致我們的毀滅。如果那些最用心思考人工智能理論和人類安全的人能夠最先造出一個(gè)友善的超人工智能的話，那對我們是很好的。

但是如果事情走向了另一面——如果超人工智能在我們搞明白怎樣保證人工智能的安全性之前被達(dá)成，那么像隔壁老王這樣不友善的超人工智能就會(huì)統(tǒng)治世界并把我們毀滅了。

至于現(xiàn)在的風(fēng)口是哪里呢？簡單來說，投資創(chuàng)新人工智能技術(shù)的錢，比投資人工智能安全研究的錢多很多。不樂觀。

人工智能創(chuàng)新和人工智能安全的賽跑，可能是人類歷史上最重要的一次競爭。我們真的可能結(jié)束我們對地球的統(tǒng)治，而那之后我們是永生還是滅絕，現(xiàn)在還不知道。

------------------------

我現(xiàn)在有一些奇怪的感覺。

一邊是對于我們這個(gè)物種的思考，看來我們在這個(gè)重大的歷史節(jié)點(diǎn)上只有一次機(jī)會(huì)，我們創(chuàng)造的第一個(gè)超人工智能也很可能是最后一個(gè)。但是我們都知道大部分產(chǎn)品的1.0版本都是充滿bug的，所以這個(gè)事情還是很嚇人的。另一邊，Bostrom指出我們有很大的優(yōu)勢——我們是先手。我們有能力給這個(gè)事情提供足夠的預(yù)警和前瞻，使我們成功的機(jī)會(huì)更高。

這一場豪賭的賭注究竟有多高？

如果超人工智能真的在21世紀(jì)達(dá)成，而造成的影響真的如大部分專家預(yù)測的一樣極端而永久，我們肩上就真的是背負(fù)著巨大的責(zé)任。接下來幾百萬年的人們都在靜靜地看著我們，希望我們不要搞砸。我們可以給予未來所有人類以生命，甚至是永生，我們也可能終結(jié)人類這個(gè)特殊的物種，連同我們所有的音樂、藝術(shù)、好奇、歡笑、無盡的發(fā)現(xiàn)和發(fā)明，一起走向滅絕。

當(dāng)我思考這些事情的時(shí)候，我只希望我們能夠慢慢來，并且格外格外小心。從來沒有任何事情比這個(gè)更重要——不管我們要花多少時(shí)間來把這件事情做對。

我不想死

不.想.死

我雖然覺得人類的音樂和藝術(shù)很美好，但是也沒那么美好，很多還挺糟粕的。很多人的笑聲很惱人。未來的人類其實(shí)沒有真的在看著我們，因?yàn)樗麄冞€不存在。也許我們不需要太謹(jǐn)慎，那多麻煩呀。

如果人類在我死后才發(fā)現(xiàn)永生的秘密該多讓人掃興啊。

但是不管你是怎么想的，我們至少都應(yīng)該想一想，應(yīng)該和人討論討論，大家盡自己能盡的一份力。

這讓我想起了《冰與火之歌》——大家斗來斗去的事情都不是事兒，北面高墻外的那些家伙才是事兒。我們站在平衡木上，小心翼翼的往前走，為平衡木上的種種事情困擾，但其實(shí)下一秒我們可能就會(huì)跌下平衡木。

而當(dāng)我們跌下平衡木的時(shí)候，其它那些困擾都不再是困擾。如果我們落到比較好的那個(gè)吸引態(tài)，那些困擾會(huì)被輕易解決；如果我們落到比較糟的那個(gè)吸引態(tài)，就更沒問題了，死人是不會(huì)有困擾的。

第五篇：人工智能與未來教育的任務(wù)

人工智能與未來教育的任務(wù)

編者按

項(xiàng)賢明：南京師范大學(xué)教育科學(xué)學(xué)院教授、博士生導(dǎo)師、中華教育改進(jìn)社副理事長請輸入標(biāo)題

bcdef原文發(fā)表在華東師范大學(xué)學(xué)報(bào)（教育科學(xué)版）2017年第五期“人工智能與未來教育”筆談(下)請輸入標(biāo)題

abcdefg如果從普雷希(S.L.Pressey)1926年的那臺(tái)教學(xué)機(jī)器算起，人類教育與機(jī)器之間結(jié)成關(guān)系至今已有91年的歷史了。在這90余年里，關(guān)于機(jī)器與人類教育的話題時(shí)起時(shí)伏，一直沒有離開過相關(guān)學(xué)者的視線。我們今天討論的人工智能與人類教育的問題，在很多方面已經(jīng)遠(yuǎn)遠(yuǎn)超越了普雷希和斯金納(B.F.Skinner)時(shí)代教學(xué)機(jī)器的意義。它不僅涉及教學(xué)環(huán)節(jié)中的某種工具或具體技術(shù)問題，而且包含了對人類教育任務(wù)的根本挑戰(zhàn)，是對人類教育的一種更加直接而全面的影響。在近期興起的關(guān)于人工智能與教育問題的討論中，我們絕大多數(shù)人對人工智能都懷抱著積極的、正面的期望。然而，在我看來，人工智能給我們帶來的絕不都是積極的影響，在一定意義上我們甚至可以說，人工智能是一種比核技術(shù)更需要引起我們警惕的新技術(shù)。首先讓我們來討論這樣一個(gè)問題：我們?nèi)祟愂菓{據(jù)什么成了這個(gè)星球的主人的？這里所說的“主人”當(dāng)然不是簡單粗暴征服自然的master，而是能玩轉(zhuǎn)這個(gè)世界的player。我們既沒有尖牙利爪獲取獵物、抵御天敵，也沒有濃密皮毛對付嚴(yán)寒。我們憑什么成了這個(gè)星球的主人？教育學(xué)和人類學(xué)等學(xué)科對這個(gè)問題的解釋是，人類的生理構(gòu)造未特化和反應(yīng)機(jī)制未確定，賦予了人類以很強(qiáng)的可塑性，使人有很強(qiáng)的學(xué)習(xí)能力，可以通過接受教育積累和形成日益強(qiáng)大的適應(yīng)能力。人類正是因?yàn)樽陨韽?qiáng)大的學(xué)習(xí)能力，才能夠適應(yīng)各種各樣的新環(huán)境，解決各種各樣的新問題，從而超越了其他生命存在。遠(yuǎn)古智人能從非洲到歐洲去生活，并且擊敗當(dāng)時(shí)已經(jīng)在那里生活的尼安德特人，說明他們已經(jīng)具有很強(qiáng)的學(xué)習(xí)和適應(yīng)能力。也就是說，我們正是依靠智能，才成為這個(gè)星球的主人的。當(dāng)然，智能并不只是簡單的腦量多少。如果憑腦量的話，非洲叢林象的大腦比我們要大得多。但是，人類大腦的神經(jīng)元數(shù)量卻是非洲叢林象的3倍多。如果你今天欺負(fù)了一頭大象，幾十年后這頭大象還會(huì)認(rèn)出你來，找你的麻煩。大象的這一能力至少比我強(qiáng)得多。今天我在這里和你相識(shí)，明天再見面就有可能記不清你是誰了。這個(gè)有趣的例子或許也能說明，給我們?nèi)祟悘?qiáng)大生存競爭力的不只是像記憶這樣低級的智能，而是以創(chuàng)新為突出特點(diǎn)的高級智能。人類之所以能成為這個(gè)星球的主人，最重要的是我們所具有的高級智能已使我們能夠創(chuàng)造出工具來延伸我們的能力，我們不僅能夠適應(yīng)自然，而且能夠改造自然。我們很多的研究都證明了，人類之所以能夠成為這個(gè)星球的主人，是因?yàn)槲覀冇辛艘砸幌盗懈呒壷悄転榛A(chǔ)的強(qiáng)大學(xué)習(xí)能力。正是高級智能，讓我們成了這個(gè)星球的主人。人類進(jìn)步的歷史上曾發(fā)生過三次認(rèn)知革命。在我看來，我們今天可能正處在第四次認(rèn)知革命的前夜。第一次認(rèn)知革命大約發(fā)生在7萬年前。由于智慧的產(chǎn)生，特別是語言的產(chǎn)生，人能夠組織起來，能夠比其他動(dòng)物更好地協(xié)同，從而使智人成了這個(gè)星球的主人。也正是在這個(gè)時(shí)候，出現(xiàn)了以適應(yīng)性為主要特征的原始社會(huì)的教育，這是一種“適應(yīng)為王”的教育。第二次認(rèn)知革命，發(fā)生在人類進(jìn)入農(nóng)業(yè)社會(huì)之后，大概在距今1.2萬年之前。在這個(gè)發(fā)展階段，掌握更多的自然規(guī)律十分重要。只有掌握了更多的自然規(guī)律，我們才能夠更好地順應(yīng)自然規(guī)律，從而過上好的生活。我去年第一次看見閃電和雷雨時(shí)開始泡稻種，獲得了大豐收；今年偷了個(gè)懶，第五次看見閃電才開始泡稻種，結(jié)果水稻種下去后只會(huì)瘋漲，不結(jié)稻穗，差點(diǎn)沒把自己和家人餓死。記住這些自然規(guī)律，實(shí)在太重要了。于是，我們看到農(nóng)業(yè)社會(huì)的教育，往往都特別強(qiáng)調(diào)“記憶”的重要性。我們中國人在傳統(tǒng)上就特別崇拜那些“博聞強(qiáng)識(shí)”、“學(xué)富五車”的人。這種“記憶為王”的教育傳統(tǒng)，甚至一直影響到今天的中國教育。第三次認(rèn)知革命，大概是從150年前人類邁入工業(yè)時(shí)代開始的。在這個(gè)時(shí)代，人類跟以前時(shí)代最大的不同是什么？那就是我們創(chuàng)造出了自然界從來沒有的東西，甚至能夠創(chuàng)造出自然界沒有的生命。所以，這個(gè)時(shí)代越往后發(fā)展，創(chuàng)新的意義和價(jià)值就越突出。我們今天討論的人工智能，也是我們創(chuàng)造出來的東西。在這一時(shí)期，人跟自然界的關(guān)系已經(jīng)出現(xiàn)了一個(gè)很大的變化，即人類已經(jīng)在很多方面超越自然選擇了。在農(nóng)業(yè)時(shí)代，人工選擇就開始干預(yù)自然選擇的進(jìn)程了，今天我們已經(jīng)不只是干預(yù)，而是能夠逆轉(zhuǎn)甚至創(chuàng)造出自然進(jìn)化過程。在理論上，我們不僅可以讓尼安德特人和霸王龍一道復(fù)活，而且可以通過修改尼安德特人的基因來創(chuàng)造出某一從未有過的新人種。正如我們看到的那樣，這是一個(gè)“創(chuàng)新為王”的時(shí)代，人的創(chuàng)新能力的培養(yǎng)在教育過程中的意義十分突出。如今，我們正站在第四次認(rèn)知革命的門檻上。我們稱這個(gè)時(shí)代為“智能時(shí)代”。在這個(gè)時(shí)代，我們將不僅能夠創(chuàng)造出自然界不曾有過的實(shí)體事物，而且能夠在人腦之外創(chuàng)造出類似人類智慧的“人工智能”。在智能時(shí)代，我們甚至可以把部分的智慧工作也交給機(jī)器。當(dāng)初深藍(lán)戰(zhàn)勝國際象棋高手時(shí)，我們不十分吃驚，因?yàn)榇蠹抑廊吮称遄V怎能是電腦的對手。前不久阿爾法狗戰(zhàn)勝圍棋高手，卻讓我們大吃一驚。為什么？因?yàn)閲搴蛧H象棋不同，它的背后有所謂的“道”，也就是有哲學(xué)理念。它要從全局出發(fā)，進(jìn)行十分復(fù)雜的判斷和選擇，而不只是一步步簡單計(jì)算的累積，這是一個(gè)質(zhì)的飛躍。我們別忘了，這個(gè)時(shí)候機(jī)器已經(jīng)具備了人最重要的能力：它已能夠?qū)W習(xí)。它具有了我們能夠成為這個(gè)星球主人的重要特征：高級智能。在我看來，人工智能正在慢慢走向我們的思維核心。起初，人工智能在我們?nèi)祟愔悄苓\(yùn)作的過程中只是承擔(dān)了部分記憶的任務(wù)，起到了相當(dāng)于計(jì)算機(jī)硬盤的作用。剛才很多科學(xué)家預(yù)言，人工智能將來可以很容易將一個(gè)人變成紅學(xué)專家。的確，或許在不遠(yuǎn)的未來，我們拿一塊存儲(chǔ)卡從太陽穴這兒塞進(jìn)去就行了。1T容量能儲(chǔ)存多少信息？豈止一部《紅樓夢》！一部《大英百科全書》也不過4350萬字。1T字節(jié)換算過來應(yīng)該是549, 755, 813, 888個(gè)漢字，可以抵一個(gè)小型圖書館了！到第二階段，人工智能已經(jīng)可以通過承擔(dān)部分邏輯運(yùn)算任務(wù)來參與我們的思維過程，發(fā)揮類似計(jì)算機(jī)CPU中集成的緩存的功能。在第三步，人工智能已經(jīng)成為我們思維的第二核心，可以直接參與我們的思維過程，甚至在某些單項(xiàng)智能上可以超越我們?nèi)祟?。最后，人工智能是否?huì)對我們?nèi)祟愌b在這個(gè)腦殼里的“CPU”取得控制權(quán)？我看我們真的不能太樂觀。有人很樂觀地相信，控制人工智能的一定是人。沒錯(cuò)，可是你別忘了，這里說的“人”可以有兩種理解：一是實(shí)實(shí)在在存在著的每個(gè)個(gè)人；二是指整個(gè)人類。從整個(gè)人類的層次上，我們或許可以自信人是人工智能的控制者，我們?nèi)詫⑹沁@個(gè)世界的主人。但是，在具體個(gè)人的層次上，我們還能有這樣的信心嗎？現(xiàn)在已經(jīng)出現(xiàn)了自動(dòng)駕駛汽車了，你往里面一坐，你真的以為你是在開這輛汽車嗎？控制權(quán)在你的手里嗎？或許體驗(yàn)一下就能夠理解我的擔(dān)憂了。就具體的個(gè)人而言，少數(shù)精英通過人工智能控制大眾，甚至最終讓人類全部淪為人工智能的奴隸，這樣的結(jié)局并非不可能出現(xiàn)。進(jìn)而言之，離開了現(xiàn)實(shí)的個(gè)人，人類就無從談起，因而少數(shù)精英最終失去對人工智能的控制權(quán)可能也只是遲早的事情。我認(rèn)為，我們在第四次認(rèn)知革命中要面對的最為嚴(yán)峻的挑戰(zhàn)，就是人能否很好地實(shí)現(xiàn)對自身的控制，進(jìn)而正確地控制這個(gè)世界，特別是控制我們自己創(chuàng)造出來的競爭對手——人工智能?；厮菡麄€(gè)人類發(fā)展史可以發(fā)現(xiàn)，我們正是運(yùn)用我們的高級智能，創(chuàng)造出了一系列能夠控制和保障我們的高級智能為人類謀福祉而非自相殘害的社會(huì)倫理、社會(huì)法則。正是我們的人性，亦即康德所說的“趨善稟賦”，使我們得以抑惡揚(yáng)善，從而實(shí)現(xiàn)了對高級智能本身的控制。因此，未來智能時(shí)代的教育，我認(rèn)為應(yīng)當(dāng)是一種“人性為王”的教育，在這樣的教育中德行和情感等人性特有的東西應(yīng)當(dāng)受到極大的重視。在未來，甚至從現(xiàn)在開始，記憶就不應(yīng)當(dāng)再是我們教育的一項(xiàng)特別重要的任務(wù)。那時(shí)，孩子們將不必再為背書而發(fā)愁，也不會(huì)為能夠在某某TV上背誦很多古代詩文而驕傲不已，因?yàn)槟隳闷鹗謾C(jī)或未來某種更高級的智能終端，隨時(shí)就可以查閱大量所需信息。我們也可以把一些簡單的計(jì)算和邏輯推導(dǎo)交給機(jī)器，所以，簡單的計(jì)算和邏輯推導(dǎo)能力也不再成為我們未來教育的主要任務(wù)。孩子們不必為解不出某一道生活中根本不可能碰到的荒謬習(xí)題而發(fā)愁，大學(xué)也不會(huì)專門招收那些能夠解出無數(shù)前人其實(shí)早已經(jīng)解決了無數(shù)次的習(xí)題的人。在“德”“智”“體”三大教育任務(wù)中，“德”和“體”在未來教育中的位置將日益突出，逐步真正取得和“智”同樣的地位。在未來，“知識(shí)中心主義”會(huì)慢慢淡出教育的舞臺(tái)，“全人教育”會(huì)真正占據(jù)核心。當(dāng)然，今天的教育所重視的創(chuàng)新能力培養(yǎng)，仍將是未來教育的重要任務(wù)。與此同時(shí)，道德、情感等將成為我們未來教育最為重要的內(nèi)容。如果我們今天不看到這一點(diǎn)，我們的教育還是天天只奔著競爭職業(yè)崗位去的話，那將來我們丟掉的將不止是職業(yè)崗位，同時(shí)也會(huì)喪失最為寶貴的自由。況且，隨著生產(chǎn)過程自動(dòng)化和智能化的發(fā)展，機(jī)器代替人的工作崗位是必然的?？膳碌牟皇菣C(jī)器占據(jù)我們的職位，而是機(jī)器被人利用成為控制和奴役我們的工具，甚至機(jī)器最終取得對包括我們在內(nèi)的這個(gè)星球的控制權(quán)。未來的教育一定是一種“人性為王”的教育。大家別忘了，人工智能是脫離了個(gè)體人的智能，因而不是每個(gè)人都能成為人工智能的主人。有不少人都把希望寄托在相關(guān)規(guī)則的制定上，譬如規(guī)定必須在所有人工智能機(jī)器中植入對人絕對服從的程序之類。美國科幻作家阿西莫夫(Isaac Asimov)提出的“機(jī)器人三大定律”，的確應(yīng)當(dāng)引起我們高度重視。但我們應(yīng)當(dāng)認(rèn)識(shí)到，規(guī)則唯有深入人心才能真正獲得其意義和價(jià)值，否則它們就毫無意義?！皻⑷藘斆睅浊陙矶际俏覀児J(rèn)的規(guī)則，但今天不還是有殺人犯嗎？真正有用的規(guī)則，必須是植根于人心之中的，所以，從現(xiàn)在起就建立一種“人性為王”的教育，在未來于人類將是一件性命攸關(guān)的事情。我們必須認(rèn)識(shí)到，人工智能是一種比核技術(shù)要更難控制的技術(shù)。人類要在更高的水平上好好地組織起來，保障對人工智能的有效控制。在未來的教育中，培養(yǎng)人的組織能力、領(lǐng)導(dǎo)能力將是一項(xiàng)很重要的任務(wù)，我們需要共同把握人類社會(huì)發(fā)展的戰(zhàn)略和方向，否則我們失算一步，很可能整個(gè)人類就要全盤皆輸。設(shè)想在未來我們回眸今日之教育，我們將做何感想？我們今天的教育很多時(shí)候是在教孩子們把大腦這個(gè)作為智能核心的CPU當(dāng)成簡單的硬盤來用了。如果說人工智能讓我們的機(jī)器越來越像人的話，在我看來，我們今天的教育卻正在把人變得越來越像機(jī)器。今天的教育是在把我們的孩子們變得像一臺(tái)錄音機(jī)。你會(huì)發(fā)現(xiàn)，我們中國的孩子，從小學(xué)到大學(xué)，年級越高，往往越像一臺(tái)錄音機(jī)。我們教育的最后結(jié)果，就是學(xué)生被迫記住一大堆對付考試要用到的東西，并且在這個(gè)過程中慢慢喪失真正寶貴的學(xué)習(xí)能力、創(chuàng)新能力。這是多么可怕、可悲、可嘆的事情！這也是我們最應(yīng)該擔(dān)心的事情。當(dāng)我們把人都變成機(jī)器之后，我們是否還有能力控制人工智能？你只是一架很低級的錄音機(jī)，你連最簡單的微電腦都不是，你還想控制更高級的人工智能？在未來，我們或許會(huì)感嘆今天的教育，感嘆今天我們沒有盡快地從記憶的教育走向創(chuàng)新的教育，感嘆我們沒有及時(shí)認(rèn)識(shí)到道德、情感、組織能力、領(lǐng)導(dǎo)能力等是我們?nèi)祟惤逃种匾娜蝿?wù)。面對今天這樣的教育，我們還能不能擁有未來？我真的沒有十足的信心。教育令人越來越像一架機(jī)器，我們將會(huì)面對人性的全面迷失。我們將來會(huì)不會(huì)面對人工智能失控的問題？這不是完全沒有可能。別忘了，我們?nèi)祟愂强渴裁闯蔀檫@個(gè)星球的主人的？恰恰是高級智能！我們也不能忘記，自由意志對我們每個(gè)人來說有多么重要，一個(gè)人一旦被剝奪了自由意志，那他實(shí)際上就已經(jīng)從人淪落為一種工具了。所以，我一開始就說，人工智能是一種比核技術(shù)更需要引起我們警惕的新技術(shù)。為了應(yīng)對如此嚴(yán)峻的挑戰(zhàn)，我們必須通過教育來保持和提升我們得以超越萬物的人性，這既是未來教育的重要任務(wù)，也是今天的教育應(yīng)當(dāng)予以重視的歷史使命。