人工智能專家在害怕什么

   作為一名人工智能研究者，我經(jīng)常發(fā)現(xiàn)人們?cè)趽?dān)心AI（即人工智能）將會(huì)給我們帶來什么。這些想法不足為奇：我們擔(dān)心有朝一日自已會(huì)被機(jī)器人控制，并且被監(jiān)禁起來。

   但是，對(duì)我來說，我很難想象我屏幕上的無(wú)辜的虛擬生物如何會(huì)在未來變成怪物。或許我會(huì)像奧本海默在率先制造出首枚原子彈之后那樣哀嘆自已成為“世界的毀滅者”？

   作為一名AL專家，我對(duì)人工智能有哪些恐懼呢？

                         

                     

 

 

                             對(duì)于未知的恐俱

      電影導(dǎo)演斯坦利·庫(kù)布里克執(zhí)導(dǎo)的《2001太空漫游》里的“HAL9000”高智能電腦，就是一個(gè)因意外而失敗的系統(tǒng)案例。就許多復(fù)雜的系統(tǒng)而言，如泰坦尼克號(hào)、美國(guó)的航天飛機(jī)和切爾諾貝利核電站，工程師將許多不同的部件組合起來。設(shè)計(jì)者可能了解每個(gè)元件如何獨(dú)立工作，但是對(duì)于它們?nèi)绾喂餐�運(yùn)作缺乏足夠的認(rèn)識(shí)。

   結(jié)果是， 出現(xiàn)了一個(gè)永遠(yuǎn)不可能被完全了解的系統(tǒng)，并且可能以很多不能預(yù)知的方式發(fā)生故障。在每一場(chǎng)災(zāi)難中——巨輪沉沒，航天飛機(jī)爆炸以及在亞洲和歐洲擴(kuò)散放射性污染物—— 一系列相對(duì)較小的故障合力釀成一場(chǎng)嚴(yán)重的災(zāi)難。

我可以看到我們?nèi)绾卧贏L研究中落入了同一個(gè)陷阱。我們閱讀認(rèn)知科學(xué)的最新研究，然后將其轉(zhuǎn)化成一種算法，并將其添加到一個(gè)現(xiàn)有的系統(tǒng)中。我們?cè)诓涣私庵悄芎腿沃�的情況下試圖設(shè)計(jì)AL。

    但是，隨著AL的設(shè)計(jì)變得更復(fù)雜，計(jì)算機(jī)處理器的速度更快，它們的技能也將會(huì)提升。

這將令我們賦予其更多責(zé)任。我們知道“人非圣賢孰能無(wú)過”，所以我們很可能根本無(wú)法創(chuàng) 造出一個(gè)真正安全的系統(tǒng)。

                           

                         對(duì)于濫用的恐懼

   

     現(xiàn)在，我們正在一步步地進(jìn)化這些機(jī)器，使之能夠完成簡(jiǎn)單的導(dǎo)航任務(wù)、做出簡(jiǎn)易的決策或是記住幾個(gè)二進(jìn)制數(shù)字。但是，不久之后，我們希望能夠創(chuàng)造出人類水平的智能。

   在這一過程中，我們將通過進(jìn)化過程找到并消除錯(cuò)誤和問題。一代接一代，這些機(jī)器對(duì)于出現(xiàn)在前幾代身上的錯(cuò)誤會(huì)處理得越來越好。這增加了我們?cè)诜抡婺�擬中發(fā)現(xiàn)意外結(jié)果的機(jī)會(huì)，從而能夠在其進(jìn)入現(xiàn)實(shí)世界之前消除這些隱患。

   另一種更進(jìn)一步的可能性，就是利用進(jìn)化來影響人工智能系統(tǒng)的道德標(biāo)準(zhǔn)。信譽(yù)和利他主義，這些人類倫理和道德可能正是我們進(jìn)化的結(jié)果——也是延續(xù)的要素。     我們可以設(shè)置虛擬環(huán)境，賦予那些展示出善良、誠(chéng)實(shí)和同理心的機(jī)器進(jìn)化優(yōu)勢(shì)。這可能是一種確保我們能夠研發(fā)出更多服從的仆人或是值得信賴的伙伴而非無(wú)情機(jī)器人殺手的方式。

   盡管神經(jīng)進(jìn)化可能會(huì)減少意外結(jié)果出現(xiàn)的可能性，但是并不能防止濫用�？墒�，那是一個(gè)道德問題，而非一個(gè)科學(xué)問題。

                   

                      對(duì)于社會(huì)不公的恐懼

   

     

人們正在關(guān)注的一個(gè)重要領(lǐng)域是就業(yè)。機(jī)器人已經(jīng)在做諸如將汽車零件組裝到一起的體力工作。 不久以后，它們或許也將能夠完成我們?cè)��?jīng)認(rèn)為是專屬于人類的認(rèn)知任務(wù)。自駕車可能會(huì)取代出租車司機(jī)；無(wú)人駕駛飛機(jī)可能會(huì)取代飛行員。

    病人可以從一個(gè)能夠即時(shí)訪問迄今為止收集到的所有醫(yī)學(xué)知識(shí)的專家系統(tǒng)里獲得檢查和診斷，并且由一個(gè)永不知疲倦的、擁有完美穩(wěn)定性的“手”的機(jī)器人實(shí)施手術(shù)，而不必在急診室里尋求可能已經(jīng)過度疲勞的醫(yī)生的救助。法律咨詢可能來自于一個(gè)無(wú)所不知的法律數(shù)據(jù)庫(kù)；投資建議可能來自于一個(gè)市場(chǎng)預(yù)測(cè)系統(tǒng)。

    或許有朝一日，所有的人類工作都將由機(jī)器完成。即使是我自已的工作也可能會(huì)得到更快完成——由大量機(jī)器孜孜不倦地研究如何制造更智能的機(jī)器人。

    在我們當(dāng)前的社會(huì)，自動(dòng)化推動(dòng)人們失業(yè)，令擁有機(jī)器的人更富有，而其他人則更貧窮。這不是一個(gè)科學(xué)問題；這是一個(gè)社會(huì)必須解決的政治和社會(huì)經(jīng)濟(jì)學(xué)問題。我的研究不會(huì)改變這一點(diǎn)，盡管我的政治自我——和其他人類一起——或許能夠令人類廣泛受益，而不是徒增我們中那百分之一與其他人之間的差距。

    還有一個(gè)終極恐懼，那就是由“HAL9000”、“終結(jié)者”和其他虛構(gòu)的超級(jí)智能生物所呈現(xiàn)的：如果AL不斷發(fā)展，直至超越人類知慧，會(huì)不會(huì)有一個(gè)超級(jí)智能系統(tǒng)（或是多個(gè)）發(fā)現(xiàn)其不再需要人類？面對(duì)一個(gè)能夠做人類永遠(yuǎn)做不到的事情的超級(jí)智能機(jī)器，我們將如何證明我們存在的價(jià)值？

    我覺得很難為我們所有人提出一個(gè)具有說服力的論點(diǎn)。當(dāng)我犀利地把我們所有人當(dāng)成一個(gè)整體看的時(shí)侯，我發(fā)現(xiàn)存在著很多錯(cuò)誤：我們彼此仇恨，我們相互發(fā)動(dòng)戰(zhàn)爭(zhēng)，我們沒有平等地分配食物、知識(shí)和醫(yī)療救助，我們污染地球。世界上存在著很多的美好，但是所有的惡都削弱了我們被允許存在的論點(diǎn)。

     幸運(yùn)的是，我們還有一點(diǎn)時(shí)間 ——在50年到250年之間，這取決于AL的發(fā)展速度。我們可以聯(lián)合起來，探討出一個(gè)關(guān)于超級(jí)智能為什么不應(yīng)當(dāng)消滅我們的好答案。但是，這將是非常艱難的：說我們擁抱多樣性和真的這樣做是兩件截然不同的事 ——說我們想要拯救地球和成功地這樣做也是如此。

    無(wú)論是個(gè)人還是社會(huì)，我們所有人都需要為那個(gè)噩夢(mèng)般的場(chǎng)景做好準(zhǔn)備，利用僅存的時(shí)間來證明為什么我們的創(chuàng)造物應(yīng)該允許我們繼續(xù)存在�；蛘�，我們可以決定相信這永遠(yuǎn)不會(huì) 發(fā)生，大家都不必再擔(dān)心。但是，無(wú)論超級(jí)智能可能對(duì)我們構(gòu)成何種人身威脅，它們同時(shí)也會(huì)構(gòu)成政治和經(jīng)濟(jì)威脅。如果我們找不到一種方式來更好地分配我們的財(cái)富，那么我們將會(huì)加劇資本主義，令人工智能勞動(dòng)力僅服務(wù)于極少數(shù)占有著所有生產(chǎn)資料的人。