今天是“愚人節(jié)”，在流行文化中這通常是個(gè)頗為歡樂(lè)的日子，但這個(gè)“愚人節(jié)”，可能有不少人在思考一個(gè)有點(diǎn)心驚的問(wèn)題：人工智能會(huì)把我們變成“愚人”嗎？

這不是聳人聽(tīng)聞，就在剛剛過(guò)去的3月，人工智能領(lǐng)域發(fā)生了一系列重大事件，就連聯(lián)合國(guó)都被驚動(dòng)了。

先是近來(lái)大熱的人工智能ChatGPT的更高版本GPT-4發(fā)布，被認(rèn)為是人工智能的“破繭成蝶”時(shí)刻；數(shù)日后1000多名業(yè)界專家簽署公開信，要求暫停研發(fā)更強(qiáng)大的人工智能系統(tǒng)；3月30日，聯(lián)合國(guó)教科文組織發(fā)表聲明，呼吁各國(guó)盡快實(shí)施人工智能倫理標(biāo)準(zhǔn)。

雖然，人工智能目前不會(huì)直接把人變成愚人，但如果人類在重大問(wèn)題上應(yīng)對(duì)不當(dāng)、出現(xiàn)重大失誤，則會(huì)證明自己原本就是“愚人”。

人工智能“破繭成蝶”

先來(lái)看看人工智能的歷史。自從1956年一群科學(xué)家在美國(guó)達(dá)特茅斯會(huì)議上提出“人工智能”這個(gè)名詞以來(lái)，其發(fā)展經(jīng)歷了若干高潮和低谷。

最近的一波高潮源于神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)等人工智能技術(shù)的發(fā)展，2016年圍棋人工智能AlphaGo戰(zhàn)勝人類世界冠軍李世石，2017年又戰(zhàn)勝當(dāng)時(shí)世界排名第一的柯潔，就是這個(gè)領(lǐng)域廣為人知的重要成就。

從去年底到今年初，人工智能ChatGPT的崛起又一次震驚世界。

它能以很接近人的方式與人對(duì)話，還能通過(guò)一些專業(yè)考試，比如谷歌編碼L3級(jí)（入門級(jí)）工程師面試，據(jù)說(shuō)該職位年薪18.3萬(wàn)美元，這個(gè)薪資水平估計(jì)超過(guò)了大部分看到這里的讀者吧。

當(dāng)?shù)貢r(shí)間3月14日，開發(fā)ChatGPT的美國(guó)OpenAI公司發(fā)布了更進(jìn)一步的GPT-4。它具備多模態(tài)能力，在文字輸入外還能接受圖片輸入。它在諸多專業(yè)領(lǐng)域的能力也更強(qiáng)，有人用它模擬參加了美國(guó)大學(xué)先修課程考試等多項(xiàng)考試，在英語(yǔ)、歷史、數(shù)學(xué)、生物等方面都取得了不錯(cuò)的成績(jī)。在模擬美國(guó)律師考試中，作為ChatGPT基礎(chǔ)的GPT-3.5得分在后10%，而GPT-4的得分在前10%。

下圖是OpenAI公司官方發(fā)布的GPT-4各項(xiàng)考試表現(xiàn)。此圖發(fā)布后，網(wǎng)友討論的一個(gè)問(wèn)題是，還有沒(méi)有哪些或哪位人類個(gè)體能夠在如此廣泛的考試中取得這樣的成績(jī)。

人工智能領(lǐng)域著名專家、圖靈獎(jiǎng)得主杰弗里·欣頓在社交媒體上發(fā)表評(píng)論說(shuō)，毛毛蟲要吸收養(yǎng)分才能變成蝴蝶，在理解文字等方面吸收了大量信息后，“GPT-4就是人類的蝴蝶”。

“愚人”風(fēng)險(xiǎn)不可忽視

雖然GPT-4還沒(méi)有達(dá)到科幻故事中通用人工智能的程度，但業(yè)界普遍認(rèn)為它把人工智能帶到了可能超過(guò)人類的關(guān)鍵點(diǎn)上。

“我們應(yīng)該開發(fā)可能最終數(shù)量勝出、智力超過(guò)、淘汰并取代我們的非人類意識(shí)嗎？”這是美國(guó)生命未來(lái)研究所網(wǎng)站3月下旬發(fā)布的一封公開信中發(fā)出的靈魂之問(wèn)。

公開信列舉了強(qiáng)大的人工智能可能帶來(lái)的種種問(wèn)題，比如可讓各種信息渠道中充斥錯(cuò)誤信息、替代多種人類工作等，更為可怕的是各家實(shí)驗(yàn)室正在競(jìng)相研發(fā)連發(fā)明者都不能理解、預(yù)測(cè)或可靠控制的人工智能。

OpenAI公司今年2月曾在一份聲明中說(shuō)，在某個(gè)時(shí)候，在開始訓(xùn)練未來(lái)的人工智能系統(tǒng)之前需要先進(jìn)行獨(dú)立的評(píng)估。生命未來(lái)研究所網(wǎng)站的公開信說(shuō)：“我們同意。這個(gè)時(shí)間點(diǎn)就是現(xiàn)在?！?/p>

公開信呼吁所有相關(guān)機(jī)構(gòu)將研發(fā)比GPT-4更強(qiáng)大的人工智能系統(tǒng)的工作暫停至少6個(gè)月，以商討相關(guān)倫理規(guī)范。目前已有著名科技企業(yè)家馬斯克、蘋果公司聯(lián)合創(chuàng)始人沃茲尼亞克等上千名業(yè)界人士簽名。以下是若干簽名大佬的截圖：

這事甚至驚動(dòng)了聯(lián)合國(guó)。3月30日，聯(lián)合國(guó)教科文組織發(fā)表聲明，表示注意到業(yè)界關(guān)于暫停研發(fā)強(qiáng)大人工智能的呼聲，并呼吁各國(guó)政府根據(jù)2021年就已通過(guò)的《人工智能倫理問(wèn)題建議書》盡快實(shí)施具體標(biāo)準(zhǔn)。

聯(lián)合國(guó)教科文組織總干事阿祖萊在聲明中說(shuō)：“世界需要更強(qiáng)有力的人工智能倫理規(guī)則，這是我們這個(gè)時(shí)代的挑戰(zhàn)?！?/p>

人類關(guān)于這種挑戰(zhàn)的想象早已體現(xiàn)在各種科幻作品中，無(wú)論是中國(guó)科幻片《流浪地球》中對(duì)智能量子計(jì)算機(jī)MOSS的描繪，還是美國(guó)科幻片《2001太空漫游》中對(duì)超級(jí)電腦HAL9000的擔(dān)心，都顯示出人工智能有可能在兩個(gè)層次上讓我們變成“愚人”。首先是在某些具體工作中超越最聰明的人類，圍棋領(lǐng)域AlphaGo等案例已讓我們逐漸習(xí)慣這一點(diǎn)；然后就是大范圍接管各種工作，以至于最終可以影響整個(gè)人類的命運(yùn)。

最為形象的一個(gè)科幻場(chǎng)景，可能是動(dòng)畫片《機(jī)器人總動(dòng)員》中，在飛船中生存的人類越來(lái)越胖，甚至難以行走，生活全靠機(jī)器人護(hù)理。在歷代飛船船長(zhǎng)與身后代表人工智能的方向盤合影中，方向盤越來(lái)越大，甚至最終壓過(guò)了船長(zhǎng)的控制權(quán)。

全球共建“機(jī)器倫理”

人類需要因?yàn)槿斯ぶ悄艿目耧j猛進(jìn)陷入恐慌嗎？答案是否。因?yàn)槿祟惾匀焕卫慰刂浦斯ぶ悄埽豢赡馨l(fā)生某些科幻大片中的失控場(chǎng)面。

但是，從現(xiàn)在開始，必須避免“或者萬(wàn)劫不復(fù)、或者天下太平”的極性思維。人工智能倫理治理要面對(duì)的，是處于兩個(gè)極端之間的各種實(shí)際可能發(fā)生的情況，包括對(duì)就業(yè)、教育的影響。為此，需要相關(guān)各方積極行動(dòng)，聯(lián)合攻關(guān)，就生成式人工智能可能帶來(lái)的主要機(jī)遇、風(fēng)險(xiǎn)和治理方案達(dá)成共識(shí)。

確實(shí)，在當(dāng)前全球科技界競(jìng)相研發(fā)人工智能的形勢(shì)下，讓所有人都暫停6個(gè)月研發(fā)不太現(xiàn)實(shí)，網(wǎng)上有人稱之為“最不可能的?；稹薄Ｔ谶@個(gè)時(shí)候，堵不如疏，聯(lián)合國(guó)教科文組織提出制定詳細(xì)的人工智能倫理規(guī)范，有助于讓人工智能走在我們想要的軌道上。

早在2021年11月的聯(lián)合國(guó)教科文組織第41屆大會(huì)上，會(huì)員國(guó)一致通過(guò)了《人工智能倫理問(wèn)題建議書》。根據(jù)該文件，與人工智能相關(guān)的根本性倫理關(guān)切包括多個(gè)方面，例如：人工智能技術(shù)可能內(nèi)嵌并加劇偏見(jiàn)，可能導(dǎo)致歧視、不平等、數(shù)字鴻溝和排斥，并對(duì)文化、社會(huì)和生物多樣性構(gòu)成威脅，造成社會(huì)或經(jīng)濟(jì)鴻溝。

更為宏觀地說(shuō)，建議書認(rèn)為人工智能的發(fā)展應(yīng)該“以人的尊嚴(yán)、福祉和防止損害為導(dǎo)向”。今年12月，聯(lián)合國(guó)教科文組織全球人工智能倫理問(wèn)題論壇將在斯洛文尼亞舉行，屆時(shí)將發(fā)布相關(guān)進(jìn)展報(bào)告。

著名科幻作家阿西莫夫曾經(jīng)提出“機(jī)器人三定律”，也許未來(lái)在每一個(gè)人工智能的底層，都會(huì)首先寫下這些代碼：

“機(jī)器人不得傷害人類，或坐視人類受到傷害；

除非違背第一定律，否則機(jī)器人必須服從人類命令；

除非違背第一或第二定律，否則機(jī)器人必須保護(hù)自己?！?