久久精品成人热国产成,国产精品区在线观看,99爱精品视频在线观看免费,国产精品一区二区x88av,在线看片国产精品,久草网站,免费在线观看视频一区二区

關(guān)注我們
荊楚網(wǎng) > 國際

Open AI“宮斗劇”暴露人工智能監(jiān)管漏洞

發(fā)布時(shí)間:2023年12月01日16:34 來源: “伍之管見”微信公眾號(hào)

美國人工智能公司OpenAI旗下的ChatGPT上線已經(jīng)一年。近期,圍繞OpenAI首席執(zhí)行官薩姆·奧爾特曼去留問題的“宮斗劇”,短短幾天內(nèi)經(jīng)歷了“反轉(zhuǎn)反轉(zhuǎn)再反轉(zhuǎn)”,似乎已經(jīng)落下帷幕。

塵埃落定之后,OpenAI的首席執(zhí)行官還是奧爾特曼,一切似乎沒變,但一切似乎又已經(jīng)完全變了。

這場(chǎng)大戲,揭開了OpenAI內(nèi)部關(guān)于人工智能發(fā)展前途的矛盾,它暴露的不僅是一家人工智能公司的管理問題,更揭示了人工智能治理機(jī)制缺失的潛在風(fēng)險(xiǎn)。

作為全球知名的人工智能研究機(jī)構(gòu),OpenAI近年來一直是最受關(guān)注的科技公司之一。一年前,OpenAI推出大語言模型ChatGPT,掀起了生成式人工智能的熱潮,奧爾特曼也成為全球科技界風(fēng)云人物。

網(wǎng)絡(luò)上流傳的視頻顯示,奧爾特曼宣稱自己沒有公司股份,也不想通過公司商業(yè)獲利。他還經(jīng)常在公開場(chǎng)合宣稱要警惕人工智能帶來的風(fēng)險(xiǎn)。

而透過這場(chǎng)“宮斗戲”,人們發(fā)現(xiàn)事情遠(yuǎn)沒有奧爾特曼宣稱的那么簡單。

美國有線電視新聞網(wǎng)報(bào)道說,董事會(huì)之所以“逼宮”,是因?yàn)閾?dān)心奧爾特曼過于激進(jìn)地推動(dòng)人工智能開發(fā),存在嚴(yán)重的風(fēng)險(xiǎn)隱患。據(jù)報(bào)道,奧爾特曼私下里在人工智能開發(fā)方面態(tài)度激進(jìn),試圖推動(dòng)公司更快把人工智能產(chǎn)品推向市場(chǎng),通過銷售產(chǎn)品獲利。

根據(jù)路透社報(bào)道,此前有幾名研究人員寫信給OpenAI董事會(huì),揭發(fā)一項(xiàng)名為"Q*"(發(fā)音為Q-Star)的“可能會(huì)威脅人類”的人工智能項(xiàng)目,引發(fā)了董事會(huì)的擔(dān)憂和不滿。據(jù)報(bào)道,該項(xiàng)目可能是OpenAI在通用人工智能領(lǐng)域的新突破。

什么是通用人工智能?OpenAI自己的定義是,在大多數(shù)具有經(jīng)濟(jì)價(jià)值的任務(wù)中,超越人類智慧的人工智能系統(tǒng)。簡言之,就是能夠取代人類大部分勞動(dòng)的人工智能。

表面上,這場(chǎng)“宮斗戲”,是OpenAI首席執(zhí)行官奧爾特曼與董事會(huì)之爭;本質(zhì)上,它是人工智能的冒險(xiǎn)與穩(wěn)妥之爭。更愿意冒險(xiǎn)的奧爾特曼勝出了。不久前,OpenAI在社交媒體X(推特)平臺(tái)上稱,該公司已“原則上達(dá)成協(xié)議”,讓奧爾特曼重任OpenAI首席執(zhí)行官,并組建新的董事會(huì)。

“宮斗戲”撲朔迷離,個(gè)中利益糾葛、恩怨情仇外人難以知曉,局中人的是非對(duì)錯(cuò)難以評(píng)判。這場(chǎng)大戲更值得人們關(guān)注和反思的,是人工智能領(lǐng)域關(guān)乎人類發(fā)展的嚴(yán)峻問題和潛在的漏洞風(fēng)險(xiǎn)。

單靠公司治理體制,不足以對(duì)人工智能實(shí)現(xiàn)有效監(jiān)管;僅憑資本與市場(chǎng)的邏輯,難以有效遏制人工智能開發(fā)帶來的潛在風(fēng)險(xiǎn)。

目前世界多國正在加強(qiáng)人工智能監(jiān)管立法。歐盟正制定AI監(jiān)管法規(guī),法國、德國和意大利近期也就AI監(jiān)管達(dá)成一致,支持AI基礎(chǔ)模型“以行為準(zhǔn)則方式強(qiáng)制自我監(jiān)管”;美國10月30日發(fā)布首個(gè)人工智能監(jiān)管行政命令,要求美國最強(qiáng)人工智能系統(tǒng)的研發(fā)人員需與政府分享其安全測(cè)試結(jié)果及其他關(guān)鍵信息等。

美國、英國等近20個(gè)國家11月26日公布一份建議性質(zhì)的協(xié)議,一致認(rèn)定企業(yè)需要在設(shè)計(jì)和使用人工智能系統(tǒng)時(shí)確保消費(fèi)者等廣大公眾安全,需要監(jiān)控濫用AI系統(tǒng)現(xiàn)象,防止數(shù)據(jù)遭干預(yù),審核軟件供應(yīng)商資質(zhì)等。

實(shí)際上,在OpenAI“宮斗劇”上演之前,中國10月18日就提出了《全球人工智能治理倡議》。這是中國在促進(jìn)人工智能安全發(fā)展和應(yīng)用方面作出的莊嚴(yán)承諾,為人工智能發(fā)展和治理問題提出了建設(shè)性的解決思路,也為相關(guān)各國討論和規(guī)則制定提供了藍(lán)本。

中國智慧和中國方案,為這個(gè)充滿未知和風(fēng)險(xiǎn)的前沿領(lǐng)域,帶來了更多的確定性和方向感。

或許,下次像ChatGPT這樣的新突破橫空出世時(shí),人們除了新奇、驚艷,還會(huì)有更深刻、更長遠(yuǎn)、更多維度的見解與對(duì)策。

(讀懂世界大事,請(qǐng)關(guān)注“伍之管見”微信公眾號(hào)。)

【責(zé)任編輯:楊威】