雷鋒網(wǎng)(公眾號(hào)：雷鋒網(wǎng))AI技術(shù)評(píng)論稱，8月中旬，斯克等26個(gè)國(guó)家AI技術(shù)領(lǐng)導(dǎo)人大巴向聯(lián)合國(guó)發(fā)出了一封信，要求禁止開(kāi)發(fā)和使用“殺人機(jī)器人(300024，診療股)”，引起了人們對(duì)人工智能使用和監(jiān)督的新?lián)鷳n。

現(xiàn)在 AI 已經(jīng)開(kāi)始取代部分人的工作，以后 AI 難道還要用來(lái)殺死人類嗎？雖然全球各大 AI 研究機(jī)構(gòu)都在盡量開(kāi)放自己的成果，促進(jìn)發(fā)展的同時(shí)避免技術(shù)壟斷來(lái)減少人們的擔(dān)心，但僅僅“開(kāi)放”并不能解決一切問(wèn)題。

近日，AI 研究機(jī)構(gòu)艾倫人工智能研究院（Allen Institute for Artificial Intelligence）院長(zhǎng)、華盛頓大學(xué)教授Oren Etzioni 也在紐約時(shí)報(bào)發(fā)表了一篇文章，講述了他對(duì)人工智能監(jiān)管的看法。Oren Etzioni 在 Tom M. Mitchell 指導(dǎo)下于1991年拿到CMU的博士學(xué)位，而后在來(lái)到華盛頓大學(xué)，擔(dān)任計(jì)算機(jī)工程學(xué)院教授；2005年時(shí)他牽頭成立了華盛頓大學(xué)圖靈中心并任主任，中心的研究領(lǐng)域包括數(shù)據(jù)挖掘、NLP、網(wǎng)絡(luò)搜索。Oren Etzioni 在文中提出了他心中的“人工智能三定律”，雷鋒網(wǎng) AI 科技評(píng)論將文章編譯如下。

被許多人看作“現(xiàn)實(shí)版鋼鐵俠”的美國(guó)頂尖科技公司創(chuàng)始人埃隆馬斯克，最近敦促國(guó)家有關(guān)領(lǐng)導(dǎo)人提早采取措施監(jiān)管人工智能技術(shù)。馬斯克堅(jiān)持認(rèn)為，人工智能是對(duì)人類生存的“潛在威脅”，如同科幻作品中的人工智能，是一個(gè)令人擔(dān)憂的觀點(diǎn)。不過(guò)，即使是像我這樣的研究人員也認(rèn)識(shí)到，人工智能會(huì)對(duì)武器設(shè)計(jì)，工作機(jī)會(huì)和隱私安全產(chǎn)生極大的影響。人們對(duì)于是否應(yīng)該開(kāi)發(fā)人工智能技術(shù)很自然地會(huì)產(chǎn)生疑問(wèn)。

我相信答案是肯定的。但是，為了謹(jǐn)慎，難道我們不應(yīng)該一步一步地至少減緩人工智能A.I.的開(kāi)發(fā)進(jìn)度嗎？問(wèn)題是如果我們這樣做，那么例如中國(guó)這樣的國(guó)家就會(huì)超過(guò)我們。 A.I.之馬已經(jīng)脫韁，我們最好的打算是試圖引導(dǎo)它。 A.I.不應(yīng)該被武器化，而且任何A.I.必須有一個(gè)堅(jiān)守的“禁地”。除此之外，我們應(yīng)該規(guī)范A.I.系統(tǒng)對(duì)實(shí)際應(yīng)用場(chǎng)景方面的影響，（例如，自動(dòng)駕駛車輛的安全性），而不是在還未定形且快速發(fā)展的A.I.領(lǐng)域試圖定義和控制某些概念。

我提出了三個(gè)有關(guān)人工智能系統(tǒng)的規(guī)則，這些想法是受到科幻作家艾薩夫·阿西莫夫1942年提出的“機(jī)器人學(xué)三律”啟發(fā)的。我在此基礎(chǔ)上做了進(jìn)一步發(fā)展。阿西莫夫的三定律是：第一、機(jī)器人不得傷害人類，或看到人類受到傷害而袖手旁觀；第二、在不違反第一定律的前提下，機(jī)器人必須絕對(duì)服從人類給與的任何命令；第三、在不違反第一定律和第二定律的前提下，機(jī)器人必須盡力保護(hù)自己。

這三大定律看上去雖優(yōu)雅簡(jiǎn)練但卻模糊不清：當(dāng)涉及到A.I.時(shí)，究竟什么才是傷害？基于我提出的三條規(guī)則，我找到了更為具體的方法來(lái)避免A.I.造成傷害。

首先，A.I. 系統(tǒng)必須遵守其操作人員的所有規(guī)則。這套規(guī)則將涵蓋私人，公司和政府機(jī)構(gòu)。 我們不想要A.I. 從事網(wǎng)絡(luò)欺凌，股票操縱或恐怖主義威脅; 我們不想要F.B.I. 利用A.I.系統(tǒng)釣魚(yú)執(zhí)法。 我們不想要自動(dòng)駕駛車輛闖紅燈，或者更糟的是制造違反國(guó)際條約的A.I. 武器。

我們的一般法規(guī)應(yīng)該修改，人們不能借口稱是A.I.系統(tǒng)做了一些我們無(wú)法理解或預(yù)期的事情。簡(jiǎn)單地說(shuō)，“不管我事，是A.I干的”；這不應(yīng)該成為違法行為的借口。

我的第二條規(guī)則是A.I.系統(tǒng)必須清楚地表明它不是人類。正如我們?cè)谝粍t機(jī)器人案例中所見(jiàn) - 計(jì)算機(jī)程序可以與真人進(jìn)行日益復(fù)雜的對(duì)話 - 人類社會(huì)需要確保A.I.系統(tǒng)被清楚地標(biāo)示出來(lái)。在2016年，一個(gè)被稱為吉爾·沃森（Jill Watson）的機(jī)器人在佐治亞理工大學(xué)（Georgia Tech）擔(dān)任在線課程的教學(xué)助理，愚弄學(xué)生，并讓大家以為它是人類。根據(jù)牛津大學(xué)的研究人員稱，更為嚴(yán)重的例子是在2016年選舉之前的日子里，在社交媒體上廣泛使用的支持特朗普的政治機(jī)器人。

我的規(guī)則將確保人們知道機(jī)器人何時(shí)冒充某人。例如，我們知道@DeepDrumpf - 一個(gè)在Twitter上幽默地模仿唐納德·特朗普的機(jī)器人。A.I.系統(tǒng)不僅發(fā)出假的推文;它們也發(fā)布假新聞視頻。華盛頓大學(xué)的研究人員最近發(fā)布了前總統(tǒng)巴拉克·奧巴馬的假視頻，非常令人信服地似乎在說(shuō)一些被嫁接到他視頻中的話，真實(shí)情況是與他說(shuō)的完全不同。

我的第三條規(guī)則是若未經(jīng)該信息來(lái)源方的明確許可，A.I.系統(tǒng)不能保留或披露機(jī)密信息。由于其能自動(dòng)引用，記錄和分析信息的特殊能力，A.I.系統(tǒng)處于獲取機(jī)密信息的主要位置。例如開(kāi)始被越來(lái)越多的家庭接受的“智能音箱”亞馬遜Echo，就可能會(huì)記錄下家庭中所有的談話內(nèi)容，包括那些私密的，或您的孩子可能無(wú)意泄露給A.I.的信息。即使看似無(wú)害的室內(nèi)清潔機(jī)器人也會(huì)繪制你家的地圖。這些就是你要確保管控的信息。

我相信這些規(guī)則聽(tīng)起來(lái)還不夠完整。我在這里介紹它們，只為拋磚引玉。無(wú)論你是否同意Musk先生關(guān)于A.I.的進(jìn)步速度及其對(duì)人類的最終影響的觀點(diǎn)，很明顯的一點(diǎn)是A.I. 已經(jīng)來(lái)臨。社會(huì)大眾需要做好準(zhǔn)備。

Vianytimes，雷鋒網(wǎng) AI 科技評(píng)論編譯

雷鋒網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。