人類最惡劣的發(fā)明是什么？顯然，不同的人會有完全不同的看法。似乎中國人普遍認(rèn)為是轉(zhuǎn)基因。這個事兒挺有意思的。中國在整體上轉(zhuǎn)基因技術(shù)相當(dāng)落后，（當(dāng)然，我們偏偏也擁有這一領(lǐng)域的世界頂級人才如張鋒和高彩霞。）所以在市場上能夠見到的轉(zhuǎn)基因食品幾乎沒有。全國人民并沒有什么機會吃轉(zhuǎn)基因食物。但是對轉(zhuǎn)基因卻有全球最高級別的焦慮和恐懼。而美國市場上轉(zhuǎn)基因食品占到70%以上。20多年來兩億多美國人民為全人類甘當(dāng)小白鼠，天天吃轉(zhuǎn)基因食物，吃了兩萬多億頓。到現(xiàn)在沒有一個人受到轉(zhuǎn)基因食品的實際傷害，確確實實就是一例都找不到。你們誰能說出美國哪個人因為吃了轉(zhuǎn)基因食品而生病、死亡或者生不出孩子啦？所以轉(zhuǎn)基因這個發(fā)明到底是好是壞，至少到現(xiàn)在根本無法下結(jié)論。當(dāng)然，這不是我們今天要討論的事情。這只是個鋪墊。

我要說：汽車才是人類最惡劣的發(fā)明。有大量充分而確鑿的統(tǒng)計數(shù)據(jù)證明，因為車禍，全世界每年有100萬到120萬人死亡。有2000萬到3000萬人受傷，其中不乏終身殘疾。和轉(zhuǎn)基因不同，我們每個人幾乎都能夠說出自己知道的幾個因為車禍而受到傷害的人的名字。是不是呀？但奇怪的是：我從來沒聽到有人譴責(zé)人類發(fā)明了汽車，或者要求禁止使用汽車。相反，中國人對汽車、好車、名車的追求和熱愛始終高燒不退！當(dāng)然這也不是我今天要討論的事情。這也只是個鋪墊。

我今天想要和大家討論的是：前幾天李飛飛同學(xué)告訴我們：人類居然還有一件事情比發(fā)明汽車更恐怖，那就是醫(yī)療。她說：每年，因為醫(yī)院誤診和醫(yī)療事故造成的死亡人數(shù)，是車禍死亡人數(shù)的三倍以上。這意味著什么？這意味著每年人類因為錯誤的醫(yī)療導(dǎo)致的死亡人數(shù)高達300萬到360萬人！

畢業(yè)于普林斯頓大學(xué)和加州理工學(xué)院的李飛飛（1976-）博士是一位科學(xué)家，是谷歌云端人工智能的首席專家，是斯坦福大學(xué)的終身教授和人工智能實驗室的主任。她不可能隨意說話。況且，她的這番話是在剛剛舉行的《2018世界人工智能大會》上的正式發(fā)言。

首先應(yīng)該明確，李飛飛肯定不是一個否定現(xiàn)代醫(yī)學(xué)、崇拜前現(xiàn)代醫(yī)術(shù)的人（中國互聯(lián)網(wǎng)上這樣的人特別多）。就像我雖然嚴(yán)厲批評汽車，但我也不是一個否定現(xiàn)代出行技術(shù)、希望大家回到馬車牛車人力車時代、或者駕云駕霧出行的人。

現(xiàn)代醫(yī)學(xué)是偉大的科學(xué)。從根除大規(guī)模的傳染病、包括根除那些曾經(jīng)消滅過四分之一到二分之一人口的鼠疫、黑死病和天花，到給心臟安支架搭橋，現(xiàn)代醫(yī)學(xué)把人類的健康提高到了過去不敢想象的空前水平。（我們千萬要和那些反現(xiàn)代的傳統(tǒng)復(fù)古分子劃清界限。）但是，現(xiàn)代醫(yī)學(xué)由于完全依靠人來操作運行；這一點正好和汽車一樣，汽車也完全依靠人來操作運行；這就使得人為失誤不可避免地給人類帶來巨大生命損失。

正如90%以上的車禍都是“人的失誤”造成的，90%以上的醫(yī)療誤診和操作過錯也都是“人的失誤”造成的。所以，汽車行業(yè)和醫(yī)療行業(yè)現(xiàn)在就成了人工智能的主要突破口。因為，顯然，在人的失誤最大的領(lǐng)域，人工智能肯定失誤會最少。這也就是李飛飛她們的用武之地。

人工智能肯定是人類的下一個文明、下一個時代的生產(chǎn)力的核心。用人工智能戰(zhàn)勝圍棋選手，那只是人工智能的小試鋒芒，是人工智能的初顯實力。如果人工智能在汽車行業(yè)和醫(yī)療行業(yè)的運用，能夠把這兩個行業(yè)現(xiàn)在對人類造成的巨大生命損失降低哪怕一半，大家想想，那就是何等偉大的成就呀！以汽車為例，大多數(shù)專家都認(rèn)為，如果汽車行馳最終完全實現(xiàn)人工智能化，也就是無人化，那么完全可以消除當(dāng)前發(fā)生的90%以上的車禍。也就是說，挽救至少一百萬人的生命。是不是非?？?！而這也完全可以同理推論到醫(yī)療上。

不過現(xiàn)在我們?nèi)祟愐呀?jīng)不那么簡單了。大家都不會相信人類的科學(xué)技術(shù)進步是單一方向的?？茖W(xué)技術(shù)有可能給我們帶來偉大的成就；同樣有可能給我們帶來無窮的災(zāi)難。不是嗎？所以，人類從原始基因中帶來的猜疑情結(jié)，現(xiàn)在不是在減弱，而是在增強。如果我們閉著眼睛一想轉(zhuǎn)基因那么可怕，那人工智能會不會比它更可怕呀？

對周邊世界保持強烈猜疑，很可能是原始人類能夠存活下來并登頂生物圈的一個主要原因。那么，對未來科技保持強烈猜疑，也很可能是未來人類能夠長遠存活下去，并永遠保持優(yōu)勢的一個基本條件。所以，人類從現(xiàn)在起，就要想到人工智能將來會不會危害人類？人類應(yīng)當(dāng)如何應(yīng)對之？

我們高興地看到，今天，人工智能最前沿的研究者們就已經(jīng)注意到了這一點了。就在《2018世界人工智能大會》上，李飛飛說：

人工智能（AI）是如此強大，人類從來沒有創(chuàng)造過一種技術(shù)它對社會影響會如此巨大。而我們，包括我們這些人工智能專家，對它的未來發(fā)展又知之甚少。這使我這個AI科學(xué)家誠惶誠恐！

為此，她提出，要應(yīng)對AI這種技術(shù)給人類帶來的新挑戰(zhàn)，就要堅持以人為本的AI。具體地說，那就是：人工智能三法則：

第一，AI必須更深層次地反映人的思維。 第二，社會有責(zé)任引導(dǎo)和監(jiān)測AI對人類發(fā)展所帶來的影響，雖然工程化是第一個挑戰(zhàn)，但更要關(guān)注AI帶來的社會倫理挑戰(zhàn)。 第三，AI應(yīng)該增強人類而不是取代人類，AI可以替代危險性的工作，但人的素質(zhì)會因為AI而有新的不斷的發(fā)展。

李飛飛提出的三原則，確實對人和機器、特別是智能機器的關(guān)系有了突破性創(chuàng)新。過去，人類關(guān)于人和機器的關(guān)系的研究，很少從她這個角度來觀察和探討過。

如果追溯人類關(guān)于人和智能機器的關(guān)系的確定，毫無疑問，大家都會想到阿西莫夫（1920-1992）。他早在1942年發(fā)表的科幻小說《環(huán)舞（Runaround）》中，就提出了機器人三法則：

第一法則，機器人不得傷害人，或袖手旁觀地坐視人受到傷害。 第二法則，除非違背第一法則，機器人必須服從人的命令。 第三法則，除非違背第一或第二法則，機器人必須保護自己。

阿西莫夫遠在智能機器人根本就沒有出現(xiàn)、甚至連計算機都還沒有出現(xiàn)的時候，就率先提出了要給機器人定規(guī)矩；并從理論上概括了人和機器關(guān)系的主要原則。并且在他創(chuàng)造的三法則中，不容爭議地確定了人類的絕對主人地位。所以，機器人三定律有非常重要的啟蒙作用。

到1985年，計算機已經(jīng)運行和飛速發(fā)展了40年，人工智能也誕生30年了。阿西莫夫這時看到：一方面智慧機器的出現(xiàn)即將成為現(xiàn)實；另一方面，人間越來越不太平，人類之間的沖突愈演愈烈。因此，他在新書《機器人與帝國（Robots and Empire）》中，把自己的三大法則擴展為四大法則，也就是增加了第零法則：

第零法則：機器人不得傷害整體人類，或坐視整體人類受到傷害。 第一法則：除非違背第零法則，否則機器人不得傷害人，或坐視人受到傷害； 第二法則：除非違背第零或第一法則，否則機器人必須服從人的命令； 第三法則：除非違背第零、第一或第二法則，否則機器人必須保護自己。

可以看得出來，阿西莫夫到晚年時，已經(jīng)開始擔(dān)心人工智能和機器人被用于武器、軍備競賽和人類相互殘殺的戰(zhàn)爭。在他的最后一部科幻小說中，他希望通過自己提出的這些虛擬原則，來約束人類的行為。老爺爺用心好良苦呀！

但是，機器人三定律實際上有很強的局限性和模糊性。最重要的是，似乎沒有誰能夠完全按照阿西莫夫提出的原則，真正造出預(yù)先植入了他提出的三定律或者四法則的機器人。

應(yīng)該說直到最近十年內(nèi)，當(dāng)人類創(chuàng)造和生產(chǎn)智慧機器或者智能機器人的工作真正全面展開后，第一線的人工智能專家，比如李飛飛他們，很快就認(rèn)識到，人類和智慧機器人的關(guān)系，最終肯定不是誰指揮誰、誰領(lǐng)導(dǎo)誰、誰服從誰的問題。不是如何處理兩者的對立關(guān)系的問題。而是人和人工智能、或者說機器人，如何互相理解、互相溝通、互相協(xié)同，甚至互相融入，成為一體的問題。

當(dāng)你真正開始設(shè)計、創(chuàng)造和制造AI機器人的時候，你需要的根本就不是去判斷AI到底是最好的發(fā)明，還是最壞的創(chuàng)造？我們到底是在制造一個偉大的天使，還是在生產(chǎn)一個邪惡的魔鬼。事實上，我們并不面對這種選擇，而只是要讓我們創(chuàng)造的這個AI系統(tǒng)，完全理解和遵循人類的價值和目標(biāo)。這也就是李飛飛的第一條說的：AI必須更深層次地反映人的思維。

如果真的能夠?qū)崿F(xiàn)這一條，那人類創(chuàng)造的AI機器人，就不可能再是一種異化的、異己的、和人類對立的力量。而是和人類有著完全相同的價值取向和目標(biāo)取向的力量。

人類創(chuàng)造的AI機器人，它們和人類之間將不再是非此即彼、互不相容的關(guān)系；而是人機攜手、共生共榮、共創(chuàng)未來的關(guān)系。

AI機器人肯定有它遠遠超越人類的特殊優(yōu)勢能力，因此，從工程技術(shù)上看，AI機器人能做人類根本做不了的事情。但這也是和人類互補的。因為人類具有創(chuàng)造力、同情心、同理心、審美心和肉體性。AI機器人的工程技術(shù)能力再強，也必須理解人類的這五大特征，并努力使自己融入到這五大特征中，使自己卓越的工程技術(shù)能力用于支持人類特有能力的體驗、增強和發(fā)展。從而在倫理上和人類同步，而不是和人類沖突。這也就是李飛飛的第二條說的，人類要應(yīng)對好AI帶來的工程化的挑戰(zhàn)和社會論理的挑戰(zhàn)。

從人機關(guān)系的最終目標(biāo)看，那就是李飛飛說的第三條：AI應(yīng)該增強人類而不是取代人類。……人的素質(zhì)將會因為AI而有了新的不斷的發(fā)展和提高。這也就決定了，人類開發(fā)的AI機器人將包容所有的人、支持所有的人、發(fā)展所有的人，而不是相反。人們創(chuàng)造的AI，永遠是輔助人類、協(xié)助人類、尊重人類的力量，而不是相反。

根據(jù)我的觀察，事實上，李飛飛提出的人工智能三法則代表了當(dāng)今人工智能研發(fā)精英團隊的共識。我也讀過除了谷歌團隊之外，比如蘋果團隊、微軟團隊的人工智能專家提出的一些原則和法則，無論大家提出的是三原則、四原則、五原則或者六原則，我深深感到大家其實有很大的共識。追求人類和人工智能的相互高度理解、支持和融合，代表了未來人工智能的主導(dǎo)方向。

---