授權(quán)轉(zhuǎn)移來(lái)自:思想和現(xiàn)實(shí)

譯者:王佩

原文發(fā)表于2017年11月1日的《奇點(diǎn)中心》

譯者前言:

意識(shí)和算法是等價(jià)的這個(gè)觀點(diǎn)我不太認(rèn)同，但這篇文章讓我想讀讀迪翁的這本新書，了解一下認(rèn)知和神經(jīng)科學(xué)在研究意識(shí)方面的最新進(jìn)展。

我們不能實(shí)現(xiàn)我們不能實(shí)現(xiàn)的?！?朱利安·杰恩斯

“兩院制精神崩潰中的意識(shí)起源”

與導(dǎo)演試圖說(shuō)服你的不同，安德魯·加蘭(Andrew Garland)2015年的電影巨作《機(jī)械姬》(Mechanical Ji)的主角不是凱勒(Caleb)，他是一名年輕的程序員，任務(wù)是評(píng)估機(jī)器的意識(shí)。相反，迦勒要評(píng)價(jià)的機(jī)器阿瓦才是主角。這是一個(gè)人工智能，看起來(lái)像一個(gè)人，有著孩子般的童心和不可思議的頭腦。

像大多數(shù)與大腦有關(guān)的電影一樣，《機(jī)械姬》給觀眾留下了一個(gè)開放式的結(jié)局:艾瓦真的有意識(shí)嗎？這種結(jié)束方式巧妙地避開了棘手的問(wèn)題:什么是意識(shí)，機(jī)器可以有意識(shí)嗎？這個(gè)問(wèn)題是大部分以AI為題材的電影不得不面對(duì)的挑戰(zhàn)。

好萊塢制片人不是唯一被這些問(wèn)題難倒的人。隨著機(jī)器智能的快速發(fā)展，不僅在DOTA、Go等方面超越人類的表現(xiàn)，而且不需要人類專家的介入也能做到這一點(diǎn)，這些問(wèn)題再次進(jìn)入主流科學(xué)視野。

機(jī)器到了意識(shí)的邊緣了嗎？

最近，法國(guó)科學(xué)院的stanislas Dion、加州大學(xué)洛杉磯分校的Hakwan Lau、巴黎文理大學(xué)的Sid Kouider等認(rèn)知科學(xué)家在《科學(xué)》雜志上發(fā)表了一篇文章。他們對(duì)這個(gè)問(wèn)題的回答是:還沒(méi)有，但是有明確的前進(jìn)方向。

原因是什么？這些作者寫道，意識(shí)是“絕對(duì)的算法”。他們是從各種信息處理方式中得出這個(gè)結(jié)論的，這使得把大腦做成硬件成為可能。

意識(shí)沒(méi)有什么神秘的，也沒(méi)有什么額外的驚喜——其實(shí)連大家都很清楚的經(jīng)驗(yàn)問(wèn)題都沒(méi)必要問(wèn):有意識(shí)是一種怎樣的體驗(yàn)？

如果意識(shí)純粹來(lái)自三磅大腦中的算法，那么讓機(jī)器意識(shí)到就是把生物問(wèn)題變成算法問(wèn)題。

今天強(qiáng)大的機(jī)器學(xué)習(xí)技術(shù)借鑒了神經(jīng)生物學(xué)。同樣，作者寫道，我們也許可以通過(guò)研究我們大腦的結(jié)構(gòu)來(lái)實(shí)現(xiàn)人工意識(shí)，大腦可以產(chǎn)生意識(shí)，這種意識(shí)是像計(jì)算機(jī)算法一樣產(chǎn)生的。

從大腦到機(jī)器

毫無(wú)疑問(wèn)，人工智能可以從我們的大腦中學(xué)到太多，無(wú)論是大腦的結(jié)構(gòu)還是功能。

比如阿爾法狗橫掃人類背后的深層神經(jīng)網(wǎng)絡(luò)就是一種算法結(jié)構(gòu)，它是基于多層次的生物神經(jīng)網(wǎng)絡(luò)，就像我們的腦細(xì)胞自組織形成的神經(jīng)網(wǎng)絡(luò)一樣，只是基礎(chǔ)沒(méi)那么扎實(shí)。

強(qiáng)化學(xué)習(xí)是一種“訓(xùn)練”的類型，可以教會(huì)AI從上百個(gè)國(guó)外案例中學(xué)習(xí)。它是建立在幾百年歷史的技術(shù)之上的，養(yǎng)過(guò)狗的人對(duì)它都不陌生:如果狗做出了正確的反應(yīng)(或者得到了人們想要的結(jié)果)，它就會(huì)得到獎(jiǎng)勵(lì)；或者讓它一次又一次的嘗試。

從這個(gè)意義上說(shuō)，把人類意識(shí)的結(jié)構(gòu)轉(zhuǎn)移到機(jī)器上似乎很容易，但問(wèn)題還是很大的。

“在人工智能領(lǐng)域，沒(méi)有人在努力構(gòu)建有意識(shí)的機(jī)器，因?yàn)槲覀儧](méi)有理論基礎(chǔ)，也不知道該做什么，”斯圖爾特·拉塞爾博士在接受《科學(xué)》采訪時(shí)說(shuō)。他是2015年出版的《人工智能:一種現(xiàn)代方法》的作者。

多層次意識(shí)

很久以前，我們?cè)谒伎既绾巫寵C(jī)器有意識(shí)。但問(wèn)題是，我們首先需要知道意識(shí)是什么。

對(duì)迪翁和他的同事來(lái)說(shuō)，意識(shí)是一個(gè)由兩個(gè)“維度”組成的多層次結(jié)構(gòu):C1是大腦中存在的信息，C2是獲取和監(jiān)控關(guān)于自己的信息的能力。對(duì)于意識(shí)來(lái)說(shuō)，兩個(gè)維度都很重要，相輔相成。

比如你在開車的時(shí)候，油表的燈突然亮了，車子需要加油。在這里，我感覺(jué)油表上的燈是C1——一個(gè)我們可以與之互動(dòng)的精神表征:我們可以注意到它，根據(jù)它采取行動(dòng)(給車加滿油)，回憶并談?wù)撐磥?lái)那個(gè)時(shí)候的場(chǎng)景(“我開車去郊區(qū)的時(shí)候沒(méi)油了！”)。

迪翁在接受《科學(xué)》采訪時(shí)說(shuō):“我們想從意識(shí)中區(qū)分的第一個(gè)維度是全球適用性的概念。”。當(dāng)你意識(shí)到一個(gè)詞時(shí)，你的整個(gè)大腦都會(huì)意識(shí)到它，他補(bǔ)充道。從某種意義上說(shuō)，你可以在大腦的所有模塊(區(qū)域)中使用這些信息。

但C1不僅僅是一個(gè)“精神畫板”，它還代表了整個(gè)大腦結(jié)構(gòu)，使大腦能夠從我們對(duì)相關(guān)事件的感知或記憶中提取各種信息模塊。

與潛意識(shí)過(guò)程不同，這個(gè)過(guò)程通常依賴于大腦中特定的“模塊”(區(qū)域)來(lái)處理特定的任務(wù)。C1是一個(gè)全球性的作品空，它使大腦能夠整合信息并決定采取行動(dòng)，直到行動(dòng)結(jié)束。

正如《饑餓游戲》所描述的，我們所謂的“意識(shí)”就是在某個(gè)時(shí)間點(diǎn)上的表象，贏得了進(jìn)入腦力勞動(dòng)空的機(jī)會(huì)。獲勝的表征分散在不同的大腦計(jì)算回路中，一直處于決策的聚光燈下，指導(dǎo)著人們的行為。

作者解釋說(shuō)，由于這些特征，以C1為代表的意識(shí)是高度穩(wěn)定和全球性的——所有相關(guān)的腦回路都會(huì)受到刺激。

對(duì)于像智能汽車這樣復(fù)雜的機(jī)器，C1是及時(shí)解決問(wèn)題的第一步，例如，看到油燈亮起。在這種情況下，油燈本身就是一個(gè)潛意識(shí)信號(hào):當(dāng)它亮起時(shí)，汽車的其他部分還沒(méi)有得到這個(gè)信息，汽車——即使裝有人工視覺(jué)處理系統(tǒng)——也會(huì)毫不猶豫地錯(cuò)過(guò)加油站。

有了C1，油箱將向汽車電腦發(fā)出警報(bào)(讓油燈進(jìn)入汽車的“意識(shí)大腦”)，這反過(guò)來(lái)將讓汽車的內(nèi)置GPS找到附近的加油站。

迪翁說(shuō):“我們相信，在一臺(tái)機(jī)器上，C1可以被改造成一個(gè)系統(tǒng)，它可以從任何一種處理模塊中獲取信息，并使這些信息適用于任何其他處理模塊，這樣他們都可以使用這些信息。”。“這是意識(shí)的第一層含義?！?/p>

元認(rèn)知

從某種意義上說(shuō)，C1反映了大腦識(shí)別外部信息的能力，而C2反映了內(nèi)部反射。

作者將意識(shí)的第二個(gè)方面C2定義為“元認(rèn)知”，它反映了你是否知道或感知到了什么，或者你是否只是犯了一個(gè)錯(cuò)誤(“我想我可能在最后一個(gè)加油站加滿了油，但是我忘記要收據(jù)了，現(xiàn)在我不確定我是否加滿了油”)。這個(gè)維度反映了意識(shí)和自我意識(shí)的關(guān)系。

C2是一種意識(shí)水平，它能讓你對(duì)自己的決定感到更自信或更不自信。用算法術(shù)語(yǔ)來(lái)說(shuō)，它是一種算法，可以計(jì)算出一個(gè)決策(或計(jì)算)的正確概率，盡管它通常被體驗(yàn)為一種“直覺(jué)”。

C2也有記憶力和好奇心。這些自我監(jiān)控算法讓我們能夠知道自己知道什么或者不知道什么——所謂的“元記憶”，負(fù)責(zé)記住你舌頭上的美食。迪翁說(shuō)，監(jiān)控我們知道的(或不知道的)對(duì)孩子來(lái)說(shuō)尤其重要。

“孩子們絕對(duì)需要監(jiān)控他們所知道的，以便進(jìn)行進(jìn)一步的探索，變得更加好奇和學(xué)習(xí)更多，”他解釋說(shuō)。

意識(shí)的這兩個(gè)方面可以給我們帶來(lái)協(xié)同作用:C1把相關(guān)信息拉入腦力勞動(dòng)空(同時(shí)扔掉其他“可能”的想法或方案)，而C2通過(guò)長(zhǎng)期的反思幫助我們知道有意識(shí)的想法是否會(huì)帶來(lái)有益的對(duì)策。

回到油燈的例子。C1可以讓汽車解決當(dāng)前的問(wèn)題——這些算法可以讓汽車的每一個(gè)部分都響應(yīng)這個(gè)信息，從而讓汽車意識(shí)到這個(gè)問(wèn)題。

但是要解決這個(gè)問(wèn)題，汽車還需要有自己的“認(rèn)知能力目錄”——它可以實(shí)現(xiàn)自己可以使用什么資源，比如可以用GPS找加油站。

迪翁說(shuō):“擁有這種自知之明的汽車就是我們所說(shuō)的C2?！薄Ｒ?yàn)樾畔⒌娜蚩捎眯?，也因?yàn)樾畔⒖梢酝ㄟ^(guò)機(jī)器自檢的方式監(jiān)控，汽車會(huì)關(guān)注油燈，采取像人一樣的行動(dòng)——減少汽油消耗，尋找最近的加油站。

“目前，最好的學(xué)習(xí)系統(tǒng)避免任何自我監(jiān)控，”作者指出。

他們的理論似乎朝著正確的方向發(fā)展。實(shí)現(xiàn)自我監(jiān)控系統(tǒng)的幾個(gè)案例——無(wú)論是通過(guò)算法的結(jié)構(gòu)還是作為一個(gè)獨(dú)立的網(wǎng)絡(luò)——都導(dǎo)致了人工智能產(chǎn)生“內(nèi)部元認(rèn)知模型，使人類能夠?yàn)槠浒l(fā)展(有限的、模糊的、實(shí)用的)自我認(rèn)知?！?/p>

意識(shí)機(jī)器

擁有C1和C2的機(jī)器會(huì)像有意識(shí)的人一樣行動(dòng)嗎？很有可能智能車會(huì)“知道”自己在看一個(gè)物體，對(duì)自己有信心，把這種信心傳遞給別人，為自己遇到的問(wèn)題找到最好的解決方案。如果它的自我監(jiān)控機(jī)制出了問(wèn)題，可能會(huì)產(chǎn)生“錯(cuò)覺(jué)”，甚至體驗(yàn)到類似人類的視覺(jué)錯(cuò)覺(jué)。

有了C1，機(jī)器可以靈活地使用它所擁有的信息。迪翁說(shuō)，對(duì)于C2，它知道自己的認(rèn)知局限。“我認(rèn)為(機(jī)器)會(huì)有意識(shí)”，而且不僅僅是類似人類的那種意識(shí)。

如果你認(rèn)為意識(shí)遠(yuǎn)不止是信息的全球共享和自我監(jiān)控，那么我可以告訴你，很多人都是這樣認(rèn)為的。

“純粹根據(jù)功能來(lái)定義意識(shí)可能不會(huì)讓一些讀者滿意，”作者承認(rèn)。

“但我們確實(shí)試圖采取激進(jìn)的立場(chǎng)，也許這可以簡(jiǎn)化意識(shí)問(wèn)題。意識(shí)是一種功能屬性，當(dāng)我們繼續(xù)給機(jī)器添加這些功能的時(shí)候，到了某個(gè)臨界點(diǎn)，這些屬性就會(huì)變成我們所說(shuō)的意識(shí)，”迪翁總結(jié)道。

關(guān)于作者

謝莉·范是舊金山加州大學(xué)的神經(jīng)科學(xué)家。她研究如何使老化的大腦變得更年輕。此外，她還是一名活躍的科普作家，對(duì)生物技術(shù)、AI以及一切關(guān)于神經(jīng)的東西都很著迷。在業(yè)余時(shí)間，她會(huì)劃獨(dú)木舟，騎自行車去露營(yíng)，并致力于自然。