人工智能研究和應(yīng)用有沒有“禁區(qū)”？需要遵循哪些責(zé)任？今天舉行的2019世界人工智能大會治理主題論壇上，青年科研人員團體發(fā)布了《中國青年科學(xué)家2019人工智能創(chuàng)新治理上海宣言》，強調(diào)人工智能發(fā)展要遵循倫理責(zé)任、安全責(zé)任、法律責(zé)任和社會責(zé)任，展現(xiàn)了中國青年科學(xué)家參與推動全球人工智能倫理道德發(fā)展的擔(dān)當(dāng)與使命。

上海市人大常委會副主任沙海林、科技部副部長李萌在論壇上致辭。外交部前副部長、清華大學(xué)戰(zhàn)略與安全研究中心主任傅瑩，聯(lián)合國科技促進發(fā)展委員會副主席peter Major作主旨演講。論壇以“合作治理 共創(chuàng)未來”為主題，來自聯(lián)合國、歐盟、經(jīng)合組織、清華大學(xué)、牛津大學(xué)以及國際知名智庫、人工智能企業(yè)的數(shù)十位專家與會，圍繞人工智能治理問題與國際合作展開研討。

據(jù)李萌介紹，今年5月，上海國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)揭牌，明確了建立健全政策法規(guī)、倫理規(guī)范、治理體系的相關(guān)任務(wù)。6月，國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則》，突出了負(fù)責(zé)任和開放協(xié)作的主題。為落實《新一代人工智能治理原則》和上海人工智能創(chuàng)新發(fā)展試驗區(qū)建設(shè)方案，推進全球人工智能治理合作，科技部戰(zhàn)略規(guī)劃司和上海市科委發(fā)起了2019世界人工智能大會治理論壇。

上海市計算機學(xué)會青工委副主任王昊奮教授在論壇上宣讀了《中國青年科學(xué)家2019人工智能創(chuàng)新治理上海宣言》。在倫理責(zé)任方面，宣言呼吁制訂相關(guān)法律法規(guī)，明確用戶權(quán)屬，加強隱私保護意識，發(fā)展隱私保護算法和技術(shù)，以公開、透明、合法的方式收集和使用數(shù)據(jù)。人工智能應(yīng)遵循公平、無歧視原則，對不同人群提供無偏見服務(wù)；應(yīng)從系統(tǒng)工程角度出發(fā)，構(gòu)建數(shù)據(jù)多樣、算法無偏見的人工智能系統(tǒng)，提升用戶體驗的公平性。宣言指出，人工智能應(yīng)符合人類價值觀和利益，要制訂可被廣泛認(rèn)可的人工智能道德規(guī)范，提出遵循道德規(guī)范的算法、產(chǎn)品設(shè)計技術(shù)框架，作為推理和決策時共同遵守的基本原則。

在安全責(zé)任方面，宣言指出，人工智能應(yīng)是安全、穩(wěn)健的，要將技術(shù)魯棒性和安全性貫穿于整個研究過程，提供安全可信系統(tǒng)，提高系統(tǒng)抗攻擊、自我修復(fù)能力。人工智能算法應(yīng)是透明且易被解釋的，要致力于開源、可解釋性研究，增加非黑盒算法研究，多層面提高透明度，以證明其結(jié)論和行為符合道德參考框架。

在法律責(zé)任方面，人工智能應(yīng)是可審計、可追溯的，要確定測試基準(zhǔn)及部署流程與規(guī)范，保證算法可驗證，逐步完善對人工智能系統(tǒng)的問責(zé)與監(jiān)管機制。人工智能應(yīng)具備供用戶自主選擇的權(quán)利，要提供透明、可理解的決策解釋和交互手段，允許用戶參與、監(jiān)督或干預(yù)決策過程。

在社會責(zé)任方面，人工智能應(yīng)為人類的可持續(xù)發(fā)展賦能。要開展諸如模型裁剪與優(yōu)化、高效能硬件架構(gòu)、綠色數(shù)據(jù)中心等環(huán)境友好的研究與服務(wù)。人工智能研究者應(yīng)將人類福祉擺在優(yōu)先地位，注重人工智能應(yīng)用研發(fā)的民生導(dǎo)向，考慮用戶的數(shù)字福祉，創(chuàng)造更具幸福感的工作和生活方式。