作者：李曉華(中國社會科學院工業(yè)經(jīng)濟研究所研究員)

目前，新一輪科技革命和產(chǎn)業(yè)變革正在深化，正在重組全球創(chuàng)新版圖，重組全球經(jīng)濟結(jié)構(gòu)。云計算、大數(shù)據(jù)、互聯(lián)網(wǎng)、移動互聯(lián)網(wǎng)、人工智能、區(qū)塊鏈等數(shù)字技術群是影響最大的推動力，在新產(chǎn)品、新模式、新形式、經(jīng)濟社會生活中，以通用技術加速滲透融合，正在其他產(chǎn)業(yè)領域發(fā)生破壞性變化，數(shù)字產(chǎn)業(yè)化和產(chǎn)業(yè)數(shù)字化正在迅速推進，數(shù)字經(jīng)濟在世界各國發(fā)展最快

數(shù)字經(jīng)濟的核心是數(shù)據(jù)、大數(shù)據(jù)、人工智能等技術廣泛、實時地收集和處理經(jīng)濟社會的各種數(shù)據(jù)，使數(shù)據(jù)像工業(yè)時代的石油一樣成為數(shù)字經(jīng)濟時代最重要的生產(chǎn)要素。目前主流的人工智能技術路線是“大數(shù)據(jù)機器學習”。算法強制給定的限制、抽象、有效、復合的控制結(jié)構(gòu)，在特定規(guī)則下達到特定目的。隨著人工智能技術的廣泛使用，算法滲透到經(jīng)濟社會生活的各個方面，算法社會正在到來。算法在帶動經(jīng)濟增長、提高經(jīng)濟效率、豐富生活、便利生活的同時，也暴露出對市長/市場競爭、信息傳播、個人隱私、弱勢群體利益等方面的負面影響和風險，因此，要重視和加強算法規(guī)制。

數(shù)字時代的算法預測性能

算法廣泛應用于國民經(jīng)濟的各個領域，具有廣泛多樣的特點，其應用領域和環(huán)節(jié)、影響對象不同，因此算法的負面影響和風險主要包括以下幾個方面：

第一，限制市長/市場競爭。數(shù)字經(jīng)濟在組織形式上的突出特點是超級平臺的出現(xiàn)，數(shù)字經(jīng)濟和傳統(tǒng)產(chǎn)業(yè)在產(chǎn)業(yè)組織結(jié)構(gòu)上形成了巨大的差異。第一，平臺成為典型的經(jīng)營形式。數(shù)字經(jīng)濟平臺作為雙邊平臺，一方面連接最終產(chǎn)品或服務用戶，另一方面連接這些產(chǎn)品或服務供應商，另一方面提供實現(xiàn)供應商和最終用戶之間的交易中介服務和交易所需的數(shù)字工具、數(shù)字基礎設施和交易規(guī)則。第二，數(shù)字經(jīng)濟的市長/市場集中度更高。由于互聯(lián)網(wǎng)效應的存在，數(shù)字經(jīng)濟的細分產(chǎn)業(yè)領域進入成熟階段，呈現(xiàn)出勝者通吃的格局，一兩個頭部企業(yè)占據(jù)了大部分市長/市場份額，而傳統(tǒng)產(chǎn)業(yè)的市長/市場集中度一般要低得多。第三，超級平臺擁有強大的市長/市場力量。由于占據(jù)了大部分市長/市場份額，平臺是數(shù)據(jù)集中和交換的樞紐，因此無論是居住在平臺上的供應商還是最終用戶都處于非常弱勢的地位。平臺企業(yè)可以利用市長/市場優(yōu)勢和數(shù)據(jù)控制，對供應商和最終用戶進行掠奪性定價。此外，還可以模仿數(shù)據(jù)優(yōu)勢、用戶優(yōu)勢、潛在的新技術和新的商業(yè)模式，將初創(chuàng)企業(yè)擠出市場，或者直接收購初創(chuàng)企業(yè)，將現(xiàn)有市場的優(yōu)勢擴大到新興市場。即使市場上還有多個平臺，平臺企業(yè)也可以通過以算法為媒介共謀，向供應商和消費者收取高價，追求不正當?shù)睦妗?

第二，侵犯用戶隱私。在數(shù)字經(jīng)濟時代，數(shù)據(jù)是企業(yè)經(jīng)濟利益的重要來源，數(shù)據(jù)的價值取決于細分、新鮮度、連接度、反饋、響應度、加工度等多個方面。精細化程度高的信息、時效性高的信息、能與其他信息聯(lián)系起來的信息越多，經(jīng)濟價值越高。用戶的信息可以直接用于數(shù)字經(jīng)濟企業(yè)本身的商品轉(zhuǎn)換或促銷，也可以銷售給其他企業(yè)。為了確保盡可能多的信息，許多應用程序或APP未經(jīng)用戶同意，直接獲得程序運行不需要的權限，包括定位功能、地址簿訪問權限等。即使用戶不打開權限，程序也不可用。為了獲得網(wǎng)絡的便利性，消費者不得不轉(zhuǎn)讓個人信息。但是，有些信息收集未經(jīng)消費者許可，屬于非法收集，個人是數(shù)據(jù)的生產(chǎn)者、所有者，但一旦被互聯(lián)網(wǎng)公司獲得，就擺脫了原來所有者的控制。個人不僅不知道自己的信息用在哪里，在后續(xù)使用中還會威脅個人隱私，甚至會損害個人財產(chǎn)和人身安全。(莎士比亞，奧賽羅，莎士比亞) (個人，個人，個人，個人，個人)。

第三，造成算法歧視。算法歧視是基于算法的自動化決定對個人造成不公平待遇的現(xiàn)象。算法歧視包括個人所處的特定社會群體造成的不同待遇：直接歧視和間接歧視，后者意味著表面上的中立行為對社會團體成員有不同的影響。算法歧視有很多原因。訓練算法中使用的歷史數(shù)據(jù)被污染或有偏見，算法中使用性別、種族等明顯的歧視性數(shù)據(jù)，利用能夠顯示身份的代理變量(如用戶使用的手機品牌和價格)用于算法模型訓練，將個人偏見和歧視性觀點移植到算法中，等等。算法歧視的典型例子是“大數(shù)據(jù)謀殺”。大數(shù)據(jù)殺熟是互聯(lián)網(wǎng)平臺利用算法分析用戶過去的消費數(shù)據(jù)，同樣的商品或服務對支付能力強、對價格不敏感的老客戶得到更高的價格。在傳統(tǒng)商品市場中，商品的功能、質(zhì)量高度標準化，價格不同，很容易被發(fā)現(xiàn)；互聯(lián)網(wǎng)服務一般基于特定的時間、特定的場景；時間、場景不同，市場的供需關系不同，因此形成了不同的市長/市場價格，殺死“大數(shù)據(jù)”更加難以察覺，更加困難。

第四，形成信息繭室。通過對消費者注冊、瀏覽、搜索、購買、評價等互聯(lián)網(wǎng)使用歷史數(shù)據(jù)的分析，媒體平臺可以使用算法將感興趣的信息準確推送給消費者，從而提高用戶粘度和用戶鎖定。在信息呈指數(shù)爆炸式增長的自媒體時代，平臺的推薦算法可以為消費者節(jié)省大量的信息檢索時間，但嚴重限制了消費者可以接收的信息多樣性。推薦算法會根據(jù)用戶的偏好和歷史數(shù)據(jù)嚴格定制信息，而用戶駐留在這些信息上將進一步加強算法。推薦這些信息。人們被算法困在“信息修復室”里，被動地接受算法向人們展示的信息。另一方面，各種數(shù)字平臺的社交化導向，推動有相同愛好和觀點的人聚集在網(wǎng)絡空間，進一步加強固有的愛好和觀點。算法推薦只能讓用戶看到他們想看到的觀點，導致信息封閉，在認知上成為“井底之蛙”。在社會層面，信息繭室也可以形成用戶觀點。

的極化，造成不同群體之間的交流障礙，甚至由于思想的偏狹引致群體間的誤會，催生極端行為，引發(fā)社會矛盾和沖突。

第五，損害弱勢群體。數(shù)字經(jīng)濟的發(fā)展和算法的廣泛使用不會自動地平等惠及每一個人，弱勢群體反而會成為算法的受損者。在日常生活中，由于數(shù)字技術對傳統(tǒng)生活方式的替代可能增加對數(shù)字技術不熟悉人群的不便。例如，網(wǎng)約車普及后，不會使用手機的老年人出現(xiàn)“打車難”。在工作中，合意的算法應該有益于勞動者工作條件的改善、降低工作中的潛在傷害。但這只是算法的美好的一面，算法也會讓勞動者變成算法的“奴隸”。例如，在外賣行業(yè)，外賣騎手在算法的驅(qū)使下為了準時完成訂單、獲得準時獎勵或避免不準時的罰款，不僅會增加勞動強度，而且可能會采取超速、逆行、闖紅燈等高風險行為，被迫用事故概率來換取工作效率。

第六，帶來倫理挑戰(zhàn)。傳統(tǒng)上，人類主體使用某種技術以及該技術形成的產(chǎn)品和服務，同時承擔使用該項技術造成的法律后果或道德倫理責任，但是當人類把決策權交給算法，由算法自動地作出判斷、決策并實施行動時就形成了對道德倫理的挑戰(zhàn)。在大多數(shù)情況下，現(xiàn)有法律法規(guī)、政策和社會倫理對算法造成的不良后果會形成約束，但是算法的突飛猛進也會產(chǎn)生新的道德倫理問題，對人類文明長期形成的道德倫理準則形成新的挑戰(zhàn)，給人類社會的發(fā)展帶來新的風險。在著名的“電車難題”中，當無人駕駛汽車在事故在所難免時，它該如何作出決策：是優(yōu)先保護車上的駕駛?cè)藛T和乘客還是優(yōu)先保護路上的行人？是選擇撞向道路上的多個行人還是撞向路邊的一個無辜看客？現(xiàn)有的法律甚至社會倫理并沒有對算法規(guī)則如何設定提供明確的意見。由于智能化系統(tǒng)是按照預先編好的程序作出決策，因此在一些領域的應用可能會造成巨大的風險。

數(shù)字時代算法困境的成因

首先是人類的認知局限。算法是人類開發(fā)設計的，必然也反映著人類的主觀認知。算法困境的很重要原因是人類主觀認知的局限性造成的。一方面，開發(fā)算法的人員可能會存在認知上的偏差甚至偏見，而算法不僅會繼承人類的偏見，而且還可能隨著數(shù)據(jù)的積累和算法的迭代而被強化和放大。另一方面，大數(shù)據(jù)、人工智能以及作為其核心的算法仍然是一個新生事物，人類對于其可能造成的負面影響存在認識不足的情況。在機器學習的技術路線下，程序員只需要給出一個合適的算法而無需自己手動編寫詳細代碼，通過提供充足的用于訓練的數(shù)據(jù)，算法可以自己調(diào)整、修改決策規(guī)則。這種學習能力賦予算法一定程度的自主性，同樣也造成算法執(zhí)行任務的后果難以預測。

其次是企業(yè)的經(jīng)濟動因。算法雖然在客觀構(gòu)成上是一系列冰冷的代碼，但它仍然是人類智力活動的結(jié)果，算法既受到人類認知發(fā)展水平的制約，也不可避免受到人類主觀行為的影響。企業(yè)是追求經(jīng)濟利益最大化的市場主體，企業(yè)對算法功能的開發(fā)、設計必然服務于其經(jīng)濟目標的實現(xiàn)。為了讓數(shù)據(jù)創(chuàng)造更大價值，企業(yè)會以各種方式獲得用戶數(shù)據(jù)；為了獲得流量，企業(yè)會根據(jù)數(shù)據(jù)對用戶精準畫像并進行定制化的信息推送。帶有偏見和歧視的數(shù)據(jù)經(jīng)過算法運算之后產(chǎn)生的結(jié)果也會帶有不公平性。即使企業(yè)在開發(fā)算法時沒有主觀惡意，如果將利潤最大化設定為算法要實現(xiàn)的最終目標，算法在自我學習、不斷迭代中形成的新版本也可能造成違反現(xiàn)有法律、社會倫理道德的后果。

再次是平臺的數(shù)據(jù)優(yōu)勢。超級平臺是供應商和商品/服務最終用戶的交易中介，掌握著雙方的搜索、評論、互動、收藏、交易等各種數(shù)據(jù)，而且在大數(shù)據(jù)、云計算等技術的支持下，所有的歷史交易都能被保存、追溯和分析，再加上與其他來源數(shù)據(jù)的交叉比對，平臺能夠獲得供應商和用戶在互聯(lián)網(wǎng)上的全本信息。相比之下，平臺上的供應商和用戶只擁有自己個人的數(shù)據(jù)，與平臺掌握的數(shù)據(jù)完全不在同一個數(shù)量級。平臺對數(shù)據(jù)的掌握也就意味著掌握了互聯(lián)網(wǎng)上最重要的流量，它既可以向供應商出售流量，也可以引導最終用戶的流量。面對平臺的數(shù)據(jù)和流量優(yōu)勢以及高度集中的市場格局，供應商在與平臺的談判中毫無優(yōu)勢，因此就出現(xiàn)了“二選一”等現(xiàn)象。同樣，平臺還能夠利用對消費者近乎完全的信息掌握，對消費者制定高度差異化的歧視性價格，而處于信息劣勢的消費者只能被動地接受平臺制定的價格。

第四是算法的技術黑箱。企業(yè)的算法對于它的供應商、用戶以及監(jiān)管機構(gòu)存在著很高的不透明性。算法的不透明性有三種來源：一是由于商業(yè)秘密保護所導致的不透明性，這種以維護競爭優(yōu)勢為名的保護也可能是一種規(guī)避法規(guī)、操縱消費者和實施歧視的新形式的掩護；二是對于技術外行的不透明性，編寫和閱讀代碼和算法設計是一項高度專業(yè)化的技能，需要長期的學習和經(jīng)驗積累，大多數(shù)人無法勝任；三是算法本身復雜性導致的不透明性，機器學習形成的算法不但規(guī)模巨大，而且算法的內(nèi)部邏輯隨著對訓練數(shù)據(jù)的學習而不斷改變會進一步增加代碼的復雜性。不透明性使企業(yè)的算法成為很難為外界所知的技術黑箱，數(shù)據(jù)的海量化，場景的個性化，算法的專業(yè)化增加了外界監(jiān)督的難度，助長了一些企業(yè)經(jīng)營者和算法開發(fā)者為追求經(jīng)濟利益而采取有悖法律法規(guī)、社會道德倫理的行為。

最后是數(shù)據(jù)素養(yǎng)的差異。國家間由于經(jīng)濟發(fā)展、數(shù)字基礎設施、數(shù)字產(chǎn)品購買力以及素質(zhì)教育的不同，而出現(xiàn)的數(shù)字化程度的巨大差異被稱為“數(shù)字鴻溝”。即使在同一個國家內(nèi)部，數(shù)字鴻溝因為所處地區(qū)、收入水平、受教育水平、年齡等而同樣存在。在我國由于大規(guī)模的信息基礎設施建設，網(wǎng)絡覆蓋率的差異已經(jīng)不成為數(shù)字鴻溝的主要原因，個人智能終端性價比的不斷提高也促進能夠聯(lián)網(wǎng)的智能設備日益普及，數(shù)字鴻溝實際上主要存在于代際之間。年輕一代是數(shù)字經(jīng)濟原住民，從小就使用數(shù)字產(chǎn)品并接受素質(zhì)教育，而老年人由于學習能力差、購買力低，許多人沒有智能終端，即使有智能終端也無法掌握各種操作，使他們被排斥在數(shù)字經(jīng)濟帶來的強大生活功能和便利性之外。

數(shù)字時代算法困境的治理路徑

在數(shù)字時代，隨著算法應用領域的不斷擴大，任其無序發(fā)展會進一步放大可能帶來的風險和危害。因此，要堅持促進發(fā)展和監(jiān)管規(guī)范兩手抓、兩手都要硬，一方面推動算法相關技術的進步，完善算力基礎設施，創(chuàng)造數(shù)據(jù)流通、交易的法律制度環(huán)境，另一方面也要加強對算法的規(guī)制和對算法困境的治理。

一是加強企業(yè)社會責任建設。督促互聯(lián)網(wǎng)企業(yè)以及正在進行數(shù)字化轉(zhuǎn)型的企業(yè)加強企業(yè)社會責任建設，規(guī)范規(guī)則設立、數(shù)據(jù)處理、算法制定等行為，在算法設計之初就要將法律、核心價值觀、道德倫理等人類價值嵌入到算法之中，讓數(shù)字科技企業(yè)、算法開發(fā)人員將服務于國家和社會利益、造福于人民群眾作為基本遵循。算法開發(fā)者應提高算法的透明度和可解釋性，增強對算法安全評估和管控能力；當算法開發(fā)者遇到算法可能造成危害和風險時，主動對算法進行修正和調(diào)整，推動形成負責任的算法，實現(xiàn)算法向善。

二是完善算法治理規(guī)則。進一步完善數(shù)據(jù)立法，對數(shù)據(jù)的權屬、轉(zhuǎn)讓、交易等進行規(guī)定。積極參與數(shù)據(jù)跨境流動、算法應用、算法安全等領域國際規(guī)則合作，完善多邊數(shù)字經(jīng)濟治理機制。根據(jù)數(shù)字經(jīng)濟發(fā)展出現(xiàn)的新模式、新業(yè)態(tài)、新現(xiàn)象、新問題，研究制定關于新型不正當競爭行為認定、處罰的法律規(guī)范。針對零工經(jīng)濟、靈活就業(yè)現(xiàn)象，研究完善平臺從業(yè)人員權益保護規(guī)定和社保政策等。通過制定合理使用算法的法律規(guī)范，防止數(shù)字企業(yè)利用數(shù)據(jù)優(yōu)勢和算法技術排除、限制競爭，加強消費者權益的保護，維護公平競爭秩序。

三是加強對算法的規(guī)制。盡管算法具有很高的技術門檻，但政府對互聯(lián)網(wǎng)公司的監(jiān)管應擴大到算法層面。賦予監(jiān)管機構(gòu)監(jiān)管數(shù)據(jù)和算法的權力，探索基于大數(shù)據(jù)、人工智能、區(qū)塊鏈等新技術的監(jiān)管模式，增強監(jiān)管部門的監(jiān)管能力，提高算法相關風險的識別、預警和防范。對算法開發(fā)者和使用者設置算法審查、算法風險評估與算法解釋等義務。當算法使用過程中出現(xiàn)有損于社會利益的結(jié)果或暴露潛在風險時，監(jiān)管機構(gòu)有權打開算法黑箱，聘請第三方服務機構(gòu)或組成專家委員會對企業(yè)的數(shù)據(jù)與算法合規(guī)性進行審查。

四是建設數(shù)字友好型社會。繼續(xù)推動信息基礎設施建設，提高通信網(wǎng)絡的覆蓋率和可獲得性。加強對邊遠地區(qū)、老年人、少年兒童的數(shù)字應用教育，幫助他們掌握數(shù)字設備的使用。行業(yè)主管部門應發(fā)布規(guī)定，要求智能硬件開發(fā)和互聯(lián)網(wǎng)服務提供企業(yè)，在產(chǎn)品和算法開發(fā)時，要考慮老年人、殘疾人等社會弱勢群體的需求，提高算法對弱勢群體的友好性。例如，通過一鍵叫車、人工客服接入等設置提高算法的“適老化”程度。

來源： 人民論壇網(wǎng)