來(lái)源：獵云網(wǎng) 作者：湯圓圓

在最近于梵蒂岡城舉行的“數(shù)字時(shí)代科技公益大會(huì)”上，教皇敦促Facebook高管、風(fēng)險(xiǎn)投資人和政府監(jiān)管機(jī)構(gòu)警惕人工智能和其他技術(shù)的影響。他說(shuō)：“如果人類(lèi)所謂的技術(shù)進(jìn)步成為共同利益的敵人，這將導(dǎo)致一種不幸的回歸，人類(lèi)將回到一種由最強(qiáng)者法則支配的野蠻狀態(tài)。”

今年夏天，Joy Buolamwini與民主黨眾議員Alexandria Ocasio－Cortez一起在國(guó)會(huì)作證，多次審計(jì)發(fā)現(xiàn)面部識(shí)別技術(shù)對(duì)白人男性效果最好，對(duì)有色人種女性效果最差。

這兩個(gè)事件的共同點(diǎn)是它們都討論了AI倫理中的權(quán)力動(dòng)態(tài)的關(guān)系。

關(guān)于人工智能倫理的爭(zhēng)論可以在不提及“權(quán)力”一詞的情況下展開(kāi)，但“權(quán)力”往往隱藏在議題之下。事實(shí)上，它很少是直接的焦點(diǎn)，但它必須是。人工智能中的權(quán)力就像地心引力一樣，有一種無(wú)形的力量，它影響著人工智能中所有對(duì)倫理的思考。

權(quán)力影響了那些用例相關(guān)的方法、需要優(yōu)先考慮的問(wèn)題，以及工具、產(chǎn)品和服務(wù)的服務(wù)對(duì)象。

它是關(guān)于公司和國(guó)家如何制定政策管理技術(shù)使用的辯論的基礎(chǔ)。

它存在于有關(guān)民主化、公平和負(fù)責(zé)任的人工智能的對(duì)話中——谷歌CEO桑達(dá)爾·皮查伊將人工智能研究人員請(qǐng)進(jìn)了他的辦公室；頂級(jí)機(jī)器學(xué)習(xí)實(shí)踐者被視為現(xiàn)代哲學(xué)家之王；埃隆·馬斯克等人講述著人工智能技術(shù)可能在未來(lái)幾十年對(duì)人類(lèi)造成的恐怖影響……

消費(fèi)者或許會(huì)覺(jué)得數(shù)據(jù)保護(hù)毫無(wú)希望，或者工程師知道某些事情在道德上有問(wèn)題，但卻找不到追索權(quán)。

一般來(lái)說(shuō)，初創(chuàng)公司可能會(huì)把道德標(biāo)準(zhǔn)當(dāng)作一個(gè)不錯(cuò)的附加條件，但不是必須具備的。想要第一個(gè)進(jìn)入市場(chǎng)，并在最后期限前完成產(chǎn)品發(fā)布的工程師可能會(huì)嘲笑把寶貴的時(shí)間放在考慮道德規(guī)范上的想法。首席執(zhí)行官和政客們可能只會(huì)嘴上說(shuō)道德，但最終只會(huì)發(fā)出同情的信號(hào)，或進(jìn)行道德清洗。

人工智能被稱為21世紀(jì)最大的人權(quán)挑戰(zhàn)之一。這不僅僅是做正確的事情或盡可能制造最好的人工智能系統(tǒng)，這是關(guān)于誰(shuí)掌握權(quán)力以及人工智能如何影響它所涉及的一切力量的平衡。

這些權(quán)力動(dòng)態(tài)將定義商業(yè)、社會(huì)、政府、世界各地個(gè)人的生活、隱私的未來(lái)，甚至我們未來(lái)的權(quán)利。幾乎每個(gè)人工智能產(chǎn)品經(jīng)理都喜歡說(shuō)，事情才剛剛開(kāi)始，但在人工智能時(shí)代，如果不能解決不平衡的權(quán)力動(dòng)態(tài)，可能會(huì)產(chǎn)生危險(xiǎn)的后果。

勞動(dòng)力市場(chǎng)和新鍍金時(shí)代

深度學(xué)習(xí)、云計(jì)算、像GPU這樣的處理器，以及更快地訓(xùn)練神經(jīng)網(wǎng)絡(luò)所需的計(jì)算能力——這些技術(shù)已經(jīng)成為大型科技公司的基石——推動(dòng)了今天的復(fù)興。

第四次工業(yè)革命與歷史性的收入不平等和新鍍金時(shí)代同時(shí)到來(lái)。就像19世紀(jì)鐵路大亨利用農(nóng)民急于將作物推向市場(chǎng)的心態(tài)一樣，擁有專(zhuān)有數(shù)據(jù)集的科技公司利用人工智能進(jìn)一步鞏固自己的市場(chǎng)地位和壟斷地位。

當(dāng)數(shù)據(jù)比石油更有價(jià)值時(shí)，擁有有價(jià)值數(shù)據(jù)的公司則具有巨大優(yōu)勢(shì)，最有可能鞏固財(cái)富或行業(yè)領(lǐng)導(dǎo)者的地位。這當(dāng)然適用于像蘋(píng)果、Facebook、谷歌、IBM和微軟這樣的大牌公司，但也適用于傳統(tǒng)企業(yè)。

與此同時(shí)，科技巨頭并購(gòu)速度加快，并進(jìn)一步鞏固實(shí)力，進(jìn)而鞏固了其他趨勢(shì)，因?yàn)檠邪l(fā)幾乎完全屬于大型企業(yè)。

根據(jù)斯坦福大學(xué)人類(lèi)中心人工智能研究所（HAI）最近的一份報(bào)告，人工智能的不斷增長(zhǎng)可能會(huì)導(dǎo)致社會(huì)的巨大失衡。

“人工智能的潛在金融優(yōu)勢(shì)非常大，和AI貧富之間的鴻溝太深了，就我們所知，全球經(jīng)濟(jì)平衡可以通過(guò)一系列災(zāi)難性的構(gòu)造發(fā)生變化，”HAI的一個(gè)提案呼吁美國(guó)政府在未來(lái)10年投資1200億美元在教育、研究和創(chuàng)業(yè)領(lǐng)域。

該提案的共同作者是前谷歌云首席人工智能科學(xué)家李飛飛博士。她說(shuō)：“如果指導(dǎo)得當(dāng)，人工智能時(shí)代可能會(huì)為所有人帶來(lái)一個(gè)繁榮的時(shí)代。”

普華永道估計(jì)，到2030年，人工智能將為全球經(jīng)濟(jì)貢獻(xiàn)15．7萬(wàn)億美元。然而，如果我們不負(fù)責(zé)任地利用它，將導(dǎo)致財(cái)富和權(quán)力更集中在少數(shù)迎接這個(gè)新時(shí)代的精英人士身上，而全球大多數(shù)人將陷入貧困，喪失使命感。”

麻省理工學(xué)院（MIT）數(shù)字經(jīng)濟(jì)項(xiàng)目（Initiative on the Digital Economy）主任Erik Brynjolfsson研究了人工智能對(duì)未來(lái)工作的影響，Brynjolfsson在談到未來(lái)幾年可能被取代的適合機(jī)器學(xué)習(xí)的工作數(shù)量時(shí)表示：“如果你從整體經(jīng)濟(jì)的角度看，就會(huì)發(fā)現(xiàn)一個(gè)潮流即將到來(lái)。機(jī)器智能可以用來(lái)重新設(shè)計(jì)和增加工作場(chǎng)所的任務(wù)，但它最常被用來(lái)取代工作。”

布魯金斯學(xué)會(huì)（Brookings Institution）的分析以及卡耐基梅隆大學(xué)的Brynjolfsson和Tom Mitchell的研究顯示，自動(dòng)化對(duì)失業(yè)的影響預(yù)計(jì)會(huì)因城市和州而異，此外就業(yè)不穩(wěn)定或失業(yè)預(yù)計(jì)將對(duì)低收入家庭和有色人種造成不成比例的影響。麥肯錫最近的一份報(bào)告稱，自動(dòng)化將導(dǎo)致非洲裔美國(guó)男性的失業(yè)人數(shù)最多。

此前，美國(guó)的收入中位數(shù)自2000年以來(lái)一直停滯不前。Brynjolfsson將中位數(shù)收入增長(zhǎng)與生產(chǎn)率增長(zhǎng)的關(guān)系稱為“大脫鉤”。

他說(shuō)：“在20世紀(jì)的大部分時(shí)間里，這些角色是相互關(guān)聯(lián)的——更多的生產(chǎn)、更多的財(cái)富、更高的生產(chǎn)率——與普通人的富裕程度密切相關(guān)，但最近這些角色出現(xiàn)了分歧。蛋糕越來(lái)越大，我們創(chuàng)造了更多的財(cái)富，但這些財(cái)富聚集在少數(shù)人手中。＂

Brynjolfsson認(rèn)為，人工智能社區(qū)的挑戰(zhàn)已經(jīng)使美國(guó)國(guó)防部高級(jí)研究計(jì)劃局（DARPA）的自動(dòng)駕駛汽車(chē)挑戰(zhàn)賽（autonomous vehicle challenge）和計(jì)算機(jī)視覺(jué)的ImageNet等最先進(jìn)的人工智能領(lǐng)域?qū)崿F(xiàn)了飛躍，但企業(yè)和人工智能社區(qū)應(yīng)該開(kāi)始將注意力轉(zhuǎn)向共享繁榮。

“很多人可能會(huì)被甩在后面，事實(shí)上，很多人已經(jīng)被甩了。這就是為什么我認(rèn)為現(xiàn)在最緊迫的挑戰(zhàn)不僅僅是更好的技術(shù)，盡管我完全支持，而是創(chuàng)造共同繁榮。”

科技巨頭和權(quán)力之路

隨著人工智能的普及，另一個(gè)主要的趨勢(shì)是，在美國(guó)歷史上第一次，大部分的勞動(dòng)力是有色人種。根據(jù)美國(guó)人口普查局的預(yù)測(cè)，到2030年，美國(guó)大多數(shù)城市，乃至整個(gè)國(guó)家，將不再擁有占人口多數(shù)的種族。

這些人口結(jié)構(gòu)的變化使得人工智能公司內(nèi)部缺乏多樣性的問(wèn)題更加突出。至關(guān)重要的是，在決策系統(tǒng)的創(chuàng)建中缺乏種族和性別多樣性——AI Now研究所所長(zhǎng)Kate Crawford稱其為“白人問(wèn)題”。

圖片來(lái)源：谷歌2019多樣性報(bào)告－技術(shù)勞動(dòng)力代表的性別和種族統(tǒng)計(jì)

據(jù)《連線》和Element AI在2018年的一項(xiàng)分析顯示，在大型人工智能會(huì)議上發(fā)表的研究中，女性只占18％，而Facebook和谷歌的研究人員中，女性只占15％和10％。兩家公司的發(fā)言人表示，谷歌和Facebook不提供人工智能研究多樣性數(shù)據(jù)。

AI Now研究所今年4月發(fā)布的一份報(bào)告詳細(xì)描述了“負(fù)責(zé)技術(shù)研究的工程專(zhuān)業(yè)人群與部署人工智能系統(tǒng)的極為多樣化的人群之間的鮮明文化差異”。該組織將其稱為“人工智能問(wèn)責(zé)差距”。

該報(bào)告還承認(rèn)了人工智能系統(tǒng)中隱藏的人力資源，比如Facebook或YouTube內(nèi)容所需的數(shù)萬(wàn)名版主，或者哥倫比亞的Kiwibot司機(jī)，他們正在舊金山灣區(qū)加州大學(xué)伯克利分校附近遠(yuǎn)程駕駛Kiwibot送貨機(jī)器人。

圖片來(lái)源：Facebook 2019多樣性數(shù)據(jù)－按種族劃分的Facebook技術(shù)勞動(dòng)力

報(bào)告稱：“那些開(kāi)發(fā)人工智能并從中獲利的企業(yè)，與那些最有可能受到其負(fù)面影響的企業(yè)之間的差距正在拉大，而不是縮小。”報(bào)告指出，人工智能行業(yè)缺乏政府監(jiān)管，權(quán)力集中在少數(shù)幾家企業(yè)手中。

Safiya Noble博士和Sarah Roberts在今年8月加州大學(xué)洛杉磯分校發(fā)表的一篇論文中，記錄了科技行業(yè)缺乏多樣性的影響。他們認(rèn)為，我們現(xiàn)在正在見(jiàn)證“數(shù)字技術(shù)統(tǒng)治的崛起”，實(shí)際上是一個(gè)儲(chǔ)存資源的權(quán)力系統(tǒng)，它可能會(huì)根據(jù)種族身份、性別或階級(jí)來(lái)判斷一個(gè)人的價(jià)值。

“即使在聯(lián)邦法律下，美國(guó)公司也無(wú)法‘自我調(diào)節(jié)’和‘創(chuàng)新’來(lái)結(jié)束種族歧視。在現(xiàn)代數(shù)字技術(shù)精英中，精英主義和智力優(yōu)勢(shì)的神話被用作種族和性別的象征，不成比例地從有色人種、尤其是非洲裔美國(guó)人、拉丁裔和印第安人那里整合資源，”報(bào)告寫(xiě)道。“對(duì)精英神話的投資壓制了對(duì)種族主義和歧視的質(zhì)疑，即使數(shù)字精英的產(chǎn)品中充滿了種族、階級(jí)和性別標(biāo)記。”

盡管人們都在談?wù)撊绾谓鉀Q科技行業(yè)的多元化問(wèn)題，但科技行業(yè)的很多方面都只取得了漸進(jìn)式的進(jìn)展，對(duì)拉丁裔或黑人創(chuàng)業(yè)者的資助仍然落后于白人創(chuàng)業(yè)者。為了解決科技行業(yè)在多樣性和包容性倡議方面普遍缺乏進(jìn)展的問(wèn)題，一對(duì)數(shù)據(jù)與社會(huì)研究員建議科技公司和人工智能公司采用種族掃盲。

其中之一，Mutale Nkonde，是《算法問(wèn)責(zé)法》的合著者，該法案于今年早些時(shí)候在國(guó)會(huì)兩院提出，要求聯(lián)邦貿(mào)易委員會(huì)（FTC）對(duì)算法偏見(jiàn)進(jìn)行評(píng)估，并允許該機(jī)構(gòu)根據(jù)公司規(guī)模開(kāi)出罰單。

她也是人工智能的執(zhí)行董事，也是哈佛大學(xué)伯克曼·克萊因互聯(lián)網(wǎng)和社會(huì)中心研究員。她現(xiàn)在正在評(píng)估人工智能和錯(cuò)誤信息在2020年大選中如何被用來(lái)針對(duì)非洲裔美國(guó)人。參議院情報(bào)委員會(huì)（Senate Intelligence committee）去年10月發(fā)布的一項(xiàng)調(diào)查發(fā)現(xiàn)，干預(yù)2016年大選的舉措只針對(duì)Facebook、Twitter和Instagram上的非裔美國(guó)人。

在此之前，她和一個(gè)小團(tuán)隊(duì)致力于推進(jìn)種族掃盲的理念。

Nkonde和她的合著者認(rèn)為，隱性偏見(jiàn)培訓(xùn)和多元化舉措——由發(fā)布年度多元化報(bào)告的科技巨頭們倡導(dǎo)的——并沒(méi)有在創(chuàng)造一個(gè)看起來(lái)像用戶的科技勞動(dòng)力方面起到什么作用。為了取得有意義的進(jìn)展，企業(yè)應(yīng)該把模糊的愿望放在一邊，開(kāi)始采取切實(shí)的步驟，對(duì)人們進(jìn)行種族掃盲教育。

一篇解釋種族掃盲框架的論文寫(xiě)道：“在科技領(lǐng)域建立種族掃盲能力的真正目標(biāo)，是想象一個(gè)不同的世界，一個(gè)我們可以打破舊模式的世界。如果不刻意解決技術(shù)領(lǐng)域的種族問(wèn)題，新技術(shù)將不可避免地重現(xiàn)舊的分歧。但事實(shí)并非如此。”

合著者希望種族素養(yǎng)成為計(jì)算機(jī)科學(xué)學(xué)生課程和科技公司員工培訓(xùn)的一部分。他們的方法借鑒了霍華德·史蒂文森（Howard Stevenson）為學(xué)校提供的種族掃盲培訓(xùn)，并包括內(nèi)隱聯(lián)想測(cè)試，以確定人們持有的刻板印象。

種族掃盲旨在為人們提供培訓(xùn)，提升情商，以解決工作場(chǎng)所的種族壓力狀況。這可能包括計(jì)算機(jī)科學(xué)家和設(shè)計(jì)師，以及機(jī)器學(xué)習(xí)工程師，允許他們公開(kāi)談?wù)撘粋€(gè)產(chǎn)品或服務(wù)如何能使結(jié)構(gòu)性種族主義永久化，或?yàn)椴煌挠脩羧后w帶來(lái)不利影響。

這樣做的目的是讓人們以一種開(kāi)放和非對(duì)抗性的方式討論產(chǎn)品或服務(wù)可能出現(xiàn)的問(wèn)題。在對(duì)大中型科技公司員工的采訪中，研究人員發(fā)現(xiàn)，在許多科技公司，與種族相關(guān)的問(wèn)題是禁忌。

“人們想假裝這無(wú)關(guān)緊要，而這實(shí)際上強(qiáng)化了種族主義模式和行為，”Nkonde說(shuō)。“這將意味著，企業(yè)必須明確自己的價(jià)值觀，而不是試圖通過(guò)避免明確表達(dá)自己的價(jià)值觀來(lái)迎合所有人。”

Nkonde認(rèn)為，隨著Alphabet等公司開(kāi)發(fā)出對(duì)人們生活至關(guān)重要的產(chǎn)品，如醫(yī)療服務(wù)或出售給政府的面部識(shí)別軟件，種族掃盲將變得越來(lái)越重要。

種族掃盲培訓(xùn)的另一個(gè)預(yù)期結(jié)果是，在公司內(nèi)部創(chuàng)造一種文化，這種文化能在多元化的員工隊(duì)伍中看到價(jià)值。波士頓咨詢集團(tuán)（Boston Consulting Group）去年發(fā)布的一份研究報(bào)告發(fā)現(xiàn)，多元化程度更高的組織擁有更高的收入和創(chuàng)新能力。但如果招聘和留任數(shù)據(jù)能說(shuō)明什么問(wèn)題的話，那就是硅谷的科技巨頭們似乎還沒(méi)有意識(shí)到這一點(diǎn)。

領(lǐng)英的高級(jí)軟件工程師Guillaume Saint－Jacques認(rèn)為AI倫理不僅僅是正確的事情，并且其在商業(yè)上是合理的。他認(rèn)為，偏見(jiàn)會(huì)妨礙利潤(rùn)。

“如果你有很大的偏見(jiàn)，你可能只會(huì)迎合一個(gè)群體，最終這會(huì)限制你的用戶群的增長(zhǎng)，所以從商業(yè)角度來(lái)看，你希望所有人都參與進(jìn)來(lái)……從長(zhǎng)遠(yuǎn)來(lái)看，這實(shí)際上是一個(gè)不錯(cuò)的商業(yè)決策。”

個(gè)人自主和自動(dòng)化

實(shí)力強(qiáng)大的公司可能會(huì)以不同的方式展示自己的實(shí)力，但它們的商業(yè)計(jì)劃會(huì)對(duì)個(gè)人產(chǎn)生影響。

關(guān)于這種新的權(quán)力格局，或許最好的總結(jié)來(lái)自于哈佛商學(xué)院退休教授Shoshana Zuboff的《監(jiān)控資本主義時(shí)代（Age of Surveillance Capitalism）》一書(shū)。該書(shū)詳細(xì)介紹了一種新的資本主義形式的創(chuàng)造，該資本主義結(jié)合了諸如攝像頭、智能家居設(shè)備和智能手機(jī)之類(lèi)的傳感器，以收集輸入到AI系統(tǒng)中的數(shù)據(jù)，從而對(duì)我們的生活做出預(yù)測(cè)（例如我們將如何表現(xiàn)為消費(fèi)者），以便“ 大規(guī)模了解并塑造我們的行為。”

“監(jiān)視資本主義單方面宣稱人類(lèi)經(jīng)驗(yàn)是一種免費(fèi)的原始資源，可以轉(zhuǎn)化為行為數(shù)據(jù)。盡管其中一些數(shù)據(jù)（洞見(jiàn)）被應(yīng)用于產(chǎn)品或服務(wù)的改進(jìn)，但其余的被宣布為一種專(zhuān)有的行為盈余，被輸入稱為‘機(jī)器智能’的先進(jìn)制造過(guò)程，并被制造成預(yù)測(cè)產(chǎn)品，預(yù)測(cè)你現(xiàn)在、不久和以后會(huì)做什么，”Zuboff寫(xiě)道。

她認(rèn)為，這種經(jīng)濟(jì)秩序是谷歌在硅谷創(chuàng)造的，但后來(lái)被亞馬遜、Facebook和微軟，以及百度和騰訊等中國(guó)同行采用。

Zuboff將監(jiān)控資本主義描述為一種前所未有的權(quán)力形式，幾乎沒(méi)有人完全了解它，她還表示，目前沒(méi)有有效的集體或政治行動(dòng)手段來(lái)對(duì)抗它。

她質(zhì)疑，當(dāng)市場(chǎng)“轉(zhuǎn)變?yōu)橐粋€(gè)完全確定的項(xiàng)目”時(shí)，監(jiān)管資本主義可能會(huì)對(duì)人性造成嚴(yán)重破壞。Zuboff說(shuō)，如果不加以控制，這種相對(duì)較新的市場(chǎng)力量可以推翻人民的主權(quán)，成為對(duì)西方自由民主國(guó)家和“想象、意愿、承諾和建設(shè)未來(lái)”這一概念的威脅。

這些大公司“從我們這里積累了大量新知識(shí)，但不是為我們積累的。他們預(yù)測(cè)我們的未來(lái)是為了別人的利益。只要監(jiān)管資本主義及其行為期貨市場(chǎng)得以蓬勃發(fā)展，對(duì)新行為修正手段的所有權(quán)，就會(huì)使對(duì)生產(chǎn)手段的所有權(quán)黯然失色，成為21世紀(jì)資本主義財(cái)富和權(quán)力的源泉。”

Zuboff認(rèn)為，監(jiān)控資本主義的一個(gè)主要副產(chǎn)品是一種壓倒性的無(wú)助感。這就是你看到的人們聳聳肩，說(shuō)沒(méi)有什么能阻止擁有大量資源和財(cái)富的大型科技公司。

泄密者愛(ài)德華·斯諾登似乎同意Zuboff的判斷。

企業(yè)和政府越來(lái)越多地使用元數(shù)據(jù)收集來(lái)進(jìn)行影響人類(lèi)生活的決策，從使用移動(dòng)設(shè)備跟蹤用戶的活動(dòng)到中國(guó)的“社會(huì)信用評(píng)分”。斯諾登最近在接受美國(guó)全國(guó)廣播公司（NBC）采訪時(shí)被問(wèn)及為何不犯罪的人應(yīng)該關(guān)注監(jiān)控技術(shù)，他說(shuō)，這些數(shù)據(jù)的目的總的來(lái)說(shuō)是為了消除個(gè)人的監(jiān)控。

“這些活動(dòng)記錄被公司和政府不斷地創(chuàng)建、共享、收集和攔截。最終，這意味著當(dāng)他們出售這些，當(dāng)他們交易這些，當(dāng)他們?cè)谶@些記錄的基礎(chǔ)上做生意，他們出售的不是信息。他們賣(mài)的是我們。他們?cè)诔鲑u(mài)我們的未來(lái)。他們?cè)诔鲑u(mài)我們的過(guò)去。他們出賣(mài)我們的歷史，我們的身份，最終，他們偷走了我們的權(quán)力，讓我們的故事為他們服務(wù)。”

普林斯頓大學(xué)副教授、《科技之后的賽跑（Race After Technology）》一書(shū)的作者Ruha Benjamin也關(guān)注代理問(wèn)題，因?yàn)闊o(wú)論人們支持人工智能帶來(lái)世界末日或?yàn)跬邪畹脑妇?，他們都在談?wù)摪褭?quán)力讓給機(jī)器。

Benjamin在肯尼亞內(nèi)羅畢肯雅塔大學(xué)舉行的深度學(xué)習(xí)會(huì)議上表示：“無(wú)論是技術(shù)將拯救我們還是殺死我們，它們都在放棄權(quán)力。”

在大公司內(nèi)部出現(xiàn)了一個(gè)非常不同的個(gè)人權(quán)力的體現(xiàn)。例如，大約一年前，全球逾2萬(wàn)名谷歌員工因多種道德問(wèn)題舉行了罷工。據(jù)活動(dòng)組織者介紹，其中包括Android創(chuàng)始人安迪·魯賓在性騷擾指控后獲得的9000萬(wàn)美元賠償，強(qiáng)制仲裁的終結(jié)，以及谷歌參與五角大樓的Maven項(xiàng)目。

幾個(gè)月前，數(shù)千名谷歌的員工簽署了一封公開(kāi)信，抗議該公司參與無(wú)人機(jī)目標(biāo)探測(cè)的人工智能項(xiàng)目。幾個(gè)月后，谷歌承諾在2019年終止其Maven合同，并發(fā)布了一套人工智能原則，其中包括不制造自動(dòng)化武器的承諾。

同樣，F(xiàn)acebook的員工呼吁首席執(zhí)行官馬克·扎克伯格核實(shí)事實(shí)，或禁止政治廣告，而微軟和GitHub的員工則呼吁終止與ICE的合同。

挑戰(zhàn)大型科技公司需要勇氣和組織——尤其是對(duì)那些受雇于這些公司的人來(lái)說(shuō)——但這些抗議表明，個(gè)人可以重新獲得一些權(quán)力，即使面對(duì)龐然大物也是如此。

政府和社會(huì)

隨著人工智能在當(dāng)今的復(fù)興，埃隆·馬斯克已經(jīng)成為了當(dāng)代的保羅·里維爾（Paul Revere），他發(fā)出了關(guān)于殺手機(jī)器人和人工一般智能（AGI）的警報(bào)。當(dāng)俄羅斯總統(tǒng)弗拉基米爾·普京（Vladimir Putin）說(shuō)控制人工智能的國(guó)家將控制世界時(shí)，馬斯克回應(yīng)稱，他認(rèn)為人工智能軍備競(jìng)賽將導(dǎo)致第三次世界大戰(zhàn)。

馬斯克加入了4500多名人工智能和機(jī)器人研究人員的行列，并簽署了一份為未來(lái)而戰(zhàn)的公開(kāi)信，反對(duì)無(wú)人干預(yù)的自動(dòng)化武器。如果或當(dāng)國(guó)家引進(jìn)自主殺手機(jī)器人，擁有選擇人類(lèi)生死的權(quán)力，那可能確實(shí)會(huì)成為權(quán)力的最終表達(dá)。

然而，盡管像馬斯克這樣的人物把大量注意力放在了假設(shè)上，面部識(shí)別已經(jīng)在某些城市得到應(yīng)用，例如底特律警察局已經(jīng)在測(cè)試實(shí)時(shí)面部識(shí)別。與此同時(shí)，算法返回的結(jié)果被認(rèn)為對(duì)數(shù)百萬(wàn)非洲裔美國(guó)人的生活產(chǎn)生了負(fù)面影響，非二元性別和有色人種的表現(xiàn)很差。

像《終結(jié)者：天網(wǎng)》這樣的AGI場(chǎng)景可能還沒(méi)有出現(xiàn)，但軍方已經(jīng)在考慮人工智能的倫理應(yīng)用。

人工智能、權(quán)力和公民社會(huì)

雖然圍繞使用人工智能來(lái)控制網(wǎng)上政治言論的斗爭(zhēng)仍在繼續(xù)，但新問(wèn)題仍在不斷涌現(xiàn)，比如導(dǎo)致中介機(jī)構(gòu)和倡導(dǎo)組織要求科技巨頭禁止使用算法代替法官進(jìn)行審前保釋評(píng)估的偏見(jiàn)。

由蘋(píng)果、Facebook和谷歌等公司的人工智能研究人員創(chuàng)建的人工智能伙伴關(guān)系，將大赦國(guó)際（Amnesty International）和人權(quán)觀察（Human Rights Watch）等組織與世界上最大的人工智能公司聯(lián)系在一起。執(zhí)行董事Terah Lyons表示，在非政府組織和科技巨頭就人工智能將如何影響社會(huì)展開(kāi)的人工智能倫理辯論中，權(quán)力是核心。

她認(rèn)為，人工智能行業(yè)缺乏多樣性，對(duì)系統(tǒng)和工具的構(gòu)建和部署方式也缺乏相應(yīng)的影響力，以及科技公司和機(jī)構(gòu)內(nèi)部個(gè)人的權(quán)力和影響力，這些都是權(quán)力在起作用。

“與這些大型且資源豐富的科技公司相比，擁有少量資源的民間社會(huì)和非營(yíng)利性機(jī)構(gòu)的力量和資源配置存在許多差異，因此，更有效地賦予他們權(quán)力，我認(rèn)為這是你開(kāi)始為有效合作而公平競(jìng)爭(zhēng)的重要因素。”她說(shuō)。

同樣的旅行限制也會(huì)影響有興趣參加國(guó)際會(huì)議的人工智能研究人員。去年，在加拿大蒙特利爾的NeurIPS舉辦的人工智能研討會(huì)上，大約有一半的與會(huì)者被移民局官員拒簽，今年，申請(qǐng)者再次報(bào)告了同樣的情況。

此類(lèi)事件促使人工智能領(lǐng)域的合作伙伴敦促各國(guó)為人工智能研究會(huì)議的旅行提供特殊簽證，就像在世界某些地區(qū)為醫(yī)療專(zhuān)業(yè)人士、運(yùn)動(dòng)員和企業(yè)家提供的簽證一樣。

國(guó)家與科技巨頭之間的權(quán)力關(guān)系

Casper Klynge是丹麥駐硅谷大使。一些國(guó)家在舊金山灣區(qū)設(shè)有商業(yè)和創(chuàng)新中心，但Klynge是第一位被派往硅谷專(zhuān)門(mén)代表一個(gè)國(guó)家外交利益的大使。

丹麥政府已經(jīng)派他作為全球超級(jí)大國(guó)與蘋(píng)果、亞馬遜、谷歌和Facebook等公司打交道，這些公司聚集了世界上大量的人工智能人才。Klynge認(rèn)為，更多的小國(guó)也應(yīng)該這樣做，這樣它們才能為共同的目標(biāo)而共同努力。Klynge說(shuō)，在他擔(dān)任北約秘書(shū)長(zhǎng)的兩年中，他了解到與其他小國(guó)建立多邊聯(lián)盟是他工作的一部分。

壟斷企業(yè)對(duì)政府來(lái)說(shuō)并不新鮮，但Klynge表示，像自動(dòng)駕駛和搜索這樣的人工智能已經(jīng)改變了游戲規(guī)則，使這類(lèi)科技公司對(duì)國(guó)家利益的重要性超過(guò)許多其他國(guó)家，并引發(fā)了對(duì)丹麥所稱的技術(shù)外交的需求。

Klynge指出，科技巨頭正在扭曲國(guó)際關(guān)系的本質(zhì)，并在創(chuàng)造一個(gè)新的現(xiàn)實(shí)，即各國(guó)必須像對(duì)待全球超級(jí)大國(guó)那樣對(duì)待科技巨頭。

“我們不能再把它們看作是中立的平臺(tái)，它們只是人們想做的事情的中立提供者。我認(rèn)為，我們必須以更成熟和負(fù)責(zé)任的方式對(duì)待他們，這也意味著我們不再幼稚，我們更加平衡，我們也提出要求，讓他們負(fù)起責(zé)任。”他說(shuō)，“我的工作只是一個(gè)癥狀，我們正努力做一些更系統(tǒng)化的事情，以對(duì)科技公司和科技本身有一個(gè)更平衡、更現(xiàn)實(shí)的看法。”

未來(lái)又是如何？

在有關(guān)人工智能倫理的辯論中，權(quán)力無(wú)處不在，但這并不意味著我們必須保持無(wú)作為。正如種族掃盲項(xiàng)目所表明的那樣，還有另一種方式。

當(dāng)Ruha Benjamin說(shuō)科技需要的是“社會(huì)上的想象力”時(shí)，她就呼吁這樣做。Cathy O ＇Neil在她的著作《數(shù)學(xué)毀滅的武器（Weapons of Math Destruction）》中也提到了這一點(diǎn)。

“大數(shù)據(jù)流程編纂了過(guò)去。他們沒(méi)有創(chuàng)造未來(lái)。這樣做需要道德想象力，而這是只有人類(lèi)才能提供的東西，”她寫(xiě)道。

一種扭曲的權(quán)力格局使得“民主化”之類(lèi)的詞匯實(shí)際上毫無(wú)意義，但將人工智能交到解決重大問(wèn)題的更多人手中，可能會(huì)顯著改變?nèi)藗儗?duì)人工智能的看法，并在人類(lèi)生活中產(chǎn)生積極影響。

當(dāng)然，已經(jīng)有很多人工智能被用來(lái)改善人類(lèi)生活的例子。麻省理工學(xué)院的研究人員發(fā)明了一種讓孩子們更快上學(xué)的算法，每年為波士頓學(xué)區(qū)節(jié)省了500萬(wàn)美元的交通費(fèi)用。紐約消防局和紐約大學(xué)正在利用人工智能，通過(guò)了解最有效的現(xiàn)場(chǎng)路徑來(lái)提高應(yīng)急響應(yīng)時(shí)間——這是Google．org上幾十個(gè)項(xiàng)目之一，它們采用數(shù)據(jù)驅(qū)動(dòng)的方法來(lái)創(chuàng)建人工智能，造福人類(lèi)。人類(lèi)正在利用人工智能建造更高效的溫室，提高農(nóng)作物產(chǎn)量，這些進(jìn)步可能有助于在未來(lái)幾十年避免饑餓，并在全球人口膨脹至100億之際養(yǎng)活世界。這樣的例子不勝枚舉。

但是，能夠預(yù)測(cè)未來(lái)、顛覆經(jīng)濟(jì)和社會(huì)秩序、把人關(guān)進(jìn)監(jiān)獄、或者對(duì)我們的健康做出決定的技術(shù)，總是意味著，在令人印象深刻的技術(shù)進(jìn)步的表面之下，是一場(chǎng)權(quán)力斗爭(zhēng)。

在人工智能系統(tǒng)中存在一種權(quán)力動(dòng)態(tài)，它會(huì)讓有色人種在保釋評(píng)估、影響數(shù)百萬(wàn)人的醫(yī)療保健、無(wú)家可歸者服務(wù)和面部識(shí)別方面的表現(xiàn)更差。

當(dāng)歐盟的人工智能專(zhuān)家敦促各國(guó)避免大規(guī)模監(jiān)控，而是使用人工智能來(lái)增強(qiáng)人們的能力時(shí)，也會(huì)出現(xiàn)這種情況。三星和聯(lián)合國(guó)都提出了利用人工智能實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)的倡議。

正如數(shù)字中心丹麥的首席執(zhí)行官Camilla Rygaard－Hjalsted所說(shuō)的那樣，積極的氣候變化目標(biāo)有助于招募人工智能人才，或者機(jī)器學(xué)習(xí)應(yīng)用于氣候變化可能是人工智能的偉大登月計(jì)劃。

它存在于剛剛起步的人工智能對(duì)話項(xiàng)目中，以保護(hù)軍人的孩子，探測(cè)何時(shí)可能發(fā)生團(tuán)伙槍擊，或者為巴基斯坦的少女提供性健康咨詢服務(wù)。

它存在于開(kāi)源項(xiàng)目中，比如Masakhane，它致力于為2000多種非洲語(yǔ)言創(chuàng)建機(jī)器翻譯。該項(xiàng)目目前有來(lái)自非洲大陸各個(gè)角落的60名貢獻(xiàn)者，他們致力于開(kāi)發(fā)能夠保存和翻譯這些語(yǔ)言的人工智能。據(jù)聯(lián)合國(guó)估計(jì)，非洲擁有地球上最年輕的人口，從現(xiàn)在到2050年，非洲將占全球人口增長(zhǎng)的一半以上。非洲的機(jī)器翻譯對(duì)于推動(dòng)人工智能對(duì)話、交流以及在線和現(xiàn)實(shí)世界中的商務(wù)可能很重要。

在過(guò)去的三年中，Kathleen Siminyu一直在肯尼亞內(nèi)羅畢的機(jī)器學(xué)習(xí)和數(shù)據(jù)科學(xué)女性分部工作。她說(shuō)：“我認(rèn)為語(yǔ)言是一個(gè)障礙，如果消除了這個(gè)障礙，很多非洲人就能夠參與數(shù)字經(jīng)濟(jì)，并最終進(jìn)入人工智能經(jīng)濟(jì)。所以，是的，作為坐在這里為本地語(yǔ)言做貢獻(xiàn)的人，我覺(jué)得我們有責(zé)任把那些不在數(shù)字時(shí)代的人帶入人工智能時(shí)代。”

如果你只關(guān)注人工智能倫理辯論的一部分，很容易得出這樣的結(jié)論：讓人工智能倫理成為工程和設(shè)計(jì)過(guò)程的一部分，在政治上是正確的，是企業(yè)社會(huì)責(zé)任的要求，可能會(huì)阻礙真正的進(jìn)步。

其實(shí)不是。人工智能倫理意味著盡可能以最好的方式建立模型，把人類(lèi)考慮在內(nèi)，讓模型處于循環(huán)之中，這對(duì)于未來(lái)的技術(shù)和人們選擇的管理世界的系統(tǒng)來(lái)說(shuō)是不可或缺的。

當(dāng)我們對(duì)未來(lái)沒(méi)有其他的愿景，除了一個(gè)處于全球監(jiān)視狀態(tài)、走向第三次世界大戰(zhàn)的失業(yè)星球之外，沒(méi)有其他的可能性時(shí)，這些權(quán)力動(dòng)態(tài)似乎最令人生畏。

在描繪通往更美好世界的道路時(shí)，必須認(rèn)識(shí)到其中的權(quán)力動(dòng)態(tài)，因?yàn)榫拖袢斯ぶ悄鼙旧砜梢允枪ぞ呋蛭淦饕粯?，它可以使個(gè)人和整個(gè)社會(huì)處于有利或不利的地位。創(chuàng)業(yè)公司、科技巨頭和希望有一個(gè)更美好世界的社區(qū)有責(zé)任夢(mèng)想并分享這些愿望。

人工智能正在改變社會(huì)，它不可能只是少數(shù)有特權(quán)的人來(lái)決定這將如何發(fā)生或構(gòu)建這個(gè)世界的樣子。