摘要：昨天我們發(fā)布了值得信賴的人工智能的最終道德準(zhǔn)則。它們是以歐洲聯(lián)盟基本權(quán)利憲章歐盟憲章所載的國際人權(quán)和基本權(quán)利為基礎(chǔ)，為實(shí)現(xiàn)值得信賴的人工智能提供必要的核心價(jià)值觀和原則。道德和值得信賴的人工智能需要成為一種無可爭辯的國際規(guī)范。

九個(gè)月前，我很榮幸被選為唯一的非歐洲專家，從加拿大和行業(yè)的角度，向歐盟委員會(huì)的人工智能專家組(AI HLEG)提供意見。昨天,我們發(fā)布了值得信賴的人工智能的最終道德準(zhǔn)則。

在這些準(zhǔn)則中，我們追求“以人為本的方法”，以尊嚴(yán)，自由，平等和正義等人權(quán)和基本權(quán)利為依據(jù)。人工智能不受國界的限制，道德原則和要求必須根植于促進(jìn)所有人的內(nèi)在價(jià)值的概念，無論其地理位置在哪兒。

AI HLEG由來自學(xué)術(shù)界、民間社會(huì)，研究和更多領(lǐng)域的52位學(xué)科專家組成。我們?cè)?2月份發(fā)布了我們的初稿，我們的小組從收到的500多份提交的意見書中獲得得的意見和見解受益。反饋不僅來自國際人工智能實(shí)驗(yàn)室，也有民間社會(huì)的積極參與者。您將看到我們的最終指南中反映的這種多樣化的思想，我希望在其他地區(qū)將其作為人工智能政策的參考點(diǎn)時(shí)，能夠繼續(xù)得到應(yīng)用。

值得信賴的人工智能

昨天關(guān)于值得信賴的人工智能的道德準(zhǔn)則發(fā)布非常及時(shí)。

我們今天使用的大多數(shù)產(chǎn)品都有一定的使用保證和責(zé)任。但是，人工智能在價(jià)值鏈上的表現(xiàn)是高度動(dòng)態(tài)的。該領(lǐng)域的問責(zé)制度很復(fù)雜，對(duì)系統(tǒng)行為的控制并不總是明確可歸因的，并且需要更清晰地定義利益相關(guān)者（如研究人員，數(shù)據(jù)供應(yīng)商，設(shè)計(jì)人員，用戶和更廣泛的環(huán)境）之間的期望。

如果對(duì)技術(shù)，開發(fā)人員，政府框架和利益相關(guān)者之間缺乏信任，我們就有可能拒絕可以賦予我們權(quán)力的技術(shù)風(fēng)險(xiǎn)。作為一名企業(yè)主，我的職責(zé)之一是更加努力地調(diào)整預(yù)期，并為所有相關(guān)人員提供充分的解釋。

但普遍接受的基本規(guī)則也很重要。問責(zé)制的解釋和談判過程是巨大的交易成本，而行業(yè)目前的自我監(jiān)管最終受到自身利益的限制。一套明確的游戲規(guī)則對(duì)于人們灌輸對(duì)技術(shù)的信任并確保其用于最佳效果的影響至關(guān)重要。

準(zhǔn)則

我很自豪地說，我們的指南不僅僅是一系列的價(jià)值觀和抽象的原則來指導(dǎo)人工智能。它們是以“歐洲聯(lián)盟基本權(quán)利憲章”（歐盟憲章）所載的國際人權(quán)和基本權(quán)利為基礎(chǔ)，為實(shí)現(xiàn)值得信賴的人工智能提供必要的核心價(jià)值觀和原則。這種情境化很重要。我們需要將值得信賴和合乎道德的人工智能從概念層面轉(zhuǎn)變?yōu)閷?shí)際層面。

我們意識(shí)到，沒有必要把人工智能與其他技術(shù)區(qū)別對(duì)待，也沒有必要重新發(fā)明輪子。對(duì)于我們來說，我們最初的過程是將自適應(yīng)性的人工智能系統(tǒng)嵌入到已經(jīng)建立起來的人權(quán)系統(tǒng)中，該系統(tǒng)將于復(fù)雜的利益相關(guān)者價(jià)值鏈相關(guān)聯(lián)。

從此基礎(chǔ)上，我們轉(zhuǎn)向關(guān)注當(dāng)前最熱門的爭論焦點(diǎn)并結(jié)束：如何將核心價(jià)值觀和原則嵌入到人工智能中？這類似于我們已經(jīng)從各種面向技術(shù)的組織和中心（如IBM和Microsoft）中看到的框架。在我們的指南中，我們重點(diǎn)關(guān)注來自人權(quán)的四項(xiàng)原則：

尊重人的自治

預(yù)防危害

公平

可以解釋

接下來，我們確定了七個(gè)面向利益相關(guān)者的要求，可通過技術(shù)和非技術(shù)方法（例如，測(cè)試和驗(yàn)證或標(biāo)準(zhǔn)化）可實(shí)現(xiàn)。

人類代理和監(jiān)督是第一項(xiàng)要求，其基礎(chǔ)是堅(jiān)持基本人權(quán)以及人工智能實(shí)現(xiàn)人類代理的必要性。

技術(shù)穩(wěn)健性和安全性與人工智能系統(tǒng)的發(fā)展密切相關(guān)，并側(cè)重于系統(tǒng)抵御外部攻擊（例如，對(duì)抗性攻擊）和內(nèi)部故障（例如系統(tǒng)可靠性的錯(cuò)誤通信）的恢復(fù)能力。

隱私和數(shù)據(jù)治理將系統(tǒng)開發(fā)人員和部署人員之間架起了橋梁。它解決了一些突出的問題，例如用于開發(fā)人工智能系統(tǒng)所使用的數(shù)據(jù)質(zhì)量和完整性，以及在整個(gè)系統(tǒng)生命周期內(nèi)保證隱私的必要性。

透明度要求可以理解和追蹤技術(shù)與執(zhí)行人類的決策。

多樣性，非歧視和公平是確保人人都可以訪問人工智能系統(tǒng)的要求。這些包括例如：避免偏見、考慮通用設(shè)計(jì)原則和避免一刀切的方法

社會(huì)和環(huán)境福利是最廣泛的要求，包括最大的利益相關(guān)者：我們的全球社會(huì)和環(huán)境。它解決了對(duì)可持續(xù)和環(huán)境友好型的人工智能的需求，以及對(duì)民主進(jìn)程的影響。

問責(zé)制補(bǔ)充了以前的所有要求，因?yàn)樗贏I系統(tǒng)的開發(fā)和部署之前，期間和之后都是相關(guān)的。

這七個(gè)關(guān)鍵要求和標(biāo)準(zhǔn)都是由政府監(jiān)管的。

下一個(gè)合乎邏輯的步驟是將需求轉(zhuǎn)化為實(shí)際的國際行業(yè)標(biāo)準(zhǔn)，但是一個(gè)完整的標(biāo)準(zhǔn)體系可能需要花費(fèi)數(shù)年時(shí)間。

這些指導(dǎo)方針?biāo)罁?jù)的人權(quán)框架有助于確定現(xiàn)有的適用法律和政策，這些法律和政策是可以適用于人工智能快速發(fā)展的游戲規(guī)則。

“以人為本”的人工智能的全球標(biāo)準(zhǔn)

到目前全球的討論取得了長足的進(jìn)展。關(guān)于受益人工智能的Asilomar會(huì)議是最早提出人工智能原則的會(huì)議之一，隨后，從“ 蒙特利爾宣言”到IEEE 自主和智能系統(tǒng)倫理全球倡議等大型多利益相關(guān)方倡議的補(bǔ)充運(yùn)動(dòng)迅速增加。

這些“準(zhǔn)則”通過討論編織了人權(quán)的連接線，這是國際辯論的主要方向。你可以通過最近的倡議看到這一點(diǎn)，例如“多倫多宣言”或經(jīng)合組織在其社會(huì)人工智能專家組及其人工智能政策觀察站開展的工作。

各國政府也正在發(fā)布更加精細(xì)的人工智能戰(zhàn)略，加拿大在2017年率先發(fā)布。所有這些都是領(lǐng)先的行業(yè)標(biāo)準(zhǔn)，例如IEEE和國際標(biāo)準(zhǔn)化組織(ISO)(ISO甚至還有一個(gè)關(guān)于可信度的工作組)。澳大利亞人權(quán)委員正在進(jìn)行開創(chuàng)性的工作，從根本上連接我們的指導(dǎo)方針，深入探討人權(quán)與技術(shù)之間的關(guān)系。我期待他們?cè)?019年末發(fā)布的調(diào)查結(jié)果，并希望更多的政府可以效仿。監(jiān)管機(jī)構(gòu)有必要就人工智能對(duì)人權(quán)和自由的影響進(jìn)行多方相關(guān)者磋商以了解如何通過具有法律約束力、可執(zhí)行的保護(hù)來補(bǔ)充準(zhǔn)則。

下一步

現(xiàn)在是時(shí)候努力實(shí)施準(zhǔn)則中列出的需求了。這些要求包括一份指示性評(píng)估清單，用于實(shí)施這些要求，并為未來的行業(yè)標(biāo)準(zhǔn)創(chuàng)建第一個(gè)框架實(shí)例。該清單將在2019年全年進(jìn)行試點(diǎn)和修訂。

反過來，各國政府應(yīng)該將這些準(zhǔn)則作作為制定和實(shí)施新的立法和監(jiān)管機(jī)制的基準(zhǔn)，以保障數(shù)字時(shí)代的人權(quán)和自由得到保護(hù)和促進(jìn)。

《指南》和歐盟委員會(huì)關(guān)于建立對(duì)以人為本的人工智能信任的溝通，鼓勵(lì)利益相關(guān)方和歐盟成員國參與《指南》中的關(guān)鍵要求，并利用這些要求就以人為本的人工智能達(dá)成共識(shí)。雙方還提到與加拿大，日本和新加坡等志同道合的國際合作伙伴加強(qiáng)合作。

加拿大已在人工智能領(lǐng)域與歐盟的多在人工智能領(lǐng)域進(jìn)行了多次合作，以及從政府角度出發(fā)，成立的法國和加拿大的國際人工智能小組。鑒于該小組的任務(wù)是“ 促進(jìn)以人為本的人工智能愿景”，在推動(dòng)我們的指導(dǎo)方針朝著國際標(biāo)準(zhǔn)邁進(jìn)的背景下，我尤其感到興奮。

我們有指導(dǎo)方針。我們有國際平臺(tái)?，F(xiàn)在，世界各國政府都應(yīng)該實(shí)施和發(fā)展它們，利益相關(guān)者應(yīng)該推動(dòng)和支持它們，公民需要它們，組織應(yīng)該采納它們。

道德和值得信賴的人工智能需要成為一種無可爭辯的國際規(guī)范。

從作者的描述中可以發(fā)現(xiàn)，歐盟目前已經(jīng)編寫好了有關(guān)人工智能道德標(biāo)準(zhǔn)的白皮書，并已經(jīng)敲定了最終稿并進(jìn)行了發(fā)布，可以了解到歐盟對(duì)于人工智能道德標(biāo)準(zhǔn)的條件，從這些條件中可以看出歐盟對(duì)于未來人工智能發(fā)展的一些期望，同時(shí)全世界有關(guān)人工智能的標(biāo)準(zhǔn)都在如火如荼的進(jìn)行著，可以預(yù)測(cè)到的是未來有關(guān)人工智能的崗位將會(huì)不斷的增加，我們將在這場風(fēng)波中處在什么位置將取決于我們現(xiàn)在對(duì)待人工智能的態(tài)度，不管未來人工智能對(duì)我們是一個(gè)好事還是一個(gè)壞事，我們?cè)诂F(xiàn)在都應(yīng)該積極的去應(yīng)對(duì)它和了解它，以防未來被這股人工智能的浪潮掀翻在地。