研究者希望能給人工智能加上安全裝置，讓它真正行穩(wěn)致遠(yuǎn)

　　人工智能用于醫(yī)療出現(xiàn)誤診誰(shuí)擔(dān)責(zé)，是提供技術(shù)的公司，還是醫(yī)院、或者是醫(yī)生？

　　自動(dòng)駕駛汽車(chē)上路發(fā)生交通事故，責(zé)任在車(chē)主還是車(chē)輛生產(chǎn)方？

　　并非所有人都有能力邁過(guò)技術(shù)性和社會(huì)性壁壘，未來(lái)會(huì)否出現(xiàn)“無(wú)用人群”？

　　……

　　人工智能浪潮方興未艾，正帶來(lái)知識(shí)生產(chǎn)和利用方式的深刻變革。不過(guò)，對(duì)研究者來(lái)說(shuō)，還有一件更重要的事兒——人工智能的倫理道德問(wèn)題。

　　當(dāng)?shù)貢r(shí)間4月8日，歐盟委員會(huì)發(fā)布了一份人工智能（AI）道德準(zhǔn)則。

　　據(jù)外媒報(bào)道，該準(zhǔn)則由2018年12月公布的人工智能道德準(zhǔn)則草案演變而來(lái)，提出了實(shí)現(xiàn)“可信賴(lài)人工智能”的7個(gè)要素。

　　此前的草案為“可信賴(lài)人工智能”提出了一個(gè)官方解釋?zhuān)菏紫�，它�?yīng)該尊重基本權(quán)利、規(guī)章制度、核心原則及價(jià)值觀，以確�！暗赖履康摹�；其次，它應(yīng)該在技術(shù)上強(qiáng)健且可靠，因?yàn)榧词褂辛己玫囊鈭D，缺乏對(duì)技術(shù)的掌握也會(huì)造成無(wú)意的傷害。

　　歐盟負(fù)責(zé)數(shù)字經(jīng)濟(jì)的官員瑪利亞·加布里埃爾解讀了這7項(xiàng)要求。她認(rèn)為，在人工智能使用上，“透明性”是一切的關(guān)鍵，同時(shí)也要“以人為本”。

　　加布里埃爾表示：“任何公司在使用人工智能技術(shù)時(shí)，其受眾都應(yīng)當(dāng)具有知情權(quán)。人們應(yīng)該知道和他們進(jìn)行溝通的是算法還是真人。同時(shí)，任何由算法做出的決定，都必須由公司出面解釋�！�

　　歐盟出臺(tái)準(zhǔn)則的背后，是人工智能不可忽視的挑戰(zhàn)。

　　比如，在社交媒體中，人工智能將觀點(diǎn)相近的人相互聚攏，新聞推送也常常存在路徑依賴(lài)。當(dāng)人們的信息來(lái)源越來(lái)越依賴(lài)于智能機(jī)器，偏見(jiàn)會(huì)在這種同化和路徑依賴(lài)中被強(qiáng)化。這時(shí)候，人工智能就可能造成偏見(jiàn)強(qiáng)化，加劇社會(huì)分化與撕裂。

　　再比如，人工智能的發(fā)展，讓技術(shù)的壟斷越來(lái)越嚴(yán)重。一方面這些技術(shù)給生活帶來(lái)便利，另一方面也在某種程度上控制著人類(lèi)的生活。

　　在科學(xué)家看來(lái)，人工智能和其他技術(shù)特點(diǎn)不一樣，很多人工智能技術(shù)具有自主性，如果沒(méi)有適當(dāng)?shù)姆婪洞胧�，一旦失控就不堪想象�！斑@就像在蓋房子之前要先打好地基。不能等到出現(xiàn)了嚴(yán)重的問(wèn)題，再制定措施去防止�！�

　　此前，研究人員一直希望以最簡(jiǎn)單的辦法，確保以機(jī)器人為代表的人工智能不給人類(lèi)帶來(lái)任何威脅。

　　大家所熟知的最早關(guān)于機(jī)器人的倫理規(guī)定，是著名科幻作家阿西莫夫上世紀(jì)設(shè)計(jì)的防止機(jī)器人失控的“機(jī)器人三定律”：機(jī)器人不能傷害人類(lèi)；它們必須服從于人類(lèi)；它們必須保護(hù)自己。后來(lái)又加入了“第零定律”：機(jī)器人不得傷害人類(lèi)整體，不得因不作為使人類(lèi)整體受到傷害。

　　但是隨著人工智能不斷發(fā)展，“機(jī)器人三定律”已經(jīng)遠(yuǎn)不能適應(yīng)時(shí)代。

　　新的倫理原則制定也正提上各國(guó)政府的議事日程。綜合看來(lái)，盡管新原則各有不同，但突出以人為本的理念始終不變。百度公司創(chuàng)始人李彥宏在2018年中國(guó)國(guó)際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)上提出了“人工智能倫理四原則”，首要原則就是安全可控。

　　顯然，人工智能正幫助人類(lèi)社會(huì)向充滿不確定性的未來(lái)疾馳。在沖進(jìn)未知之門(mén)前，需要給它裝上安全裝置，讓它真正能行穩(wěn)致遠(yuǎn)。

　　去年，中國(guó)發(fā)展研究基金會(huì)發(fā)布報(bào)告《未來(lái)基石——人工智能的社會(huì)角色與倫理》中，就建議各國(guó)政府促進(jìn)數(shù)據(jù)共享技術(shù)，為人工智能培訓(xùn)和測(cè)試提供共享的公共數(shù)據(jù)集。在個(gè)人信息得到保護(hù)的前提下，促進(jìn)數(shù)據(jù)的自由流通；并加強(qiáng)國(guó)際合作，建立多層次的國(guó)際人工智能治理機(jī)制。

　　歐盟委員會(huì)也表示，提出人工智能道德準(zhǔn)則只是第一步，未來(lái)他們還將邀請(qǐng)工業(yè)界、研究機(jī)構(gòu)和政府機(jī)構(gòu)對(duì)該準(zhǔn)則進(jìn)行測(cè)試和補(bǔ)充，最終制定以人為本的人工智能共識(shí)。