(相關(guān)資料圖)

隨著科技的發(fā)展，人工智能愈發(fā)成為國際競爭的新焦點和經(jīng)濟發(fā)展的新引擎，用法治保障人工智能產(chǎn)業(yè)發(fā)展，用倫理確保人工智能向善也成為各國頗為重視的課題。本期“聲音”版編發(fā)一組稿件，與讀者一道探討如何促進人工智能產(chǎn)業(yè)健康規(guī)范發(fā)展。

近日，深圳通過了《深圳經(jīng)濟特區(qū)人工智能產(chǎn)業(yè)促進條例》，上海也正在制定本市的人工智能產(chǎn)業(yè)促進條例。這兩部地方性立法雖以促進技術(shù)創(chuàng)新和產(chǎn)業(yè)發(fā)展為主要目的，但都將倫理原則內(nèi)置于其中，創(chuàng)設(shè)了倫理委員會，引入了倫理風(fēng)險評估、倫理審查、倫理安全標(biāo)準(zhǔn)管理、倫理指引和倫理教育等制度，以追求向善的創(chuàng)新，以人為本的發(fā)展。

人們常說“技術(shù)是一把雙刃劍”，的確，技術(shù)體現(xiàn)的是工具理性，它旨在幫助人類找到實現(xiàn)任何給定目的的最優(yōu)方案，但它本身并不能告訴我們什么樣的目的是值得追求的。因此，需要給技術(shù)套上法律和倫理的韁繩，使之服務(wù)于幫助人類實現(xiàn)美善生活的目的。為了前瞻研判科技發(fā)展帶來的規(guī)則沖突、社會風(fēng)險、倫理挑戰(zhàn)，我國成立了國家科技倫理委員會，發(fā)布了《關(guān)于加強科技倫理治理的意見》，在科技倫理治理體制、制度保障以及審查和監(jiān)管等方面邁出了重要步伐。

人工智能是數(shù)字科技時代最重要的技術(shù)之一，而且與傳統(tǒng)的被動型技術(shù)相比，其具有自我演化、快速迭代、難以預(yù)測的特點。如何讓人工智能技術(shù)及相關(guān)產(chǎn)業(yè)在“以人為本，科技向善，安全可控”的倫理原則指引下健康發(fā)展，是擺在我們面前的緊迫問題。目前，我國尚未出臺國家層面的人工智能專門立法或倫理指導(dǎo)意見，但深圳、上海在地方性的制度試驗中均規(guī)定了人工智能倫理方面的內(nèi)容，這將為全國性的制度建設(shè)提煉經(jīng)驗，試錯避雷。

那么，人工智能領(lǐng)域為什么需要建立健全倫理相關(guān)制度？倫理和法律的關(guān)系又是什么？首先，法律是社會的底線倫理，如果突破了法律，人與人之間的和平共處就無法實現(xiàn)，基本的社會秩序就無法得到維持。但只有法律還不夠，因為我們不僅要活著，還要活得好，活得有尊嚴(yán)感和幸福感，這時候就需要倫理出場了，倫理原則指引人們?nèi)プ霾恢褂谑刈〉拙€的、對社會有益的事情。在日常社會交往中，倫理是內(nèi)生的，依靠社會評價、同儕壓力和親情友情來“執(zhí)行”。但在人工智能等科技領(lǐng)域，由于信息不對稱和專業(yè)能力不對稱，普通社會公眾很難對某種技術(shù)支撐的產(chǎn)品或服務(wù)的善惡利弊作出評價，因此需要專業(yè)化和制度化的倫理評價和倫理審查機制。

其次，法律是回應(yīng)性的，它只能在特定損害結(jié)果發(fā)生后，對特定法律關(guān)系中的主體進行判斷、評價和提供救濟。而在人工智能技術(shù)遍布于我們?nèi)粘Ｊ褂玫母鞣N手機應(yīng)用、購物平臺和社交媒體的當(dāng)下，很多損害結(jié)果往往難以察覺，但卻像溫水煮青蛙那樣惡化著我們的總體生存環(huán)境，比如大數(shù)據(jù)殺熟、過度獲取和濫用個人信息、利用算法誘導(dǎo)青少年上癮，等等。在這種資本通過技術(shù)肆意利用人性弱點的背景下，個人覺察損害結(jié)果本已不易，證明平臺有過錯或違反法定義務(wù)更難，而證明因果關(guān)系則是難上加難。倫理在此時可以作為法律的補充，事前的倫理指引和倫理審查，可以確保算法設(shè)計者知曉什么樣的設(shè)計是向善的，是能夠被公眾接受的，從而確保有可持續(xù)商業(yè)追求的企業(yè)和工程師在進行相關(guān)設(shè)計時就遵循倫理原則。而法律則在出現(xiàn)可見的嚴(yán)重?fù)p害結(jié)果時強力介入，懲處那些觸碰規(guī)則底線的行為主體。

最后，法律是一般性的，是剛性的，它更像是柵欄或圍墻，界分出合法與非法的邊界。它天然缺乏敏捷性、靈活性和場景適配性。如果法律規(guī)則過嚴(yán)過密，必然會遏制技術(shù)創(chuàng)新和產(chǎn)業(yè)發(fā)展；如果過寬過疏，則又會留下巨大的漏洞，使大量模糊而又圓滑的危害民生福祉的行為成為漏網(wǎng)之魚。這對于有人工智能助力的法律主體來說尤其如此。而倫理則具有更強的場景適配性和行業(yè)特定性，它更像是量身定制的合體衣服，由技術(shù)專家、人文社會科學(xué)家、行業(yè)組織和特定用戶群體通過行為互動和協(xié)商溝通發(fā)展出來，約束從業(yè)者的行為，因此能夠與法律配合營造出既有利于企業(yè)和創(chuàng)新者追求正當(dāng)利益，又有助于維護個人尊嚴(yán)和權(quán)利的良好制度環(huán)境。

（作者系上海交通大學(xué)凱原法學(xué)院教授，上海交通大學(xué)涉及人的科學(xué)研究倫理委員會委員）

責(zé)任編輯：李楠

關(guān)鍵詞： 人工智能 倫理原則 倫理委員會