原標(biāo)題：破除人工智能成為法律主體的臆想

人工智能作為現(xiàn)代科技的前沿領(lǐng)域，正在迅速改變我們生活的方方面面。從智能家居到自動(dòng)駕駛汽車(chē)，從智能助手到人形機(jī)器人，技術(shù)的進(jìn)步和應(yīng)用場(chǎng)景的拓展，激發(fā)了各界對(duì)人工智能的追捧。伴隨對(duì)人工智能生成作品著作權(quán)歸屬的爭(zhēng)論以及具身智能的發(fā)展，關(guān)于人工智能是否應(yīng)當(dāng)被賦予主體地位的問(wèn)題越來(lái)越受到關(guān)注。2024年8月16日，光明日?qǐng)?bào)理論版刊發(fā)的《人工智能成為法律主體不存在理論障礙》一文，提出若干觀(guān)點(diǎn)支持賦予人工智能以法律主體地位。對(duì)此，筆者有不同認(rèn)識(shí)。筆者認(rèn)為，“不存在理論障礙”并不意味著就具備正當(dāng)性、合理性和必要性，如若承認(rèn)人工智能法律主體地位，那么人工智能就將被視為具有獨(dú)立權(quán)利義務(wù)和責(zé)任的法律實(shí)體，這將構(gòu)成對(duì)現(xiàn)有法律倫理秩序和傳統(tǒng)的極大沖擊。

理性是成為法律主體的基礎(chǔ)，但人工智能不具備獨(dú)立理性

理性不僅是道德判斷的基礎(chǔ)，也是對(duì)行為后果承擔(dān)責(zé)任的前提。只有具備理性和自主性的個(gè)體才能被視為道德主體，具備承擔(dān)道德責(zé)任的能力。理性通常被定義為一種能夠進(jìn)行邏輯思維和合理決策的能力，它涉及對(duì)復(fù)雜問(wèn)題的分析、判斷和選擇。理性不僅僅是計(jì)算能力的體現(xiàn)，更包括對(duì)自身行為的反思和對(duì)環(huán)境的理解。自主性則是指?jìng)€(gè)體能夠在沒(méi)有外部干預(yù)的情況下，自主做出決策，并承擔(dān)決策帶來(lái)的后果。理性使得個(gè)體能夠進(jìn)行自我反思和理性決策，從而對(duì)其行為和結(jié)果負(fù)責(zé)。法律是最低程度的道德，法律主體地位的取得也需要主體具備理性，以便對(duì)其行為進(jìn)行合理的法律評(píng)價(jià)。在某種意義上，理性是成為法律主體的基礎(chǔ)?！度斯ぶ悄艹蔀榉芍黧w不存在理論障礙》一文認(rèn)為，“法律調(diào)整人工智能產(chǎn)生的相應(yīng)法律關(guān)系，本質(zhì)上仍然是調(diào)整人與人之間的法律關(guān)系，仍以人的理性為基礎(chǔ)”；既如此，人工智能又有何種可能性和必要性成為法律主體呢？

進(jìn)言之，人工智能雖然能“理性”地作出決策行為，但這種“理性”實(shí)際上是擬制的，源于人類(lèi)編制的算法和數(shù)據(jù)訓(xùn)練。人工智能系統(tǒng)的“決策”基于大量的數(shù)據(jù)處理和模式識(shí)別，但這些“決策”并不涉及自主的理性判斷。易言之，人工智能的學(xué)習(xí)過(guò)程是通過(guò)對(duì)歷史數(shù)據(jù)進(jìn)行優(yōu)化和調(diào)整，而不是通過(guò)自主思考或反省形成的。例如，深度學(xué)習(xí)算法可以通過(guò)對(duì)海量圖像進(jìn)行分析來(lái)識(shí)別物體，但這種識(shí)別能力基于統(tǒng)計(jì)模型，而不是基于對(duì)圖像內(nèi)容的理解。一般而言，理性標(biāo)準(zhǔn)要求主體能夠進(jìn)行自主的道德判斷，并對(duì)其行為后果負(fù)責(zé)。然而，人工智能系統(tǒng)并不具備這種自主性，它們的行為是由人類(lèi)設(shè)計(jì)和預(yù)設(shè)的規(guī)則驅(qū)動(dòng)的，并沒(méi)有真正的自我意識(shí)。真正的理性不僅僅是邏輯思維和計(jì)算能力的表現(xiàn)，更包括對(duì)自我意識(shí)的控制能力。人工智能系統(tǒng)的“理性”僅僅是程序設(shè)計(jì)和數(shù)據(jù)處理的結(jié)果，其“思考”過(guò)程實(shí)際上是對(duì)輸入數(shù)據(jù)的統(tǒng)計(jì)分析和優(yōu)化處理，缺乏真正獨(dú)立的自我意識(shí)和自主決策能力，只是工具意義上完成人類(lèi)所設(shè)定的任務(wù)，不能因其是人類(lèi)活動(dòng)的延續(xù)就將人工智能視為具有與人具有同等理性和地位的獨(dú)立主體。

從技術(shù)實(shí)質(zhì)來(lái)看，人工智能的決策高度依賴(lài)預(yù)設(shè)算法、訓(xùn)練數(shù)據(jù)以及算力支撐，其系統(tǒng)運(yùn)行的本質(zhì)仍然是數(shù)學(xué)處理的過(guò)程和結(jié)果，難言自我意識(shí)和獨(dú)立理性。即便是進(jìn)入所謂的“強(qiáng)人工智能”階段，人工智能的思考和決策過(guò)程仍然是在預(yù)設(shè)的算法和程序的框架之內(nèi)，其“理性”也只是體現(xiàn)為一種工具意義上的計(jì)算和處理能力，而非真正意義上的自主決策或理性思考。在這層意義上，賦予人工智能獨(dú)立的法律主體地位顯然缺乏足夠的倫理基礎(chǔ)。

承擔(dān)責(zé)任是成為法律主體的客觀(guān)要求，但人工智能無(wú)法獨(dú)立承擔(dān)責(zé)任

責(zé)任涉及對(duì)行為結(jié)果的承擔(dān)和對(duì)錯(cuò)誤行為的補(bǔ)救。法律和倫理中的責(zé)任要求主體能夠?qū)ζ湫袨檫M(jìn)行控制，并承擔(dān)相應(yīng)的后果。承擔(dān)責(zé)任需要主體具備對(duì)其行為的理解和控制能力，以及對(duì)后果進(jìn)行補(bǔ)償?shù)哪芰?。?zé)任的歸屬不僅需要明確的法律框架，還需要具備承擔(dān)責(zé)任的能力和條件。然而，從人工智能系統(tǒng)的技術(shù)運(yùn)行邏輯來(lái)看，其難以獨(dú)立地承擔(dān)法律責(zé)任，賦予人工智能法律主體地位缺乏應(yīng)有的法律基礎(chǔ)。

一方面，人工智能并不能真正理解和控制其行為的法律后果。法律責(zé)任的核心在于主體能夠意識(shí)到其行為對(duì)他人的影響，并且具備彌補(bǔ)或糾正錯(cuò)誤的能力。然而人工智能的行為完全依賴(lài)于其算法和程序，且受到訓(xùn)練數(shù)據(jù)投喂的顯著影響，即使這些系統(tǒng)能夠在特定任務(wù)中表現(xiàn)出高效的處理能力，也只是脫離人工的自動(dòng)化處理而并非真正意義上的自主決策。因此，人工智能系統(tǒng)無(wú)法獨(dú)立控制其行為，也不能自主預(yù)測(cè)其行為的后果和責(zé)任，自然也無(wú)法對(duì)其行為后果承擔(dān)責(zé)任。

另一方面，人工智能不具備承擔(dān)責(zé)任的財(cái)產(chǎn)條件。法律主體獨(dú)立的責(zé)任能力通常以具有獨(dú)立財(cái)產(chǎn)為基礎(chǔ)。然而不同于法人通過(guò)股東出資等方式獲得獨(dú)立財(cái)產(chǎn)，人工智能的運(yùn)行并不以財(cái)產(chǎn)作為支撐，其設(shè)計(jì)和部署雖然會(huì)耗費(fèi)大量資金投入，但也并不要求儲(chǔ)備相應(yīng)財(cái)產(chǎn)以承擔(dān)可能之責(zé)任。這就導(dǎo)致了一旦人工智能因其決策行為侵權(quán)或違法，也沒(méi)有相應(yīng)的財(cái)產(chǎn)承擔(dān)相應(yīng)的賠償責(zé)任。即便是按照《人工智能成為法律主體不存在理論障礙》一文的設(shè)計(jì)，從制度和實(shí)踐上允許人工智能系統(tǒng)取得獨(dú)立財(cái)產(chǎn)，或者為其設(shè)計(jì)強(qiáng)制責(zé)任保險(xiǎn)制度，其也只能承擔(dān)賠償損失、罰金等以金錢(qián)為內(nèi)容的法律責(zé)任，而不能承擔(dān)諸如資格罰或自由罰等其他類(lèi)型的法律責(zé)任，由此法律對(duì)其約束和威懾作用會(huì)顯著不足。

更重要的是，人工智能獨(dú)立承擔(dān)責(zé)任可能會(huì)誘致道德風(fēng)險(xiǎn)。人工智能系統(tǒng)的決策和行為是由預(yù)先設(shè)定的算法和數(shù)據(jù)所驅(qū)動(dòng)的，在很大程度上人工智能的行為控制權(quán)實(shí)際上是掌握在設(shè)計(jì)者和應(yīng)用者手中的，而不是系統(tǒng)本身能夠獨(dú)立控制的。設(shè)計(jì)者和應(yīng)用者在設(shè)計(jì)和部署人工智能系統(tǒng)的過(guò)程中，可能會(huì)因其故意或過(guò)失造成人工智能系統(tǒng)的先天缺陷，進(jìn)而導(dǎo)致他人利益損害甚至利用人工智能實(shí)施違法犯罪行為。如果賦予人工智能獨(dú)立主體地位并由其獨(dú)立承擔(dān)責(zé)任，很有可能導(dǎo)致人工智能的設(shè)計(jì)者和應(yīng)用者利用這種安排逃避其實(shí)際應(yīng)承擔(dān)的法律責(zé)任。當(dāng)獨(dú)立承擔(dān)責(zé)任的人工智能可以成為設(shè)計(jì)者和應(yīng)用者的“防火墻”或“避風(fēng)港”，那么濫用人工智能的道德風(fēng)險(xiǎn)則難以避免，甚至造成災(zāi)難性后果。

現(xiàn)有法律和倫理秩序足以應(yīng)對(duì)人工智能帶來(lái)的新變化，賦予人工智能法律主體地位無(wú)現(xiàn)實(shí)必要

賦予人工智能法律主體地位并非僅僅對(duì)技術(shù)進(jìn)步的簡(jiǎn)單回應(yīng)，其涉及深刻的法律、倫理和社會(huì)秩序問(wèn)題。法律因時(shí)而變固然是制度進(jìn)化的內(nèi)在要求，但確保法制的穩(wěn)定和可預(yù)期、維護(hù)倫理秩序應(yīng)當(dāng)是法制變革的底線(xiàn)。一旦人工智能取得法律主體地位，勢(shì)必會(huì)導(dǎo)致現(xiàn)有法律秩序和倫理秩序所根植的社會(huì)關(guān)系結(jié)構(gòu)發(fā)生變化，人工智能作為與自然人、法人和其他組織等既有主體并列的新興主體，其主張權(quán)利或承擔(dān)義務(wù)與責(zé)任，都會(huì)造成對(duì)現(xiàn)有秩序的沖擊。

從倫理的角度來(lái)看，賦予人工智能主體地位將挑戰(zhàn)以人類(lèi)為中心的傳統(tǒng)觀(guān)念。這種觀(guān)念認(rèn)為，人類(lèi)在倫理上處于中心地位，擁有特殊的道德和法律地位。這種觀(guān)念支撐著現(xiàn)代法律和倫理體系的發(fā)展，也構(gòu)成了法律倫理秩序的基礎(chǔ)。賦予人工智能主體地位將會(huì)削弱這一倫理基礎(chǔ)，弱化人在法律與倫理秩序中的主導(dǎo)地位。事實(shí)上，法律主體地位的背后隱含著人類(lèi)社會(huì)對(duì)個(gè)體的尊重和承認(rèn)，賦予某一主體以法律地位不僅僅是賦予其權(quán)利，更意味著承認(rèn)其具有道德和倫理上的意義。人工智能雖然具備高效處理數(shù)據(jù)的能力，但并不具備人類(lèi)所獨(dú)有的倫理感和道德價(jià)值觀(guān)。若賦予人工智能法律主體地位，將會(huì)產(chǎn)生許多倫理難題。例如，人工智能是否應(yīng)當(dāng)擁有像人類(lèi)一樣的權(quán)利？人工智能的“權(quán)利”與人類(lèi)權(quán)利之間的沖突如何解決？我國(guó)發(fā)布的《全球人工智能治理倡議》主張，發(fā)展人工智能應(yīng)堅(jiān)持“以人為本”理念，強(qiáng)調(diào)以尊重人類(lèi)權(quán)益為前提。人工智能的存在與發(fā)展應(yīng)當(dāng)服務(wù)于人類(lèi)社會(huì)的進(jìn)步與福祉，而不是創(chuàng)造出與人類(lèi)平等甚至可能存在競(jìng)爭(zhēng)關(guān)系的主體。

從法律的角度來(lái)看，賦予人工智能主體地位會(huì)導(dǎo)致法律規(guī)則體系的復(fù)雜化。當(dāng)前的法律體系是以人類(lèi)為中心設(shè)計(jì)的，各類(lèi)法律、法規(guī)、判例都基于人類(lèi)的行為邏輯和社會(huì)關(guān)系結(jié)構(gòu)。如果人工智能被視為法律主體，現(xiàn)有法律體系勢(shì)必難以應(yīng)對(duì)人工智能作為獨(dú)立主體參與社會(huì)活動(dòng)所帶來(lái)的復(fù)雜情況。人工智能權(quán)利義務(wù)的內(nèi)容與邊界、人工智能主觀(guān)過(guò)錯(cuò)的認(rèn)定和責(zé)任形式等問(wèn)題，都超出了現(xiàn)行法律框架的預(yù)設(shè)。近年來(lái)，歐盟以及其他法域都陸續(xù)出臺(tái)人工智能相關(guān)法律，試圖為人工智能的使用制定法律框架。但這些立法嘗試仍然主要關(guān)注人工智能的應(yīng)用和監(jiān)管，即將人工智能作為工具或客體予以規(guī)制，而非將人工智能本身視為法律主體。在現(xiàn)有法律體系下解釋和完善法律，合理分配人工智能所有者、使用者等相關(guān)主體的權(quán)利義務(wù)和責(zé)任，亦能因應(yīng)人工智能時(shí)代的法律挑戰(zhàn)，完全沒(méi)有必要賦予人工智能法律主體地位。

人工智能的飛速發(fā)展使得當(dāng)前社會(huì)不得不認(rèn)真審視人工智能的角色和地位。人工智能作為一種工具，其作用在于輔助和增強(qiáng)人類(lèi)能力，而不是取代或成為法律和道德主體。法律回應(yīng)人工智能革命，不應(yīng)被科幻主義的盲目和狂熱所遮蔽，沉溺于賦予人工智能法律主體地位的臆想，而是應(yīng)當(dāng)回歸科學(xué)主義的理性與客觀(guān)，將人工智能作為一種工具客體予以有效法律規(guī)制，在促進(jìn)其服務(wù)人類(lèi)社會(huì)發(fā)展的同時(shí)保持對(duì)技術(shù)的審慎和警惕，以確保技術(shù)的安全和有效應(yīng)用。

（作者：袁康，系武漢大學(xué)網(wǎng)絡(luò)治理研究院副院長(zhǎng)、教授，湖北省中國(guó)特色社會(huì)主義理論體系研究中心研究員）