法律一般不對(duì)實(shí)踐中沒有定型的經(jīng)驗(yàn)、社會(huì)中沒有成熟的關(guān)系進(jìn)行調(diào)整。就人工智能發(fā)展的階段而言,一般認(rèn)為存在著弱人工智能、強(qiáng)人工智能和超人工智能三個(gè)階段。目前人工智能的發(fā)展仍然處于弱人工智能階段,因此當(dāng)前并不能夠制定出關(guān)于人工智能的完整的法律制度。
人工智能的法律規(guī)制需要和具體的領(lǐng)域結(jié)合起來,在每一個(gè)細(xì)分領(lǐng)域里,存在著不同的規(guī)制方法、進(jìn)路和手段。電子商務(wù)將互聯(lián)網(wǎng)的技術(shù)運(yùn)用于商業(yè)領(lǐng)域,政府監(jiān)管的重要目的在于促進(jìn)競(jìng)爭(zhēng)和反壟斷,保護(hù)消費(fèi)者權(quán)利,維護(hù)市場(chǎng)秩序。人工智能廣泛運(yùn)用于醫(yī)療領(lǐng)域,相關(guān)數(shù)據(jù)往往屬于個(gè)人敏感數(shù)據(jù),政府在設(shè)計(jì)監(jiān)管模式的時(shí)候,必然采取高準(zhǔn)入、嚴(yán)許可的進(jìn)路。
規(guī)制人工智能的立法進(jìn)路
就人工智能的法律應(yīng)對(duì)而言,我國(guó)目前更多的是從產(chǎn)業(yè)政策促進(jìn)、扶持和發(fā)展的角度對(duì)人工智能提供行政指導(dǎo)。2017年國(guó)務(wù)院發(fā)布的《新一代人工智能發(fā)展規(guī)劃》突出地反映了這一思路。
在監(jiān)管層面上,目前對(duì)人工智能的法律規(guī)制在電子商務(wù)、數(shù)據(jù)安全和智能投顧領(lǐng)域的立法中已經(jīng)有個(gè)別條款分別涉及?!峨娮由虅?wù)法》規(guī)定,電子商務(wù)經(jīng)營(yíng)者根據(jù)消費(fèi)者的興趣愛好、消費(fèi)習(xí)慣等特征向其推銷商品或服務(wù)的搜索結(jié)果的,應(yīng)當(dāng)同時(shí)向該消費(fèi)者提供不針對(duì)其個(gè)人特征的選項(xiàng),尊重和平等保護(hù)消費(fèi)者合法權(quán)益。這是在法律層面對(duì)大數(shù)據(jù)算法殺熟的回應(yīng)。此外,《電子商務(wù)法》第40條規(guī)定,對(duì)于競(jìng)價(jià)排名的商品或服務(wù),應(yīng)當(dāng)顯著標(biāo)明“競(jìng)價(jià)”。
規(guī)章層級(jí)的《數(shù)據(jù)安全管理辦法》(征求意見稿)也對(duì)算法進(jìn)行了相應(yīng)的規(guī)制?!掇k法》規(guī)定,“網(wǎng)絡(luò)運(yùn)營(yíng)者利用大數(shù)據(jù)和人工智能等技術(shù),通過算法自動(dòng)合成的新聞信息、博文、帖子、評(píng)論等,應(yīng)當(dāng)以顯著方式表明‘合成’字樣。”對(duì)于算法推薦的規(guī)制,除了披露義務(wù)之外,規(guī)范信息流程、報(bào)備模型參數(shù)、違規(guī)行為懲處等長(zhǎng)效機(jī)制都是法律制度設(shè)計(jì)需要考量的要素。
2018年3月28日,中國(guó)人民銀行、銀保監(jiān)會(huì)、證監(jiān)會(huì)、外匯局聯(lián)合發(fā)布《關(guān)于規(guī)范金融機(jī)構(gòu)資產(chǎn)管理業(yè)務(wù)的指導(dǎo)意見》(以下簡(jiǎn)稱“指導(dǎo)意見”)。該指導(dǎo)意見對(duì)人工智能在金融領(lǐng)域的應(yīng)用進(jìn)行了規(guī)制,從勝任性要求、投資者適當(dāng)性以及透明披露方面對(duì)智能投顧中的算法進(jìn)行穿透式監(jiān)管。
《指導(dǎo)意見》明確,運(yùn)用人工智能技術(shù)開展投資顧問業(yè)務(wù)應(yīng)當(dāng)取得投資顧問資質(zhì)。除了要遵守一般性規(guī)定外,還應(yīng)當(dāng)向金融監(jiān)督管理部門報(bào)備人工智能模型的主要參數(shù)以及資產(chǎn)配置的主要邏輯,為投資者單獨(dú)設(shè)立智能管理賬戶,充分提示人工智能算法的固有缺陷和使用風(fēng)險(xiǎn),明晰交易流程,強(qiáng)化留痕管理,嚴(yán)格監(jiān)控智能管理賬戶的交易頭寸、風(fēng)險(xiǎn)限額、交易種類、價(jià)格權(quán)限等。
《指導(dǎo)意見》強(qiáng)調(diào),因算法同質(zhì)化、編程設(shè)計(jì)錯(cuò)誤、對(duì)數(shù)據(jù)利用深度不夠等人工智能算法模型缺陷或者系統(tǒng)異常,導(dǎo)致羊群效應(yīng)、影響金融市場(chǎng)穩(wěn)定運(yùn)行的,金融機(jī)構(gòu)應(yīng)當(dāng)強(qiáng)制調(diào)整或者終止智能投顧業(yè)務(wù)。
在監(jiān)管手段上,金融監(jiān)管部門對(duì)智能投顧的法律規(guī)制采取了組合拳的方式。智能投資顧問是投資咨詢機(jī)構(gòu)業(yè)務(wù)的延伸,投資咨詢機(jī)構(gòu)應(yīng)當(dāng)被識(shí)別為受托人,承擔(dān)信義義務(wù)和合規(guī)義務(wù)。
在監(jiān)管方式上,金融監(jiān)管部門運(yùn)用監(jiān)管科技應(yīng)對(duì)金融科技的興起。金融機(jī)構(gòu)在利用智能投顧開展資產(chǎn)管理業(yè)務(wù)的時(shí)候,必須要獲得行政許可、獲得資質(zhì);報(bào)備模型參數(shù)、實(shí)現(xiàn)算法透明和算法可解釋性;制定預(yù)案、適時(shí)人工干預(yù)。
人工智能的司法規(guī)制
這里在討論人工智能規(guī)制的時(shí)候,將不去區(qū)分人工智能和算法之間的區(qū)別,將它們作為同一概念處理。美國(guó)聯(lián)邦法院和州法院在判例中或者將算法定性成商業(yè)秘密,或者在關(guān)于搜索引擎算法的判決中,將它看成是言論,在學(xué)者中激起了廣泛的爭(zhēng)論。
算法作為言論
2003年的Search King v?!oogle- Tech。,Inc。案中,俄克拉荷瑪州法院認(rèn)為,網(wǎng)頁(yè)排名是一種意見,搜索引擎根據(jù)算法生成的結(jié)果是它的言論。四年之后,Longdon v?!oogle案中,聯(lián)邦地區(qū)法院也支持了算法是言論的主張。
就搜索引擎算法是否是言論,在理論上仍然有激烈的反對(duì)意見。更進(jìn)一步的問題在于,即使司法對(duì)此已經(jīng)給出了正面的回答,這一定性是否推廣到所有領(lǐng)域的算法仍然是懸而未決的問題。
算法作為商業(yè)秘密
在美國(guó)刑事訴訟領(lǐng)域,算法廣泛運(yùn)用于預(yù)測(cè)個(gè)體是否會(huì)重新犯罪,以及是否到庭,從而影響定罪、量刑以及保釋。這種做法,在算法的準(zhǔn)確性、算法考慮不相關(guān)的社會(huì)因素以及算法的正當(dāng)程序三個(gè)方面引發(fā)了普遍的質(zhì)疑。
在State v。 Loomis,881 N?!?!?d 749一案中,魯米斯因駕車槍擊案而遭受刑事指控。威斯康星州法院在量刑的時(shí)候基于COMPAS的評(píng)估判處魯米斯六年監(jiān)禁外加五年監(jiān)外執(zhí)行。魯米斯以侵犯了他的正當(dāng)程序權(quán)利和平等保護(hù)權(quán)為由提起上訴。威斯康星州最高法院認(rèn)為,性別作為參數(shù)進(jìn)入算法,其目的是為了算法準(zhǔn)確性而非為了歧視,因此沒有侵犯被告的平等權(quán)。其次,COMPAS所分析的數(shù)據(jù)依賴于公開的刑事犯罪記錄和被告提供的數(shù)據(jù)。最后,由于評(píng)估結(jié)論并非法院量刑的唯一依據(jù),法院所要求的個(gè)別化對(duì)待的權(quán)利得到了保障。
在算法公平和商業(yè)秘密之間,法院在這個(gè)案件中站在了商業(yè)秘密一邊。這一司法立場(chǎng)有助于促進(jìn)技術(shù)創(chuàng)新和人工智能產(chǎn)業(yè)的發(fā)展。但算法公平性的問題仍然懸而未決。
當(dāng)認(rèn)為算法會(huì)帶來歧視性的結(jié)果的時(shí)候,根本原因在于作為算法基礎(chǔ)的數(shù)據(jù)中隱含著民族、種族和性別的偏見。Anupam Chander認(rèn)為有效的補(bǔ)救措施應(yīng)當(dāng)是,設(shè)計(jì)算法的時(shí)候必須考慮到現(xiàn)有數(shù)據(jù)中潛藏著的歧視。Danielle Keats Citron和Frank Pasquale主張,監(jiān)管者應(yīng)當(dāng)可以檢測(cè)系統(tǒng)以確保其公平性和正確性,個(gè)人有權(quán)要求糾正對(duì)他們進(jìn)行錯(cuò)誤分類而帶來不利影響的機(jī)器決策。
人工智能的源頭規(guī)制
歐盟《一般數(shù)據(jù)保護(hù)條例》通過訪問權(quán)、修改權(quán)、刪除權(quán)、可攜帶權(quán)等具體權(quán)利的規(guī)定確立了個(gè)人數(shù)據(jù)決定權(quán)。除了可攜帶權(quán)有利于在人工智能企業(yè)之間形成競(jìng)爭(zhēng)、促進(jìn)產(chǎn)業(yè)發(fā)展之外,其他的權(quán)利都對(duì)人工智能的發(fā)展構(gòu)成了直接的限制。
《條例》更賦予數(shù)據(jù)主體以免于自動(dòng)化決策的權(quán)利?!稐l例》21條明確規(guī)定:“數(shù)據(jù)主體有權(quán)根據(jù)其特殊情況,在個(gè)人數(shù)據(jù)被處理的過程中行使反對(duì)數(shù)據(jù)畫像的權(quán)利。”第22條進(jìn)一步明確,如果某種包括數(shù)據(jù)畫像在內(nèi)自動(dòng)化決策會(huì)對(duì)數(shù)據(jù)主體產(chǎn)生法律效力或者造成類似的重大影響,數(shù)據(jù)主體有權(quán)不受上述決策的限制。
根據(jù)第29條工作組指引,在下述情形中,不得使用自動(dòng)化決策。比如解除合同;對(duì)法律所提供的某一具體的社會(huì)福利的獲取或喪失;嬰幼兒補(bǔ)貼或住房補(bǔ)貼;拒絕入境某個(gè)國(guó)家或者是否認(rèn)公民身份。上述情形具有的共同特點(diǎn)就是自動(dòng)化決策已經(jīng)影響到行政相對(duì)人的權(quán)利義務(wù)。
除了第21條的規(guī)定之外,《條例》“序言”第71條規(guī)定,數(shù)據(jù)主體應(yīng)免于受制于自動(dòng)化處理手段對(duì)其個(gè)人進(jìn)行精準(zhǔn)評(píng)價(jià),以及對(duì)其產(chǎn)生法律效果或重要影響的情況。任何情況下,這些數(shù)據(jù)處理應(yīng)當(dāng)有適當(dāng)?shù)谋Wo(hù)措施,包括獲得認(rèn)為干預(yù)的權(quán)利、表達(dá)觀點(diǎn)的權(quán)利、評(píng)估后達(dá)成決定的解釋權(quán)以及獲得救濟(jì)的權(quán)利。
《條例》區(qū)分一般數(shù)據(jù)和敏感數(shù)據(jù),對(duì)后者進(jìn)行更為嚴(yán)格的保護(hù)。第9條明確,除非各成員國(guó)立法授權(quán),辨識(shí)種族或民族出身、政治觀點(diǎn)、宗教或哲學(xué)信仰、工會(huì)成員的個(gè)人數(shù)據(jù)以及以識(shí)別自然人為目的的基因數(shù)據(jù)、生物特征數(shù)據(jù)、健康數(shù)據(jù)、自然人的性生活或性取向的數(shù)據(jù)的處理應(yīng)當(dāng)禁止。
《條例》所確立的數(shù)據(jù)最小化原則對(duì)人工智能行業(yè)的發(fā)展有直接的影響。企業(yè)必須闡明它們?yōu)槭裁葱枰占吞幚頂?shù)據(jù),以及它們進(jìn)行數(shù)據(jù)處理獲得了什么成果。對(duì)數(shù)據(jù)的監(jiān)管實(shí)際上從源頭影響到人工智能行業(yè)的發(fā)展。
需要修改現(xiàn)有法律
人工智能技術(shù)的發(fā)展為法律規(guī)制提出了現(xiàn)實(shí)要求,而法律領(lǐng)域也越來越深刻地受到人工智能的影響。
《一般數(shù)據(jù)保護(hù)條例》的默認(rèn)隱私原則展示了大數(shù)據(jù)時(shí)代人工智能技術(shù)對(duì)于立法行為的本質(zhì)性改變,我們可以將法律所追求的價(jià)值和原則嵌入式地植入產(chǎn)品中。法律規(guī)制體系也將從對(duì)事物的規(guī)制轉(zhuǎn)變成對(duì)代碼的規(guī)制。
就司法而言,通過智慧司法提升司法效率,促進(jìn)司法公平。最近增設(shè)互聯(lián)網(wǎng)法院更是將其意蘊(yùn)拓展到了網(wǎng)絡(luò)治理主權(quán)的層面。就司法領(lǐng)域的人工智能而言,如何以平等原則和正當(dāng)程序回應(yīng)算法歧視和算法黑箱將是司法人工智能領(lǐng)域的持久性話題。
在執(zhí)法領(lǐng)域,因?yàn)樽詣?dòng)化決策的普及,將會(huì)出現(xiàn)法律的自動(dòng)執(zhí)行。2018年,深圳就普通高校畢業(yè)生落戶深圳實(shí)現(xiàn)秒批(無人干預(yù)自動(dòng)審批)。大量行政法上的程序權(quán)力被自動(dòng)化決策所架空,這需要加強(qiáng)自動(dòng)化決策方面的行政立法,以實(shí)現(xiàn)人工智能的運(yùn)用和公民權(quán)利保護(hù)的平衡。
總的來說,并不存在關(guān)于人工智能的一般化的法律規(guī)制。相關(guān)的法律規(guī)制應(yīng)當(dāng)是和具體場(chǎng)景結(jié)合起來的,存在立法、司法和技術(shù)的三種形式。
通過以上法律規(guī)范的分析,初步勾勒出我國(guó)對(duì)人工智能進(jìn)行法律規(guī)制的路徑??傮w來說,人工智能時(shí)代+的特點(diǎn)并沒有能夠很好地反映到立法中。當(dāng)務(wù)之急是修改現(xiàn)有的法律,使得它能夠兼容大數(shù)據(jù)和人工智能技術(shù)在具體領(lǐng)域和場(chǎng)景中的應(yīng)用?!蹲C券法》第171條《證券投資顧問業(yè)務(wù)暫行規(guī)定》第12條規(guī)定,證券投資咨詢機(jī)構(gòu)不得代理委托人做出投資決策。因此,智能投顧和禁止證券投資咨詢?nèi)珯?quán)委托的規(guī)定存在沖突?!睹袷略V訟法》也需要進(jìn)行修訂或出臺(tái)互聯(lián)網(wǎng)管轄方面的司法解釋,使得互聯(lián)網(wǎng)法院的管轄、審理、送達(dá)等具體運(yùn)作的環(huán)節(jié)上能夠?qū)崿F(xiàn)網(wǎng)上受理,網(wǎng)上審理,網(wǎng)上執(zhí)行的目標(biāo)。《道路交通安全法》需要進(jìn)行相應(yīng)的調(diào)整,以兼容現(xiàn)有的無人駕駛技術(shù)。
歐盟的進(jìn)路實(shí)際上抓住了人工智能的本質(zhì)。所有的人工智能都是建立在算法和算力的基礎(chǔ)上的。當(dāng)對(duì)數(shù)據(jù)進(jìn)行嚴(yán)格保護(hù)的時(shí)候,其實(shí)就在源頭對(duì)人工智能進(jìn)行了規(guī)制。
關(guān)鍵詞: 人工智能 算法 法律監(jiān)管
網(wǎng)站首頁(yè) |網(wǎng)站簡(jiǎn)介 | 關(guān)于我們 | 廣告業(yè)務(wù) | 投稿信箱
Copyright © 2000-2020 m.netfop.cn All Rights Reserved.
中國(guó)網(wǎng)絡(luò)消費(fèi)網(wǎng) 版權(quán)所有 未經(jīng)書面授權(quán) 不得復(fù)制或建立鏡像
聯(lián)系郵箱:920 891 263@qq.com