全國(guó)政協(xié)委員、金杜律師事務(wù)所高級(jí)合伙人張毅：

加快人工智能法出臺(tái)

構(gòu)建我國(guó)AI產(chǎn)業(yè)監(jiān)管治理體系

“我非常關(guān)注人工智能產(chǎn)業(yè)的發(fā)展。算法、算力和數(shù)據(jù)是人工智能產(chǎn)業(yè)的三大要素，去年全國(guó)兩會(huì)我的提案關(guān)注了數(shù)據(jù)問(wèn)題。兩會(huì)結(jié)束后不久，我就開(kāi)始醞釀算法治理體系的提案。去年下半年，我針對(duì)先導(dǎo)產(chǎn)業(yè)組織了多次調(diào)研，形成的專(zhuān)報(bào)之一涉及算力問(wèn)題。”近日，全國(guó)政協(xié)委員、金杜律師事務(wù)所高級(jí)合伙人張毅在接受上海證券報(bào)記者采訪時(shí)說(shuō)，“這次歷時(shí)近一年的研究和調(diào)研后形成的算法提案，是我長(zhǎng)期以來(lái)關(guān)注人工智能產(chǎn)業(yè)‘順理成章’的成果。”

他告訴記者，今年全國(guó)兩會(huì)他還將提交多份提案，除了繼續(xù)為人工智能產(chǎn)業(yè)的發(fā)展和規(guī)范“鼓與呼”之外，他還關(guān)注了多元解決糾紛機(jī)制等熱點(diǎn)問(wèn)題。

算法頻現(xiàn)倫理和法律問(wèn)題

繼ChatGPT之后，OpenAI于今年2月又發(fā)布了文生視頻大模型Sora，“萬(wàn)物互聯(lián)、人人在線、事事算法”的人工智能時(shí)代已經(jīng)到來(lái)。由此，算法技術(shù)全面步入應(yīng)用階段，成為數(shù)字經(jīng)濟(jì)時(shí)代發(fā)展的新動(dòng)力（300152）。但是，張毅調(diào)研發(fā)現(xiàn)，伴隨著人工智能發(fā)展突飛猛進(jìn)，諸如算法歧視、算法黑箱、信息繭房、算法霸權(quán)等倫理和法律問(wèn)題開(kāi)始出現(xiàn)。

“我和行業(yè)內(nèi)的專(zhuān)家學(xué)者、技術(shù)人員、監(jiān)管機(jī)構(gòu)交流，梳理相關(guān)的法律法規(guī)，了解算法發(fā)展和監(jiān)管現(xiàn)狀。”張毅表示，他進(jìn)行了各種實(shí)地調(diào)研。他多次叫網(wǎng)約車(chē)，目的是和司機(jī)聊天，了解系統(tǒng)調(diào)度派單背后的邏輯，調(diào)研網(wǎng)約車(chē)平臺(tái)調(diào)度算法可能產(chǎn)生的問(wèn)題。“實(shí)際上，司機(jī)們也是平臺(tái)算法的用戶(hù)，他們的使用體驗(yàn)可以幫助我更直觀地了解算法的運(yùn)作形式和問(wèn)題。”張毅說(shuō)。

“如果看到網(wǎng)約車(chē)距離較遠(yuǎn)，我會(huì)立即取消，然后重新下訂單。很快我發(fā)現(xiàn)，大部分訂單派發(fā)的網(wǎng)約車(chē)離我都比較近了。算法可能對(duì)我的畫(huà)像是‘容忍度較低’。”張毅說(shuō)道。

加快出臺(tái)人工智能法

我國(guó)數(shù)字經(jīng)濟(jì)發(fā)展迅猛，如何更好監(jiān)管人工智能算法，監(jiān)管手段和能力如何相應(yīng)提升，對(duì)相關(guān)產(chǎn)業(yè)的發(fā)展和國(guó)家治理能力現(xiàn)代化至關(guān)重要。通過(guò)梳理有關(guān)算法管理的法律法規(guī)，張毅發(fā)現(xiàn)，目前我國(guó)已經(jīng)出臺(tái)的專(zhuān)門(mén)性規(guī)定法律可執(zhí)行性不強(qiáng)，而且還存在監(jiān)管競(jìng)合或真空、受算法侵害的用戶(hù)認(rèn)定和維權(quán)難等情況。

為推動(dòng)我國(guó)人工智能產(chǎn)業(yè)健康有序發(fā)展，張毅建議，應(yīng)該盡快推進(jìn)人工智能法的制定和出臺(tái)，以人工智能法及配套的監(jiān)管工具為核心，形成完整的人工智能技術(shù)法律體系。

同時(shí)，參考其他成熟的監(jiān)管思路，將人工智能和算法技術(shù)按風(fēng)險(xiǎn)等級(jí)進(jìn)行劃分，并針對(duì)不同等級(jí)采取不同的監(jiān)管措施。例如，可能會(huì)通過(guò)潛意識(shí)操縱用戶(hù)的人工智能系統(tǒng)應(yīng)被直接禁止。

考慮到人工智能技術(shù)的復(fù)雜性和專(zhuān)業(yè)性，張毅建議，借助市場(chǎng)力量，外聘或者借調(diào)人工智能領(lǐng)域的專(zhuān)家共同參與監(jiān)管法律體系的建立。同時(shí)，參考金融科技行業(yè)的監(jiān)管經(jīng)驗(yàn)，引入“監(jiān)管沙盒”制度等創(chuàng)新監(jiān)管工具，對(duì)于原有監(jiān)管制度存在空白或不明確的，在一定條件下，允許企業(yè)進(jìn)行試驗(yàn)性的開(kāi)發(fā)、測(cè)試和驗(yàn)證。

“強(qiáng)化由網(wǎng)信辦牽頭，國(guó)家發(fā)展改革委、工業(yè)和信息化部、公安部等部門(mén)共同參與的算法治理聯(lián)席會(huì)議制度，也是必不可少的。”張毅說(shuō)。

張毅還建議，在算法侵權(quán)的訴訟中采取“過(guò)錯(cuò)推定”的歸責(zé)原則，并實(shí)行“舉證責(zé)任倒置”。用戶(hù)僅需承擔(dān)證明自身受到算法服務(wù)損害的證明責(zé)任，由算法服務(wù)提供方對(duì)算法服務(wù)和用戶(hù)的損害結(jié)果之間不具備因果關(guān)系，以及不存在主觀過(guò)錯(cuò)承擔(dān)舉證責(zé)任。