3月5日，十四屆全國(guó)人大二次會(huì)議在北京人民大會(huì)堂開(kāi)幕。國(guó)務(wù)院總理李強(qiáng)在政府工作報(bào)告中提出，大力推進(jìn)現(xiàn)代化產(chǎn)業(yè)體系建設(shè)，加快發(fā)展新質(zhì)生產(chǎn)力。深化大數(shù)據(jù)、人工智能等研發(fā)應(yīng)用，開(kāi)展“人工智能+”行動(dòng)，打造具有國(guó)際競(jìng)爭(zhēng)力的數(shù)字產(chǎn)業(yè)集群。
當(dāng)前，以ChatGPT為代表的生成式人工智能異軍突起，掀起了通用人工智能技術(shù)引領(lǐng)與應(yīng)用創(chuàng)新的發(fā)展浪潮，成為近十年來(lái)AI領(lǐng)域最具變革性的技術(shù)，將給經(jīng)濟(jì)社會(huì)發(fā)展帶來(lái)巨大影響。全國(guó)人大代表，中國(guó)移動(dòng)河南公司黨委書(shū)記、董事長(zhǎng)、總經(jīng)理樓向平在接受《人民郵電》報(bào)記者采訪時(shí)表示，建議進(jìn)一步加強(qiáng)人工智能可信治理，以更加負(fù)責(zé)任的方式，發(fā)展可信的、以人為本的人工智能，助推培育新質(zhì)生產(chǎn)力，扎實(shí)推動(dòng)高質(zhì)量發(fā)展。
目前，我國(guó)人工智能核心產(chǎn)業(yè)規(guī)模不斷增長(zhǎng)，人工智能廣泛應(yīng)用于通信、金融、醫(yī)療、交通、生產(chǎn)制造等領(lǐng)域，已經(jīng)成為數(shù)字經(jīng)濟(jì)發(fā)展的重要驅(qū)動(dòng)力。然而人工智能安全防護(hù)能力的不足和缺失，正在帶來(lái)多方面的風(fēng)險(xiǎn)和挑戰(zhàn)，如知識(shí)產(chǎn)權(quán)侵權(quán)、隱私信息泄露、AI框架安全風(fēng)險(xiǎn)、AI算法攻擊、誤用濫用等。
樓向平認(rèn)為，人工智能領(lǐng)域法律法規(guī)有待完善，同時(shí)缺乏統(tǒng)一的可信人工智能技術(shù)標(biāo)準(zhǔn)和評(píng)估體系，是當(dāng)前存在的主要問(wèn)題。諸如人工智能生成物的可版權(quán)性以及權(quán)利歸屬問(wèn)題、訓(xùn)練數(shù)據(jù)來(lái)源的合法性問(wèn)題、隱私保護(hù)問(wèn)題、人工智能侵權(quán)問(wèn)題以及虛假生成內(nèi)容的責(zé)任認(rèn)定等，在當(dāng)前法律制度體系中存在一定立法空白。當(dāng)前人工智能算法訓(xùn)練和使用過(guò)程中面臨的各類(lèi)數(shù)據(jù)安全、網(wǎng)絡(luò)安全、隱私泄露等問(wèn)題，已經(jīng)成為制約人工智能健康發(fā)展的關(guān)鍵痛點(diǎn)，亟需形成一套可信人工智能技術(shù)標(biāo)準(zhǔn)和評(píng)估體系來(lái)加以規(guī)范。
針對(duì)以上問(wèn)題，樓向平從多個(gè)層面提出了切實(shí)的建議。
首先是構(gòu)建系統(tǒng)化的人工智能法律法規(guī)體系。
一是積極推動(dòng)人工智能領(lǐng)域立法進(jìn)程。建議建立國(guó)家層面的立法研究工作組，充分收集學(xué)術(shù)界、產(chǎn)業(yè)界意見(jiàn)，汲取國(guó)外立法經(jīng)驗(yàn)，兼顧約束不當(dāng)行為和營(yíng)造產(chǎn)業(yè)優(yōu)良發(fā)展環(huán)境的目的，積極開(kāi)展人工智能專(zhuān)項(xiàng)立法研究，推動(dòng)立法進(jìn)程，促進(jìn)人工智能產(chǎn)業(yè)健康發(fā)展。在新法律頒布前，可通過(guò)在現(xiàn)有《數(shù)據(jù)安全法》《著作權(quán)法》等法律規(guī)定基礎(chǔ)上制定行政法規(guī)，或發(fā)布司法解釋、指導(dǎo)性案例等方式階段性緩解人工智能發(fā)展中面臨的法律問(wèn)題。
二是明確生成式人工智能“事前-事中-事后”全鏈條監(jiān)管機(jī)制。參考歐盟經(jīng)驗(yàn)，出臺(tái)人工智能的風(fēng)險(xiǎn)等級(jí)規(guī)范，針對(duì)不同類(lèi)型、不同風(fēng)險(xiǎn)等級(jí)，施加不同的監(jiān)管措施。引入算法認(rèn)證標(biāo)識(shí)、監(jiān)管沙盒機(jī)制，指導(dǎo)和支持企業(yè)在監(jiān)管機(jī)構(gòu)的監(jiān)督下進(jìn)行創(chuàng)新活動(dòng)。
三是建立人工智能責(zé)任認(rèn)定和追責(zé)機(jī)制。以技術(shù)的使用為主線，將經(jīng)濟(jì)利益與責(zé)任承擔(dān)深度結(jié)合，形成完整的鏈?zhǔn)截?zé)任分配機(jī)制，通過(guò)相應(yīng)主體的分段分層可控，實(shí)現(xiàn)生成式人工智能發(fā)展的總體可控。
四是建立各利益相關(guān)方共同參與的系統(tǒng)化治理體系。政府在治理中發(fā)揮領(lǐng)導(dǎo)性作用，負(fù)責(zé)制定政策法規(guī)、設(shè)立專(zhuān)門(mén)機(jī)構(gòu)以執(zhí)行治理規(guī)定。行業(yè)協(xié)會(huì)制定技術(shù)倫理、行業(yè)倫理等行業(yè)規(guī)范，第三方智庫(kù)提供咨詢(xún)建議。社會(huì)公眾形成約定俗成的行為準(zhǔn)則，并對(duì)相關(guān)主體進(jìn)行聯(lián)合監(jiān)督。各方共同參與、協(xié)同發(fā)力，形成政府管理、社會(huì)監(jiān)督、行業(yè)自治、企業(yè)履責(zé)、用戶自律的體系化人工智能治理體系。
其次是構(gòu)建統(tǒng)一的可信人工智能技術(shù)標(biāo)準(zhǔn)和評(píng)估體系，加強(qiáng)內(nèi)生安全防御技術(shù)研究，實(shí)現(xiàn)人工智能“生成即安全”。
一是設(shè)立人工智能可信性指南，構(gòu)建可信人工智能標(biāo)準(zhǔn)框架。在訓(xùn)練語(yǔ)料庫(kù)方面，構(gòu)建高質(zhì)量中文語(yǔ)料庫(kù)和數(shù)據(jù)集，更好支撐國(guó)內(nèi)人工智能模型訓(xùn)練。在數(shù)據(jù)收集和使用方面，根據(jù)數(shù)據(jù)的價(jià)值和對(duì)利益的影響，明確人工智能訓(xùn)練數(shù)據(jù)的分類(lèi)分級(jí)保護(hù)標(biāo)準(zhǔn)，制定不同類(lèi)型和不同級(jí)別數(shù)據(jù)的處理規(guī)則和安全保護(hù)措施。在數(shù)據(jù)存儲(chǔ)和傳輸方面，強(qiáng)化數(shù)據(jù)脫敏和數(shù)據(jù)加密要求，防止數(shù)據(jù)還原為原始信息，引入對(duì)稱(chēng)或非對(duì)稱(chēng)加密技術(shù)降低敏感信息泄露的風(fēng)險(xiǎn)，抵御未經(jīng)授權(quán)的訪問(wèn)和數(shù)據(jù)泄露。在隱私保護(hù)方面，引入差分隱私、同態(tài)加密和安全多方計(jì)算等技術(shù)，確保模型在隱私受限環(huán)境中的訓(xùn)練和生成。
二是依托人工智能可信性指南，建立可信AI評(píng)估工作機(jī)制。打造國(guó)內(nèi)權(quán)威、公平科學(xué)的可信AI評(píng)測(cè)平臺(tái)，構(gòu)建自主可控的可信AI檢測(cè)工具體系。面向訓(xùn)練數(shù)據(jù)，打造訓(xùn)練數(shù)據(jù)檢測(cè)工具，進(jìn)行防投毒數(shù)據(jù)、侵權(quán)數(shù)據(jù)、有害數(shù)據(jù)的分析判斷，保證使用合法的數(shù)據(jù)進(jìn)行訓(xùn)練，防范與事實(shí)不符或有毒的內(nèi)容注入AI系統(tǒng)。面向生成內(nèi)容，打造內(nèi)容生成檢測(cè)工具，自動(dòng)識(shí)別并報(bào)告通過(guò)人工智能技術(shù)生成的虛假、有害的內(nèi)容，確保內(nèi)容質(zhì)量，保護(hù)知識(shí)產(chǎn)權(quán)。構(gòu)建可信AI評(píng)測(cè)平臺(tái)與AI應(yīng)用監(jiān)管工作的協(xié)同機(jī)制，依據(jù)可信AI評(píng)測(cè)平臺(tái)的檢測(cè)結(jié)果，對(duì)人工智能算法及應(yīng)用進(jìn)行評(píng)級(jí)，形成分級(jí)分類(lèi)的商用準(zhǔn)入許可或評(píng)估備案機(jī)制，構(gòu)建人工智能法律規(guī)范、評(píng)估機(jī)制、監(jiān)管工作協(xié)同共促的良好生態(tài)。
三是加強(qiáng)安全技術(shù)攻關(guān)，構(gòu)建內(nèi)生安全底座。強(qiáng)化內(nèi)生安全防御技術(shù)，賦能人工智能應(yīng)用系統(tǒng)，有效阻斷和控制應(yīng)用系統(tǒng)硬件環(huán)境存在的漏洞、后門(mén)等內(nèi)生安全的共性問(wèn)題，使內(nèi)生安全問(wèn)題難以發(fā)展成為內(nèi)生安全事件。加強(qiáng)內(nèi)生安全技術(shù)攻關(guān)，通過(guò)內(nèi)置安全模塊，提升自適應(yīng)防護(hù)能力，使人工智能系統(tǒng)具備穩(wěn)健性和安全性，有能力應(yīng)對(duì)惡意使用，防范惡意監(jiān)聽(tīng)、病毒文件、隱私泄露、犯罪技術(shù)等違法程序或內(nèi)容的輸出。 
