“虛擬數(shù)字人安全技術(shù)標(biāo)準(zhǔn)”征求意見
虛擬主播走進(jìn)直播間、數(shù)字客服值守政務(wù)大廳……虛擬數(shù)字人正以多元姿態(tài)融入社會生活的方方面面。近日,北京市地方標(biāo)準(zhǔn)《信息安全虛擬數(shù)字人安全技術(shù)要求(征求意見稿)》,通過北京市市場監(jiān)管局官方網(wǎng)站向社會公開征求意見。該標(biāo)準(zhǔn)從制作到應(yīng)用、從數(shù)據(jù)到場景,為虛擬數(shù)字人構(gòu)建起全鏈條安全技術(shù)規(guī)范,為快速成長的虛擬數(shù)字人產(chǎn)業(yè)劃定了安全邊界。該標(biāo)準(zhǔn)由市公安局提出、歸口并組織實(shí)施。核心覆蓋虛擬數(shù)字人制作安全與應(yīng)用安全兩大板塊,覆蓋數(shù)據(jù)、形象、模型、內(nèi)容、系統(tǒng)、場景六個環(huán)節(jié)。
虛擬數(shù)字人的安全,始于制作環(huán)節(jié)的源頭把控。北京青年報記者注意到,標(biāo)準(zhǔn)征求意見稿將制作安全細(xì)分為數(shù)據(jù)安全、形象制作安全、模型安全三個部分,旨在從源頭預(yù)防風(fēng)險。
在數(shù)據(jù)安全層面,提出虛擬數(shù)字人制作過程中應(yīng)遵循“最小必要”原則,只采集實(shí)現(xiàn)虛擬數(shù)字人功能所必需的數(shù)據(jù);采集用戶面部、聲音、動作等生物特征信息時,需要獲得用戶的明確同意;數(shù)據(jù)存儲應(yīng)采用加密技術(shù)對訓(xùn)練數(shù)據(jù)進(jìn)行存儲加密,支持?jǐn)?shù)據(jù)脫敏處理,對姓名、身份證號等敏感字段進(jìn)行去標(biāo)識化或匿名化處理,并建立完善的數(shù)據(jù)備份和恢復(fù)機(jī)制;數(shù)據(jù)標(biāo)注需對人員進(jìn)行專業(yè)崗前培訓(xùn),對每一批標(biāo)注數(shù)據(jù)進(jìn)行人工檢測;服務(wù)終止后,相關(guān)數(shù)據(jù)須進(jìn)行徹底不可恢復(fù)式刪除并記錄刪除過程。
形象制作安全聚焦細(xì)節(jié)合規(guī),要求服飾配飾素材版權(quán)合法、契合倫理規(guī)范;背景場景素材的版權(quán)應(yīng)符合法律法規(guī)的要求,對場景模型中的紋理貼圖、關(guān)鍵結(jié)構(gòu)等信息進(jìn)行加密存儲和訪問控制;支持日志檢索和安全事件回溯。
模型安全貫穿設(shè)計(jì)、訓(xùn)練、部署全周期。設(shè)計(jì)階段要開展風(fēng)險評估,訓(xùn)練階段要注意防范惡意數(shù)據(jù)污染與對抗攻擊,部署階段需強(qiáng)化訪問控制、漏洞掃描,建立一鍵熔斷或緊急凍結(jié)等應(yīng)急機(jī)制,確保模型安全可控、穩(wěn)定運(yùn)行。
如果說制作安全是源頭防護(hù),應(yīng)用安全則是終端風(fēng)險防控的關(guān)鍵。標(biāo)準(zhǔn)征求意見稿針對交互內(nèi)容、系統(tǒng)運(yùn)行、場景適配三大方面提出安全要求。
交互內(nèi)容安全首先要建立完善的內(nèi)容審核機(jī)制,應(yīng)采用技術(shù)手段,過濾交互內(nèi)容中的虛假新聞、違法不良信息;特別應(yīng)在虛擬數(shù)字人輸出內(nèi)容中添加清晰、明顯的顯式標(biāo)識,如在文本首尾添加“AI生成”符號,在視頻開場嵌入動態(tài)水印,為虛擬主播標(biāo)注“數(shù)字人”身份等,讓用戶一眼可辨;還應(yīng)在虛擬數(shù)字人輸出內(nèi)容中添加用于內(nèi)容溯源、防偽、版權(quán)保護(hù)的隱式標(biāo)識,并保證添加的隱式標(biāo)識在壓縮、裁剪、噪聲干擾后仍能成功提取。
系統(tǒng)安全聚焦運(yùn)行防護(hù),要求動態(tài)生成并校驗(yàn)會話ID,防范會話劫持攻擊;實(shí)時監(jiān)測對抗樣本攻擊,及時阻斷風(fēng)險或降級服務(wù),筑牢技術(shù)運(yùn)行防線。
場景安全則適配不同行業(yè)特性,針對政務(wù)、金融、教育、社交娛樂、醫(yī)療輔助五大高頻場景量身定制規(guī)范。如:在政務(wù)場景中,政務(wù)數(shù)字人應(yīng)對政務(wù)審批、行政處罰、資金發(fā)放等高風(fēng)險事項(xiàng)僅提供咨詢指導(dǎo),不應(yīng)做出實(shí)質(zhì)審批;在金融場景中,虛擬數(shù)字人應(yīng)與真實(shí)服務(wù)人員、金融機(jī)構(gòu)唯一綁定,采用多模態(tài)生物特征驗(yàn)證,操作權(quán)限分級管控,核心權(quán)限雙人復(fù)核;在教育教學(xué)場景中,應(yīng)針對未成年人使用的虛擬數(shù)字人應(yīng)用設(shè)置未成年人模式,防范不良信息接觸。此外,在社交娛樂場景中,虛擬數(shù)字人在社交過程中生成的輸出內(nèi)容應(yīng)經(jīng)過審核,虛擬數(shù)字人的賬號應(yīng)進(jìn)行實(shí)名認(rèn)證,防范虛假賬號、惡意賬號;在醫(yī)療輔助場景中,應(yīng)將虛擬數(shù)字人身份與醫(yī)療機(jī)構(gòu)、醫(yī)護(hù)人員綁定,操作人員應(yīng)具備相應(yīng)資質(zhì),采用多因素認(rèn)證,操作日志全程留存,虛擬數(shù)字人輸出的醫(yī)療內(nèi)容應(yīng)經(jīng)過專業(yè)醫(yī)護(hù)人員審核確認(rèn)等。文/本報記者王薇
編輯:遲明緒




京公網(wǎng)安備 11010502000576號