□ 曹建峰

隨著數(shù)字化、網(wǎng)絡(luò)化、智能化深入發(fā)展，我國(guó)數(shù)字經(jīng)濟(jì)和前沿科技產(chǎn)業(yè)的健康、可持續(xù)發(fā)展越來(lái)越離不開科技倫理的保障。以人工智能領(lǐng)域?yàn)槔?，隨著大模型能力的持續(xù)提升及其應(yīng)用領(lǐng)域的持續(xù)拓展，人工智能持續(xù)為經(jīng)濟(jì)增長(zhǎng)、社會(huì)治理、可持續(xù)發(fā)展等釋放出巨大價(jià)值。但與此同時(shí)，人工智能在隱私保護(hù)、社會(huì)公平、信息信任、法律責(zé)任、勞動(dòng)就業(yè)、倫理道德、安全可控等方面帶來(lái)了新的挑戰(zhàn)。這給加強(qiáng)科技倫理建設(shè)、落實(shí)科技倫理治理提出更高要求。

科技行業(yè)的“必選項(xiàng)”和“必答題”

2017年以來(lái)，國(guó)家持續(xù)加強(qiáng)科技倫理頂層設(shè)計(jì)，成立了國(guó)家科技倫理委員會(huì)，明確科技倫理是科技活動(dòng)必須遵守的價(jià)值準(zhǔn)則；將“健全科技倫理治理體制”“健全科技倫理體系”分別寫入黨的十九屆四中全會(huì)《決定》和《中共中央關(guān)于制定國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十四個(gè)五年規(guī)劃和二〇三五年遠(yuǎn)景目標(biāo)的建議》；修訂科學(xué)技術(shù)進(jìn)步法，提出科技倫理管理主體責(zé)任、科技倫理審查機(jī)制等要求。

針對(duì)科技倫理問(wèn)題較為突出的人工智能與算法領(lǐng)域，國(guó)家新一代人工智能治理專業(yè)委員會(huì)先后發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》和《新一代人工智能倫理規(guī)范》，為各界開展人工智能活動(dòng)提供倫理指引。網(wǎng)信辦等國(guó)家部委聯(lián)合發(fā)布了《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，明確要求強(qiáng)化科技倫理意識(shí)，建立科技倫理審查等方面的管理制度和技術(shù)措施。

在這些工作的基礎(chǔ)上，2022年3月，中辦、國(guó)辦印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見》（以下簡(jiǎn)稱《意見》），國(guó)家對(duì)加強(qiáng)科技倫理治理作出全面部署。表明國(guó)家對(duì)科技倫理治理高度重視，將其作為科技創(chuàng)新的重要支撐?？梢哉f(shuō)，國(guó)家科技戰(zhàn)略規(guī)劃已經(jīng)邁上科技創(chuàng)新與科技倫理并重的新臺(tái)階。隨著全球科技競(jìng)爭(zhēng)日益激化，科技倫理治理不僅事關(guān)社會(huì)倫理風(fēng)險(xiǎn)防范，而且事關(guān)國(guó)家科技競(jìng)爭(zhēng)力。所以《意見》明確要求加強(qiáng)科技倫理治理，將科技倫理作為開展科學(xué)研究、技術(shù)開發(fā)等科技活動(dòng)的價(jià)值理念和行為規(guī)范，防控科技倫理風(fēng)險(xiǎn)，推動(dòng)科技向善，實(shí)現(xiàn)科技自立自強(qiáng)。

除了科學(xué)研究活動(dòng)，《意見》還把由行業(yè)和企業(yè)主導(dǎo)的技術(shù)開發(fā)活動(dòng)納入了規(guī)制范圍，表明科技倫理日益成為科技行業(yè)的“必選項(xiàng)”和“必答題”。科技企業(yè)等創(chuàng)新主體需履行科技倫理管理主體責(zé)任，堅(jiān)持科技倫理底線，建立倫理審查評(píng)估、風(fēng)險(xiǎn)監(jiān)測(cè)預(yù)警等機(jī)制，并對(duì)科技人員開展理論培訓(xùn)等。2023年9月，科技部等印發(fā)《科技倫理審查辦法（試行）》，推動(dòng)科技倫理治理從抽象原則轉(zhuǎn)向具體的倫理審查制度。該辦法對(duì)倫理委員會(huì)、倫理審查程序作出了具體規(guī)定，為相關(guān)行業(yè)領(lǐng)域推進(jìn)科技倫理審查奠定了規(guī)范基礎(chǔ)。其中，人工智能、生命科學(xué)、醫(yī)學(xué)是科技倫理治理的三個(gè)重要領(lǐng)域，相關(guān)行業(yè)主管部門積極探索科技倫理監(jiān)管舉措。

推動(dòng)人工智能領(lǐng)域科技倫理落地

在上述制度基礎(chǔ)上，2026年4月，工業(yè)和信息化部等十部門聯(lián)合印發(fā)《人工智能科技倫理審查與服務(wù)辦法（試行）》（以下簡(jiǎn)稱《辦法》），標(biāo)志著人工智能倫理治理實(shí)現(xiàn)了從原則倡導(dǎo)、行業(yè)自律向制度化、程序化的轉(zhuǎn)變?！掇k法》旨在以科技倫理管理與服務(wù)支持促進(jìn)人工智能創(chuàng)新，為人工智能創(chuàng)新保駕護(hù)航。

《辦法》明確，開展人工智能科技活動(dòng)應(yīng)將科技倫理要求貫穿全過(guò)程，遵循增進(jìn)人類福祉、尊重生命權(quán)利、堅(jiān)持公平公正、合理控制風(fēng)險(xiǎn)、保持公開透明、保護(hù)隱私安全、確保可控可信七項(xiàng)倫理原則。在審查重點(diǎn)上，《辦法》從人類福祉、公平公正、透明可解釋、可控可信、責(zé)任可追溯、隱私保護(hù)等多個(gè)方面提出具體要求。在實(shí)施機(jī)制上，《辦法》構(gòu)建了多層次的審查體系。高校、科研機(jī)構(gòu)、企業(yè)等須按規(guī)定設(shè)立人工智能科技倫理委員會(huì)，將倫理要求嵌入研發(fā)、測(cè)試、應(yīng)用、迭代全流程；《辦法》鼓勵(lì)地方建立專業(yè)化的倫理審查與服務(wù)中心，面向社會(huì)提供審查、復(fù)核、培訓(xùn)、咨詢等第三方服務(wù)，破解基層單位“不會(huì)審、審不了”的現(xiàn)實(shí)難題?！掇k法》還專設(shè)“服務(wù)與促進(jìn)”章節(jié)，圍繞標(biāo)準(zhǔn)建設(shè)、服務(wù)體系、鼓勵(lì)創(chuàng)新、宣傳教育、人才培養(yǎng)五方面制定支持舉措，幫助企業(yè)尤其是中小微企業(yè)提升科技倫理風(fēng)險(xiǎn)防控能力，降低合規(guī)成本。在具體流程上，《辦法》規(guī)定了一般、簡(jiǎn)易、應(yīng)急、專業(yè)復(fù)核等不同審查程序，確保人工智能科技倫理審查具有較高的靈活性。

從原則共識(shí)走向?qū)嵺`的四點(diǎn)思考

《辦法》的出臺(tái)為人工智能倫理治理提供了制度框架。筆者認(rèn)為，從制度到實(shí)踐，仍有較大空間需要探索。

第一，將價(jià)值對(duì)齊納入人工智能科技倫理治理的核心議程。隨著大模型能力的飛速提升，確保人工智能系統(tǒng)的行為與人類價(jià)值觀保持一致——即價(jià)值對(duì)齊——已成為全球人工智能治理的前沿議題。《辦法》提出的增進(jìn)人類福祉、公平公正、可控可信等原則，本質(zhì)上都指向價(jià)值對(duì)齊的要求。未來(lái)應(yīng)推動(dòng)將價(jià)值對(duì)齊從技術(shù)研究層面提升為倫理治理的制度性要求，探索建立大模型價(jià)值對(duì)齊的評(píng)估標(biāo)準(zhǔn)和測(cè)試基準(zhǔn)，使抽象的倫理原則轉(zhuǎn)化為可衡量、可審查的技術(shù)指標(biāo)。

第二，推動(dòng)倫理嵌入設(shè)計(jì)，實(shí)現(xiàn)倫理治理的前置化。傳統(tǒng)的倫理審查往往發(fā)生在技術(shù)開發(fā)完成之后，屬于事后把關(guān)。而更為有效的路徑是將倫理要求嵌入人工智能系統(tǒng)的設(shè)計(jì)、開發(fā)全流程，實(shí)現(xiàn)“倫理嵌入設(shè)計(jì)”。這意味著在數(shù)據(jù)采集、模型訓(xùn)練、系統(tǒng)部署的每一個(gè)環(huán)節(jié)都應(yīng)考慮公平性、透明性、隱私保護(hù)等要求，而非在產(chǎn)品成型后再做合規(guī)審查?！掇k法》要求將科技倫理貫穿全過(guò)程，為倫理嵌入設(shè)計(jì)提供了制度依據(jù)，但仍需配套開發(fā)實(shí)用的倫理風(fēng)險(xiǎn)評(píng)估工具和技術(shù)解決方案，幫助開發(fā)者將倫理原則落實(shí)到具體的技術(shù)設(shè)計(jì)中。與此相關(guān)，還應(yīng)借鑒“嵌入式倫理”的理念，在人工智能設(shè)計(jì)開發(fā)團(tuán)隊(duì)中直接融入倫理學(xué)、法學(xué)、社會(huì)學(xué)等領(lǐng)域的專家，使倫理審視成為技術(shù)研發(fā)的日常實(shí)踐而非外部檢查，從而真正實(shí)現(xiàn)對(duì)倫理風(fēng)險(xiǎn)的全過(guò)程關(guān)注。

第三，構(gòu)建適應(yīng)性治理框架，平衡創(chuàng)新激勵(lì)與風(fēng)險(xiǎn)防范。隨著人工智能技術(shù)的不斷發(fā)展，針對(duì)人工智能的任何監(jiān)管和治理舉措都必須保持輕量化和靈活性，避免過(guò)于繁瑣，以免阻礙人工智能創(chuàng)新或延緩人們實(shí)現(xiàn)人工智能益處的進(jìn)程。平衡發(fā)展與治理的關(guān)鍵在于構(gòu)建適應(yīng)性治理框架，在促進(jìn)創(chuàng)新與防范風(fēng)險(xiǎn)之間找到平衡點(diǎn)。為此，未來(lái)的人工智能倫理治理應(yīng)保持適度的靈活性和適應(yīng)性，根據(jù)技術(shù)發(fā)展動(dòng)態(tài)調(diào)整審查重點(diǎn)和方式。當(dāng)然，鑒于技術(shù)變化的速度，各類評(píng)估方法很快就會(huì)過(guò)時(shí)，因此科技倫理治理應(yīng)避免過(guò)于僵硬的要求和標(biāo)準(zhǔn)，否則可能適得其反，對(duì)人工智能發(fā)展和應(yīng)用都不利。

第四，將人工智能愿景納入人工智能科技倫理治理，積極思考人工智能如何造福人類的愿景和路線圖。人工智能愿景是人工智能治理的重要組成部分，社會(huì)在構(gòu)建治理和安全機(jī)制的同時(shí)需要描繪人工智能造福人類的未來(lái)圖景。為此，未來(lái)的人工智能科技倫理治理不應(yīng)僅圍繞風(fēng)險(xiǎn)展開，還必須包含對(duì)積極未來(lái)的想象與規(guī)劃，清晰描繪人工智能造福人類的未來(lái)圖景。倘若缺乏明確而有力的正向愿景，社會(huì)將難以凝聚共識(shí)去應(yīng)對(duì)技術(shù)帶來(lái)的挑戰(zhàn)。因此，除了識(shí)別和應(yīng)對(duì)風(fēng)險(xiǎn)，更重要的是描繪一個(gè)值得人類共同努力實(shí)現(xiàn)的未來(lái)圖景。

總之，需要在全社會(huì)塑造科技向善的文化理念，通過(guò)必要的制度和機(jī)制讓科技倫理發(fā)揮好對(duì)人工智能等前沿科技產(chǎn)業(yè)“安全帶”和“加速器”的雙重價(jià)值，讓科技更好增進(jìn)人類福祉。只有堅(jiān)持以人為本、智能為人的發(fā)展理念，構(gòu)建完善的治理體系，培育向善的文化氛圍，我們才能在享受人工智能技術(shù)帶來(lái)便利的同時(shí)，有效防范和化解潛在風(fēng)險(xiǎn)，真正實(shí)現(xiàn)技術(shù)與人類社會(huì)的和諧發(fā)展。

（作者系深圳大學(xué)法學(xué)院副教授）