科技向善，倫理先行?？萍紓惱硎情_展科學(xué)研究、技術(shù)開發(fā)等科技活動需要遵循的價值理念和行為規(guī)范，是促進科技事業(yè)健康發(fā)展的重要保障。當(dāng)前，人工智能作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，正在深刻改變?nèi)祟惿a(chǎn)生活方式。但從全球范圍看，人工智能科技倫理治理是長期性、基礎(chǔ)性、系統(tǒng)性工程，也是一項極具挑戰(zhàn)性的工作。習(xí)近平總書記強調(diào)：“要把握人工智能發(fā)展趨勢和規(guī)律，加緊制定完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則，構(gòu)建技術(shù)監(jiān)測、風(fēng)險預(yù)警、應(yīng)急響應(yīng)體系，確保人工智能安全、可靠、可控。”近日，工業(yè)和信息化部等十部門聯(lián)合印發(fā)《人工智能科技倫理審查與服務(wù)辦法（試行）》（以下簡稱《辦法》），提出支持人工智能科技倫理審查技術(shù)創(chuàng)新，強化以技術(shù)手段防范人工智能科技倫理風(fēng)險，為促進人工智能產(chǎn)業(yè)健康發(fā)展、加強人工智能科技倫理治理提供制度保障。
堅持審查與服務(wù)并重的治理理念
人工智能科技倫理治理，審查是底線，服務(wù)是保障?！掇k法》專設(shè)“服務(wù)與促進”一章，突破“重監(jiān)管、輕服務(wù)”的固有思路，為倫理合規(guī)與科技創(chuàng)新的良性互動提供制度基礎(chǔ)。
以標(biāo)準(zhǔn)建設(shè)明確合規(guī)方向。以往科技倫理審查原則性要求多、可操作規(guī)范少，創(chuàng)新主體缺乏明確的合規(guī)依據(jù)?！掇k法》推動建立多層次的科技倫理標(biāo)準(zhǔn)體系，鼓勵多方參與標(biāo)準(zhǔn)制定與推廣，將抽象的倫理原則轉(zhuǎn)化為可對照、可執(zhí)行的行為準(zhǔn)則。
以技術(shù)創(chuàng)新賦能風(fēng)險防控。人工智能科技倫理風(fēng)險具有隱蔽性和復(fù)雜性，傳統(tǒng)依賴專家經(jīng)驗的審查模式難以有效識別和量化。《辦法》鼓勵研發(fā)科技倫理風(fēng)險評估和審計工具，推動高質(zhì)量數(shù)據(jù)集開源開放，以技術(shù)手段提升科技倫理審查的精準(zhǔn)性和可靠性。
以服務(wù)供給支撐審查實踐。人工智能科技倫理審查專業(yè)門檻較高，部分中小微企業(yè)合規(guī)意愿有余而合規(guī)能力不足?！掇k法》推進服務(wù)體系建設(shè)，在風(fēng)險監(jiān)測預(yù)警、檢測評估、認(rèn)證、咨詢等方面為創(chuàng)新主體提供專業(yè)支撐，以服務(wù)保障審查制度有效運轉(zhuǎn)。
以宣傳教育夯實治理根基。科技倫理治理不僅是制度建設(shè)，更需要社會共識支撐?！掇k法》通過宣傳教育和人才培養(yǎng)雙管齊下，一方面，鼓勵公眾參與、促進實踐示范、引導(dǎo)媒體宣傳，提升公眾倫理意識和素養(yǎng)；另一方面，推動職業(yè)體系和課程體系建設(shè)、壯大專業(yè)人才隊伍，為人工智能科技倫理治理夯實社會與人才基礎(chǔ)。
構(gòu)建協(xié)同共治的多元治理格局
人工智能科技倫理審查落地見效，關(guān)鍵在于責(zé)任清晰、各方協(xié)同?！掇k法》構(gòu)建起分工明確、層層銜接的多元治理格局，將審查從單一主體的內(nèi)部活動提升為多方參與的制度化協(xié)同。
壓實單位自律責(zé)任。倫理審查最有效的把關(guān)在源頭，開展人工智能科技活動的單位最了解自身技術(shù)風(fēng)險?！掇k法》將高等學(xué)校、科研機構(gòu)、醫(yī)療衛(wèi)生機構(gòu)、企業(yè)等確立為倫理管理的責(zé)任主體，要求依規(guī)設(shè)立科技倫理委員會，配備必要條件保障委員會獨立運行，委員會組成人員須涵蓋技術(shù)、應(yīng)用、倫理、法律等專業(yè)背景，將倫理要求嵌入研發(fā)、測試、應(yīng)用全流程。
搭建專業(yè)服務(wù)中心。實踐中各單位自審能力參差不齊，部分單位難以獨立完成高質(zhì)量的審查工作。《辦法》提出建立專業(yè)性審查與服務(wù)中心，接受委托提供審查、復(fù)核、培訓(xùn)、咨詢等服務(wù)，并明確審查與復(fù)核職能分離，確保審查的獨立性與公信力。
形成政府監(jiān)管閉環(huán)。單位自律和第三方服務(wù)的有效運轉(zhuǎn)，離不開政府的監(jiān)督管理?！掇k法》明確各級各部門分工負(fù)責(zé)的監(jiān)管體制，要求委員會和服務(wù)中心通過國家平臺統(tǒng)一登記并提交年度工作報告，實現(xiàn)信息共享、全程可追溯；同時暢通違規(guī)問題反映渠道，依據(jù)相關(guān)法律法規(guī)追究違規(guī)責(zé)任，形成從登記到監(jiān)督到問責(zé)的完整閉環(huán)。
建立科學(xué)高效的審查工作程序
人工智能科技活動類型多樣、風(fēng)險等級差異懸殊，倫理審查的具體程序須與之相適應(yīng)?！掇k法》據(jù)此設(shè)計差異化的審查制度安排，力求科學(xué)精準(zhǔn)、務(wù)實高效。
明確審查重點。倫理審查要從原則走向?qū)嵺`，必須有可操作的標(biāo)準(zhǔn)支撐。《辦法》從增進人類福祉、堅持公平公正、確?？煽乜尚拧⒈３滞该骺山忉?、保障責(zé)任可追溯、加強隱私保護六個維度明確審查重點，覆蓋從訓(xùn)練數(shù)據(jù)選擇到全鏈路日志管理的關(guān)鍵環(huán)節(jié)，為審查工作提供明確、具體的判斷標(biāo)尺。
實行繁簡分流。審查程序的嚴(yán)格程度應(yīng)與風(fēng)險等級相匹配。《辦法》建立以一般程序為基礎(chǔ)的審查制度，明確審查會議的組成要求、審查時限和跟蹤審查機制等；同時對倫理風(fēng)險不高于日常風(fēng)險等特定情形適用簡易程序，既保證審查嚴(yán)謹(jǐn)充分，又避免不必要的制度負(fù)擔(dān)。
細(xì)化專家復(fù)核。部分人工智能科技活動影響面廣、風(fēng)險判斷難度大，僅靠單位自審難以有效防控?！掇k法》在既有專家復(fù)核清單制度基礎(chǔ)上，進一步明確人工智能領(lǐng)域的復(fù)核范圍和程序，納入清單的活動須經(jīng)初步審查后申請專家復(fù)核，形成雙重把關(guān)機制。清單根據(jù)工作需要動態(tài)調(diào)整，相關(guān)活動須定期接受跟蹤審查，風(fēng)險發(fā)生重大變化的須重新申請復(fù)核。
設(shè)置應(yīng)急審查。突發(fā)公共事件等緊急狀態(tài)下，人工智能技術(shù)的快速部署同樣不能突破倫理底線。《辦法》要求委員會和服務(wù)中心制定應(yīng)急審查制度，明確緊急狀態(tài)下的審查流程和標(biāo)準(zhǔn)操作規(guī)程，壓縮審查時限，確?？焖夙憫?yīng)；同時加強跟蹤工作和過程監(jiān)督，確保審查質(zhì)量不因時間緊迫而降低。
加強人工智能科技倫理治理，是堅守科技向善、筑牢安全底線、推動高質(zhì)量發(fā)展的必然要求。《辦法》的出臺標(biāo)志著我國人工智能科技倫理治理從原則倡導(dǎo)邁向制度實踐，從觀念引領(lǐng)邁向規(guī)則之治。黑龍江省應(yīng)以《辦法》實施為契機，堅持以善治促善用，加快配套標(biāo)準(zhǔn)建設(shè)，強化審查能力支撐，推動科技倫理要求真正融入人工智能研發(fā)應(yīng)用全過程，筑牢人工智能科技倫理治理的制度基石。
（作者單位：黑龍江省社會科學(xué)院）