應(yīng)用人機(jī)對(duì)齊策略 建立可信法律AI

訪第十四屆全國(guó)政協(xié)委員王江平

□ 本報(bào)記者 張維

隨著人工智能大模型的超強(qiáng)能力日益顯現(xiàn)，如何讓其行為和目標(biāo)同人類的價(jià)值、偏好、意圖之間實(shí)現(xiàn)協(xié)調(diào)一致，即人機(jī)對(duì)齊（human-AI alignment），正成為時(shí)代命題。

法律領(lǐng)域的AI應(yīng)用尤其需要極高的可信性、公平性和透明性，以確保其決策與法律價(jià)值觀、倫理規(guī)范和社會(huì)公共利益一致。就如何在法律領(lǐng)域應(yīng)用人機(jī)對(duì)齊策略，《法治日?qǐng)?bào)》記者近日專訪了第十四屆全國(guó)政協(xié)委員、工業(yè)和信息化部原副部長(zhǎng)、研究員級(jí)高級(jí)工程師王江平。

不僅做準(zhǔn)還要做對(duì)

記者：人機(jī)對(duì)齊似乎是新近出現(xiàn)的概念。公開(kāi)資料顯示，人機(jī)對(duì)齊已被納入中國(guó)、歐盟等主要經(jīng)濟(jì)體的人工智能治理白皮書，同時(shí)，人機(jī)對(duì)齊技術(shù)被列為2024年人工智能十大前沿技術(shù)趨勢(shì)之一。人機(jī)對(duì)齊究竟有何特別之處？

王江平：傳統(tǒng)AI優(yōu)化目標(biāo)往往聚焦于提升任務(wù)性能，比如讓模型在圖像識(shí)別中準(zhǔn)確率更高，但忽略了“模型決策是否符合人類倫理”“是否存在偏見(jiàn)”等問(wèn)題。而人機(jī)對(duì)齊則要求AI不僅“做得準(zhǔn)”，還要“做得對(duì)”，例如自動(dòng)駕駛系統(tǒng)不僅要快速識(shí)別障礙物，還要遵循交通規(guī)則和保護(hù)生命優(yōu)先的原則。

AI技術(shù)的快速發(fā)展對(duì)人機(jī)對(duì)齊提出了新挑戰(zhàn)。以大語(yǔ)言模型為例，它們通過(guò)海量數(shù)據(jù)學(xué)習(xí)，但數(shù)據(jù)中可能包含社會(huì)偏見(jiàn)或錯(cuò)誤價(jià)值觀。此外，強(qiáng)化學(xué)習(xí)中“獎(jiǎng)勵(lì)機(jī)制”的設(shè)計(jì)如果不合理，可能導(dǎo)致AI為了達(dá)成目標(biāo)而采取有害行為。例如，若僅以“點(diǎn)擊率”為獎(jiǎng)勵(lì)，推薦算法可能推送博眼球的虛假信息。這要求我們必須在技術(shù)迭代的同時(shí)，同步優(yōu)化對(duì)齊策略。

這不是說(shuō)人機(jī)對(duì)齊可以徹底解決相關(guān)問(wèn)題，畢竟其本身也有局限性。例如，人類價(jià)值觀復(fù)雜多樣，不同的文化、宗教、社會(huì)群體以及個(gè)人可能具有不同的價(jià)值觀和倫理觀，難以確定一套統(tǒng)一的、適用于所有情況的人類價(jià)值觀來(lái)與AI進(jìn)行對(duì)齊。同時(shí)，人類的價(jià)值觀并非固定不變，而是隨著社會(huì)的發(fā)展、文化的演變以及新情況的出現(xiàn)而不斷變化。這就要求AI系統(tǒng)必須實(shí)時(shí)跟蹤并適應(yīng)這些變化，為此AI模型需要?jiǎng)討B(tài)對(duì)齊。需特別強(qiáng)調(diào)的是，技術(shù)實(shí)現(xiàn)存在復(fù)雜性。盡管目前有很多方法用于實(shí)現(xiàn)人機(jī)對(duì)齊，但要完全準(zhǔn)確地將人類復(fù)雜的價(jià)值觀和意圖轉(zhuǎn)化為AI系統(tǒng)可理解和遵循的目標(biāo)函數(shù)并非易事。開(kāi)發(fā)者可能會(huì)尋求替代目標(biāo)，從而產(chǎn)生目標(biāo)偏移隱患。

由此可見(jiàn)，AI模型行業(yè)應(yīng)用是件嚴(yán)肅的事情，需要建立一套完整的適應(yīng)本行業(yè)的監(jiān)管框架，監(jiān)管部門借此發(fā)揮模型開(kāi)發(fā)方、應(yīng)用方、測(cè)評(píng)機(jī)構(gòu)等各方面的作用，確保AI健康有序發(fā)展。

需要全面人機(jī)對(duì)齊

記者：在實(shí)際應(yīng)用中，人機(jī)對(duì)齊是如何降低AI系統(tǒng)風(fēng)險(xiǎn)？我們?nèi)绾瓮ㄟ^(guò)人機(jī)對(duì)齊建立可信AI尤其是可信法律AI？

王江平：舉個(gè)例子來(lái)說(shuō)。在招聘系統(tǒng)中，模型算法可能因歷史數(shù)據(jù)中存在性別歧視，導(dǎo)致女性求職者被過(guò)濾。通過(guò)人機(jī)對(duì)齊，引入公平性指標(biāo)（如性別比例均衡），并采用去偏技術(shù)調(diào)整算法，能顯著減少此類問(wèn)題。

建立可信AI，需要全面的、動(dòng)態(tài)的人機(jī)對(duì)齊策略。全面對(duì)齊需覆蓋數(shù)據(jù)集建設(shè)、技術(shù)構(gòu)架與算法、應(yīng)用、檢測(cè)評(píng)估等環(huán)節(jié)，但都要從技術(shù)、倫理、法律、社會(huì)層面四個(gè)維度去對(duì)標(biāo)。技術(shù)上，優(yōu)化算法和數(shù)據(jù)質(zhì)量；倫理上，嵌入人類價(jià)值觀；法律上，確保合規(guī)性；社會(huì)層面，則需通過(guò)公眾反饋調(diào)整策略。例如，在醫(yī)療AI中，不僅要保證算法準(zhǔn)確，還要符合患者隱私保護(hù)法，并通過(guò)醫(yī)生和患者的使用反饋持續(xù)優(yōu)化。

這種對(duì)齊是一種動(dòng)態(tài)對(duì)齊，它依賴于實(shí)時(shí)監(jiān)測(cè)與快速迭代。以法律AI為例，當(dāng)新法新規(guī)出臺(tái)時(shí)，可以通過(guò)構(gòu)建動(dòng)態(tài)法律知識(shí)引擎來(lái)提高AI的適應(yīng)性。一方面，通過(guò)自然語(yǔ)言處理技術(shù)實(shí)時(shí)抓取官方法律文本變更，自動(dòng)更新知識(shí)圖譜；另一方面，結(jié)合聯(lián)邦學(xué)習(xí)讓分散在各地法院的案例數(shù)據(jù)在不泄露隱私的前提下，協(xié)同訓(xùn)練模型。例如，當(dāng)數(shù)據(jù)安全法修訂后，系統(tǒng)可在72小時(shí)內(nèi)完成規(guī)則更新，并通過(guò)模擬法庭測(cè)試驗(yàn)證新規(guī)則的適用性。

動(dòng)態(tài)對(duì)齊還體現(xiàn)在，應(yīng)設(shè)置“倫理審查觸發(fā)器”，當(dāng)模型輸出觸及預(yù)設(shè)風(fēng)險(xiǎn)閾值時(shí)，強(qiáng)制人工介入修正。

需要說(shuō)明的是，法律領(lǐng)域的AI應(yīng)用需要極高的可信性、公平性和透明性，以確保其決策與法律價(jià)值觀、倫理規(guī)范和社會(huì)公共利益一致。為此，需要法學(xué)家和AI專家共同推動(dòng)，全過(guò)程參與，持續(xù)迭代優(yōu)化，才能不斷提高法律AI模型的可信水平。

引入“人在回路”機(jī)制

記者：將法律原則轉(zhuǎn)化為對(duì)齊技術(shù)指標(biāo)的具體難點(diǎn)是什么？如何驗(yàn)證AI是否真正“理解”法律精神？怎樣在法律AI領(lǐng)域克服對(duì)齊的局限性？

王江平：一般而言，社會(huì)管理領(lǐng)域的AI應(yīng)用，其對(duì)齊指標(biāo)最大難點(diǎn)在于語(yǔ)義鴻溝與語(yǔ)境差異。例如，司法領(lǐng)域的“正當(dāng)防衛(wèi)”是一個(gè)復(fù)雜的問(wèn)題，在不同案件中需結(jié)合動(dòng)機(jī)、場(chǎng)景、傷害程度等多因素判斷，而AI難以像人類法官那樣靈活權(quán)衡。技術(shù)上，可嘗試通過(guò)知識(shí)圖譜將法律條文、司法解釋、典型案例結(jié)構(gòu)化，但仍存在局限——AI可能僅機(jī)械匹配規(guī)則，無(wú)法理解法律背后的“公平”“人權(quán)”等價(jià)值導(dǎo)向。驗(yàn)證AI“理解”程度需結(jié)合可解釋性工具與專家評(píng)審。

從去偏技術(shù)用于司法數(shù)據(jù)處理的實(shí)踐來(lái)看，對(duì)于評(píng)估數(shù)據(jù)公平性有一定成效，但難以根治數(shù)據(jù)可能存在的偏見(jiàn)。例如，通過(guò)對(duì)抗訓(xùn)練可減少歷史數(shù)據(jù)中的性別歧視，但新問(wèn)題可能隨之出現(xiàn)——如過(guò)度修正可能導(dǎo)致模型忽視真實(shí)犯罪特征。量化評(píng)估需多維度指標(biāo)，如計(jì)算不同群體在類案判決中的“差異影響比率”，若某群體的量刑建議顯著高于其他群體，則需排查算法是否存在偏見(jiàn)。最明智的做法是引入第三方檢測(cè)評(píng)估，通過(guò)獨(dú)立機(jī)構(gòu)交叉驗(yàn)證數(shù)據(jù)公平性。

“人在回路”（Human-in-the-Loop，HITL）機(jī)制在法律AI領(lǐng)域中具有應(yīng)用價(jià)值。這種機(jī)制是一種將人類操作或決策融入AI系統(tǒng)工作流程的概念，AI模型系統(tǒng)只給出建議，最終的決策由人類作出，法律AI應(yīng)用屬于高風(fēng)險(xiǎn)領(lǐng)域，應(yīng)該采取HITL模式。為了避免人類決策受AI影響而失去獨(dú)立性，可通過(guò)盲審機(jī)制與風(fēng)險(xiǎn)分級(jí)提示實(shí)現(xiàn)平衡。

例如，在量刑建議場(chǎng)景中，系統(tǒng)僅向法官展示證據(jù)分析結(jié)果，隱藏AI給出的具體刑期數(shù)值；同時(shí)，對(duì)高風(fēng)險(xiǎn)案件（如重刑重處案件）強(qiáng)制要求法官獨(dú)立完成初判，再與AI建議對(duì)比。此外，通過(guò)雙盲實(shí)驗(yàn)定期評(píng)估法官?zèng)Q策是否因AI產(chǎn)生認(rèn)知偏差，若偏差率超過(guò)閾值，則需要優(yōu)化人機(jī)交互設(shè)計(jì)。

為確保第三方評(píng)估機(jī)構(gòu)的獨(dú)立性和專業(yè)性，建議采用“多元主體+動(dòng)態(tài)認(rèn)證”模式。評(píng)估機(jī)構(gòu)需包含法律專家、技術(shù)學(xué)者、倫理委員和公眾代表；其資質(zhì)認(rèn)證由司法部門與行業(yè)協(xié)會(huì)聯(lián)合審核，并定期進(jìn)行能力評(píng)估。此外，引入?yún)^(qū)塊鏈技術(shù)存證評(píng)估過(guò)程，確保數(shù)據(jù)不可篡改。公眾參與是打破“算法黑箱”的關(guān)鍵，應(yīng)該強(qiáng)制要求法律AI系統(tǒng)定期發(fā)布“社會(huì)影響報(bào)告”，編制第三方“對(duì)齊白皮書”，接受公眾質(zhì)詢。