中新網(wǎng)12月22日電 (記者 李金磊)數(shù)字化*.0時代，人類生活越來越離不開人工智能。若何避免人工智能手藝被“惡用”？越來越多的虛擬人能否會代替部門實人職業(yè)？若何克制算法蔑視，讓人工智能實現(xiàn)可知、可信、可控、可用？

圍繞上述熱點問題，清華大學人工智能國際治理研究院副院長、人工智能治理研究中心主任梁正承受了中新網(wǎng)專訪，停止解讀。

清華大學人工智能國際治理研究院副院長、人工智能治理研究中心主任梁正。受訪者供圖

避免人工智能手藝被“惡用”

AI換臉、AI換聲、三維重建、智能對話……深度合成手藝應用日益普遍，催生了美顏美妝、影視造做、智能客服、虛擬主播、元宇宙等應用辦事，但也存在著被歹意操縱的現(xiàn)象，一些犯警人員用來造做、復造、發(fā)布、傳布違法和不良信息，誹謗、貶損別人名望、榮譽，仿冒別人身份施行詐騙等。

如何抵御那些可能的“惡用”？梁正暗示，關于深度合成，AI換臉是一個典型的應用。比來三部分出臺了《互聯(lián)網(wǎng)信息辦事深度合成辦理規(guī)定》，關于標準深度合成辦事提出了明白要求。

按照規(guī)定，供給人臉、人聲等生物識別信息顯著編纂功用的，應當提醒利用者依法告知被編纂的小我，并獲得其零丁同意。供給智能對話、合成人聲、人臉生成、沉浸式擬實場景等具有生成或者顯著改動信息內(nèi)容功用辦事的，應當在生成或者編纂的信息內(nèi)容的合理位置、區(qū)域停止顯著標識，向公家提醒信息內(nèi)容的合成情況，制止公家混淆或者誤認。

梁正指出，利用小我肖像若是沒有征得同意，就去公共互聯(lián)網(wǎng)上收羅利用的話，那屬于違法行為。平臺上若是有類似應用，平臺就有責任去監(jiān)視。即便是合法的利用，也要打上標簽，讓各人曉得那不是實的，必然水平上能夠削減深度合成內(nèi)容產(chǎn)生的認知誤差和社會誤導。若是平臺本身去供給那一類辦事，還要求用響應的東西去識別它不是實在的，那就對平臺提出了更高的要求。

“不只要合法合規(guī)，并且還要合意。” 梁正暗示，要進一步完美法令律例，嚴酷落實相關規(guī)定，成立健全賞罰軌制，小我要有維權意識，通過布施渠道維護本身合法權益，從而削減AI被歹意操縱的現(xiàn)象。

材料圖：2022世界人工智能大會上，人機互動吸引不雅寡。 湯彥俊 攝

虛擬人已經(jīng)起頭代替部門實人職業(yè)

近年來，虛擬代言人、虛擬主播、虛擬演員歌手，越來越多虛擬人在被推向市場。人們擔憂，虛擬人在將來或?qū)⒋娌块T實人職業(yè)。

“在娛樂、新聞范疇，虛擬人的應用越來越多，因為它是一個低成本、高效率的體例?！痹诹赫磥恚摂M人越來越多也是一種一定的趨向，并且已經(jīng)在替代部門實人職業(yè)了。好比，如今良多虛擬新聞主播，還有德律風客服越來越多利用智能語音辦事?！澳莻€替代它必然是會部門發(fā)作的。”

重生事物開展背后也存在一些隱患。梁正提醒，各人不要把實假弄混了，虛擬人的形象、內(nèi)容、對話都是基于訓練的成果，或者是事先編好的，若是把它當成實人的話，就會產(chǎn)生誤導。

“好比說，跟對話機器人去對話要十分小心。關于有些敏感話題，因為它背后沒有意識，是順著你說的，若是沒有干涉就可能產(chǎn)生誤導，但它沒有法子承擔責任。所以要對虛擬形象的深度合成打上標簽，并限制它的利用場景。出格是在教育醫(yī)療如許一些敏感的高風險場景，人工干涉是必需的。”梁正說。

梁正認為，虛擬人的應用總體要分場景，在游戲、氣候預報、新聞播報等一些低風險場景問題不大，但若是是高風險場景，就要十分小心，虛擬形象可以做什么，什么不克不及做，要把邊界劃清晰，好比心理陪同機器人，要評估它說的話帶來的持久心理影響是什么樣的。

下一代人工智能應該是可解釋的

人工智能不分開算法，算法公允和算法蔑視話題也備受存眷。國外一些研究和媒體報導提到，算法開發(fā)者或算法自己按照大數(shù)據(jù)積累存在種族、性別、文化等蔑視的可能性。

對此，梁正暗示，算法是根據(jù)數(shù)據(jù)訓練出來的，數(shù)據(jù)的有偏性是招致算法自己有偏性的一個次要原因。所以，算法蔑視不是算法形成的，是社會自己形成的，是算法自己的手藝特點所招致的，利用大量已經(jīng)帶有傾向性的數(shù)據(jù)，算法也就會做出一種傾向性的判斷。

梁正指出，要想改動那種成見，起首要糾正社會成見。所以在利用數(shù)據(jù)的時候，要停止人工干涉，在統(tǒng)計學上能夠通過一些模仿數(shù)據(jù)來做一個平衡，但底子上是要付與人工智能以常識，要把一些因果的因素考慮進去，而不是單純只依賴于那種數(shù)據(jù)。

“絕對的算法公允其實不存在。” 梁正認為，算法公允具有多維性，常常面對“不成能三角”式的挑戰(zhàn)。在公共辦理范疇中，起點公允、過程公允、成果公允三者同時實現(xiàn)根本是不成能的。絕對的公允現(xiàn)實上在算法的設想中其實也是做不到的，關鍵取決于你要什么樣的目的。

梁正暗示，要實現(xiàn)人工智能可知、可信、可控、可用。可知也就是可解釋，那是最根底也是最復雜的層面，下一代人工智能應該是可解釋的，若是說它不克不及夠被解釋的話，就會限造它良多方面的應用和各人對它的信賴。算法可解釋，那種前提下才氣夠安心去利用它。

“如今更大的問題就是黑箱，現(xiàn)有的人工智能是基于數(shù)據(jù)訓練出來，你不曉得中間發(fā)作的事，而新一代的人工智能就是要在數(shù)據(jù)的根底加上常識，以至要加上我們的邏輯，讓它可以根據(jù)我們可理解的體例運行?！绷赫f。(完)