科技日?qǐng)?bào)記者 都芃 張蓋倫
“過(guò)去一年，至少有幾十個(gè)視頻，冒用我的聲音、形象講述虛假內(nèi)容，有的我自己都覺(jué)得很逼真。”3月9日，十四屆全國(guó)人大三次會(huì)議天津代表團(tuán)舉行小組會(huì)議，中國(guó)工程院院士張伯禮代表在發(fā)言時(shí)提到，當(dāng)下利用人工智能生成虛假內(nèi)容的違法犯罪事件越來(lái)越多。
“我投訴反饋過(guò)多次?！睆埐Y表示，必須采取有力措施對(duì)此類違法事件予以遏制。
中招的不只是張伯禮。今年兩會(huì)期間，小米集團(tuán)創(chuàng)始人雷軍代表也提到，去年國(guó)慶長(zhǎng)假期間，短視頻平臺(tái)上曾出現(xiàn)大量以人工智能技術(shù)模擬其聲音進(jìn)行配音的惡搞視頻，效果以假亂真，對(duì)網(wǎng)友造成了誤導(dǎo)。
人工智能深度合成技術(shù)的快速發(fā)展，顯著降低了生成虛假內(nèi)容的門檻和成本，“AI換臉擬聲”已成為互聯(lián)網(wǎng)違法侵權(quán)行為的重災(zāi)區(qū)。
打開社交平臺(tái)，搜索“AI換臉”“AI擬聲”等關(guān)鍵詞，可以檢索到許多提供此類技術(shù)的網(wǎng)站平臺(tái)，以及可本地化運(yùn)行的合成軟件。許多產(chǎn)品的運(yùn)營(yíng)主體設(shè)在境外，難以實(shí)施有效管控。
中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒認(rèn)為，總的來(lái)看，我國(guó)目前已出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法規(guī)，對(duì)內(nèi)容造假者和傳播平臺(tái)的法律責(zé)任都有明確規(guī)定。“但是目前需要在執(zhí)行層面進(jìn)一步加強(qiáng)落實(shí)，尤其是多部門聯(lián)合協(xié)同執(zhí)法?！彼f(shuō)。
作為當(dāng)下內(nèi)容傳播的主要渠道，互聯(lián)網(wǎng)平臺(tái)承擔(dān)著對(duì)信息真實(shí)性把關(guān)的責(zé)任。張凌寒認(rèn)為，針對(duì)人工智能生成的虛假內(nèi)容泛濫的現(xiàn)象，下游的傳播平臺(tái)應(yīng)當(dāng)主動(dòng)采取措施減少違法信息的流通，例如建立辟謠機(jī)制和舉報(bào)機(jī)制，針對(duì)在平臺(tái)中傳播的虛假內(nèi)容及時(shí)停止傳輸，并對(duì)相關(guān)主體加以限制和處罰。
當(dāng)下，生成式人工智能技術(shù)已進(jìn)入快速迭代階段，技術(shù)樣態(tài)不斷更新、應(yīng)用形式魚龍混雜，對(duì)規(guī)范治理提出了更高要求。
西南政法大學(xué)教授付子堂代表表示，人工智能等技術(shù)加速突破，必將深刻改變現(xiàn)行的生產(chǎn)生活方式，而目前相關(guān)的法律制度仍存在一定滯后性。例如，生成式人工智能等新興領(lǐng)域存在規(guī)范真空，數(shù)據(jù)隱私保護(hù)、算法責(zé)任認(rèn)定等方面存在法律適用問(wèn)題，并且在個(gè)人數(shù)據(jù)信息保護(hù)、算力治理等方面存在多頭管理問(wèn)題，監(jiān)管協(xié)同性不足。
付子堂建議，要著手構(gòu)建階梯式法律框架，夯實(shí)制度根基，可細(xì)分制定人工智能法等專門法律，并完善能與個(gè)人信息保護(hù)法等上位法相銜接的、對(duì)深度合成內(nèi)容進(jìn)行有效規(guī)范的配套條例。
圍繞人工智能立法，張凌寒認(rèn)為要重點(diǎn)關(guān)注虛假內(nèi)容生成，強(qiáng)化深度合成技術(shù)的前期治理，如要求技術(shù)與服務(wù)提供者在相關(guān)內(nèi)容中履行添加可識(shí)別水印或有效警示信息的義務(wù)；完善深度合成內(nèi)容的法律擔(dān)責(zé)鏈條，改進(jìn)監(jiān)管框架，實(shí)施全鏈條治理；升級(jí)深度合成的監(jiān)管工具，在繼續(xù)使用與改進(jìn)傳統(tǒng)算法監(jiān)管工具的同時(shí)，也要不斷更新新的技術(shù)支撐與保障，應(yīng)對(duì)不斷變化的技術(shù)發(fā)展趨勢(shì)。
