國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》）將于2025年9月1日起正式施行，對人工智能生成合成內(nèi)容標(biāo)識的使用進(jìn)行了規(guī)范。
《標(biāo)識辦法》要求，用戶使用網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)發(fā)布生成合成內(nèi)容的，應(yīng)當(dāng)主動聲明并使用服務(wù)提供者提供的標(biāo)識功能進(jìn)行標(biāo)識；提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取措施，規(guī)范生成合成內(nèi)容傳播活動，如核驗文件元數(shù)據(jù)、添加顯著提示標(biāo)識并提醒公眾、提供必要的標(biāo)識功能并提醒用戶主動聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容等。
其中，提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者如果在文件元數(shù)據(jù)中未核驗到人工智能生成合成內(nèi)容隱式標(biāo)識（隱式標(biāo)識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的、不易被用戶明顯感知到的標(biāo)識），用戶也未聲明為生成合成內(nèi)容，但平臺識別為疑似生成合成內(nèi)容時，應(yīng)當(dāng)采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著提示標(biāo)識，提醒公眾該內(nèi)容疑似生成合成內(nèi)容。
近日，北京互聯(lián)網(wǎng)法院審結(jié)一起網(wǎng)絡(luò)服務(wù)合同糾紛案，平臺用戶和網(wǎng)絡(luò)服務(wù)提供者因人工智能生成合成內(nèi)容標(biāo)識起了爭端。
平臺算法判定用戶內(nèi)容包含AI生成起糾紛
原告為涉案平臺用戶，被告為涉案平臺運(yùn)營者。原告在平臺上發(fā)布了“打工并不能讓你真的賺到多少錢，但可以開啟你的新視角……如果你對學(xué)車感興趣的話并且以后打算開車的話，可以在你最清閑的一個假期完成它……工作之后就沒有太多完整的時間考駕照了”內(nèi)容。
該內(nèi)容被涉案平臺判定為“包含AI生成內(nèi)容但未標(biāo)識”的違規(guī)情況，涉案平臺作出將該內(nèi)容隱藏并將用戶禁言1天的處理。原告對此進(jìn)行了申訴但未成功。
原告主張，其并未使用AI創(chuàng)作，被告的行為違約，請求法院判令被告撤銷隱藏涉案內(nèi)容和禁言賬號1天的違規(guī)處理，并在后臺系統(tǒng)中刪除違規(guī)處理記錄。
被告辯稱，其有權(quán)依據(jù)雙方網(wǎng)絡(luò)服務(wù)合同對原告使用平臺服務(wù)時的行為是否違規(guī)進(jìn)行審核認(rèn)定，并采取必要治理措施，因此涉案行為不構(gòu)成違約。涉案平臺規(guī)范中明確規(guī)定，“創(chuàng)作者在發(fā)布包含人工智能生成內(nèi)容時，應(yīng)主動使用‘人工智能生成內(nèi)容’的標(biāo)簽進(jìn)行聲明，未主動聲明的內(nèi)容，平臺將采取適當(dāng)措施進(jìn)行流通限制并添加相關(guān)標(biāo)識”。
被告表示，原告發(fā)布的內(nèi)容經(jīng)機(jī)器識別為“包含人工智能生成”，且經(jīng)過平臺人工復(fù)核，認(rèn)定該內(nèi)容缺乏明顯的人類情感特征。并向法院提交了其在“互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)”公示的相關(guān)算法機(jī)制機(jī)理內(nèi)容作為其算法決策判定的證據(jù)。
被告認(rèn)為，其作為網(wǎng)絡(luò)服務(wù)提供方，有權(quán)自行選擇合理、必要的方式和技術(shù)，其針對人工智能治理需求而開發(fā)、部署、運(yùn)行自研的深度合成算法模型是合理、必要的，并設(shè)置專門測試團(tuán)隊通過技術(shù)手段觀察、抽檢模型運(yùn)行的準(zhǔn)確率，如發(fā)生準(zhǔn)確率下降或異常波動，被告會及時對模型進(jìn)行優(yōu)化迭代。涉案內(nèi)容被識別、標(biāo)記期間，模型準(zhǔn)確率沒有變化。請求法院依法駁回原告的訴訟請求。
平臺應(yīng)對審查及處理結(jié)果進(jìn)行合理舉證和解釋聲明
北京互聯(lián)網(wǎng)法院經(jīng)審理認(rèn)為，平臺有權(quán)依據(jù)合同約定對涉案內(nèi)容是否屬于AI生成合成內(nèi)容進(jìn)行審查和處理，同時，平臺的審查及處理結(jié)果也應(yīng)有合理依據(jù)。
法院表示，網(wǎng)絡(luò)用戶在使用AI工具進(jìn)行創(chuàng)作并將相關(guān)內(nèi)容發(fā)布到網(wǎng)絡(luò)平臺時，應(yīng)依照誠信原則如實標(biāo)記。本案中，被告結(jié)合《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中有關(guān)深度合成標(biāo)識的管理規(guī)定和網(wǎng)絡(luò)空間治理的現(xiàn)實需要，發(fā)布了社區(qū)公告，載明“創(chuàng)作者在發(fā)布包含AIGC生成的內(nèi)容時，應(yīng)主動使用標(biāo)識，幫助讀者進(jìn)行區(qū)分。對發(fā)布時未主動聲明的內(nèi)容，平臺將采取適當(dāng)措施進(jìn)行流通限制并添加相關(guān)標(biāo)識”“未經(jīng)標(biāo)簽聲明，使用人工智能生成的內(nèi)容構(gòu)成違規(guī)”。原告系平臺注冊用戶，上述公告屬于平臺服務(wù)協(xié)議的組成部分。因此，被告有權(quán)依據(jù)合同約定對涉案內(nèi)容是否屬于AI生成合成內(nèi)容進(jìn)行審查和處理。
本案中，原告主張涉案內(nèi)容并非AI生成內(nèi)容，被告對涉案內(nèi)容的審查及處理違反平臺服務(wù)協(xié)議，在一般情況下，原告應(yīng)該提供如創(chuàng)作底稿、原件、源文件、源數(shù)據(jù)等證明人類創(chuàng)作屬性的初步證據(jù)。但法院查明，本案中原告發(fā)布內(nèi)容為即時性創(chuàng)作文本，在客觀上無法提供上述證據(jù)，由其提供上述證據(jù)亦不存在合理性和現(xiàn)實可行性。而被告基于算法工具的運(yùn)算結(jié)果得出涉案內(nèi)容為AI生成合成的審查結(jié)論，被告既是算法工具掌控方又是結(jié)果判斷方，算法工具運(yùn)算過程和審查結(jié)果由被告掌控，在此情況下，被告應(yīng)就該事實進(jìn)行合理舉證或解釋說明。
雖然被告在本案中提供了算法的備案信息，但公示內(nèi)容顯示該算法功能為“識別有安全風(fēng)險的回答”，無法認(rèn)定其系對AI生成合成識別判斷的技術(shù)，故無法確認(rèn)備案信息與本案爭議的關(guān)聯(lián)性，因此被告未對涉案內(nèi)容屬于AI生成合成的判斷依據(jù)和結(jié)果作出合理解釋。
法院還認(rèn)為，被告對人工復(fù)核程序的解釋為“需要非常明顯的人類情感特征”才能駁回算法決策結(jié)果，而該判斷標(biāo)準(zhǔn)更多依賴主觀認(rèn)識和個人經(jīng)驗，并不具有科學(xué)依據(jù)以及較強(qiáng)的說服力和可信度。
法院最終判定，被告未對算法決策依據(jù)和結(jié)果進(jìn)行適度的解釋和說明，對用戶的處理沒有事實依據(jù)，應(yīng)承擔(dān)違約責(zé)任。法院還查明，被告系統(tǒng)后臺對用戶發(fā)布的內(nèi)容僅存在“折疊回答”這一條處理記錄，對“禁言1天”的處理沒有后臺記錄。最終判決被告展開對于涉案內(nèi)容的折疊隱藏，刪除在后臺的違規(guī)處理記錄，駁回原告的其他訴訟請求。目前，該案判決已生效。
法官解讀用戶和平臺的舉證責(zé)任
“生成式人工智能技術(shù)在內(nèi)容的生成合成方面展現(xiàn)了巨大的能量和潛力，為數(shù)字經(jīng)濟(jì)發(fā)展注入強(qiáng)大動力。與此同時，在AI生成合成內(nèi)容未進(jìn)行‘AI標(biāo)識’的情況下，公眾難以區(qū)分AI生成合成內(nèi)容和人類創(chuàng)作內(nèi)容，利用AI實施詐騙、侵權(quán)等違法犯罪的行為不斷攀升。AI生成合成內(nèi)容標(biāo)識作為對人工智能生成內(nèi)容監(jiān)管的有益工具和必要手段，會對凈化網(wǎng)絡(luò)內(nèi)容環(huán)境和網(wǎng)絡(luò)空間治理起到一定積極作用。”北京互聯(lián)網(wǎng)法院綜合審判一庭副庭長、四級高級法官袁建華說。
袁建華表示，此案對于平臺運(yùn)用算法工具進(jìn)行AI生成合成內(nèi)容治理引發(fā)的網(wǎng)絡(luò)服務(wù)合同糾紛裁判作出以下探索：
首先，網(wǎng)絡(luò)內(nèi)容服務(wù)平臺有權(quán)利用算法工具對用戶發(fā)布的內(nèi)容是否使用AI生成合成進(jìn)行審查和處理。平臺通過用戶協(xié)議、社區(qū)規(guī)范、處罰規(guī)則等明確告知用戶需要遵守AI生成合成內(nèi)容標(biāo)識規(guī)定，如用戶違反有關(guān)規(guī)定，平臺可對違規(guī)行為進(jìn)行處理。
其次，若網(wǎng)絡(luò)內(nèi)容服務(wù)平臺判定用戶發(fā)布的內(nèi)容為AI生成合成，用戶需要提供證明該內(nèi)容系人類創(chuàng)作的初步證據(jù)，人民法院可結(jié)合創(chuàng)作形式、內(nèi)容、載體等因素綜合調(diào)整用戶的舉證責(zé)任，并認(rèn)定證據(jù)的證明效力。
再次，網(wǎng)絡(luò)用戶提供初步證據(jù)后，網(wǎng)絡(luò)內(nèi)容服務(wù)平臺應(yīng)舉證證明其使用算法工具進(jìn)行判定的正確性或進(jìn)行必要限度的解釋說明，網(wǎng)絡(luò)內(nèi)容服務(wù)平臺不得僅以涉及商業(yè)秘密為由規(guī)避該義務(wù)。
最后，對于算法解釋的司法審查應(yīng)符合比例原則。一般情況下，平臺無需提供技術(shù)細(xì)節(jié)、源代碼或原始數(shù)據(jù)，而需圍繞案件爭議事實以可理解的方式舉證或說明算法運(yùn)行機(jī)制、對于可能出現(xiàn)的誤判是否采取了合理的救濟(jì)措施。
中國人民大學(xué)法學(xué)院副教授黃尹旭表示，本案認(rèn)定網(wǎng)絡(luò)內(nèi)容服務(wù)平臺在即時性創(chuàng)作文本場景下對使用算法自動化決策的結(jié)果承擔(dān)適度說明義務(wù)，并為司法審查階段的算法解釋說明程度確立了一定的標(biāo)準(zhǔn)。明確算法解釋說明的司法審查標(biāo)準(zhǔn)，既能保障網(wǎng)絡(luò)用戶合法權(quán)益，又能有效推動算法公開透明，規(guī)范算法應(yīng)用行為，推動平臺經(jīng)濟(jì)健康發(fā)展。同時，本案通過司法個案裁判，合理分配網(wǎng)絡(luò)內(nèi)容服務(wù)平臺和用戶的舉證責(zé)任，有助于推動網(wǎng)絡(luò)內(nèi)容服務(wù)平臺提高算法的識別能力和決策能力，切實提升人工智能信息內(nèi)容治理水平。（本社記者任文岱 通訊員張夏意）
