AI生成內(nèi)容不得“隱身”傳播。昨天，國(guó)家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》(以下簡(jiǎn)稱《標(biāo)識(shí)辦法》)正式施行，所有AI生成的文字、圖片、視頻等內(nèi)容均須“亮明身份”。新規(guī)落地之際，多家互聯(lián)網(wǎng)平臺(tái)響應(yīng)，相關(guān)用戶協(xié)議已修改升級(jí)，將嚴(yán)打?qū)I生成技術(shù)的濫用行為。
各社交平臺(tái)更新用戶協(xié)議
“AI‘假孫子’總算現(xiàn)原形了。”昨天，市民劉先生打開(kāi)一家短視頻平臺(tái)，發(fā)現(xiàn)之前奶奶愛(ài)看的“萌娃”短視頻下面多了一行小字：“作者提示：內(nèi)容為AI技術(shù)制作，虛構(gòu)內(nèi)容請(qǐng)謹(jǐn)慎甄別”，“這下老人總該相信，這些一兩歲的孩子洗菜燒火都是假的了。”
提示小字的上線，與《標(biāo)識(shí)辦法》密切相關(guān)。據(jù)規(guī)定，利用人工智能技術(shù)生成的文本、圖片、音頻、視頻、虛擬場(chǎng)景等信息，必須添加顯式和隱式兩種標(biāo)識(shí)。顯式標(biāo)識(shí)指可以被用戶明顯感知到的標(biāo)識(shí)，隱式標(biāo)識(shí)指在生成內(nèi)容的數(shù)據(jù)中添加的標(biāo)識(shí)。
“哪些內(nèi)容是生成的”“內(nèi)容從哪里生成的”“誰(shuí)生成的這些內(nèi)容”……《標(biāo)識(shí)辦法》明確了生成合成內(nèi)容制作傳播各主體的責(zé)任義務(wù)。比如服務(wù)提供者應(yīng)在內(nèi)容生成、傳播、下載等環(huán)節(jié)確保標(biāo)識(shí)完整;互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)應(yīng)審核應(yīng)用是否具備添加標(biāo)識(shí)功能;個(gè)人用戶發(fā)布生成內(nèi)容時(shí)應(yīng)主動(dòng)聲明。
新規(guī)落地后，記者注意到，各社交媒體平臺(tái)相關(guān)用戶協(xié)議已有所更新。微信、視頻號(hào)、抖音、B站、微博、小紅書(shū)等平臺(tái)，要求內(nèi)容發(fā)布者以顯著方式主動(dòng)標(biāo)識(shí)AI生成內(nèi)容。對(duì)于不主動(dòng)標(biāo)識(shí)AI生成內(nèi)容的行為，部分平臺(tái)表示會(huì)采取限流、下架、封號(hào)等措施。同時(shí)，部分社交平臺(tái)表示，還將對(duì)可能是AI生成合成的內(nèi)容進(jìn)行相應(yīng)提示，以便用戶清晰識(shí)別。
完善標(biāo)識(shí)防范AI以假亂真
給AI生成合成內(nèi)容加上標(biāo)識(shí)，為何需要單獨(dú)出臺(tái)文件加以規(guī)制?據(jù)悉，標(biāo)識(shí)制度的獨(dú)特制度價(jià)值已經(jīng)成為國(guó)際共識(shí)。日前，美國(guó)、新加坡、歐盟、英國(guó)等國(guó)家和地區(qū)紛紛采取措施推進(jìn)生成式人工智能標(biāo)識(shí)制度的建立。
“標(biāo)識(shí)制度的主要目標(biāo)是實(shí)現(xiàn)大規(guī)模、高可靠性和低成本的監(jiān)管。”中國(guó)科學(xué)院科技戰(zhàn)略咨詢研究院研究員肖尤丹表示，此次新規(guī)雖然切口小，但可以用較小的合規(guī)成本，較好地解決當(dāng)前AI技術(shù)快速發(fā)展帶來(lái)的新問(wèn)題。標(biāo)識(shí)制度對(duì)利用AI技術(shù)抄襲、搬運(yùn)內(nèi)容的新媒體營(yíng)銷號(hào)無(wú)疑是一次沉重打擊。同時(shí)，平臺(tái)方可以追溯到服務(wù)提供者，明確其是否履行了標(biāo)識(shí)義務(wù)。
作為我國(guó)人工智能領(lǐng)域首部“辦法+強(qiáng)制性國(guó)家標(biāo)準(zhǔn)”的“組合拳”，配套的強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》也于昨天同步施行。該標(biāo)準(zhǔn)針對(duì)人工智能生成合成標(biāo)識(shí)的技術(shù)實(shí)現(xiàn)方式給出了更加細(xì)致、精準(zhǔn)的指引，并配以具體的實(shí)現(xiàn)范例。例如視頻內(nèi)容顯式標(biāo)識(shí)要求，文字提示高度不低于畫(huà)面最短邊的5%，持續(xù)時(shí)間不少于2秒等。
“這有助于相關(guān)行業(yè)各主體采取相應(yīng)的技術(shù)措施、全面準(zhǔn)確落實(shí)內(nèi)容標(biāo)識(shí)義務(wù)，并實(shí)現(xiàn)標(biāo)識(shí)技術(shù)的標(biāo)準(zhǔn)化，提高互認(rèn)程度，降低由于標(biāo)準(zhǔn)不統(tǒng)一帶來(lái)的合規(guī)成本。”中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春表示。
整治AI濫用也需防誤傷
AI生成內(nèi)容，已成當(dāng)下熱門內(nèi)容賽道，百度、B站、字節(jié)跳動(dòng)、快手等，都曾針對(duì)生成式AI的創(chuàng)作者提供流量資源扶持、現(xiàn)金補(bǔ)貼等活動(dòng)。與此同時(shí)，AI生成的違規(guī)內(nèi)容信息也紛至沓來(lái)，不少社交賬號(hào)利用AI技術(shù)造假、博眼球快速“吸粉”起號(hào)，批量制造虛假人設(shè)，大量推送獵奇、養(yǎng)生、情感等內(nèi)容，并可通過(guò)引流帶貨、賬號(hào)轉(zhuǎn)賣等方式變現(xiàn)。
針對(duì)這一新形勢(shì)，今年4月開(kāi)始，中央網(wǎng)信辦開(kāi)展了為期3個(gè)月的“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)，共攔截清理相關(guān)違法違規(guī)信息82萬(wàn)余條，處置違規(guī)賬號(hào)1400余個(gè)，下線違規(guī)智能體2700余個(gè)。
除了要求以顯著方式主動(dòng)標(biāo)識(shí)AI生成內(nèi)容外，多個(gè)平臺(tái)也發(fā)布公告，重點(diǎn)整治AI生成濫用，其中，利用AI生成低俗獵奇視頻、AI生成虛擬外國(guó)幼兒教育專家教授育兒內(nèi)容、AI生成國(guó)際軍事虛假內(nèi)容等，正成為重點(diǎn)整治對(duì)象。
值得注意的是，目前有網(wǎng)絡(luò)用戶表示，自己發(fā)布畫(huà)作、文章、視頻被“誤傷”，明明是原創(chuàng)內(nèi)容，卻被平臺(tái)誤判為“疑似AI合成”，面臨作品被限流、下架的問(wèn)題。據(jù)悉，目前業(yè)內(nèi)在AI低質(zhì)內(nèi)容治理方面，占比九成以上的審核工作由機(jī)器來(lái)完成，機(jī)器審核準(zhǔn)確率難以達(dá)到100%，仍需人工不斷校準(zhǔn)。
對(duì)此，業(yè)內(nèi)專家建議，未來(lái)平臺(tái)應(yīng)完善復(fù)核機(jī)制，建立便捷、有效的申訴渠道，如有條件，還可在算法識(shí)別基礎(chǔ)上引入專家評(píng)估機(jī)制，綜合判斷內(nèi)容是否為AI生成。
責(zé)任編輯：陸迪
