国产精品久久福利_亚洲成人网久久久_国产丝袜美腿一区二区三区_亚洲三级小视频_6080国产精品一区二区_欧美日韩精品一区二区_欧美第一区第二区_亚洲欧美色婷婷

北京日報客戶端 | 記者 袁璐

輸入幾個關鍵詞，一副精美的二次元畫作就此誕生；設置好相應的口令，一個原本需要耗時數日的視頻不需要人工講解加剪輯，一鍵自動生成；選擇古風、都市等語言文風，加上幾句人物描述，一本小說快速誕生......

(資料圖片)

今年以來，以ChatGPT為代表的AI展現出超強的內容創作能力，AIGC（人工智能生成內容，又稱生成式AI）成了內容創作者新的生產力工具。但與此同時，一道新的考題也向內容社區平臺拋出——該如何甄別AIGC內容，防范虛假信息及可能的版權糾紛等問題？海量發布的AICG內容又是否符合法律要求和公序良俗？

“大模型誕生之后，內容安全風控是一個需要全鏈路考慮問題。”騰訊安全內容風控產品經理李鎬澤表示，目前市面上很多企業正在各個階段進行一些安全處理的防范。比如模型訓練階段，一是數據標注要求剔除高風險、違規的數據，保證投給模型的數據樣本是真實的。二是訓練過程中要保證大模型更有連貫性、邏輯性，質量穩定，最后是審核把關產出結果，去掉高風險內容。

業內對AIGC內容安全的擔憂并非空穴來風。記者注意到，今年5月，甘肅公安官方公眾號通報稱，甘肅省平涼市公安局網安大隊成功偵破了一起利用AIGC制造虛假新聞的案件。4月25日，平涼市公安局崆峒分局網安大隊對“今晨甘肅一火車撞上修路工人致9人死亡”的文章，初步判斷為信息虛假不實，經查，某自媒體作者洪某弟使用“易撰”網頁版和ChatGPT，搜索并修改編輯近幾年的社會熱點新聞，通過“海豹科技”軟件上傳至其購買的百家號上非法獲利。

記者注意到，目前多個內容社區平臺要求創作者明確標注AI生成內容。如知乎要求創作者發布 AI 輔助創作內容時，需要在內容上進行顯性聲明，并為所發布的內容負責。抖音發布也要求發布者對人工智能生成內容進行顯著標識，統一的官方“水印”。

不過，騰訊安全天御研發工程師周維聰對記者坦言，目前在應對AIGC內容合規問題方面，業內仍面臨不少挑戰。一是AIGC內容審核量巨大，“各行各業的人，都能使用AI能力去生產他想要的內容，UGC（用戶生產內容）和PGC（專業生產內容）的界限大大模糊。”二是AIGC內容形態復雜多樣，部分血腥、色情、暴力的內容可能以暗喻隱晦的形式表達，比如二次元漫畫中的藝術處理。三是部分AIGC內容相當專業，對泛內容審核機制帶來挑戰。四是部分AIGC應用場景對實時性要求較高，如何快速、準確的審核內容也是一大難點。

值得注意的是，周維聰提到了一個全新的內容安全攻防趨勢——“套話”大模型再“反套路”。

“我們在服務不少企業的過程中發現，用戶在使用‘類ChatGPT’產品時，會故意提出大量誘導性提問互動，有意引導大模型生成違規內容。”周維聰表示，之后用戶可能通過拆分字詞、使用拼音字、利用文字間隔等嘗試尋找大模型有關違禁規則的漏洞。

“要實現全鏈路數據達標，需要密切關注數據標注、數據審校等不同環節的數據生成質量。同時要重視提前預防。”周維聰稱，AIGC有數據量極大、傳播速度極快等特點，不能只寄希望于事后防御，還應提高數據訓練、數據生成、數據傳輸等過程中的風險防范意識。

相關監管政策也正在不斷完善。4月11日，國家互聯網信息辦公室發布關于《生成式人工智能服務管理辦法（征求意見稿）》公開征求意見的通知，規定AIGC內容不得含有暴恐、低俗、歧視、侵權等違法違規內容，明確提出“利用生成式人工智能生成的內容應當真實準確，采取措施防止生成虛假信息”。

標簽：