【橙訊】國家互聯網信息辦公室聯合工業和信息化部、公安部、國家廣播電視總局14日聯合發布《人工智能生成合成內容標識辦法》（下稱：《標識辦法》），自今年9月1日起實施。標識辦法明確生成合成內容製作傳播各主體的責任義務，重點解決「哪些是生成的」、「誰生成的」、「從哪裏生成的」等問題，推動由生成到傳播各環節的全流程安全管理。標識辦法明確人工智能生成合成內容服務提供者對文本、圖片、音頻、視頻、虛擬場景等內容，添加文字、角標、語音、節奏等顯式標識的方法，在內容生成合成環節提出了顯著提示公眾、防範混淆誤認的方案。

近年來，DeepSeek、ChatGPT等為代表的生成式人工智能迅猛發展，為生成合成文字、圖片、音頻、視頻等資訊提供了便利工具，海量資訊得以快速生成合成並在網路平台傳播，在促進經濟社會發展的同時，也産生了生成合成技術濫用、虛假資訊傳播擴散加劇等問題，引發社會各界的關注關切。經深入開展調研、廣泛徵求意見、多輪技術論證試點，國家網際網路信息辦公室聯合工業和資訊化部、公安部、國家廣播電視總局制定了《標識辦法》，進一步規範人工智慧生成合成內容標識活動。

《標識辦法》聚焦人工智慧「生成合成內容標識」關鍵點，通過標識提醒用戶辨別虛假資訊，明確相關服務主體的標識責任義務，規範內容製作、傳播各環節標識行為，以合理成本提高安全性，促進人工智慧在文本對話、內容製作、輔助設計等各應用場景加快落地，同時減輕人工智慧生成合成技術濫用危害，防範利用人工智慧技術製作傳播虛假資訊等風險行為，推動人工智慧健康有序發展。

去年底短視頻平台出現大量「雷軍AI配音」的惡搞視頻。 資料圖片

《標識辦法》明確服務提供者應當對文本、音頻、圖片、視頻、虛擬場景等生成合成內容添加顯式標識，在提供生成合成內容下載、複製、導出等功能時，應當確保文件中含有滿足要求的顯式標識；應當在生成合成內容的文件元數據中添加隱式標識，隱式標識包含生成合成內容屬性資訊、服務提供者名稱或者編碼、內容編號等製作要素資訊；應當在用戶服務協議中明確説明生成合成內容標識的方法、樣式等規範內容，並提示用戶仔細閱讀並理解相關的標識管理要求。

《標識辦法》規定，任何組織和個人不得惡意刪除、篡改、偽造、隱匿規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權益。

《標識辦法》亦規定，網際網路應用程式分發平台在應用程式上架或者上線審核時，應當要求網際網路應用程式服務提供者説明是否提供人工智慧生成合成服務，並核驗其生成合成內容標識相關材料。

據介紹，配套《標識辦法》，強制性國家標準《網絡安全技術人工智能生成合成內容標識方法》已由國家市場監督管理總局、國家標準化管理委員會正式批准發布，9月1日與《標識辦法》同步實施。