抖音今日發布關于人工智能生成內容的平臺規范暨行業倡議。
其中提出，各生成式人工智能技術的提供者，均應對生成內容進行顯著標識，以便公眾判斷。同時使用統一的人工智能生成內容數據標準或元數據標準，便于其他內容平臺進行識別。
(相關資料圖)
具體來看，針對創作者、主播、用戶、商家、廣告主等平臺生態參與者，抖音提出，在抖音應用生成式人工智能技術時，遵循以下規范：
1)發布者應對人工智能生成內容進行顯著標識；
2)發布者需對人工智能生成內容產生的相應后果負責；
3)虛擬人需在平臺進行注冊，虛擬人技術使用者需實名認證；
4)禁止利用生成式人工智能技術創作、發布侵權內容；
5)禁止利用生成式人工智能技術創作、發布違背科學常識、弄虛作假、造謠傳謠的內容。
抖音稱平臺也將提供統一的人工智能生成內容標識能力，幫助創作者打標，方便用戶區分。
針對這一方面，抖音發布了《關于人工智能生成內容標識的水印與元數據規范》。
其中，標識水印規范旨在幫助AI生成工具和創作者可以使用統一樣式和位置，來提示用戶內容由AI生成；標識元數據規范則是通過規范人工智能生成內容的元數據格式，在相關圖片和視頻元數據中寫入信息，達到行業通用識別的效果。
政策端，國家網信辦不久前也就《生成式人工智能服務管理辦法》公開征求意見，這也是國家首次針對生成式AI產業發布規范性政策。
其中，對利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人的責任進行了規定；同時，也提出對于生成式人工智能產品，提供者需要按照《互聯網信息服務深度合成管理規定》對生成的圖片、視頻等內容進行標識等。
AI生成內容亟待監管
日前，甘肅省平涼市公安局網安大隊成功偵破一起利用人工智能技術制造虛假新聞的案件，抓獲犯罪嫌疑人洪某弟。這也是自 1 月 10 日《互聯網信息服務深度合成管理規定》頒布實施后，該省偵辦的首例案件。
伴隨大模型AI發展，ChatGPT等類似應用越來越火熱，因生成式人工智能引發的社會問題也開始出現。因此AI監管覆蓋范圍不斷擴大、監管技術不斷升級、監管主體逐漸國際化：
除了上文提到的我國《生成式人工智能服務管理辦法》之外，白宮本月剛剛宣布首個AI監管計劃，政府承諾發布指導方針草案，以確保對人工智能的使用保障“美國人民的權利和安全”；歐盟也表示希望對AI生成的內容進行強制性的規定，人工智能生成的一切，無論是文本還是圖像，都有義務告知它們是由人工智能完成的。
安信證券認為，當前對AI生成內容的判別主要可以由兩種技術途徑來完成：1)通過算法識別AI模型生成內容的特征，從而鑒別相應的內容是否由AI生成。2)通過對AI生成的內容添加特定的標識，來區分相應內容是否由AI生成。
值得一提的是，數字水印或許也有望成為有效解決方案的一種。數字水印是將一些標識信息直接嵌入數字載體當中，但不影響原載體的使用價值，也不容易被人的知覺系統覺察或注意。通過這些隱藏在載體中的信息，可確認內容創建者、購買者、傳送隱秘信息或者判斷載體是否被篡改。
OpenAI方面此前也表示，考慮在ChatGPT中添加水印，以降低模型被濫用帶來的負面影響。
據《科創板日報》不完全統計，A股中已布局AI生成內容識別的公司有：
關鍵詞：
