【地評線】聽·見丨AI漸欲迷人眼，“立規矩”方有序

近日，中央網信辦向社會發布《網絡安全技術人工智能生成合成內容標識方法》國家標準的征求意見稿，這則消息迅速引起網友廣泛關注。有媒體認為，這一文件標志著我國在人工智能內容生成技術及其應用方面的規范化管理向前邁出了重要一步，也為數字經濟和信息安全的協調發展奠定了基礎。

2024 年被眾多業內人士、研究機構和市場觀察者稱為 “AI元年”。我們也明顯感覺到，這一年，人工智能技術在諸多方面達到了一個新的高度，其影響深遠地滲透到了各行各業。但是，人工智能技術的飛速普及與應用又是一把雙刃劍。一方面，AI技術為各行各業帶來了創新動力，推動了生產力的提升；但另一方面，隨著AI生成合成內容的廣泛應用，網絡內容的真實性和安全性也面臨著前所未有的挑戰。

比如，在商業活動中，一些不法分子利用AI編造誤導性商業信息。去年12月，有網民利用AI工具專門制造“廣州即將成為全國首個限制外賣配送的城市”的謠言，并進行引流牟利。該謠言引發了不小的震動，影響了廣州多家外賣配送企業的正常運作、數以萬計的外賣騎手工作以及成百上千家餐飲和商戶的日常經營。

還有利用AI技術編造虛假新聞誤導公眾。河南鶴壁網民戶某為博眼球、蹭流量，在網上利用AI拼圖技術生成直升機飛躍麥田的圖片，并配文“省領導XXX到浚縣視察小麥倒伏情況”，編造虛假新聞，引發網民關注，擾亂公共秩序。有網民為博取流量，對網上看到的一篇關于“小孩偷鉛筆”內容的文章，通過AI軟件生成視頻，編造為茂名市下轄某縣級市發生的案件，并在三個網絡社交短視頻平臺發布傳播，造成惡劣影響。

而更多的是遍布在各個網絡平臺的虛假文章，如江西南昌的一個MCN機構利用具有語音交互功能的AI軟件，輸入關鍵詞自動收集網絡上的信息，生成幾百到上千字的文章，并配上虛假圖片。這些虛假文章被廣泛傳播于多個網絡平臺，最高產時一天能達到4000至7000篇。這些文章內容看似信息豐富，實際上卻是捏造的，騙取公眾的流量，甚至欺騙公眾的感情。

不少網友感嘆，現在網絡平臺上充斥著這類紛繁雜亂真假莫辨的信息。這不僅會影響信息的正常傳播和交流，有時甚至會引發公眾恐慌尤其是涉及到安全、健康、災害等方面的虛假信息，可能會導致一些社會公眾的不理智行為，影響社會的正常秩序。

因此，如何從國家層面立法和規范這種AI合成信息，顯然是勢在必行，制定《網絡安全技術人工智能生成合成內容標識方法》也是恰逢其時。

制定該標識方法可以明確不同場景下、不同類型內容的標識要求，為行業提供具體的操作指南，規范行業發展。例如，對于文本、音頻、視頻等不同形式的內容，規定其顯式標識和隱式標識的具體方式和位置等，避免企業在實施過程中出現標識不明顯、不規范等問題。

對于用戶來說，在使用人工智能生成合成內容時，往往對內容的真實性和可靠性存在疑慮。一旦有了明確的標識方法，就可以讓用戶清楚地知道哪些內容是人工智能生成的，哪些是真實的人類創作，增強用戶對人工智能技術的理解，促進人工智能技術的良性發展。

總的來說，《網絡安全技術人工智能生成合成內容標識方法》的出臺，是我國在人工智能管理領域邁出的重要一步。這將不僅促進行業的健康發展，還有助于提升公眾的自我保護能力，抵御網絡謠言及虛假信息的侵擾，讓我們的網絡空間更加清朗。

詳情請見：https://review.jschina.com.cn/tingjian/202409/t20240919_3462648.shtml