AI數字文明需重建信任

    國家互聯網資訊辦公室等四個部門於日前聯合發佈《人工智能生成合成內容標識辦法》，自二○二五年九月一日起施行；國家標準的《網絡安全技術人工智能生成合成內容標識方法》也將同步實施。這不僅是應對ＡＩ詐騙的技術防線，更是重構數位時代信任體系的制度創新。

    近年來，人工智能（ＡＩ）技術突飛猛進，ＡＩ生成合成的文字、圖片、音視頻等在網絡平台迅速傳播，旣豐富資訊內容，也成為編造虛假資訊、擾亂傳播秩序、實施新型詐騙的幫兇。有利用ＡＩ撰寫假新聞、造謠博出位；有假手ＡＩ發表評論，打造“智能水軍”；還有深度造假知名院士視頻，帶貨宣傳護膚品；更有借助ＡＩ假冒明星，騙取老人錢財……。ＡＩ技術給虛假資訊披上高科技“偽裝衣”，使“耳聽未為真、眼見未為實”，且技術還在不斷迭代，迷惑性越來越強。防範ＡＩ造假，不僅僅是網絡平台的責任，依靠公眾的“火眼金睛”去識別造假行為更不現實。

    資料顯示，二○二四年，全球ＡＩ詐騙涉案金額突破三千億美元，其中語音合成詐騙、視頻換臉詐騙、聊天機器人詐騙成為三大主要形式。在我國，經濟發達地區案例佔比超過四成半，受害群體從“一老一少”向企業主、寶媽等多元群體蔓延。更令人警惕的是，ＡＩ技術正被“武器化”為完整黑色產業鏈：上游兜售“ＡＩ換臉套餐”，中游精準投放詐騙資訊，下游通過虛擬貨幣洗錢。這種“技術黑箱”與“傳播黑箱”的疊加效應，使傳統監管手段捉襟見肘。

    ＡＩ生成內容標識制度的深層意義，在於重建數字時代的信任基礎。當“眼見未為實”成常態，標識制度通過技術手段錨定資訊原點；當演算法黑箱引發認知迷霧，標識制度以透明化原則重塑傳播秩序。這種治理創新，既延續了“以技術治理技術”的智慧，更體現了“在發展中規範、在規範中發展”的辯證思維。

    給ＡＩ生成合成內容添加標識，是從源頭上治理ＡＩ造假的有效手段。《標識辦法》的核心在於構建“ＡＩ內容身份證”體系。標識要求在視頻角落標注“本視頻為合成內容”，音頻開頭插入“ＡＩ生成”語音提示，圖片添加透明浮水印；隱式標識則通過資料嵌入生成主體、技術參數等資訊。這種“可見+可溯”的雙重機制，既降低公眾識別成本，又為執法追溯提供技術支撐。

    治理ＡＩ造假，除了資訊標識，技術防範同樣不可忽視。新規的實施面臨多重挑戰。例如，如何應對境外ＡＩ工具生成內容的監管真空？如何提升平台對未標識內容的檢測能力？用戶惡意篡改標識、平台審核流於形式等如何防範？都需要正視。

    面對ＡＩ不可逆，只有繫好法律安全帶、點亮倫理探照燈，建立起權責清晰治理體系，才能讓ＡＩ真正為經濟社會發展賦能，而不是異化為踐踏權利的工具。