日前，國家互聯網信息辦公室等四部門聯合發布《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》），提出AI生成的文字、圖片、視頻等內容必須強制添加顯式和隱式標識，生成的相關內容都需要亮明“身份證”。《標志辦法》出臺后，將重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播各環節的全流程安全管理。

當前，AI浪潮正以前所未有的速度影響著社會的方方面面，然而伴隨著技術門檻的降低，也產生了一些不良現象。譬如：網絡上曾出現AI合成的張伯禮院士為某美白護膚品宣傳的視頻，視頻中使用張院士的形象和聲音，無任何標識，難辨真假。出現這些現象的原因，一方面是檢測技術的滯后性，“偷跑”的違法信息難以在短時間控制其流動性，等到監測到相關情況再來處理時，已造成一定程度的負面影響。另一方面監督管理存在空白區域，難以追上AI技術快速迭代的步伐，比如：針對AI生成內容的版權歸屬、責任界定等問題還不清晰，對于部分違法信息追蹤難、追溯難、追責難。

治理AI亂象依然需要法治先行。需要通過明確技術應用的“禁區”和“紅線”，防止技術失控濫用；同時加大對相關違法行為的處罰力度，提高犯罪成本，讓當事人在面臨抉擇時主動避開不法選項。也應考慮建立動態平衡機制，例如通過“監管沙盒”鼓勵可控范圍內的創新，同時設置底線規則，避免過度監管導致抑制創新。

監測技術手段也應動態更新。AI帶來了諸多可能性，是否也應考慮用“用魔法打敗魔法”的手段來對抗相關亂象，例如構建“AI對抗AI”的動態監測體系，結合《標識辦法》利用AI模型識別AI生成內容，開展實時對抗訓練等；記錄AI訓練數據來源等，以便快速追根溯源，從源頭上制止事態進一步擴散。

法治和技術的有效實施離不開全民教育。沒有良好的群眾基礎和道德滋養，法治就缺乏活力和溫度，技術就難以走上正途。可通過典型案例宣傳、AI技術微課堂等多種方式強化學習，把AI的運作原理擺在明面上，讓大眾知曉AI、了解AI、能區分AI，從而以正確的三觀去對待每一個AI產品。當不法、錯誤內容誕生的那刻，卻沒有其生長的土壤，自然就無法引起波瀾。

AI亂象的治理應是多方聯手，而非一家“獨唱”，需要結合法律法制、技術倫理、行業自律和公眾參與形成多元共治，既要守住倫理底線，又要為技術演進預留空間。唯有如此，才能實現“科技向善”的終極目標。（宜昌宜都 王亞聞）

（稿源：荊楚網）