深度偽造技術靠AI破解

    據中國人民公安大學信息網絡安全學院副教授蘆天亮介紹，深度偽造技術源自深度學習和造假組合，意指是利用人工智能深度學習演算法偽造現實生活中的人物、語音、行為等生理特徵，再合成虛假音頻、視頻等媒體文件的技術。迄今，最常見方式是AI換臉技術，還包括人臉合成、視頻生成、語音合成等。

    在擁有足夠訓練數據的情況下，人工智能技術可製作媲美原聲的人造錄音，還可以合成以假亂真圖像，或基於二維圖片合成三維模型，甚至根據聲音片段修改視頻內人物表情和嘴部動作，生成口型一致的合成音視頻。目前，運用人工智能技術合成的圖像、音視頻等已經達到以假亂真程度，因而被不法分子用來實施詐騙活動。

    電影特效教育應用

    深度偽造技術的應用有正面，也有負面影響。其中正面影響方面，此技術可應用於電影特效、線上教育等。而負面影響，此技術被不法分子濫用，常被用於生成虛假音視頻，從而散佈虛假信息、實施網絡詐騙，或破壞社會穩定，甚至國家安全。

    對於深度偽造技術的檢測和防禦，透過人工智能算法的深度偽造檢測技術及視頻完整性的檢測方法，即運用SVM、KNN等機器學習算法或CNN、RNN等深度學習算法對視頻幀做二分類；或通過建立公共機制或使用數據完整性校驗等手段對原始視頻的傳播進行溯源及做出篡改檢測。

    在防禦上透過完善相關法律法規，包括針對“深度偽造”技術進行立法規範；透過提升公眾鑒別意識和能力，包括培養公眾識別視頻來源、作者身份，評估視頻承載信息的準確和客觀能力。