点击 ▶ 收听播客。
随着人工智能技术的飞速发展，AI深度伪造内容正在社交平台上播下混乱的种子。
从高度逼真的虚假音视频到误导性的广告信息，这些伪造内容不仅挑战着公众的认知边界，也对社会的稳定和安全构成了严重威胁。
面对这一挑战，各大科技公司纷纷推出AI识别和水印技术，试图遏制伪造内容的传播。
AI深伪内容：混乱的种子
在娱乐和艺术创作领域，AI技术为创作者提供了更多的可能性。
皇家墨尔本理工大学工业人工智能研创中心主管、澳大利亚人工智能委员会秘书长宋正（Andy Song）副教授表示，AI深度伪造技术利用深度学习等先进技术，可以生成高度逼真的虚假内容，包括图像、视频和音频等。
他提到，AI生成的内容在自媒体、广告、娱乐等多个领域都有广泛应用。
但同时，AI的发展也带来了诸多社会问题。
随着技术的不断成熟和普及，一些不法分子开始利用AI深度伪造技术制造虚假新闻、诈骗信息，甚至进行政治干预，给社会稳定和信息安全带来了巨大挑战。
矛与盾：“道高一尺魔高一丈”
面对AI深度伪造技术带来的挑战，科技“大厂”们纷纷出手，例如Meta等公司已经开始采用AI识别技术来检测平台上的AI生成内容，并为其打上水印标签。
此外，一些公司还在开发专门用于检测深度伪造内容的分类工具，以提高识别的准确性和效率。
宋副教授介绍说，生成式AI的深度学习模型包含的两大神经网络——生成器（Generator）和鉴别器（Discriminator），实际上是“矛与盾”的关系。
“也就是说让generator生成的（内容），尽可能地不让discriminator能够区分出来；同时discriminator要尽可能地区分出来由generator生成的内容。”
二者互相牵制，且发展同步，因此，宋副教授认为，并不需要太过担心生成内容有一天无法被检测出来这样的情况。
AI识别技术瓶颈在哪里？
然而，宋副教授也坦言，AI识别技术的发展仍面临诸多瓶颈。
由于伪造技术的多样性和复杂性，AI识别模型往往难以覆盖所有可能的伪造情况。
此外，一些高级伪造技术能够模拟真实内容的细节和特征，使得AI识别模型难以区分真伪。因此，提高AI识别技术的准确性和泛化能力是当前面临的重要挑战之一。
除了AI识别技术外，数字水印技术也被视为应对AI深度伪造挑战的一种有效手段。
宋副教授介绍，通过在内容中嵌入不可见的数字水印信息，可以追踪内容的来源和传播路径。
这有助于防止伪造内容的传播和滥用，并为打击相关犯罪行为提供有力支持。
然而，数字水印技术的应用也面临一些困难。
由于水印信息的嵌入和提取需要一定的技术支持和设备投入，这限制了数字水印技术在一些领域的应用范围。
此外，加强数字水印技术的安全性和可靠性是当前亟待解决的问题之一。
AI尖端技术哪家强？
宋副教授认为，目前全球范围内AI识别与水印技术领域总体实力较强的国家，还当属美国与中国。
究其原因，主要是由于在美中两国，AI生成与自媒体行业发展较快，导致AI内容识别与水印技术应用场景较多。
“还有一个就是后面的资金支持比较多，支持力度也比较大。因为市场大，也比较容易商业化，对投资者来说也更加有吸引力，也就更加容易吸引到投资和投入，自然发展得会比较快。”
除此之外，宋副教授表示，行业发展也形成了虹吸效应，源源不断地吸引更多相关人才加入，也形成了正向循环。
欢迎下载应用程序SBS Audio，关注Mandarin。您也可以通过苹果播客、Spotify等播客平台随时收听和下载SBS普通话音频故事。请在 和 关注SBS中文，了解更多澳洲新闻。
