Deepfake（深度造假）兴起 成为坏蛋的强大工具

张瑞雄观点：Deepfake技术的出现将社会带入了一个复杂的AI时代，现实与虚构之间的界线越来越模糊，发展成为一种具有深远影响的多面向现象。 从好莱坞电影公司到政治宣传，Deepfake已经渗透到生活的各个层面，引发了重大的道德、法律和社会问题。

从本质上讲，deepfake技术是AI科技的产物。 透过利用深度学习算法，deepfake可以产生模仿任何人的高度逼真的视频，或创造完全虚构的人物角色。 Deepfake背后的技术不仅仅是改变面孔，它创造一种几乎无缝的现实幻觉，既令人着迷又令人不安。

deepfake产业正在蓬勃发展，全球各地的新创公司都获得了大量投资来开发和完善其技术。 兴趣和资金的激增凸显了对先进数位操作工具日益增长的需求，但随着deepfake技术变得越来越容易取得，它也引发了滥用的担忧。

deepfake在各行业的广泛采用也显出对明确法规和道德准则的需求，由于缺乏监管，deepfake产业得以迅速发展，往往超过了法律和社会容许的范围。 随着这些工具的不断发展，社会应该如何管理和监督这些工具变成重要课题。

虽然deepfake在创意和商业领域提供了令人兴奋的可能性，但它们也带来了危险，特别是在错误信息领域。 制作和散布虚假的影片对政治、媒体和社会信任有深远的影响。

deepfake最令人不安的方面之一是它们有可能助长阴谋论并减轻对合法资讯来源的信任。 例如在俄乌战争期间，一段据称乌克兰总统敦促其军队投降的deepfake影片在网络上流传，尽管该影片并不是特别令人信服，但它的存在本身就引发了怀疑和混乱，助长了错误信息的传播。

作者强调，deepfake在各行业的广泛采用也显出对明确法规和道德准则的需求。 （取自Unsplash）

这种现像被称为“说谎者的红利”，它说明了deepfake如何破坏对媒体和机构的信任。 即使deepfake被揭露为欺诈，其影响仍然存在，因为它们会造成普遍的怀疑感。 在错误信息已经泛滥、对传统媒体的信任度不断下降的时代，这一点更是问题。

deepfake可以轻松地在网络上制作和传播，这使其成为坏蛋的强大工具。 政府、政治团体甚至个人都可以利用deepfake来操纵舆论、扭曲现实并进一步加剧社会两极化。

制定有效的deepfake法规是一项复杂的挑战，一方面，保护言论自由和deepfake技术的创新潜力非常重要。 另一方面，显然需要防止deepfake被滥用于恶意目的，例如传播错误信息或骚扰个人。

一种可能的方法是在deepfake的建立和传播过程中建立透明度和问责标准，例如要求创作者揭露图片或影片的明确资讯，还有投资研发检测和打击deepfake的工具可以为此问题提供技术解决方案。 教育也可以帮忙，透过提升数位素养和批判性思考，社会可以更好地帮助个人驾驭AI时代复杂的资讯环境，教育大众了解deepfake的存在和潜在危险，以避免受害。

*作者为台北商业大学前校长