来源:国际安全研究ISS作者:刘国柱
深度伪造(Deepfakes)是一个合成词,是人工智能(AI)领域由“深度学习”(deeplearning)和伪造(fake)合成的一个词汇。它用来描绘利用人工智能技术和大数据生成的视频、照片和其他文本,这些视频、照片和文本看起来非常逼真,不要说非专业技术,就连专业技术亦难以识别其真伪。深度伪造包含两方面的含义,首先,它是一种技术,一种制作超逼真视听作品的技术。其次,它指根据深度伪造技术制作的视听作品。深度伪造的主要危险在于它会让一个人——无论是政治家、商界精英还是普通公众——向他人呈现另一种“现实”:一个真实的人在做一些他们从未做过的事情或者说一些他们从未说过的话,从而通过这样的“现实”欺骗不知情的公众。
深度伪造问题已经引起国内外学术界的重视,并出现了一些具有一定水平的研究成果。其中,国内学术界对深度伪造问题的研究主要集中在以下四个方面。第一,以美国为研究对象,探讨深度伪造的出现给美国社会带来的各种风险、挑战,以及美国州和联邦两级立法机构应对深度伪造的立法尝试。第二,从传播学的角度,分析深度伪造带来的影响,认为深度伪造加剧了更加系统性的平台控制,从而催化了政治分裂和政治冷漠,也进一步挑战了传统新闻体制的专业权威。传播学研究甚至认为,人工智能技术的“魔兽”一旦被放出笼子,对媒体的威胁就难以遏制。第三,从颠覆性技术异化以及治理的角度分析研究,认为以深度伪造为代表的颠覆性技术异化,已经成为数字化时代的威胁和人类社会可持续发展的重要挑战,对现存社会伦理规范、经济和法律制度乃至国际秩序造成破坏性冲击。第四,从国家安全的角度进行分析,认为深度伪造技术在近几年迅速兴起,为国家间的政治抹黑、军事欺骗、经济犯罪甚至恐怖主义行动等提供了新工具,给政治安全、经济安全、社会安全和国民安全等国家安全领域带来了诸多风险。研究者提出:通过研发预警检测手段、推进立法管制、加强宣传教育以及推进国际安全合作治理等手段,来应对深度伪造技术的滥用及其安全挑战。
美国学术界对深度伪造
转载请注明:http://www.0431gb208.com/sjszlfa/256.html