“由于造谣成本低，他们甚至不需要完整图片，只需要一张脸部图片就能完成所有，而且很难被抓到，这使得他们更加肆意妄为。”欣欣说。

在他看来，虽然想要阻止人们使用AI生成伪造视频或图片不现实，但这并不意味着对恶意造假者无计可施：“国内对于网络色情视频和图片都有非常成熟的治理方法，即便不能用技术鉴别真伪，也可以从平台一侧阻止色情内容的传播，定位色情内容的传播源头并实施打击。”

“让普通人用肉眼或耳朵来识别深度伪造的视频、音频内容是不现实的，因为深度伪造本身就意味着难以识别，没有经过专业训练的普通人很难从技术角度识破深度伪造内容。”裴智勇说。

“没想到Deepfake离自己如此之近，更没想到施害者就是身边的熟人。”欣欣说，在处理这件事情的过程中，她了解到身边有很多女孩子在遭受类似的事件，甚至更严重。她们被泄露个人隐私、被造谣、被AI换脸、被性骚扰等等。

近段时间，在一些国内的短视频平台上，除了“AI名人”，“AI接吻视频”也十分流行。有博主宣称只需要下载一个软件，花费9.9元就可以完成。看着两个毫无关系的照片人物“活生生”亲吻拥抱在一起，不少网友直呼可怕。

“当天晚上8点多，我报警备案，当时我没有排除熟人或者陌生人的各种可能性。后续我经过各种账号套话，得知对方了解我的家属关系等更隐私的信息，我就逐步缩小了嫌疑人范围，心中也有了怀疑的对象。”欣欣随后发布了一条仅对方可见的朋友圈，且把内容做了特殊标记，很快这条内容出现在外网。

由英文“deep machine learning”(深度机器学习)和“fake photo”(假照片)组合而成的Deepfake(深度伪造)，能基于人类行为特征如面部、声音等合成图像、视频、音频。当前这一技术，正被滥用成为针对妇女暴力、诈骗犯罪的新前沿。

“我听到这个消息之后有些震惊且不敢相信，但真的看到这些照片后，我感到无比愤怒。”欣欣告诉记者，对方不仅制作大量AI换脸的不良照片与视频，还随意泄露了自己的个人信息，包括网名、真名、年纪、学校、专业等等。

与此同时，韩国用户使用的社交媒体Telegram上，被发现存在多个传播和分享该类型色情内容的群聊，其中已知最大的一个聊天室成员超过22万人。这类性犯罪事件的受害者人数尚难以统计。已知的被波及群体，包括女学生、女教师等，其中包含大量未成年人。

而更早之前的韩国Deepfake(深度伪造)性犯罪事件，不仅让韩国全体女性陷入“换脸恐慌”，更是引发全球关注，大众担心一种更广泛的、充满敌意的网络环境开始渗入真实世界。

1331,c,om,银河游戏不仅是张文宏，网络上的“AI名人”已成泛滥趋势：“假靳东”迷倒一众大妈、“假雷军”辣评世间百态、“假拜登”宣布第三次世界大战开始、“假马克龙”直播回答“政府聘用灭霸”……

欣欣随后通过多个途径进行了查证，这些照片和视频均是对方从自己的小红书搬运，经加工处理，制作出不堪入目的色情影像。欣欣第一时间选择报警并咨询律师，开始固定更多证据。

欣欣告诉记者，因为这段经历，短暂接触过几个软件，上面有成百上千的群组，群组里多的有上万人，里面内容不堪入目，充斥着各种女生的AI换脸照片与视频，以及污蔑、诋毁、造谣的话，恶心程度超出想象。

奇安信行业安全研究中心主任裴智勇表示，深度伪造，一般是指利用人工智能技术，生成高度逼真的视频、音频、图片、文案等内容。这些内容多被用于网络欺诈、制造谣言、扰乱公共秩序和生成各类色情内容。这些伪造内容大多使用了人工智能技术中的深度计算技术，识别难度很大。

融力天闻律师事务所高级合伙人刘赤军律师告诉记者，Deepfake之于视频，就像Photoshop之于图片，两者都直观冲击了真实和虚拟之间的界限。但Deepfake能够实现以极低的成本，制作出完全虚构又极其逼真的视频。

今年7月9日，正在刷抖音的欣欣突然收到了一条私信，被网友告知有自称其男友的人在外网盗用她的照片后进行AI换脸并传播。