抖音安全中心微信公众号消息，4月15日，抖音发布公告：为维护真实有序的讨论氛围，减少冒充热点事件当事人、恶意造谣、蹭流量等不良行为，抖音拟在个人主页等位置展示帐号IP属地，相关功能在4月底进行测试，将根据测试情况逐步在其他场景全量上线。
今日稍早时候，头条安全中心亦发布公告称，为维护真实有序的讨论氛围，减少冒充热点事件当事人、恶意造谣、蹭流量等不良行为，今日头条拟在个人主页等位置展示帐号IP属地，相关功能即日起在网页版进行测试，将根据测试情况逐步在其他场景全量上线。
最近，一个名为@俄罗斯娜娜 的账号忽然走红抖音网络。视频中，一个长着“俄式假脸”的人，操着蹩脚的“俄式中文”，时而唱歌，时而做“科普”，在抖音上积累下近200万粉丝。
由于其脸孔怪异，有用户不禁在评论区质疑此人性别、国籍的真实性，但更多人是在“追捧”。4月1日晚，抖音官方发布《关于打击仿冒帐号等黑产行为的处理公告》，指出包括@俄罗斯娜娜 在内的4个账号存在滥用平台道具、仿冒虚假人设的情况，将对其进行无限期封禁的处罚。
对于公告中所说的“滥用平台道具”，有人认为是“AI换脸”，即通过人工智能技术将别人的脸替换到自己身上。也有人指出，这可能是抖音自带的某种可以将人的五官特征、轮廓改为外国人的特效——且该特效的使用基本是0门槛，使用目的也缺乏规则和监管。
而这种通过技术手段造假“人脸”，造假“身份”，蹭网络热度的情况，全世界其实都屡见不鲜。上个月，还有人通过类似技术使得乌克兰总统泽连斯基发布“投降宣言”、俄罗斯总统普京发表“和平宣言”……
最近热播的刑侦局《猎罪图鉴》中，男主的恩师就因接到儿子借钱的求助视频，把自己的养老积蓄全都转了过去。在发现自己被骗后，老两口选择投海自杀。
随后，男主在和恩师儿子的沟通中发现，这则视频的说话方式、脸部肌肉趋势都与本人有所不同，连光线都是伪造的。
原来，这又是一起用以诈骗的“AI换脸”视频，背后则是一个长期通过类似技术手段骗取老人钱财的犯罪团伙。
前段时间，抖音上出现一个叫做@俄罗斯娜娜 的账号。该账号的视频中，出现了一个自称来自俄罗斯，名为娜娜的“女人”，其拥有棕色的长发、蓝绿色的眼睛和一口“烈焰红唇”。
视频中，她动不动就操着蹩脚的外国腔调说“中国的兄弟姐妹你们好”，讲解一些道听途说的“俄罗斯常识”，要么就为观众“高歌一曲”，且是假唱……
由于抖音上的@俄罗斯娜娜 已经被封，用户们的发言也难以找到。但在b站上，还留存着她的歌声，和满屏真情实感的“好好听”弹幕。
评论区曾有用户质疑，“娜娜”画面怪异，五官模糊，可能是AI换脸，趁着最近俄罗斯热度高在“蹭流量”。也有人表示，抖音有一些如下图所示的“外国人”特效或者滤镜，“俄罗斯娜娜”可能也是通过这些特效改变了五官特征，伪装成外国人。但在大量的称赞里，这些质疑声基本很快就被淹没了……
此类特效的使用基本是0门槛，使用目的也缺乏规则和监管。有用户向观察者网提供了类似的视频——使用者是100%的中国人，但换上特效后，脸部特征便朝外国人转变。且操作之简单，仅仅点击、下载特效、拍摄、上传，即可在互联网上变为“外国人”。
靠着这些手段，“俄罗斯娜娜”在抖音上积攒了近200万粉丝，在b站上也存在浏览量破5万的视频。
4月1日晚，抖音官方发布《关于打击仿冒帐号等黑产行为的处理公告》称，日前在日常巡查时发现，个别用户存在滥用平台道具，仿冒虚假人设，不当获取流量及粉丝的违规现象。
抖音表示，仿冒账号是黑产团伙常用的作弊手段，行为违反了抖音平台相关公约，进行诈骗更是涉嫌触犯国家相关法律法规。抖音坚决打击各类黑产行为。
为此，抖音安全中心对包括“俄***娜”、“俄****莎”、“罗****娜”、“***娜娜”在内的4个帐号予以无限期封禁的处罚。
这种“改脸/换脸技术”对于年轻人来说，可能还有辨别的可能；但对于一些中老年人而言，或许真的很难识破。这也造成了本文开头，老年人被骗尽养老钱的悲惨剧情。
目前，通过技术手段造假“人脸”，造假“身份”的情况，已经出现在了世界各地。像“俄罗斯娜娜”这种造个假人设、骗点关注和广告的还算“收敛”。更有甚者，直接伪造政界名流，致力于伪造出假的“大新闻”。
据英国广播公司（BBC）3月18日报道，俄乌冲突期间，网上出现了不少“假总统”。先是乌克兰总统泽连斯基在一段视频中发表了号召乌克兰“投降”的讲话……
而后，又出现一段普京宣布和平的视频……这两段视频随后被证实都是用“AI换脸”伪造的。
根据彭博社发布的一段视频，早在三年前，这项技术就已经发展到可以把一个人的表情、口型完全复刻到另一个人脸上。
两年前，这项技术已经发展得相当成熟。在开源社区网站GitHub上，有一个项目，就可以把自己的脸替换成别人的脸，并且是实时的。
但当它被“娜娜”们掌握时，如何管理和使用，则将成为“AI”即将到来的时代里，一个经久不衰的话题。
