AI换脸和声音克隆，最近真是风头正劲，闹得人心惶惶。霍启刚前脚刚曝光自己每天要应对成千上万条伪造内容，后脚就发现，就连和自己并肩工作多年的同事，也常常需要反复辨认才能分清真伪。早些时候，我们可能还觉得这种李鬼冒充的事儿不过是某些不法分子的无聊伎俩，但现在却是把真人的面容和声音彻底分解重组，硬生生制造出一个新物种，而这个新物种似乎专门用来谋取暴利。
五年前，当假靳东骗局初露端倪时，多少阿姨大妈被那段短视频中喊姐姐的东弟弟迷得神魂颠倒，竟然一时冲动，剪了头发、闹了离婚，甚至还有人不顾一切，要孤身跑去长春和网友见面。虽然在2023年，那支由全女性组成的诈骗团伙终于落网，主犯被判了三年，但技术一旦变得这么肆意，它的奔放可不是说停就能停下来的。即便是如今，仍然有一些年过六十的老人，誓言要为靳东借款两百万，去帮助他拍电影，而劝阻他们的声音却根本无法制止。
如今，这种乱象已经远远不止针对老年人的骗局那么简单了。王劲松最近愤怒得直跺脚，说视频中的口型和声音连自己的家人都认不出来；迪丽热巴和杨紫更是不得不公开发声明维权，甚至直接对簿公堂。更让人震惊的是，有些公司竟然开始直接组装脸，打造出像林汐颜和秦凌岳这样的虚拟艺人。这些虚拟人一看上去，仿佛是赵今麦、翟子路等明星的缝合体。就连央视都忍不住对这种融脸行为发声批评，毕竟，若公众一眼就能联想到某些特定的真人，这就构成了侵权。
面对这种层出不穷的乱象，靳东在两会期间特别提到了青少年。他忧心忡忡地指出，成年人尚且难以分辨真假，心智尚未完全成熟的孩子们，如果长期处于这些精心设计的偶像告白包围之中，后果实在让人难以想象。技术，本是把双刃剑，但如今却成了某些人手中的锋利武器。我们不能因噎废食，然而，给这匹已经脱缰的野马套上缰绳，划定明确的底线，显然已经是刻不容缓的紧迫任务。不然，今天被骗的可能是某位大妈，明天遭殃的就可能是我们自己家里的孩子。
