2026年2月，家住江苏南京的七旬老人周大爷接到一通视频电话，屏幕上清晰呈现出“儿子”焦急的面孔：“爸，我开车撞了人，对方要私了，急需8万元！”熟悉的声音、逼真的面容，甚至背景也是儿子常住的宿舍环境。周大爷心疼不已，未及多问便匆匆转账。直到当晚与儿子日常通话，方才得知被骗。这不是影视情节，而是利用“AI换脸换声”技术实施的新型诈骗，周大爷的遭遇正是其中典型一例。随着人工智能合成技术飞速发展并日益大众化，不法分子将其变为诈骗工具，而辨识能力较弱、情感牵挂深的老年人群体，正成为他们的重点目标。

不识“华山”AI流水线炮制谣言

　　2025年3月，上海警方接获线索，对网传“华山医院前院长”的不实信息进行核查。网安部门溯源发现，信息源头指向一个外省市的网络工作室。抓获犯罪嫌疑人王某某、郭某某、石某某后，其供述令人愕然：他们在发布这条信息前，“压根不知道有华山医院这家医院，更不知道‘张明远’这个人”。
　　真相的背后，是一条高效的“AI造谣流水线”。该团伙为牟取流量收益，搭建了一个由500余个自媒体账号组成的传播矩阵。他们的作案手法极具“现代气息”首先，从互联网上抓取各类社会热点、明星绯闻、健康养生等领域的“爆款”文章作为素材库；然后，将这些素材输入AI工具，以“变换语序”“制造冲突”“吸引点击”等为指令，进行自动化改写与拼接，生成全新的“故事”最后，通过技术手段将这些内容批量发布至其掌控的所有账号。
　　据警方查实，该团伙利用此模式，累计自动生成并发布了超过30万条不实帖文。他们的唯一“审核标准”是绕过平台对敏感词的过滤，对内容的真实性毫不关心。此案中，那条关于医院的谣言，正是这套冰冷算法在捕捉到“医疗”“名人”等关键词后，凭空“创作”出的产物。截至案发，该团伙通过流量分成非法获利，其行为造成了恶劣的社会影响。

技术滥用虚假内容泛滥成灾

　　除了直接实施诈骗，AI换脸换声技术的滥用，近些年已衍生出更为复杂的网络乱象，形成了一条灰色产业链。
　　记者在部分短视频及社交平台发现，使用AI生成的“虚拟人物”账号比比皆是。他们有的扮演“知心大姐”“国学大师”，有的冒充“在华外国人”发表特定言论，还有的打造“冻龄明星”分享生活，其共同点是利用高度拟真的形象与声音，输出情感鸡汤、伪科学知识甚至争议性内容，快速吸引以中老年用户为主的粉丝关注。积累一定流量后，便通过直播带货、销售课程、推广投资理财或保健品等方式变现。这些产品往往质量存疑，甚至涉嫌虚假宣传与非法经营。
　　2024年8月，公安部网安居公布案例，市民刘先生报案称其在2个月前通过一则短视频结交了网友“焦女士”，接触后感觉十分投缘。不久，“焦女士”称在外出游玩时为他请了一串手串，刘先生深受感动，两人迅速发展为恋人关系。随后，“焦女士”又称刚盘下一家服装店，希望刘先生能为她预订花篮支持开业，刘先生未多想就转账给了对方推荐的“花店老板”。接下来的一个月内，“焦女士”故伎重施，以家属生病、进货需要资金等理由，陆续向刘先生索要了近20万元。接报后，上海警方抽丝剥茧，逐步明确了一个以杨某为首的交友诈骗团伙。随着调查深入，民警发现该团伙组织严密且有明确分工，如在短视频平台上架视频的引流人员，与潜在被害人聊天的业务员，以及伪造相关聊天内容的“修图”人员，采取“流水化”诈骗作业。

山西消协发布防骗指南

　　近期，山西省消费者协会（以下简称“山西省消协”）发布警示，直指利用“AI换脸”“AI配音”（即“深度伪造”技术）实施的新型诈骗陷阱。此类骗局技术性强、手法新颖，对公众财产安全构成严重威胁，全社会须高度警惕，并协同防范。
　　警示中提到，技术滥用的诈骗新“剧本”通常会通过以下几步完成。信息搜集。他们在社交媒体(如抖音、微信视频号、微博)上搜集消费者或其亲友公开发布的视频语音，用于AI模型训练。制造假象。利用“深度伪造”技术，合成一段足以以假乱真的视频或语音。情境设计。编造一个紧急、需要立刻转账的理由，降低消费者的警惕性，让消费者没有时间思考或核实。实施诈骗。通过视频通话或发送语音、视频片段的方式联系消费者，要求转账。
　　当前高发的典型诈骗场景主要有3类。合成子女、父母或好友的视频，在视频通话中声称“遇到急事（如车祸、被抓）、需要钱周转、交学费”等，要求消费者向指定账户转账。视频里的“亲人”面容焦急，声音逼真，极具欺骗性。针对公司财务人员或普通员工，骗子冒充领导通过视频会议或发送指令视频，要求紧急支付合同款、保证金等。合成执法人员视频，声称涉嫌违法犯罪，要求消费者将资金转移到“安全账户”进行核查。
　　山西省消协提示，面对技术骗局，消费者须提高警惕牢记“三不二要”原则。其中，“三不”是底线，即不轻信，凡是通过视频、电话、短信等非见面方式要求转账汇款的，都要高度警惕，即使看到真人视频、听到熟悉的声音，也要保持怀疑，因为骗子会利用“紧急情况”制造恐慌，让消费者来不及思考；不转账，在未通过其他途径100%核实对方身份前，坚决不进行任何转账操作，这是守住钱袋子的最后一道防线，也是最关键的一道防线；不泄露，保护好个人及亲友的身份信息，谨慎在社交媒体上分享清晰的正面视频、含有声音的片段，特别是涉及身份证、银行卡等敏感信息的视频，同时设置好友权限，避免信息完全公开。
　　“二要”是关键，即要核实，如果“亲友”通过视频借钱，请务必挂断电话后，使用手机通讯录里存储的号码（而不是对方打来的号码或提供的号码）回拨过去，或通过其他共同认识的人进行核实，也可以和家人、挚友约定一个他人不知道的暗语或问题，在涉及大额资金往来时进行验证；要警惕，AI技术并非天衣无缝，仔细观察视频中的人物可能出现表情僵硬、眨眼不自然、口型对不上、声音有轻微电子音或断句不合理等现象，真正的公检法等司法执法机关绝不会通过视频或电话要求转账到“安全账户”，所有要求消费者保密、不能告诉任何人的行为都是诈骗的典型特征。

本报记者曹翀