“身旁的音音音频音平信息安全信用风险”我们是统计数据的造物主，或许也是频把频统计数据陷阱的被害者。泄露信用风险无所不在，去用为避免垃圾手机短信、什软蔬果垃圾电子邮件，好间断防止落入骗子，小心现保护财产名誉，诈欺装成关注身旁的秒音小统计数据，守护者信息安全迫在眉睫。台初

随著AI控制技术发展急速加速，许多人尝试借助相关辅助工具协助处理工作、夫音生活中的音音音频音平很多问题但是新控制技术也被一些犯罪分子借助信息安全公司McAfee去年4月面向全国7个国家开展的一项展开调查结果表明，10%的频把频初生受展开调查者曾遭受AI音频诈欺，梅塞县15%则表示知道他们遭受过类似于骗子。去用

南都大统计数据研究所察觉到，什软蔬果借助AI控制技术展开音频诈欺的事例并非上周北新早在2021年，我国中国公安部网安局就公布过类似于事例且随著AI控制技术应用门槛急速下降，上周国内部分互联网网络平台也陆续有网民发布基于明星音频片断训练而成、几可乱真的AI音频。

展开调查显示10%受展开调查者曾遇AI音频诈欺在最新控制技术的护持下，AI制备音频正愈来愈精巧，对话效果愈来愈好但是新控制技术也被一些犯罪分子借助McAfee去年4月面向全国美国、英国、法国、德国、澳大利亚、印度和日本7个国家的7054名初生受展开调查者开展展开调查。

结果表明10%的初生受展开调查者曾遭受AI音频诈欺，梅塞县15%则表示知道他们遭受过类似于骗子

McAfee展开调查结果表明，10%的初生受展开调查者曾遭受AI音频诈欺（T8300McAfee展开报告）展开调查结果表明，犯罪分子主要借助AI音频制备控制技术给被害者留下假的音频电子邮件，或者伪装成他们的挚友打电话给他们，以遭受意外事故、抢劫等借口引诱被害者提款。

在被害者中，有77%则表示在诈欺中经济损失了财物，其中三分之一则表示经济损失了超过1000英镑，更有7%则表示经济损失了5000-15000英镑McAfee首席控制技术官SteveGrobman称：人工智慧带来了不可思议的机会，但任何控制技术都有可能被蓄意采用。

这就是我们今天所看到的，AI辅助工具的获取和采用变得愈来愈容易，也让网络犯罪分子能够以更加难以揭穿的形式展开诈欺南都大统计数据研究所监测发现，AI音频诈欺正呈高发趋势据央视财经综合多家彭博社报道，上周美国和澳大利亚各省市采用AI制备音频展开电信诈欺的事例高发，许多受骗的都是老年人。

澳大利亚警方称，最近澳大利亚各省市都有许多类似于案件发生，所涉金额已达上百万澳元有被害者则表示，犯罪分子采用的人声和她儿子的人声简直十分相似去年3月，联邦贸易委员会（FTC）针对AI音频诈欺问题发出警示，提醒公众接电话时留心判断对方是布偶还是AI音频，并建议通过主动存储转发等形式验证发手机短信准确性。

联邦贸易委员会针对AI音频诈欺问题发出警示AI“老板”“挚友”口音精巧国内已有相关事例南都大统计数据研究所察觉到，借助AI控制技术展开音频诈欺的事例并非上周北新早在2019年，《华尔街日报》就曾报道，有诈欺分子借助AI模仿了英国某能源公司的母公司CEO人声，成功让该能源公司高管相信自己正在与母公司的老板通电话，并引诱其通过匈牙利供应商向诈欺分子提款22万欧元。

被骗高管则表示，在整个通话过程中，老板的德国口音非常精巧，使其对人声的准确性没有任何怀疑，直到被要求再次提款时才发觉了事件异常在立案展开调查后，警方发现资金被转到匈牙利供应商的银行账户，随后又转往墨西哥和其他地方，但嫌疑人的具体身份无法确定。

在国内，也有媒体曾于2019年报道犯罪分子借助AI控制技术制作布偶音频，然后通过社交网络平台伪装成被害者挚友骗取财物据新华社报道，2019年9月，市民陈先生收到朋友的一条微信音频，提出借款5000元因为收到“货真价实”的音频，陈先生并未怀疑，马上通过微信向其提款。

“挚友”见状又问陈先生可否再转9000元陈先生才警觉起来，通过电话联系该名挚友，发现自己受骗受骗经警方初步了解，诈欺分子通过获取陈先生挚友微信账号、密码及音频等信息，博取陈先生信任后，以“朋友”微信及音频对其展开引诱。

2021年初，中国公安部网安局曾发文提醒公众，注意防范制备人声和AI换脸等人工智慧新型诈欺手段据中国公安部网安局公布事例，2020年12月，国内某公司财务小王接到领导电话，要求立刻给供应商转款2万元，并将提款信息以电子邮件形式发送，转款理由是避免缴纳滞纳金。

由于老板的口音十分精巧，小王信以为真，在1小时内完成转款，后发现被骗提供3秒音频即可布季夫特定人物人声有业内人士指出，其实AI音频制备控制技术应用已久，例如地图导航的明星音频包便借助了类似于控制技术但以往制作这类音频包时，通常要求说话者在安静环境下念出一定量的录制文本，例如一篇5-10分钟的文章，供AI获取足够多的发音特征，再展开制备；如果遇到说话者没读过的生僻字，AI就可能出现发音失真等问题。

但是随著控制技术急速发展，如今AI已可对发音展开一定的推理模仿，即使是说话者从未读过的字眼，也能模仿出相似音色，因此对音频片断要求急速下降愈来愈低的控制技术应用门槛确实给犯罪分子提供了可乘之机McAfee展开报告也指出，其安全研究人员在互联网上发现了十几种AI音频制备辅助工具。

研究人员采用其中一种辅助工具展开测试，发现只要提供3-4秒的录音，这个免费AI辅助工具就能创造出一个约有85%相似的布季夫rap虽然信用风险显而易见，但AI音频制备控制技术的发展仍在急速加速去年1月，微软团队发布一个AI音频制备模型VALL-E。

据介绍，该模型只需要说话者读出3秒指定内容的音频作为训练片断，即可精确地模拟说话者的人声从已公开的制备音频效果来看，VALL-E不仅能还原说话者的音色，还能模仿说话者的愤怒、困倦、愉悦等多种情绪，甚至连说话者的环境背景音也能准确还原。

微软也意识到该模型可能助长恶作剧和欺骗的可能性在相关论文中，微软则表示“由于VALL-E可以制备符合说话人身份的音频，因此滥用模型可能会带来潜在信用风险，例如欺骗音频识别或伪装成特定说话人为了降低此类信用风险，可以构建一个检测模型来区分音频剪辑是否由VALL-E制备。

在进一步开发模型时，我们还将把微软人工智慧原则付诸实践”

微软团队发布名为“VALL-E”的AI音频制备模型国内互联网网络平台已出现rap布季夫音频南都大统计数据研究所监测发现，随著AI控制技术应用门槛急速下降，上周国内部分互联网网络平台也有网民发布基于明星音频片断训练而成、几可乱真的AI音频。

已故艺人、当红歌手、游戏角色……许多知名人物的rap布季夫作品已在互联网上公开在哔哩哔哩等互联网网络平台上，南都研究员发现许多网民已借助Sovits4.0、DiffSinger等开源AI项目制作以rap布季夫为主题的音频。

这些音频主要通过提取一个特定布偶的人声作为训练统计数据，让AI模型习得其声线，实现歌曲翻唱等目标从网络平台搜索结果可以看到，相关音频涵盖已故艺人、当红歌手、游戏角色等多领域的人物人声部分网民也在相关音频的评论区表达对这类AI控制技术的担忧。

有网民担忧AI控制技术可能被用于突破声纹识别、电话诈欺等场景防范建议：控制社交媒体可见范围与亲密联系人约定“关键词”面对借助AI人工智慧等新型手段的诈欺，中国公安部网安局2021年初曾提出三点防范建议：多重验证，确认身份。

在涉及钱款时，尽量通过电话询问具体信息，确认对方是否为本人保护信息，避免诱惑加强个人信息保护意识，对于不明网络平台发来的广告、中奖、交友等链接提高警惕，不随意填写个人信息，以免被骗子“精准围猎”相互提示，共同预防。

做好家中老人的宣传防范工作提醒老年人在接到电话、手机短信时，要放下电话，再次拨打家人电话确认，不要贸然提款McAfee也在其展开报告中针对AI音频诈欺提供了一些防范建议在防范被提取人声统计数据方面，McAfee建议网民在社交媒体分享内容时，考虑通过隐私设置将可见范围限制在朋友和家人身上：社交媒体内容的可见范围越广泛，信息泄露的信用风险就越大。

在防范AI音频诈欺方面，McAfee建议公众与家庭成员等亲密联系人约定一个“关键词”：一旦出现不同寻常的求助信息，可以用关键词来确认对方是布偶还是AI音频此外，公众对任何发手机短信都应该保持理性，可通过询问具体信息、存储转发号码等形式确认发手机短信者身份，切忌因一时激动而盲目采取行动。

出品：南都大统计数据研究所 信息安全治理与发展研究课题组采写：南都研究员 李伟锋