新华视点：“AI诈骗潮”真的要来了？ 环球快讯

通过AI换【huàn】脸和拟声【shēng】技术，10分钟骗430万元；AI虚拟人在【zài】聊天中筛选出受害者，人工接【jiē】力实施诈骗……近期【qī】，多起宣【xuān】称利用AI技术实【shí】施诈骗的案件【jiàn】引【yǐn】发关注。

“新华【huá】视点”记者近日与公安部【bù】门【mén】核实确认【rèn】，“AI诈骗全【quán】国爆发”的消【xiāo】息不实，目前此【cǐ】类诈骗发案占比很【hěn】低。但公【gōng】安【ān】机【jī】关已注意到此犯罪新手法，将加大力度会同有【yǒu】关部门开展技术反制和【hé】宣传防范。

(资料图片仅供参考)

专家【jiā】表示，随【suí】着AI技【jì】术加速迭代【dài】，由于使用边界不清晰，涉诈【zhà】风【fēng】险正【zhèng】在积【jī】聚，需要高度警惕。

“换脸”式诈骗引发焦虑：你会被亲友的脸骗到吗？

近日，内蒙古包头警【jǐng】方通报一起利【lì】用【yòng】AI实施诈【zhà】骗的案件，福州市某公司法人代【dài】表郭先生【shēng】10分钟【zhōng】内被骗430万元。据通报【bào】，骗子通【tōng】过AI换脸和拟声技【jì】术，佯装熟【shú】人实施诈骗。

该案披露后，不少报【bào】道称【chēng】需警惕“AI诈骗潮【cháo】”到来【lái】，并曝【pù】光【guāng】多起类似案件。如【rú】江苏常州的【de】小刘被骗子冒充其同学发语音【yīn】、打视频【pín】电话，小刘看到“真【zhēn】人”后信以为真，“借”了6000元给骗子。

那么，“AI诈骗潮”是否真的到来了？

记者调查了【le】解到，AI在技术上【shàng】确实能【néng】做【zuò】到换脸、拟音，但被用来进行“广撒网【wǎng】”式诈骗需要具备【bèi】很【hěn】多条件【jiàn】。

一位被列入【rù】公安部专家库的民警告诉记者，这类诈骗如果得手必须做【zuò】到【dào】：收集到被换脸对象的个人身份【fèn】信息、大量人【rén】脸图片【piàn】、语音素材【cái】，通过AI生成【chéng】以假乱真的【de】音视频；窃取【qǔ】被【bèi】换脸对象的微信号；充分掌握诈骗【piàn】对【duì】象个人身份信息【xī】，熟悉其【qí】与被【bèi】换脸【liǎn】对象的社【shè】会关系，综【zōng】合【hé】作案成本很高。

他认为：“相关报【bào】道对一【yī】些案件的典【diǎn】型细节描【miáo】述【shù】不够准确【què】。AI涉诈【zhà】案件仍属零【líng】星发案状态。”他说，成熟的【de】类【lèi】型化诈骗【piàn】犯罪往往具有在全【quán】国多【duō】地集中爆发的特【tè】点，但当前【qián】没有成【chéng】规模的AI诈骗类案件发生。

公安机关【guān】研判，近期网上“AI换脸换声诈骗在全国爆发【fā】”传【chuán】言【yán】不实【shí】，全【quán】国此类案件【jiàn】发生不到10起，但该动【dòng】向值【zhí】得【dé】高【gāo】度【dù】关注。网上【shàng】一【yī】键换脸功能的App、小程序有【yǒu】技术滥用风险，需【xū】要加强技【jì】术防范反制等工作。

AI进入快速迭代期，涉诈犯罪风险正在积聚

“当前AI技术发展【zhǎn】来到螺旋式上升【shēng】的拐点，未【wèi】来几【jǐ】年【nián】技术迭代【dài】将【jiāng】会按月计算。”香港【gǎng】科技大学（广州）协理副校长、人工智能学域主任熊辉说【shuō】。

工信【xìn】部【bù】信息【xī】显【xiǎn】示，伴随AI技术【shù】快速发展，合成【chéng】技术【shù】门槛持【chí】续降低，逐渐向低【dī】算力、小样本学习【xí】方向演进，利用手机终端即可完成，对算力和数据的要求下降【jiàng】明显。同时，随着AI大【dà】模【mó】型的技术【shù】加持，正逐步【bù】由面部合成向全身、3D合成发展【zhǎn】，效【xiào】果更加逼真【zhēn】。

国家【jiā】开【kāi】发【fā】投资集团特级专【zhuān】家、厦门美亚柏科AI研【yán】发中【zhōng】心总经理赵建强【qiáng】表示，AI技术【shù】正加【jiā】速向网络诈【zhà】骗、虚假信息、色情等领域渗透。如在一些网络平台上【shàng】假冒明星【xīng】、公众人物【wù】生成视频图【tú】像，吸引网民。此外，AI技术【shù】也可【kě】能被【bèi】用来规模化地实施违法犯罪，如批【pī】量、自动【dòng】维护网络账号，发送虚假信息，模【mó】拟人工在线聊【liáo】天等【děng】。

值得【dé】关注的是【shì】，当前【qián】AI技术不再是实验【yàn】室的半成品，引发热议的【de】“换脸”“拟音”技术已【yǐ】有较成熟的【de】开【kāi】源软件，使用门槛低。

记者注意【yì】到，网络上不乏【fá】AI换脸教【jiāo】程。在国内【nèi】某知名App上【shàng】输入“换脸”，弹出的【de】高频检索记录显【xiǎn】示【shì】有“换脸软件”“换脸App免【miǎn】费”“换【huàn】脸视频怎么做”“换【huàn】脸算【suàn】法【fǎ】”等【děng】。一条【tiáo】名为“史上最强AI换脸软件正式上线了！技术门槛大大【dà】降低”的链接，介绍了一款换【huàn】脸软【ruǎn】件，通【tōng】过视频【pín】演示教程，手把手【shǒu】教授如何使用。

“老话说‘眼见为实【shí】’，但【dàn】今后眼睛看到的也不一定是真实的【de】。”北京【jīng】市天元律师事务所合【hé】伙人杨【yáng】虎城表【biǎo】示，未来涉及【jí】AI合【hé】成技【jì】术的诈骗、敲诈勒索等【děng】违法犯罪和肖像、名【míng】誉等民事侵权问题可【kě】能【néng】逐步【bù】显现。

“从现有【yǒu】案例看，这些【xiē】技术【shù】已【yǐ】被【bèi】不法分子【zǐ】利用。如假冒明星【xīng】换【huàn】脸【liǎn】直播、一键脱衣【yī】、造谣【yáo】、制【zhì】作色情视频等。虽然AI诈骗案【àn】件未成【chéng】气候，但这一趋势值得关注，必须【xū】提早防范。”一位反诈民警说。

工信部相关负责人【rén】表示，随着AI技【jì】术的不断【duàn】发【fā】展，通过少量图片、音【yīn】频信息合成特【tè】定视频，利用人工智【zhì】能模【mó】型【xíng】批量【liàng】设计诈骗脚本【běn】等成【chéng】为可能，客观【guān】上降低了电信网络诈骗的实施难度【dù】，AI类【lèi】新型犯罪爆发可能性进一步【bù】提升。

尽快完善相关法规制度，为AI技术发展立规划线

中国移动信息安【ān】全中心品【pǐn】质管理处【chù】副【fù】处长周晶告诉记者，近年来【lái】，国【guó】际国内各【gè】界在【zài】积极探索深度合成技术的有【yǒu】效治理路径，研判AI技术给社【shè】会带来的风险和【hé】潜【qián】在威胁【xié】，正【zhèng】设法将AI技术发【fā】展纳入一定规则【zé】中，做到安全可控。

业内人士建议【yì】，要加【jiā】强【qiáng】AI反制技术研究，“以AI制AI”。一些科技公【gōng】司【sī】正加强对图像、声音【yīn】伪造技术的反制【zhì】研究，在公安【ān】、金融的视频【pín】认证场景已有应用。有【yǒu】一线民警【jǐng】建议，要加【jiā】强AI安全技【jì】术应【yīng】用研发【fā】，将AI技术应用【yòng】于【yú】犯【fàn】罪识别、预警、对抗中，实现以“白”AI对抗【kàng】“黑”AI。

其次【cì】，加强源【yuán】头治理和【hé】行业引导【dǎo】，及时更新、完善相关法律、标准、规则，为AI技【jì】术发展【zhǎn】保驾【jià】护航。

“数【shù】据是AI犯罪的源【yuán】头，保护好公民【mín】的【de】个人隐私数据安【ān】全，就能在最大程度【dù】上【shàng】降低AI违【wéi】法犯罪的能力。”熊辉说。

中国互联【lián】网协会监管支撑部【bù】主任郝智超建议，AI技【jì】术发展【zhǎn】还要有相关法律法【fǎ】规来划【huá】红线、踩刹车。需进一步加【jiā】强对个人【rén】隐【yǐn】私数【shù】据泄露问题【tí】的关注，明确【què】信息【xī】监管【guǎn】红线，对AI技术【shù】的【de】研发、传播、使用做到有规可循，并根据技术发展实际情况，及时完善对技【jì】术服务商行为的规范【fàn】引导【dǎo】。

此外，还要【yào】有针对【duì】性地加强反诈【zhà】宣传。熊辉表示，未来AI可根据大【dà】数【shù】据【jù】创造出无比接近真实的“真实”。“要通过【guò】不【bú】断的【de】教育改【gǎi】变【biàn】大众观念，让【ràng】人【rén】知道眼见不一定为实，有图【tú】不一定有【yǒu】真相，提升对网络【luò】信息的辨识力。”他说。

公【gōng】安部【bù】有关负责人表示【shì】，当前，诈骗集团利用区【qū】块链、虚拟货币、远程操【cāo】控【kòng】、共享屏幕等新【xīn】技术新业态，不断更新【xīn】升级犯罪工具，与公安机关【guān】在通讯网络和转账洗【xǐ】钱等【děng】方面的攻防对【duì】抗不断【duàn】加【jiā】剧升级【jí】。公【gōng】安机关【guān】会同相关部【bù】门与诈骗【piàn】分子斗智【zhì】斗勇【yǒng】，不断研究【jiū】调整打击防【fáng】范措施，确保始终保【bǎo】持主动权。

工信部【bù】表示，下一步，将【jiāng】强【qiáng】化监管执法，积【jī】极会同网信、公安等【děng】部门【mén】，督促企业健全完善深【shēn】度合成【chéng】信【xìn】息管理及【jí】技术保障措施；鼓励【lì】技【jì】术攻关，凝聚产学研【yán】用各方力量，提【tí】升【shēng】深度合成风险【xiǎn】技术【shù】防范能力；加强行业自律，建【jiàn】立【lì】健【jiàn】全深度【dù】合成技术相关行业标准、行业准则和自律管理制度，督促指导【dǎo】深【shēn】度合成服务提供【gòng】者和【hé】技术支【zhī】持者制【zhì】定完善业务规范、依法【fǎ】开展业【yè】务【wù】和接受社会监督。

来源：新华社

流程编辑：TF016