“AI换【huàn】脸”火了【le】，有人10分钟被骗400万，谁【shuí】来担责？丨【shù】亮见31期

丨划重点

1. 对AI生成内【nèi】容进行标记是法【fǎ】律【lǜ】法规要求【qiú】的，这【zhè】不意味着平【píng】台能完全免责，平台还【hái】需要履行技术【shù】识别、停止传输、处置措施和【hé】报告【gào】等责任【rèn】。

(资料图片)

2. 直播【bō】间使用明星面【miàn】孔，侵犯了明星的肖像权，还涉及到虚假宣传【chuán】、欺【qī】诈消费【fèi】者和不正【zhèng】当竞争【zhēng】等问题。

3. 如果在【zài】银行有能力【lì】识【shí】别非真实人脸的情况下间接【jiē】导致了AI换脸诈骗给储户造成损失，这种【zhǒng】情【qíng】况下可【kě】能【néng】需要担责【zé】。

4. 消费【fèi】者需【xū】要更加【jiā】重视【shì】个人信息的保护，尽量避免无必要的授权，可以【yǐ】拒绝使用要求【qiú】授权过多【duō】个人【rén】信息的应用。

丨概述

AIGC的爆火让人们看到了人工【gōng】智能日【rì】常应用的可【kě】能，其【qí】场景覆盖文字/图片/音【yīn】频/视频【pín】等形式的内容生成【chéng】，在特定领【lǐng】域，AIGC相关的内容的【de】质量【liàng】、可靠性已【yǐ】经远超【chāo】人【rén】类，然而这种高度【dù】的【de】“仿真”，也衍生出【chū】了新的问题——AI诈骗。

北【běi】京市岳【yuè】成律师事务所高级合【hé】伙人岳屾山【shān】认为，技术具有两面性，对待其态度不【bú】能一概而论，需要将其纳入【rù】法【fǎ】律框【kuàng】架下规范发展。而针对AI诈【zhà】骗，岳【yuè】律师认为个人信息泄露【lù】的情【qíng】况【kuàng】仍很普遍，普通人在使【shǐ】用相关【guān】设备和软件时需尽量避【bì】免无【wú】必要的授权，但【dàn】诈骗分子不【bú】断变化和“创新”，最根【gēn】本的防【fáng】范防【fáng】范还是保【bǎo】持【chí】警【jǐng】惕、提高对诈骗的认【rèn】知。

01

AI内容标记无法完全规避责任

刘兴亮：现在，许多平台【tái】对AIGC生成的内【nèi】容会有明确【què】风险【xiǎn】提示标【biāo】记，这种提示有效【xiào】吗？

岳屾山：标记是根【gēn】据法规明【míng】确规【guī】定的，要求新【xīn】技术和应用来制作、发【fā】布、传播非真【zhēn】实音视频信息，应该采用显著的【de】方式进行标【biāo】记。标记只是【shì】一种规避【bì】责【zé】任的方式，因为法律要求标【biāo】记，但并不【bú】意味着完全【quán】免除【chú】责任，除【chú】了标记之【zhī】外【wài】还【hái】有其他的义务需要履【lǚ】行。

例如，平【píng】台应该【gāi】部【bù】署一些【xiē】用于识别违法违【wéi】规【guī】音视频和非真实音视【shì】频【pín】的技术，如果发现违【wéi】反法律禁【jìn】止或规定的信息内容，必【bì】须【xū】依【yī】法停止传输【shū】这些信息，并采取删除等处置措施来防止信息的扩散。同时，还需要妥善保【bǎo】存相关记录【lù】，并向相【xiàng】关部门等进行报告。

所以，平台有很多义务【wù】需要履行【háng】，仅仅进行标记是不能【néng】完【wán】全免除责任的。

刘兴亮：新技【jì】术、新【xīn】应用带来的潜在风险【xiǎn】，我【wǒ】们【men】应该【gāi】采取什么样的态度【dù】对待？

岳屾山：因为涉及到较为技术性的内容，就我个人而言，对于新【xīn】的技术或应用，包括新的营商【shāng】模式和【hé】经营模【mó】式的出现，应该给【gěi】予适度的关注和宽松的环境来培育它们，看它们是否【fǒu】能够【gòu】发【fā】展【zhǎn】起来【lái】。

不过，对于人工智能换脸，目前没有看到多少正面评价。

不过，也有少【shǎo】量的人尝【cháng】试用这项技术“复活”已故亲人，以【yǐ】慰藉思念之【zhī】情，我认【rèn】为这可能【néng】是【shì】人工智能换脸【liǎn】技术对我们的生活和社会【huì】产生积【jī】极影响的一【yī】种可【kě】能性存在。

只要【yào】这项技【jì】术具有【yǒu】正面【miàn】意【yì】义的可能，对待它的态度就不能【néng】一“封”了之，应在现有的【de】法律框架内对其【qí】进【jìn】行必要【yào】的规【guī】制，以避免它成为【wéi】一匹脱【tuō】缰的野马。

02

“AI孙燕姿”存在诸多侵权风险

刘【liú】兴亮【liàng】：关于【yú】AI孙燕姿的【de】话题，最近孙燕【yàn】姿发【fā】布相关声明，意思是不会去追【zhuī】责，这种情况下用户【hù】能随便使用【yòng】吗？

岳屾山：AI换脸明星翻唱，涉及的法律问题主要涉及肖像权。

民法【fǎ】典规定，未经【jīng】他人同意【yì】使【shǐ】用他【tā】人肖像属【shǔ】于肖像侵权【quán】，使用AI换脸【liǎn】就【jiù】存在这种【zhǒng】可能性，特别【bié】是在直播间中使【shǐ】用【yòng】明【míng】星的面孔进行直播，明显侵犯了明星的肖【xiāo】像权，因为【wéi】明星不可能授权他人使用他们的【de】面孔进行直播【bō】。另外，这种行为还涉及到虚假宣传、欺诈【zhà】消费者和不正当【dāng】竞争等问题。

直播中的AI换脸，来源：网络

有关“声音”的权利，民法典明【míng】确了将其按【àn】照肖像权规定处理。如果孙燕姿未允【yǔn】许他人【rén】使用其声音，就会【huì】构【gòu】成侵权，并且可【kě】能还涉及【jí】侵犯姓名权的问题。此【cǐ】外，如【rú】果【guǒ】使用她的歌曲进行商业活动，还需要支付【fù】费用，并【bìng】可能【néng】需要获得词曲【qǔ】作者等进行著作【zuò】权的授权【quán】。

刘兴亮：以银行转账【zhàng】为【wéi】例，转账过程中，因为人脸识别被骗，谁【shuí】来【lái】承担责任，银行需【xū】要担责【zé】吗【ma】？

岳屾山：转账过程人脸验证【zhèng】，会有眨眼【yǎn】、摇头等动作的验证，如果这【zhè】个过程【chéng】中遭遇诈【zhà】骗【piàn】，银行是【shì】否【fǒu】需【xū】要担责，取决于银行在人脸识【shí】别技术方面是否存在一些罕见的漏洞【dòng】。比【bǐ】如，通过【guò】调用【yòng】摄像头时，银行【háng】APP能否辨认出【chū】真实的摄像头，或者是否【fǒu】使用了【le】其他技术手段【duàn】对人脸进行了【le】改变。

如果在银行有能力识别非真实人脸的情况【kuàng】下，因【yīn】为诈【zhà】骗分【fèn】子通过第三方【fāng】设【shè】备，比如通【tōng】过摄像头画面欺骗了【le】银行的人脸识别系统【tǒng】，（给储【chǔ】户带来了直接损失），这种情况下银行可能【néng】需要担责；如果【guǒ】技【jì】术监测【cè】确【què】实发现银行无法【fǎ】识别出这种情况，即【jí】技术无【wú】法达【dá】到防止欺【qī】诈的要求，就不能要求【qiú】银行承【chéng】担【dān】责任。

除了银行，也需要考虑平【píng】台是否有【yǒu】发现欺诈行为的标志，是否【fǒu】具【jù】备【bèi】识别【bié】的义务等，如果【guǒ】平台【tái】违反了这些【xiē】义【yì】务，相应地就要【yào】承担责任。

但实际上，很多【duō】诈骗行为都【dōu】是点对点进行，银行【háng】或平台很【hěn】少直接参与其中，诈【zhà】骗分【fèn】子【zǐ】往往会规避【bì】银行或平【píng】台的验证【zhèng】方式【shì】，以尽量【liàng】减少被发现的可能，毕竟这是一种【zhǒng】犯罪行为。

03

防范数据泄露，是反诈骗的核心

刘兴【xìng】亮：现在有很多观点认【rèn】为我们目前防范AI诈骗【piàn】关【guān】键在【zài】于防范数【shù】据泄露，这种观点你【nǐ】认同【tóng】吗？

岳屾山：个人【rén】信息【xī】泄露的问题一直都非常严重。电【diàn】信【xìn】诈骗之所以成功的一大【dà】原【yuán】因就是因为诈骗者获取了相应的【de】个【gè】人信息。

刑法中有关个人【rén】信【xìn】息保护的方面【miàn】规定了【le】非法泄露公民个【gè】人信息属于侵犯【fàn】个人【rén】信息罪，需要【yào】追究【jiū】责【zé】任。在民法典的《消费者权益保护法》、《数据安全法》、《网络安【ān】全【quán】法》等【děng】法律中【zhōng】，都要【yào】求企业在【zài】收集【jí】个人信息时必须遵循合法、正当和【hé】必【bì】要的原则。特别是【shì】对于涉及人脸【liǎn】等生物特征【zhēng】的信【xìn】息，属于敏【mǐn】感信息【xī】，每次收【shōu】集都需要单独获得用户的【de】同意【yì】，并受到其他限制性规定的约束。

这些法律【lǜ】法规【guī】，旨在保护我们的【de】个人隐私，并要求所有收集到【dào】个人信息的【de】企业，在处【chù】理和使【shǐ】用时【shí】都必须严格按照约定和法【fǎ】律规定【dìng】进行，并具备必要的技【jì】术和【hé】软件条件来保护信息不被泄【xiè】露【lù】。

所【suǒ】以，消【xiāo】费者需要更加重视个【gè】人信【xìn】息的保护，尽【jìn】量避免无必要的授权【quán】。如果某个应用要求我们【men】授权过多【duō】的个人信息，可以拒绝授【shòu】权，即使【shǐ】这样可能【néng】导致【zhì】无法使用应用。现在法律【lǜ】也有明确，应用不【bú】允许索取过多个人信息【xī】相关权【quán】限，且不能【néng】拒绝用户使【shǐ】用。

例如，以前我们使【shǐ】用某【mǒu】个导航【háng】软件要求访问通讯录，实际上只需要位置信息【xī】即可，这种情况下，《国【guó】家的网【wǎng】络安全法【fǎ】》、《数【shù】据安全法》和《个人信息保护法【fǎ】》等都【dōu】进行了详【xiáng】细的规定【dìng】。

另外，诈骗分子通常会使用各种手段筛选目标客户，比如发送大量的短信，他们【men】不【bú】需【xū】要知道每个人的具体个【gè】人【rén】信息【xī】，而是通过【guò】通用的手法来【lái】吸引潜在受害者【zhě】的注意力。比如最近的“上门枪决”短信，诈骗分【fèn】子不需要每个人都相信【xìn】，只需要找到那些容易【yì】受骗的【de】人，这种【zhǒng】方式可以帮助【zhù】诈骗【piàn】分子【zǐ】最【zuì】大限【xiàn】度地减少【shǎo】成本并加快筛选的速度。

近期在网络中热议的“上门枪毙”诈骗短信，来源：网络

04

技术不是万能的，治理与监管关键在人

刘兴亮【liàng】: 对AI换脸【liǎn】诈骗的治【zhì】理和监管【guǎn】还需要哪些主【zhǔ】体，以什【shí】么样的形式参与？

岳屾山：社会治理的层面确实是多主体参与【yǔ】的，这【zhè】样才能形【xíng】成【chéng】良好【hǎo】的氛围【wéi】。在制定规则和【hé】框架方面【miàn】，一方面【miàn】是在政府层面或立法【fǎ】层【céng】面进行，需要有【yǒu】相应规【guī】则和标准来【lái】界定【dìng】诈骗行为，这些规【guī】则可能需要在立法层面【miàn】进行制定，包括对其性质和标准的界定等。

另外，通过立法或政府的行政【zhèng】政策可能需要【yào】一【yī】定【dìng】时间，存【cún】在不【bú】及时的【de】可能，所【suǒ】以【yǐ】很多时【shí】候可以通过行【háng】业协会的形式提【tí】前制定一些规范或【huò】标准，虽然它【tā】们【men】可【kě】能没有强制力，但可以起到引导作用。

针对法律【lǜ】法【fǎ】规【guī】在落【luò】地过程中【zhōng】的执行，需要执法部门加【jiā】强监管，且这种【zhǒng】场景也【yě】考验监【jiān】管的技术，我【wǒ】认为这种情况下双方都在看谁【shuí】的技术更高超，谁能够限【xiàn】制住这种【zhǒng】行为。技术本身并不是万能的，它的应用取决于人们如何使用和管理。

刘兴亮：针对不同的主体行为的规范，目前有哪些具体的法律法规？

岳屾山：目前【qián】在互【hù】联网信息服务【wù】深度合【hé】成【chéng】管理规【guī】定方面【miàn】已经有一【yī】些具体的规定，特别是针对人工智能和AI换脸等技术。

今年4月【yuè】份，互联网【wǎng】信息办公室发【fā】布了关于生成式人工智【zhì】能【néng】服务管理办法的征求意【yì】见稿，进【jìn】一步规范【fàn】了相关服【fú】务的管理。通过这【zhè】些规定，针对人工智能和AI换脸等【děng】方面【miàn】有【yǒu】了较为直接的【de】管理【lǐ】措施。

国家法律层面【miàn】也有一些原则层面的法【fǎ】律和规定【dìng】，包括《民法【fǎ】典【diǎn】》、《网络安全法【fǎ】》、《数据安全法》、《互联网信息【xī】服务管理办法》等，这些法律和规定都涉【shè】及到保护个人信息和肖像【xiàng】权，以及【jí】对实施【shī】诈【zhà】骗等行为【wéi】应承担【dān】的责任，为相关问题提供【gòng】了一定的规范【fàn】。

刘兴亮：普通人在遭遇AI诈骗时应该怎样处理，有什么建议吗？

岳屾山：作【zuò】为一名律【lǜ】师【shī】，我认为对于那些侵【qīn】犯【fàn】他人权【quán】益的行为，尤其是在涉及AI诈骗【piàn】和【hé】肖像侵权的行为，受害者可以【yǐ】采取一些维权措施，以避【bì】免【miǎn】他【tā】人随【suí】意使用其肖像等信息，这种动作可以防止肖像被滥用，并对软件【jiàn】的【de】使用和研【yán】发产生一定【dìng】的约束。

我建【jiàn】议加强对肖像权的保【bǎo】护，特别【bié】是在如今AI换脸技【jì】术【shù】如此便利的情况下。除【chú】了个人【rén】的【de】自我【wǒ】保护外，平台和执法机构也【yě】应承担起相应【yīng】的责任，确保提供一种【zhǒng】便捷的【de】维权途径【jìng】。

除了肖像权【quán】，类似问题也会【huì】涉及到【dào】著【zhe】作权，如果消费者的肖像被制【zhì】作成视频【pín】并由他人传播【bō】和使用【yòng】，这涉及到【dào】视听节目的【de】内容【róng】，平台可能更多地【dì】基于著作权方【fāng】面【miàn】的处理和保护，而不是针【zhēn】对肖像或其他【tā】行为【wéi】。

在【zài】这方面，我【wǒ】建议更多地依赖【lài】平【píng】台。平【píng】台【tái】应该及时发现这类侵权行为【wéi】，并提供便捷的投诉渠道或途【tú】径，以便【biàn】及时处理这【zhè】些问题【tí】。

另外【wài】，正如我们一直在讨论的那样，法律的【de】威【wēi】慑【shè】力往往不是来自其严苛程度，而是来自于执法【fǎ】的及时性。对于那些实施侵【qīn】权行【háng】为的用户【hù】，平台方面应该采取相【xiàng】应的惩罚或【huò】限制措施。这【zhè】完全可以【yǐ】在平台自身的范【fàn】畴内实施，根据相关【guān】的用户协议和约定对其进【jìn】行【háng】惩罚和【hé】限制。通【tōng】过【guò】这样的方式，可以尽量【liàng】减少侵权行为的发【fā】生，因为【wéi】侵权有【yǒu】时候【hòu】会成为一【yī】种上瘾的行【háng】为【wéi】。