“AI换【huàn】脸”火了，有人10分钟被骗【piàn】400万，谁来担责？丨亮【liàng】见【jiàn】31期

丨划重点

1. 对AI生成内容进行标记是法律法【fǎ】规【guī】要【yào】求的，这不意【yì】味着平台能完全免责【zé】，平台还需要履行技术识别、停止传输、处置【zhì】措施【shī】和报告【gào】等责任【rèn】。

(资料图片)

2. 直播间使用【yòng】明星面【miàn】孔，侵犯了明星的【de】肖像【xiàng】权，还涉【shè】及到虚【xū】假【jiǎ】宣传、欺诈消费者和不正当竞争【zhēng】等问题。

3. 如果在银行有能力识【shí】别非真【zhēn】实人脸的情【qíng】况【kuàng】下间接【jiē】导致了AI换脸诈骗给储【chǔ】户造【zào】成损失，这种情况下可能需要担责。

4. 消费【fèi】者需【xū】要更加重视个人【rén】信息的保护，尽【jìn】量避【bì】免无必要【yào】的授权，可以拒绝使用要【yào】求授权过多【duō】个人信息的应【yīng】用。

丨概述

AIGC的爆火让人们看到了人【rén】工智能日常应用的可能，其场景覆盖文字/图【tú】片/音频【pín】/视频等形式的内【nèi】容生【shēng】成，在特定领【lǐng】域，AIGC相关的内容【róng】的【de】质【zhì】量、可【kě】靠性已经【jīng】远超人类，然而这种高度的【de】“仿真”，也衍【yǎn】生出了【le】新的问题【tí】——AI诈骗。

北京市岳【yuè】成律师事务所高【gāo】级合伙人岳屾【shēn】山【shān】认【rèn】为【wéi】，技术具【jù】有两【liǎng】面【miàn】性，对【duì】待其态度不能一概而论【lùn】，需要将其纳入法律框架下规范发展。而针【zhēn】对【duì】AI诈骗，岳律师认为【wéi】个人信息泄露的情【qíng】况仍很普遍，普通人在【zài】使用【yòng】相关【guān】设备和软件时需尽量避免无必要的授【shòu】权，但诈【zhà】骗分子不断变化和“创新【xīn】”，最根本的防范防范还是保持警【jǐng】惕【tì】、提高【gāo】对诈骗的认知。

01

AI内容标记无法完全规避责任

刘兴亮：现【xiàn】在【zài】，许【xǔ】多平台对AIGC生【shēng】成的【de】内容会有【yǒu】明【míng】确风险提示标记，这种提示有效吗？

岳屾山：标【biāo】记是根【gēn】据法【fǎ】规明【míng】确规定的，要求新【xīn】技术和应【yīng】用来制【zhì】作、发布、传播非真实【shí】音【yīn】视频信息，应该采用显著【zhe】的方式进行标记。标记【jì】只是一种规避责任的方【fāng】式，因【yīn】为法律要求标记，但并不意味【wèi】着【zhe】完【wán】全免除责任，除了标记之外还【hái】有其他的【de】义务需要履行。

例如，平【píng】台应【yīng】该【gāi】部署一些用【yòng】于识【shí】别违法违【wéi】规【guī】音视频【pín】和非真【zhēn】实【shí】音视频【pín】的技术，如果发现违反法律禁止或规定的信息内【nèi】容【róng】，必须依法停【tíng】止传输【shū】这些信息，并采取删除等处置措施来防止信息的扩散。同时，还需要【yào】妥【tuǒ】善保存相关记录【lù】，并向相关部门等进行报告【gào】。

所以【yǐ】，平台有很多义务【wù】需要履行，仅仅进行标记是【shì】不能完全【quán】免除责【zé】任的。

刘兴【xìng】亮：新【xīn】技术、新【xīn】应用带来的潜【qián】在【zài】风险，我们应该采【cǎi】取【qǔ】什么样的态度对待？

岳屾山：因为涉及到较为技术性的内容，就我个人而言，对【duì】于新的技术或应用，包括新【xīn】的营商模式【shì】和经营模式的出现【xiàn】，应该【gāi】给予适度的关注和宽松的【de】环境来【lái】培育【yù】它们，看【kàn】它们是否【fǒu】能够发展【zhǎn】起来。

不过，对于人工智能换脸，目前没有看到多少正面评价。

不过，也有少量的人【rén】尝试【shì】用这【zhè】项技术“复活”已故亲人，以【yǐ】慰藉思【sī】念之情，我【wǒ】认为这【zhè】可能【néng】是人工智【zhì】能换脸【liǎn】技术【shù】对我们的生活和社会产生积【jī】极影响的一种可能性【xìng】存在。

只要这【zhè】项技术具【jù】有【yǒu】正面意义的可能，对待【dài】它的态度就不能一“封【fēng】”了之，应在现有【yǒu】的【de】法律框架内对其【qí】进行必要的【de】规制【zhì】，以避免它成为一匹【pǐ】脱缰的【de】野马。

02

“AI孙燕姿”存在诸多侵权风险

刘兴亮：关于AI孙燕姿的话题，最近【jìn】孙燕姿发布相关声【shēng】明【míng】，意【yì】思是不【bú】会去追责，这【zhè】种情【qíng】况下用户能随便使用吗【ma】？

岳屾山：AI换脸明星翻唱，涉及的法律问题主要涉及肖像权。

民法典规定，未经他人【rén】同意使用他人肖像【xiàng】属于肖像【xiàng】侵【qīn】权，使用AI换脸【liǎn】就存在这种可能性，特别是在直【zhí】播【bō】间中使用明星【xīng】的【de】面孔【kǒng】进行直播，明显侵犯了明星的肖像权，因【yīn】为明【míng】星不可【kě】能授权他人使用【yòng】他们的面孔进行直【zhí】播。另【lìng】外【wài】，这种行【háng】为还涉及到虚假宣传、欺诈消【xiāo】费者和不【bú】正当竞【jìng】争等【děng】问题。

直播中的AI换脸，来源：网络

有关“声音【yīn】”的权利，民法典明【míng】确了将其按【àn】照肖【xiāo】像权【quán】规定处理【lǐ】。如果孙【sūn】燕姿未【wèi】允许他人使用其声音【yīn】，就会构成侵权，并且【qiě】可能还涉及侵犯姓名权的【de】问题。此外，如果使用她的歌曲进行商业【yè】活动，还需要支付【fù】费用【yòng】，并【bìng】可能需要【yào】获得词【cí】曲作者等进行著作权的【de】授【shòu】权【quán】。

刘兴【xìng】亮：以银行【háng】转账为例，转账过程中【zhōng】，因为人脸识【shí】别被骗，谁来承担【dān】责【zé】任，银行【háng】需要担责吗？

岳屾山：转账过程人脸验证，会有眨【zhǎ】眼【yǎn】、摇头等动作的【de】验证，如果【guǒ】这个过程中遭【zāo】遇【yù】诈骗，银行是否需要担【dān】责，取决于银行在人【rén】脸识别技术方面是否存【cún】在【zài】一些罕见的漏【lòu】洞。比【bǐ】如，通过调【diào】用摄【shè】像头时，银行APP能【néng】否辨认出真实的摄像头【tóu】，或者是否使用了其【qí】他技术手【shǒu】段对人【rén】脸进【jìn】行【háng】了改变。

如【rú】果在银行【háng】有能【néng】力【lì】识别非真实人脸的情况下，因为诈骗【piàn】分子通【tōng】过第三方【fāng】设【shè】备，比【bǐ】如通【tōng】过摄像头画面欺骗了银行【háng】的人脸【liǎn】识别系统，（给储户带来【lái】了直【zhí】接【jiē】损失），这种情况下银行可【kě】能【néng】需要担责；如果【guǒ】技术监测【cè】确实发现银行无法识别出这种情况，即技术无法达到防【fáng】止欺诈的要求【qiú】，就不能要【yào】求银行承担责任【rèn】。

除了银行，也需要考虑【lǜ】平台是否有发【fā】现欺诈【zhà】行为的标【biāo】志，是否【fǒu】具备【bèi】识【shí】别的义【yì】务等，如果平台违反了这些【xiē】义【yì】务，相应地就要承担责任【rèn】。

但【dàn】实际上，很多【duō】诈骗行为都是【shì】点对点进行，银行或平【píng】台【tái】很【hěn】少直接参【cān】与其中，诈【zhà】骗分子往往会规避银行或平台的验证方式，以尽量减少被发现的可能【néng】，毕竟这是一【yī】种【zhǒng】犯罪行为。

03

防范数据泄露，是反诈骗的核心

刘兴【xìng】亮：现在【zài】有很多观【guān】点认为我们目前防范AI诈骗【piàn】关键在【zài】于防范数【shù】据泄露，这【zhè】种观点你认同吗？

岳屾山：个人信息泄露的问题一【yī】直都【dōu】非常严重。电【diàn】信诈【zhà】骗之所以成功的一【yī】大原因就【jiù】是因为诈骗者【zhě】获取【qǔ】了相应【yīng】的个人信息。

刑法中有【yǒu】关个【gè】人信息保护的方面规定了【le】非【fēi】法泄【xiè】露公民个人信息属于侵犯个人【rén】信【xìn】息罪，需要追究【jiū】责任。在【zài】民法【fǎ】典的《消费者权益保【bǎo】护【hù】法》、《数据安全法【fǎ】》、《网络安全法》等法律中，都要求企业在收集【jí】个人信息时【shí】必须遵【zūn】循合法、正【zhèng】当和必【bì】要【yào】的【de】原则。特别是对于涉及人脸等生物特征的信息，属于敏感信息【xī】，每【měi】次收集都【dōu】需要单独【dú】获得用户的【de】同【tóng】意【yì】，并受【shòu】到其他限制性规定的约束。

这些法律法规，旨在保【bǎo】护我们的个人隐私【sī】，并【bìng】要求【qiú】所有收集【jí】到个人信【xìn】息的企业，在处理【lǐ】和使用时都必须严【yán】格按照约【yuē】定和法律规定进【jìn】行【háng】，并具备必要【yào】的技术和软件条件来保护【hù】信息不被泄露。

所以，消【xiāo】费者需要更加重视个人信息的【de】保护，尽量避免无【wú】必【bì】要的授【shòu】权【quán】。如果【guǒ】某个应用要求我们授权过多【duō】的个人信【xìn】息，可以拒绝授权，即使这样【yàng】可【kě】能【néng】导致无法使用应【yīng】用【yòng】。现【xiàn】在法律也有明确，应【yīng】用不【bú】允许索取过多个人信息相关权【quán】限，且不能拒绝用【yòng】户使用。

例如，以【yǐ】前我【wǒ】们使用某个【gè】导航【háng】软件【jiàn】要求访问【wèn】通【tōng】讯录，实际上只需要位【wèi】置信息即可，这种【zhǒng】情况【kuàng】下，《国家的网络安【ān】全法》、《数据安全法【fǎ】》和《个【gè】人信【xìn】息保护法》等都进行了详细的规定。

另外，诈骗分子通常会使用各种手段筛选目标客户，比如发送大量的短信，他们不需要【yào】知【zhī】道每个【gè】人的具体个人信息，而是通过通用的手法【fǎ】来吸【xī】引【yǐn】潜在受【shòu】害者的注意力。比如最近的“上门枪决”短信，诈骗分子【zǐ】不需要每【měi】个人都相信，只需【xū】要找到【dào】那些【xiē】容易受骗【piàn】的人【rén】，这种方【fāng】式可以帮【bāng】助诈骗【piàn】分子最【zuì】大限度地减少成本并加快筛选的速度。

近期在网络中热议的“上门枪毙”诈骗短信，来源：网络

04

技术不是万能的，治理与监管关键在人

刘兴【xìng】亮: 对AI换脸诈骗【piàn】的治理和监管还【hái】需要哪些主体，以什【shí】么样【yàng】的形式参与？

岳屾山：社会治理的【de】层面【miàn】确实是【shì】多主体参与【yǔ】的【de】，这样才能形成【chéng】良【liáng】好的氛围。在制定规则【zé】和框架方面，一方面【miàn】是【shì】在政府【fǔ】层面或立法层面进行，需要有相应规则和标准来【lái】界定诈骗行为，这些规则【zé】可能需要在立【lì】法层面【miàn】进【jìn】行制定，包括对其【qí】性质【zhì】和【hé】标准的界定等。

另外，通过立法或政【zhèng】府的行【háng】政政策可【kě】能需【xū】要一定时间【jiān】，存在不【bú】及时的可能，所以很多时候可以通【tōng】过行业协会的【de】形【xíng】式提前制定一些规【guī】范或标准，虽然它【tā】们可能没有强制【zhì】力，但可以起到【dào】引【yǐn】导【dǎo】作【zuò】用。

针对法律法规【guī】在落地过程中【zhōng】的执行，需要执法部门【mén】加强监管，且这种场【chǎng】景也【yě】考验监【jiān】管的技术，我【wǒ】认为这种【zhǒng】情况下双方都在看谁的技【jì】术更高超，谁【shuí】能【néng】够【gòu】限【xiàn】制住这种行为。技术本身并不是万能的，它的应用取决于人们如何使用和管理。

刘兴亮：针对不同的主体行为的规范，目前有哪些具体的法律法规？

岳屾山：目前在【zài】互联【lián】网信息服【fú】务深度合成管理规【guī】定方【fāng】面已经有一些【xiē】具体的规【guī】定，特别是针对人【rén】工智能和AI换脸等技术【shù】。

今年4月份，互联网信息办公【gōng】室发布【bù】了关【guān】于生【shēng】成式人工智【zhì】能服务管理办法的征【zhēng】求意【yì】见稿【gǎo】，进【jìn】一步规范了【le】相关服务的【de】管理。通过这些规定，针对【duì】人工智能和【hé】AI换脸【liǎn】等方面有了较为直接的管理【lǐ】措施。

国家法律层面【miàn】也有一些原【yuán】则【zé】层面的法律和规【guī】定，包括《民法典【diǎn】》、《网【wǎng】络安全法》、《数据安全【quán】法》、《互联网【wǎng】信【xìn】息服务管理办法》等，这些法律和【hé】规定都涉及到保护个人信息和肖像权，以及对实施【shī】诈【zhà】骗等【děng】行为应承担【dān】的责任【rèn】，为相【xiàng】关问【wèn】题提供【gòng】了一定【dìng】的规范【fàn】。

刘兴亮：普通人在遭遇AI诈骗时应该怎样处理，有什么建议吗？

岳屾山：作为一名律师【shī】，我【wǒ】认为对于那些侵【qīn】犯他人权益【yì】的行为【wéi】，尤其是在涉及AI诈骗和肖像侵【qīn】权的行为，受害者可以采取一些维权【quán】措施，以避【bì】免他【tā】人随意使用【yòng】其【qí】肖像等信息，这种【zhǒng】动作可以防止【zhǐ】肖像【xiàng】被滥用，并对软件【jiàn】的使用和【hé】研发产生一【yī】定【dìng】的约束【shù】。

我建议加【jiā】强对肖像【xiàng】权的保护，特【tè】别是在如今AI换脸技术【shù】如此【cǐ】便利的情况【kuàng】下【xià】。除了个人的自我保护【hù】外，平台和执【zhí】法机构也应承担起相应的责任，确保【bǎo】提供【gòng】一种便捷【jié】的【de】维权途【tú】径。

除了【le】肖像权，类似问【wèn】题也会涉【shè】及到【dào】著作权，如果【guǒ】消【xiāo】费者的肖像被制【zhì】作成视频【pín】并由他人传【chuán】播和使用，这涉【shè】及到视听节目的内容，平台可能【néng】更多地基于著作权方面的【de】处理和【hé】保【bǎo】护，而【ér】不【bú】是针对肖像或其他行为。

在这【zhè】方面，我建议更【gèng】多【duō】地依赖平台。平台应【yīng】该及时发现这类【lèi】侵权行【háng】为，并提供便捷【jié】的投诉渠道或途径【jìng】，以便及时处理这些问【wèn】题。

另外，正【zhèng】如我【wǒ】们一直在讨论的那样，法律【lǜ】的【de】威慑【shè】力【lì】往往不是来【lái】自【zì】其严苛【kē】程度，而是来自于执法【fǎ】的【de】及时【shí】性。对于那些实施侵权【quán】行为的用【yòng】户，平台方面应该采取相【xiàng】应的惩罚或限【xiàn】制措施。这完全可以在【zài】平台自身的范畴内【nèi】实施，根据相关的用户协议和约定对其进行惩罚和【hé】限制。通过【guò】这样【yàng】的方式，可【kě】以【yǐ】尽量减【jiǎn】少侵【qīn】权行为的发【fā】生【shēng】，因为侵权有【yǒu】时候会【huì】成为一种上瘾的行为。