莫名其妙被换脸？AI使用有边界

您现在的位置 :

首页 > 行业动态 > 正文

时间 :2023-07-12 09:19:58 来源 : 中国妇女

AI（人工智能）是由人类生产制造出来，具有一定思考能力、能够模拟人类行为的一种计算机技术。如今，AI合成技术得到广泛应用，在带给人们便利的同时，有时也会被不法分子利用。

左右滑动查看更多

(相关资料图)

本文刊于《中国妇女》杂志

换脸换装，屡屡踩“线”

2023年3月，一则“女子地铁照被AI一键脱衣”的消息在网上发酵，并冲上微博热搜。

照片上的女子是一名博主，她于2022年7月在社交平台发布了一组在地铁上拍摄的穿搭照片，却被人用AI软件“一键脱衣”，故意在网上散播。

事件愈演愈烈，严重损害了她的声誉和形象。该女子表示会采取相应的维权措施，并希望能够引起人们对于隐私权和个人形象保护的关注。

2023年4月26日，一名在社交平台有百万粉丝的网红博主发文称，有人盗用了她的“脸”。大约在半年前，在她发布视频的评论区，有多人留言说看过她的“不雅视频”。

本着清者自清的原则，她没进行任何回应，但当朋友给她发来一些视频截图时，她才意识到自己的“脸”被盗用了。随后，她发现在境外社交平台上有人冒充她注册了假账号，先是搬运其社交账号的日常内容，积累了一定的粉丝，然后以会员订阅的方式贩卖视频。

因AI合成技术被侵权的事件并不在少数。此前，一名叫李丽的模特发现，一家公司运营的AI换脸APP，照搬自己的古风造型视频模板，用户只需上传个人照片，就可将模板中的脸替换成任意一个人的脸，除五官发生实质性变化外，其余内容都与原视频一致。为了维护权益，李丽告到法院。

法院认为，运营公司未经李丽同意，通过技术手段提取古风造型视频，擅自上传至其运营的APP供用户使用，侵害了李丽的肖像权，判决其向李丽赔礼道歉，并赔偿5000元。

发现侵权，及时止损

近年来，随着AI合成技术的逐渐成熟，换脸、换装、变声等曾经在科幻电影中出现的场景，走进了现实生活中。然而，科技在给大众提供娱乐的同时，有时也会埋下信息安全隐患。

那么，应用AI合成技术可能侵犯哪些权利？哪些利用AI合成技术的行为涉嫌犯罪？一旦被侵权，应当如何保护自己？

针对这些问题，北京盈科律师事务所合伙人李娜作出了解答。

Q：应用AI合成技术可能侵犯哪些权利？

A：如果未经他人允许，使用AI合成技术对他人的照片进行擅自修改甚至丑化，可能侵犯肖像权。如果在修改他人照片时，还采取了虚构事实的方式，使得社会公众产生了负面的认识，造成他人的社会评价降低，就会侵犯名誉权。

民法典规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。

未经肖像权人同意，不得制作、使用、公开肖像权人的肖像。如上文中提到的“女子地铁照被AI一键脱衣”，从民事侵权的角度来讲，照片发布者的行为已经构成严重侵权，应当立即停止侵权行为，赔礼道歉、消除影响，恢复当事人的声誉并赔偿损失。

此外，自然人享有的私人生活安宁与私人信息秘密依法受到保护，如果AI修图换脸等行为使他人的正常生活受到干扰，就会侵犯隐私权。如果利用AI合成技术对原有作品进行修改或覆盖，还可能侵犯著作权。

Q：哪些利用AI合成技术的行为涉嫌犯罪？

A：一些基于AI合成技术生成的虚假广告、诈骗邮件，利用AI技术进行攻击网络、破解密码、入侵系统，或进行恶意软件攻击、网络暴力等直接导致人身伤害、财产损失或其他严重后果的，会涉及侮辱诽谤罪、非法利用信息网络罪、传播淫秽物品罪和传播淫秽物品牟利罪。

比如，通过信息网络实施以暴力或者其他方法公然侮辱他人或者捏造事实诽谤他人，情节严重的，处三年以下有期徒刑、拘役、管制或者剥夺政治权利。这里所说的“捏造事实诽谤他人”，是指捏造损害他人名誉的事实，在信息网络上散布，或者组织、指使人员在信息网络上散布。

用AI合成技术换脸制作传播淫秽图片或视频，涉嫌违反治安管理处罚法，公安机关可以对行为人进行治安处罚。如果情节严重，则可能涉嫌构成传播淫秽物品牟利罪，处三年以下有期徒刑、拘役或者管制，并处罚金。

Q：目前是否有专门针对AI合成技术的法律规定？

A：此前，国家网信办等部门联合制定的《互联网信息服务深度合成管理规定》施行，就给此类AI合成技术划定了红线。

具体规定是：任何组织和个人不得利用AI换脸技术等深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息；不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

《管理规定》还特别强调，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。

2023年4月，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》，向社会公开征求意见。内容集中瞄准技术应用问题，从明确条件要求、划定责任主体等几个方面为行业划定底线。

生成内容本身应符合公序良俗和国家法律法规，技术提供方担负内容责任，使用方则应被充分告知其责任，应充分了解智能技术的界限和风险。

同时，也对隐私信息这一备受关注的伦理风险点作出回应，要求提供方做好预防和反馈响应机制，在技术服务成形的前序阶段就进行法规管制，不得含有违法和有违公序良俗的内容。

Q：一旦被侵权，应当如何保护自己？

A：发现被侵权后应当及时保存证据，对谣言内容、造谣者账号、谣言信息的播放量、转发量、点赞量、自身受到的影响等进行取证，确保证据的真实性与完整性。

另外，联系相应的网络平台要求其采取必要措施阻止侵权行为，比如删除相关信息，停止对侵权人的网络服务等，也可直接要求侵权人停止侵权、恢复名誉。如果侵权人不采取措施，可向公安机关报案或向法院提起诉讼。

对于侵犯自身人格尊严的行为，一定要追究其责任，交由法律来制裁。对于虚构的不良信息，更不能有清者自清、听之任之的心态，一定要及时采取补救手段，以免不良影响进一步扩大。

标签：