短剧中的主角不是明星本人，却长着一张让观众“一眼就能认出来”的脸；律师搜索自己的名字，却发现AI说自己“曾被判刑三年”；逝者的照片和声音经过技术处理，又重新出现在网络中……
短剧中的主角不是明星本人，却长着一张让观众“一眼就能认出来”的脸；律师搜索自己的名字，却发现AI说自己“曾被判刑三年”；逝者的照片和声音经过技术处理，又重新出现在网络中……
随着生成式人工智能快速发展，这些法律问题的责任红线也被划得越来越清楚。
来源：最高人民法院
9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》（以下简称《意见》）。这是首部由国家最高审判机构发布的涉人工智能司法裁判规则文件，共5个部分24条，涉及AI换脸拟声、AI“幻觉”、个人信息保护、模型训练以及“AI复活逝者”等热点问题。
“相似”不是免责声明
今年3月，北京互联网法院审结了一起短剧AI换脸侵权案。
涉案短剧共44集，其中人物形象与某国内知名演员高度相似。制作方辩称，相关形象由AI生成，没有输入与演员有关的指令，只是因为生成形象具有一些大众熟悉的面部特征，才出现“偶然相似”。
来源：视觉中国
法院判断肖像侵权，关键并不是AI生成的人脸是否与本人“百分之百一致”，而是能不能让一般公众或者特定群体识别出特定自然人。涉案短剧人物在面部轮廓、五官特征等方面与演员高度相似，已经达到“可识别”的程度。制作方作为专业经营主体，未经许可仍将相关内容公开传播，最终被认定构成肖像权侵害。
这一裁判思路，如今被写入《意见》。
《意见》第四条明确，除法律另有规定的外，未经自然人同意，利用人工智能处理自然人的姓名、肖像等，生成可识别该自然人的虚拟数字形象并使用、公开，该自然人主张行为人侵害其姓名权、肖像权等人格权益的，人民法院依法予以支持。
声音同样如此。此前，在北京互联网法院审理的一起案件中，商家用他人肖像与高度近似本人的AI合成声音制作带货视频，法院最终认定同时侵害肖像权和声音权益。
来源：视觉中国
北京隆安律师事务所合伙人杜洁律师认为，《意见》实际上统一了一个重要判断标准——“可识别性”。过去司法实践中，对“换脸以后还是不是原来的肖像”“只是神似算不算侵权”等问题，裁判说理并不完全一致。现在规则进一步明确，只要生成的内容足以让人识别出特定自然人，就不能简单以“这是AI生成的”作为免责理由。
律师被AI“判刑”三年，谁来负责？
此前，一名执业律师在使用百度AI搜索相关信息时，发现系统生成了其“曾被判刑三年”等不实内容。最终法院审理认为，百度“AI智能回答”非简单搜索结果展示，而是平台通过算法对文字、图片主动加工、合成、推送的内容生产行为，百度系内容生产者与发布者，非单纯技术提供者。由此，法院判决百度构成名誉侵权。
这也是近年来备受关注的“AI幻觉”问题。杜洁律师解读，AI自动生成内容侵害他人名誉权、隐私权等人格权益时，不能以内容系AI生成为由免除责任；经权利人通知，服务提供者未及时采取停止生成等必要措施的，对损害依法担责；恶意通过侵权提示词诱导生成侵权内容的用户要自行担责。
来源：视觉中国
“不能因为用了AI就当然承担责任，也不能因为是AI造成的损害就没有责任。”北京也迪律师事务所主任吴振华表示，最高法此次出台《意见》，最重要的意义就是把传统法律规则进一步具体化到AI场景。特别值得关注的是，《意见》确立了一个基本思路：除法律另有规定外，AI侵权原则上适用过错责任，要结合行为人的风险控制能力、技术能力以及对侵权结果的预见和控制能力来判断责任。
“AI复活逝者”可能侵害人格权益
只需要一张照片、一段声音，就可以通过AI让逝者重新“开口说话”。
《意见》第四条明确，利用人工智能技术擅自制作、使用死者的虚拟数字形象致使死者的姓名、肖像、名誉等受到侵害，死者近亲属依据民法典第九百九十四条的规定请求行为人承担民事责任的，人民法院依法予以支持。
来源：视觉中国
此前，北京互联网法院曾审理一起相关案件。被告将一名已故老红军生前照片用于商业宣传，法院认定相关行为侵害死者人格权益，判令被告赔礼道歉，并赔偿经济损失和精神损害。
吴振华律师认为，《意见》的核心并不是禁止AI“复活”逝者，而是明确技术可以复原数字形象，但不能因此任意支配和利用一个人的人格权益。
把侵权行为先“按住”
遭遇AI侵权怎么办？
北京隆安律师事务所合伙人杜洁律师建议，发现侵权后，应第一时间保存相关APP页面截图、侵权视频或音频原文、网页链接、发布账号以及浏览量、播放量等传播数据，条件允许时还可以进行公证保全。
固定证据后，可向平台或者生成式人工智能服务提供者发出侵权通知。
杜洁介绍，一份较为完整的侵权通知，应当包含能够初步证明侵权的材料以及权利人的真实身份信息，并明确要求平台采取删除、屏蔽、断开链接或者停止生成等必要措施。根据《意见》，生成式人工智能服务提供者收到通知后，如果没有及时采取停止生成侵权内容等必要措施，对由此扩大的损害可能需要承担相应责任。
此外，权利人还可以通过协商或者诉讼解决问题。如果相关行为涉嫌刑事犯罪，则应及时报案。
如果侵权行为正在持续，且传播速度快、等待普通诉讼判决可能“来不及”时，可同时向人民法院申请人格权侵害禁令。
来源：视觉中国
杜洁介绍，人格权侵害禁令是《中华人民共和国民法典》第九百九十七条规定的事前预防性司法保护措施。
这项制度尤其适用于AI侵权场景。因为利用AI侵害人格权益具有成本低、传播快、影响广、损害难以逆转的特点，传统“先起诉再救济”的模式往往来不及。《意见》第八条明确，对此类情形可依法作出人格权侵害禁令，并可根据情况责令网络服务提供者、生成式AI服务提供者停止提供相关服务。
北京也迪律师事务所主任吴振华将人格权侵害禁令最大的特点概括为一个字——“快”。
“普通侵权诉讼主要解决的是侵权责任、赔偿以及最终的权利救济；而人格权侵害禁令更强调在损害扩大之前及时采取措施，把侵权行为先‘按住’。”吴振华说。
比如AI换脸色情视频、严重AI造谣、利用AI冒充他人诈骗等，如果传播速度非常快，等到普通诉讼判决以后再处理，可能已经造成无法挽回的影响。
记者：白芳
编辑：刘狄
