最高法AI新规给大模型训练开了口子,人脸、人声训练合规仍未解决
2026年9月7日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》(下称“《意见》”)。前两天的文章里,笔者讨论了《意见》中新设的开源AI软件责任豁免规则。今天再聊一个大模型公司更关心的问题:AI训练能不能使用网上公开的个人信息?
《意见》第六条明确,为人工智能模型训练,在合理范围内处理个人自行公开或者其他已经合法公开的个人信息,且个人未明确拒绝的,一般不认定为侵害个人信息权益的行为。这无疑给AI训练数据的合规使用打开了一道口子。
但如果公开的信息里包含人脸、声纹等敏感个人信息,这个口子还能不能用?笔者的感觉是,最高法想为肖像和声音的训练合规开个口子,但因为《个人信息保护法》(下称“个保法”)限制,很难将其完全合规,所以大模型公司的个人信息训练数据黑箱状态仍将维持。
根据这条规定,姓名、公开履历、社交平台公开言论、公开工作信息等风险相对较低的个人信息,如果使用目的合理、范围适当,个人也没有明确拒绝,通常可以不再要求AI企业逐一取得个人同意。
但这其实是《个人信息保护法》本来就有的规定,在合理范围内处理个人自行公开或者其他已经合法公开的个人信息,可以不取得个人同意。《意见》这次明确把这一规则放到了人工智能模型训练场景中。问题在于,已经公开的人的肖像信息和声音信息也是个人信息,可以不取得个人同意就用于大模型训练吗?对此,有两种解读方式:
第一种是不能适用。理由是肖像和声音属于生物识别信息,属于个保法明确规定的敏感个人信息,其一旦泄露或者非法使用,容易导致自然人的人格尊严受到侵害或者人身、财产安全受到危害。因此利用肖像和声音训练人工智能大模型,应当取得个人的单独同意,且只有在具有特定的目的和充分的必要性,并采取严格保护措施的情形下,人工智能公司才可以进行处理。
第二种是可以适用。理由是根据场景的不同,人的肖像既可以认定为普通个人信息,也可以认定为敏感个人信息。比如作为一般图像展示且无法用于身份识别验证的,通常不作为敏感个人信息。但如果该肖像照片使用于单独识别特定自然人,比如刷脸认证拍摄的照片的场景,或者可能导致人格尊严受损,比如Grok饱受争议的给女性换泳装功能,就可能被按敏感层级对待。
通观最高法对于《意见》的说明的文义[i],其其实持第二种观点,但碍于法律明确的规定又无法明说,所以给人一种想帮AI公司合规化,只能表述的比较拧巴的感觉,下面是说明的摘要和笔者的解读:
1、模型开发者利用公开数据进行训练,肯定会包含公开的个人信息,如一律要求取得个人同意,技术与商业均存在巨大障碍,可能影响产业发展。
笔者的解读,这条是《意见》对此问题的基本态度。
2、处理已公开的非敏感个人信息和处理已公开的敏感个人信息,人工智能开发者的注意义务并不相同。若个人公开信息中存在个人敏感信息,比如人脸信息等生物识别信息、身体健康等医疗信息以及行踪信息等,由于该类信息极易引发权益侵害问题,给个人信息主体带来较大风险,因此处理者应当以更为谨慎的方式进行处理,人民法院亦应当在具体个案中进行合理的风险判断和评估,以尊重个人信息主体的真实意思。
笔者的解读,这条欲说还休,承认人脸信息是生物识别信息,但又表示法院应就个案中进行风险判断和评估,以尊重个人信息主体的真实意思。其实个保法的规定非常明确,处理生物识别信息就是应该由个人单独同意,给笔者的感觉是想突破个保法规定,又留有余地。
3、公开时的场景以及合理预期因素。基于“场景一致性”与“隐私合理期待”的考量,如某网络平台已通过用户协议、公告等方式告知用户其发布内容不会被用于人工智能训练,此后又擅自将用户发布的包含个人信息的内容用于训练的,则可能超出合理范围。
笔者的解读,这条的反面就是,如平台已经告知用户,其发布的内容会被用于训练,就没有超出合理范围。但如前所述,关键还是涉及的如果是处理人脸照片这样的个人敏感信息,个保法规定的是需要单独同意,如果平台单独让用户同意了,自然没有合规争议;但如果平台把用个人敏感信息训练大模型写在隐私协议让用户概括同意,而不是单独同意,是不是法院审理的时候还会认定属于合理范围?
笔者的理解,最高人民法院对于《意见》的说明实际上想表述的是,公开的个人敏感信息可以合理使用,但不能自由使用,还是看场景。比如一张个人在社交媒体上自行发布的包含人脸的普通生活照片,被大模型开发者抓取,之后是为了提取所有自然人的脸部特征而训练模型,还是为了和这个人的姓名和身份相适配,能输出这个人的其他表情而训练模型,其法律风险并不相同。
理想的状态下,对于前者,模型训练在合理范围内可以适用已公开个人信息的处理规则,但对于后者,由于可能涉及敏感个人信息,则需要更加严格地考察处理的必要性、目的、使用场景以及对个人权益的影响。
不过这个想法其实有点理想化,以大模型开发者的技术能力,即便是抓取公开的人脸照片为了提取所有自然人的脸部特征而训练模型,训练后,模型能和其姓名相匹配输出此照片中人物的其他表情也是轻而易举的。前者和后者只隔着一层一捅就破的窗户纸,说不定在大模型公司内部,这个窗户纸并不存在,他们只是在输出端做了控制,禁止大模型输出和姓名匹配的人脸结果。比如国内某领先的视频生成大模型,上线第一天,好莱坞明星的视频随便生成,结果招致电影公司抗议,第二天就禁止输出了,这个例子说明大模型公司内部可能真不一定有这层窗户纸。
所以,囿于上位法的限制,最高法的《意见》确定的裁判方针仍没有解决大模型使用公开人脸、人声训练的合规问题。既然法律没有答案,而产业需要发展的空间,所以大模型目前的这种使用了无数个人信息进行训练,但训练数据却不能公开的黑箱状态仍将维持。
本文作者:游云庭,知识产权律师。Email: yytbest@gmail.com,本文仅代表作者观点。
[i]https://ipc.court.gov.cn/zh-cn/news/view-6039.html