智慧法治学术动态(2024年第1期总第75期)
大模型技术的发展,掀起了生成式人工智能发展的新浪潮,但其数据训练和部署应用也带来了新的风险挑战,包括产生有害内容、泄露敏感数据、生成错误信息、滥用实施违法活动、可能危害环境和经济、向下游传导风险等。对此,欧盟近期拟对基础模型和生成式基础模型提供者设定专门义务,但背离了基于风险分级规制的立法初衷;我国出台专门办法侧重规制大模型部署者,对大模型本身风险管控有限。规制大模型风险,要遵循数据利用安全范式,基于风险分类分级规制,实现上下游的合作共治。按照这一思路构建新型风险规制框架,主要包括设立专门机构引导发展、评估和应对风险,规范数据训练以避免数据泄露和不当输出,基于特定用途风险构建风险分级管控制度,确立贯穿大模型全生命周期的透明度制度,健全防止生成违法内容的上下游共治机制。(全文刊《行政法学研究》2024年第2期)
刘金瑞,中国法学会法治研究所研究员。
近年来,搜索引擎操纵与滥用对公民个人信息权利、民众信息选择权等造成诸多侵害,并形成监视资本主义,引发了各国搜索引擎治理目标调和、治理内容位优、治理技术跟进等难题。对此,各国搜索引擎业态治理逐渐形成了市场约束范式、技术修复范式、机构监管范式三种不同模式,但都因与搜索引擎的市场结构、技术逻辑和监管制度难以契合而效果不彰。随着搜索引擎平台在处理个人信息中“守门人”地位日益重要,未来我国搜索引擎业态治理应及时总结上述治理模式的得失利弊,建构由搜索引擎运营商和行业协会推动的自律机制、由政府机构主导的他律机制,最终形成多元化、主体化与技术化、规范化有机结合的治理体系,以促进我国个人信息保护与利用的平衡。(全文刊《法学论坛》2023年第6期)
杨志琼,东南大学法学院讲师。
算法已被广泛应用于干预或者给付行政场景。算法给行政带来了正向效益,也可能造成法治价值的失序。在规范算法方面,存在着治理工具论和权力控制论两种学说。治理工具论从法的外部视角出发,将算法作为法律的作用媒介,侧重于对算法本身的技术规制。权力控制论从法的内部视角出发,认为法律对算法的研究应穿透至算法背后的算法权力。在行政法体系内讨论算法,应在依法行政原理的支配下,通过明确算法的行政法属性实现对算法行政权的控制。算法作为一种“具有普遍约束力的决定、命令”,可被纳入行政规定的范围,若涉及外部性权利义务的分配,则算法属于法规命令。作为行政规定的算法应当以全面公开为原则、不公开为例外。可以将对算法的合法性审查嵌入到现有的审查机制中,从制定程序和内容两方面确保算法的合法性。只有从算法行政回归依法行政,才能找到合适的权力制约路径,从而实现数字时代行政法教义学体系的持续与稳定。(全文刊《法制与社会发展》2023年第6期)
查云飞,浙江大学光华法学院讲师。
NFT数字藏品的法律定性问题实际上是关于虚拟财产确权的“旧题新论”。区块链技术的创新应用为虚拟财产的确权开辟了一条渐进式、要素化的全新路径,即在细分虚拟财产类别的基础上,借助电子商务领域中功能等同原则的指引,通过静态可支配和动态可公示两个核心要素的功能等同,将NFT视为实体意义上的“物”。对于实践中NFT数字藏品交易的法律定性,“债权转让说”将NFT交易合同视为NFT本身,混淆了合同与合同给付对象之间的本质界分,同时也与NFT权利人的利益不相符;“信息网络传播权说”未能准确区分NFT“铸造”和“交易”两个传播阶段的不同特点,忽视了NFT以功能等同的有形载体转移而实现传播的特殊属性。只有将NFT交易功能等同为所有权转让并适用著作权法中的发行权规则,才能逻辑自洽地揭示其交易本质。(全文刊《现代法学》2023年第6期)
郭鹏,暨南大学法学院教授。
当前围绕数据产权“三权分置”制度的法律构建形成了“所有权范式”“权利束范式”和“治理范式”三种代表性观点。但该三种范式未能妥善平衡数据安全与效率之间的价值冲突,数据来源者、数据生产者和数据使用者之间的利益冲突也未能得到妥善安排,因而均难成为指导具有中国特色的数据产权“三权分置”构建的基础理论。立足我国既有的“产权分置”理论和制度资源,数据产权“三权分置”的构建应当在数据来源者与数据生产者、数据生产者与数据使用者之间,以数据生产者的数据持有权为枢纽,向前向后分别构建数据来源者权和数据使用权以及相应的权利关系结构,从而在数据归属与利用两大阶段渐次形成“数据来源者权+数据持有权”和“数据持有权+数据使用权”的“双阶二元结构”。(全文刊《中国法律评论》2023年第6期)
张素华,武汉大学法学院教授;王年,武汉大学法学院博士研究生。
欧盟数据设权立法经历了从“产权化”到“去产权化”的转型,这一转型是欧盟学界、产业界和立法者经过长期辩论和论证所达成的共识。在吸取首次数据产权化失败经验的基础上,加之二次产权化立法尝试的受阻,欧盟立法者最终创设数据访问权以代替数据生产者权,旨在实现“解锁”数据的目标而非创设财产权以“锁定”数据。基于欧盟数据设权立法转型的历史经验,我国未来数据立法应审慎设立数据财产权。数据唯其持有者独家控制和使用的事实是当前最需化解的市场失灵问题,通过为非数据持有者的主体创设法定访问权恰恰是对此最有效的回应。为此,可将我国当前的数据“三权分置”建构为不同主体的非排他或非专有的使用权,同时为数据来源者创设法定访问权,以此实现数据流通利用的最大化。(全文刊《比较法研究》2023年第6期)
科技部|发布《负责任研究行为规范指引》 对研究过程使用生成式人工智能作出指引
2023年12月21日,科技部印发《负责任研究行为规范指引(2023)》,进一步引导科研人员和各类科研机构、高等学校、医疗卫生机构等规范开展负责任的科学研究。《指引》共11个部分,覆盖了科研活动的主要方面和重点环节,针对不同主体提出了开展负责任研究应普遍遵循的科学道德要求和学术研究规范。其中《指引》从研究实施、数据管理、成果署名与发表、文献引用等方面对如何依规合理使用生成式人工智能作出了具体指引,同时提出不得使用生成式人工智能直接生成申报材料,不得将生成式人工智能列为成果共同完成人,不得直接使用未经核实的由生成式人工智能生成的参考文献等。(科技部)
美国国家标准与技术研究院|发布《数字身份映射报告》草案
当地时间2023年12月22日,美国国家标准与技术研究院发布《数字身份映射报告》草案。该草案由欧盟-美国贸易与技术委员会内的一个小组联合撰写,旨在帮助定义跨大西洋环境下与数字身份相关的特定技术术语。其概述了美国和欧盟各自的数字身份框架,这些框架是由美国国家标准与技术研究院和欧盟电子身份识别法规制定的。文件指出,数字身份的可信度、安全性和可用性对于促进个人和组织的广泛采用至关重要。并表示,在新兴技术和标准化方面开展强有力的跨大西洋合作,有助于为取得有意义的进展创造条件。(NextGov/FCW)
信安标委|《网络安全标准实践指南——大型互联网平台网络安全评估指南(征求意见稿)》
2023年12月23日,信安标委发布《关于对<网络安全标准实践指南——大型互联网平台网络安全评估指南(征求意见稿)>公开征求意见的通知》。《评估指南》共五章,内容包括《评估指南》所适用的对象及定义、评估工作组织、评估内容和评估方法等。评估内容则包括关键业务弹性、容灾备份能力、关键软硬件产品供应链安全性、对外提供数据的可控性、数据泄露事件发生后应急处置、平台控制权及用户权益保护等方面。(全国信息安全标准化技术委员会)
沙特阿拉伯国家电子学习中心|发布数字学习人工智能使用框架
当地时间2023年12月28日,沙特阿拉伯国家电子学习中心发布了在该国数字学习中使用人工智能的综合框架。该框架致力于制定指导方针、政策和工具,支持在从 K-12 到高等教育和终身学习的各级教育中使用人工智能。主要包括领导力、课程设计和内容开发、教学、评估和绩效监测、道德规范和负责任的使用、技术和安全标准及数据隐私、学生支持、专业发展、评估和持续改进等9个方面。旨在将人工智能融入教育过程的各个方面,从机构和课程到为学生提供个人支持和发展教育工作者的技能(沙特阿拉伯国家电子学习中心)
工信部等二部门|《工业领域数据安全标准体系建设指南(2023版)》
2023年12月29日,工业和信息化部与国家标准化管理委员会发布《工业领域数据安全标准体系建设指南(2023版)》。《指南》明确了工业领域数据安全标准体系的总体框架,以及基础共性、安全管理、技术和产品、安全评估与产业评价、新兴融合领域、工业细分行业六个子体系内容。基础共性、安全管理、技术和产品、安全评估与产业评价子体系聚焦工业领域具有共性的数据安全标准,新兴融合领域、工业细分行业等两个子体系重点突出特定业务场景的数据安全标准。(工业和信息化部)
广东省政务服务数据管理局|《广东省加快数字政府领域通用人工智能应用工作方案》
2024年1月2日,广东省政务服务数据管理局网站公开《关于印发广东省加快数字政府领域通用人工智能应用工作方案的通知》。《工作方案》共提出六方面19项主要任务,包括统筹优化布局智能算力资源、构建政务大模型体系、强化优质数据要素供给、推进政务大模型多行业场景应用、培育开放共赢的发展生态、打造可持续发展的建设运营体系等。(广东省政务服务数据管理局)
上海市政府|《上海市促进在线新经济健康发展的若干政策措施》
2023年1月4日,上海市政府网站公布《关于印发<上海市促进在线新经济健康发展的若干政策措施>的通知》。《措施》从梯度培育数字经济经营主体、建设宜居宜业的载体空间、打造支撑新质生产力的新型基础设施、开发新业态蓬勃发展的开放应用场景、集聚激发产业活力的创新要素、构筑产业繁荣健康发展的保障措施六方面提出20项举措,明确加大总部型企业支持力度,对通过各类总部型企业认定的在线新经济企业,可在人才居留和出入境、跨境人民币业务、跨境物流、数据流通等方面依法依规给予支持。(上海市政府)
美国|纽约时报起诉OpenAI及微软侵犯版权
当地时间2023年12月27日,纽约时报公司宣布在纽约州曼哈顿联邦法院向OpenAI及微软提起诉讼,指控其利用《纽约时报》的数百万篇文章训练ChatGPT及其他人工智能平台。诉讼没有提出具体的赔偿要求,但提出被告应承担与“非法复制和使用《纽约时报》独特价值作品”相关的“数十亿美元的法定和实际损失”。诉讼还要求这两家公司销毁任何使用《纽约时报》版权材料的聊天机器人模型和训练数据。(纽约时报)
澳大利亚信息专员办公室|对TikTok是否违反隐私法展开调查
2023年12月28日消息。澳大利亚信息专员办公室将对TikTok在未经用户知情或同意的情况下(即使用户没有TikTok账户)使用一种被称为像素(Pixel)的工具收集用户数据(包括电子邮件地址、手机号码和浏览历史记录)的做法是否违反澳大利亚隐私法进行调查。TikTok发言人对此声称,像素是一种广告客户自愿采用的、用以提高广告服务有效性的行业工具,强调TikTok对这一工具的使用符合澳大利亚现行的所有隐私法律法规。(悉尼先驱晨报)
北京市高院|判决阿里巴巴滥用市场地位 向京东赔偿10亿元
2023年12月29日,北京市高级人民法院对京东诉浙江天猫网络有限公司、浙江天猫技术有限公司、阿里巴巴集团控股有限公司“二选一”案做出一审判决,认定其滥用市场支配地位实施“二选一”的垄断行为成立,对京东造成严重损害,并判决向京东赔偿10亿元。京东于2017年向北京市高级人民法院起诉阿里巴巴“二选一”,历经管辖权裁定、不公开质证等程序,最终于2023年12月作出一审判决。阿里巴巴对媒体表示将尊重法院的判决结果。(证券时报)
国家网信办|通报四件破坏网络生态案件
2023年12月29日,中国网信网公布消息,国家网信办近日指导北京市、上海市网信办依法约谈花椒直播、天天吉历APP、超级手电筒APP、大姨妈APP等网站平台负责人。经查,上述平台各自存在衣着暴露、行为挑逗或是推荐大量娱乐明星隐私八卦等不良信息,炒作绯闻、丑闻、劣迹等问题,平台未有效履行主体责任,未采取防范和抵制措施,在重点环节呈现上述不良信息。网信办责令各平台限期整改、从严处理责任人,整改期间采取自行暂停新用户注册、暂停问题版块信息更新等处置措施。(网信中国)
上海市场监管局执法总队|与17家平台企业签订协作共治备忘录
2024年1月3日,上海市市场监管局执法总队与小红书、拼多多、携程、美腕、得物、美团、饿了么等17家互联网平台企业签订协作共治备忘录。基于《共治备忘录》,执法总队将定期提供“警示”案例,提升平台企业对潜在违法行为识别与处置率;企业也需向总队提供治理数据、经营数据、消费投诉数据等,提高市场监管和案件查办效率。政府部门和平台企业之间双向互动、资源共享,合力推动形成平台有效自治、政府高效监管的多元共治格局。(上海市场监管)
国家金融监督管理总局|处罚中国银行迟报重要信息系统重大突发事件等违法违规行为
2024年1月5日消息。国家金融监督管理总局披露的罚单显示,中国银行因9项违法违规事实,被罚款430万元。中国银行的主要违法违规事实包括重要信息系统投产及变更未向监管部门报告,且投产及变更长期不规范引发重要信息系统较大及以上突发事件;信息系统运行风险识别不到位、处置不及时,引发重要信息系统重大突发事件;网络安全域未开展安全评估,网络架构重大变更未开展风险评估且未向监管部门报告等。(国家金融监督管理总局)
往期精彩回顾
上海市法学会官网
http://www.sls.org.cn