十大事件与专家点评

《中华人民共和国个人信息保护法》（以下简称《个人信息保护法》）2021年11月1日正式实施；《最高人民法院关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定》2021年8月1日正式实施；《中华人民共和国数据安全法》（以下简称《数据安全法》）2021年9月1日正式施行；《网络数据安全管理条例（征求意见稿）》发布。（来源：综合自经济参考报、科技日报、央视新闻客户端、中国新闻网等）

专家点评

魏 凯 中国信息通信研究院云计算与大数据研究所副所长

2021年，备受关注的《数据安全法》与《个人信息保护法》出台，与《网络安全法》共同形成了数据治理法律领域的“三驾马车”，标志着我国数据安全法律架构已初步搭建完成。在此基础上，聚焦重点行业、新兴技术的数据安全法律法规和司法解释也在2021年密集出台，充分体现了我国在数据立法方面的前瞻性和创新性，为加快培育数据要素市场、保障数字经济健康发展奠定了坚实的制度基础。

刘亚单 数字广东网络建设有限公司产品研发部总经理

数据安全事关国家安全和经济社会发展，提升数据安全治理能力是我们在新形势下需要着力解决的突出问题。我国首部针对个人信息保护的专门性立法、我国第一部数据安全领域的专门法律等相继发布生效，共同构成了我国数据安全保护领域的基本法律框架，使数据安全保护在上位法层面得到完善，为数据安全释放价值提供了合规指引。标志着我国数据安全立法保护开启了历史新篇章，为明确数据产权与利用规则奠定了基础，推动了我国公共数据共享、开放和利用走向“规范化”发展道路，也是全球个人信息法治发展的重大里程碑，对隐私计算等人工智能技术商业利用的合规性操作具有重大意义。

2021年4月21日，欧盟首次发布针对人工智能技术的监管法规草案。草案中，AI的一系列应用范围都受到了不同程度的限制。当地时间10月6日，欧盟通过禁止警方在公共场所使用面部识别技术的决议，并对其使用AI进行预测性警务活动实施严格限制措施。（来源：综合自AI科技评论、51cto等）

专家点评

程 祥 北京邮电大学计算机学院副教授

在数据保护和人工智能技术的监管方面，欧盟一直前瞻性地走在立法实践的最前端。2018年生效的《欧盟数据保护通用条例》在世界范围内率先定义了个人数据所有权的规则，推动了数据隐私保护技术在业界的大规模应用，限制了企业为追逐经济效益而对用户隐私的侵害。而欧盟2021年4月针对人工智能技术的监管法规草案更是立志于为符合伦理的人工智能技术的发展铺平道路，并通过禁止“无差别地大规模监控”来进一步地保护个人隐私。这些法规的确立揭示了人工智能技术的应用与公民个人隐私之间的矛盾。因此，与数据挖掘和机器学习相关的隐私保护技术亟待发展，以支撑相关法规的落地实施。

杨丹辉 中国社会科学院工业经济研究所资源与环境研究室主任、研究员

禁止公共场所人脸识别，不仅反映出欧盟对AI领域风险防控的高度重视，实则也是其对新一代信息相关新技术新模式新业态的一贯立场，这种相对保守的思路，一方面集中体现了欧盟注重技术治理的“根部”问题及其强大的制度建设能力；另一方面则是欧盟在AI技术创新水平的真实状况。因此，欧盟利用自身优势，做制度和法规的构建者，并以此争夺治理的话语权。针对欧盟的这一规定，一些互联网巨头公开反对禁止人脸识别的“一刀切”做法，认为应积极探索更加灵活、富有弹性、平衡效用与安全的监管方式。

2021年9月25日，国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》，提出增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等6项基本伦理要求。旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。（来源：科技部）

专家点评

何宝宏 中国信息通信研究院云计算与大数据研究所所长

2021年，发布《新一代人工智能伦理规范》，细化落实《新一代人工智能治理原则》，是我国深化人工智能治理工作的又一重大举措。人工智能技术以数据、算法为驱动，发展速度迅猛，正在深刻改变人类的社会生产和生活模式。但人工智能技术的滥用也不断冲击社会伦理底线、侵犯个人权益。所以，既要大力发展人工智能，又要高度重视风险和挑战，科学处理好发展和治理的关系，发展可信的人工智能。

王晓飞 天津大学智能与计算学部教授

本事件代表从国家到社会各个层面都意识到了人工智能伦理的重要性。在AI还未全面深入到各行各业之前，将能够预想到的伦理问题进行梳理和规约，是非常及时且正确的一个做法，未来随着AI算力和算法的逐渐变强，伦理规范也要与时俱进、逐年升级，从根本上奠定“AI服务人类，AI服务社会”的基调。

世界卫生组织于2021年6月28日正式发布“世界卫生组织卫生健康领域人工智能伦理与治理指南”。联合国教科文组织2021年11月25日举行新闻发布会，介绍该组织正式通过的首份人工智能伦理问题全球性协议。（来源：综合自联合国教科文组织、科技日报等）

专家点评

陈跃红 南方科技大学人文社会科学学院院长、人文中心主任

人工智能正在被用于提升治疗的速度和精准度以及疾病的筛查，协助临床护理，加强卫生研究与药物研发，支持疾病监测，疫情应对和卫生系统管理等多种公共卫生干预措施。但是随之带来的法律和伦理治理挑战也日益紧迫。世界卫生组织这一历史性文本试图协调共同的价值观和原则，用以指导建设必需的法律框架来确保人工智能的健康发展。

郭继承 中国政法大学思政研究所副教授

我们应该聚焦人工智能发展的两个基本方面：一是人工智能的发展会怎样影响人类文明；二是人类在法律和伦理层面如何规范人工智能的应用，使之真正造福人类。第一个问题涉及的是人工智能的发展和应用情况，聚焦工具能力；第二个问题涉及到如何规范人工智能的应用，聚焦的是如何正确驾驭工具为人类所用。一言以蔽之，工具能力和如何驾驭工具能力，这是我们面对人工智能发展需要正视的基本问题。

2021年9月，九部委印发《关于加强互联网信息服务算法综合治理的指导意见》，要求防范算法滥用风险，维护网络空间传播秩序、市场秩序和社会秩序。2021年12月31日，国家互联网信息办公室等四部门联合发布《互联网信息服务算法推荐管理规定》。（来源：综合自国家互联网信息办公室、人民日报、新华社等）

专家点评

郭 兵 浙江理工大学法政学院特聘副教授、杭州长三角大数据研究院副院长

当前，算法推荐等技术已经被广泛应用于电商平台、新闻平台、视听平台、社交平台等诸多应用场景中。算法推荐等技术为网络用户和网络平台带来便利和经济利益的同时，也引发了一系列新的法律问题。如何平衡好算法推荐等技术的创新发展与安全风险，成为了算法治理的一大难题。无论是《关于加强互联网信息服务算法综合治理的指导意见》，还是《互联网信息服务算法推荐管理规定》都是应对算法滥用风险等难题的有益制度探索。

徐英瑾 复旦大学哲学学院教授、博导

近年来中国互联网技术发展的一个特点，即以免费提供应用软件下载服务为交换，大量获取网民的个人信息，而相关的互联网公司又以相关信息为基础，通过推送软件的推送服务获得更大的流量。这样的做法加强了传播学意义上的“信息茧房”效应，使得广大用户无法从互联网获得全面客观的信息。同时，这种做法也在客观上威胁到广大用户的隐私安全。国家网信办的这一规定，使得广大用户能够自主选择不上传自身的特定数据，以此保护网民的隐私。从伦理角度看，国家对于互联网行业经营方式的这一干预十分必要。同时，这也对国内互联网公司基于大数据技术的人工智能开发路线敲响了警钟。

英国《卫报》报道，英国将推行计划，允许安装自动车道保持系统（Alks）技术的新车型在没有司机插手的情况下上路行驶。英国交通部长麦克莱恩（Rachel Maclean）表示，这是“英国安全使用自动驾驶车辆的一大进步，它使未来的出行更加绿色、便捷和可靠”。（来源：51cto）

专家点评

宁 阳 华北电力大学教授

“自动驾驶汽车或在英国合法化”入选2021年全球十大人工智能治理事件，引起各方高度关注。这一方面标志着自动驾驶技术越来越走向成熟，它可能使未来出行变得更加绿色、便捷和可靠，并将促使道路交通和商业保险等相关法规的重新修订，另一方面也会增加人们对于自动驾驶安全性的担忧和丧失驾驶体验感的顾虑。但不管对其作出何种评价，这无疑是一项崭新的技术革命，自动驾驶市场前景广阔，必将成为科技巨头角逐的下一个行业蓝海。

王飞跃 中国科学院自动化研究所复杂系统管理与控制国家重点实验室主任、研究员

对于开放场景下的无人驾驶，欧美在法律制定、标准及政策等方面比中国更加灵活，而中国则因为对监管、人权和安全更加看重，目前仍处于“道路测试”或者“试运营”阶段。但在提升行业智能化水平等需求的推动下，中国在封闭或半封闭场景（如矿区、港口等）正在逐步落地无人驾驶，并已从技术上实现无安全员。通过平行驾驶，让人工系统对真实世界车辆和道路建模，构建软件定义的车辆及车路系统，同时建立控制计算中心，对真实数据及虚拟数据进行联合优化，以虚实结合的方式保证无人驾驶的安全性，加速无人驾驶的商业化和规模化落地。

国外媒体报道，美国众议院一个由两党议员组成的小组提出一项法案，要求Meta旗下Facebook和Google等互联网平台允许用户查看非算法选择的内容。共和党众议员巴克在一份声明中表示：“消费者应该有权选择如何使用互联网平台，而不必受到由特定用户数据驱动的秘密算法操纵。”（来源：TechWeb）

专家点评

张军平 复旦大学计算机科学技术学院教授、博导

社交媒体用户在使用互联网平台获得便利的同时，也有可能在不知情的情况下泄露自己的隐私。因此，明确赋予社交媒体用户禁用算法的权利，本质上就是在保护公民的隐私。

张凌寒 北京科技大学法学院副教授、国家人工智能伦理与道德标准小组成员

网络平台的算法操纵问题一直受到美国立法的高度关注。原因在于，平台通过算法设置了新闻议程，不仅引导和操纵了社会舆论走向，还通过“千人千面”地精准个性化推送信息影响用户个人的政治倾向。平台的算法操纵力量直接动摇了美国政治的基础——民主选举，因此算法操纵新闻议程和用户观点成为了美国立法的焦点。然而，美国近三年已经有多部关于平台治理、算法规制的法案在国会立法议程中无疾而终，背后的原因令人深思。私人资本控制平台、社会舆论，进而控制国家政治走向，为世界各国提供了镜鉴。

中科院心理所研究员朱廷劭通过AI算法开发了自杀意念识别模型，并组织志愿者团队给予干预和救助。央视新闻联合百度智能云打造的总台首个AI手语主播正式亮相。此外，科大讯飞、爱奇艺等企业均先后推出善用手语表达的仿真AI主播。世界地球日当天，达摩院与南京信息工程大学、国家气候中心等联合举办业界首个AI气候预测大赛，AI首次预测未来两年气候。（来源：综合自凤凰网、科技日报等）

专家点评

潘天群 南京大学哲学系教授、博导，南京大学科学技术与社会研究所所长

当代社会有抑郁等心理障碍的人越来越多，因心理问题而自杀的人也越来越多。在网上“树洞”进行倾诉是心理障碍者缓解压力的一个重要渠道。该软件的应用及推广，在其他手段的配合下，能够阻止更多意图自杀的人。当然该软件需要弥补其先天的伦理缺陷：网上倾诉是个人隐私，基于“树洞”的自杀干预本身意味着“树洞”本身不是“黑洞”。该软件公益性强、社会价值巨大，也意味着基于网上的资源可以开发出各种具有公益价值的软件。

江 涛 科大讯飞高级副总裁

AI主播技术本质是以情感贯穿从文本语义到语气、到面部表情等的后台逻辑，在虚拟世界中打造一个真实的助手或合作伙伴。该技术在受到火热追捧的同时，也面临严峻的技术挑战，如更多视频融合元素、虚拟人情感、丰富虚拟人技能、场景化主题、情感化决策融入虚拟人设计中等。期待在不久的将来，拓展出更多领域的虚拟人落地应用，实现虚拟人的“面对面”互动交流、业务咨询、智能问答、服务导览等，让人们切实体会到“人工智能建设的美好世界”。

当地时间2021年12月7日，在《华尔街日报》CEO理事会峰会上，马斯克表示其脑机接口技术公司Neuralink研发的微芯片装置有望2022年植入人类大脑，为瘫痪者带来希望。（来源：武汉晨报）

专家点评

唐 磊 中国社会科学院政治学所研究员，中国社会科学院大学政府管理学院副院长

脑机对接技术是科幻小说、电影中被反复设想的场景，是突破人的极限的关键一步。目前，脑机接口技术正处于第三个阶段——技术爆发阶段。医疗健康领域是脑机接口最初、最直接和最主要的应用领域，也是目前最接近商业化的应用领域。这将为人类带来巨大福祉。但是，脑机接口在军事领域如果实现“替代”和“增强”方向，就可能给人类带来巨大灾难。技术进步不以人的意志为转移，潘多拉盒子一旦打开，人类自身能否完美控制技术服务人类的方向，还是一个未知数。

李金龙 招商银行人工智能实验室主任

脑机接口的应用前景广阔，可以为瘫痪者带来希望，也可以提升在VR、元宇宙等数字场景下的玩家体验。通过脑机接口技术，我们可以将大脑信号转换成数字指令，不仅可以延伸在物理世界的操作能力，同时也可以更加自然地体验虚拟世界。而微芯片的研发，使该技术更加容易被使用，从实验环境走向用户市场。但是，人类对自身大脑的研究还有很长的路要走，对大脑认知机理也缺乏充分的理解，因此脑机接口技术的使用还需谨慎，特别是植入芯片的潜在风险需要多方考量和验证。

2021年4月，“人脸识别第一案”在浙江省杭州市中级人民法院迎来二审判决：判决维持杭州野生动物世界赔偿郭兵合同利益损失及交通费共计1038元；删除郭兵办理指纹年卡时提交的包括照片在内的面部特征信息，以及指纹识别信息；驳回郭兵的其他诉讼请求。（来源：综合自新京报、钱江晚报等）

专家点评

石 霖 中国信息通信研究院云计算与大数据研究所人工智能部副主任

近年来，人脸识别技术创新发展，被广泛应用于公共安全、金融支付、交通出行等领域，也暴露出仿冒攻击、信息滥采、数据泄露等问题，屡屡成为社会焦点。“人脸识别第一案”终审判决之后，我国颁布法律规定对包括人脸信息在内的生物识别信息进行专门性的保护，体现了我国重视个人信息特别是生物识别信息保护的态度和决心。中国信通院云大所也紧跟热点，发起成立了“可信人脸应用守护计划”，重点针对人脸识别技术安全、人脸信息处理合规，联合各方共同探索可信人脸应用范式，促进人脸识别的有效治理和产业健康发展。

刘 伟 北京邮电大学人机交互与认知工程实验室主任、科技委人机融合智能组首席科学家

大数据让生活越来越方便，但任何技术都不应背离以人为本的原则。“人脸识别第一案”体现了个人信息主体对于个人信息保护关注度的提升，社会公众对于人脸识别信息的重视度日益增加；也体现了司法层面对于个人信息的保护，已充分关注到企业收集使用个人信息必须遵守“合法、正当、必要”三原则；同时也为企业敲响了警钟，提醒企业在收集使用个人信息的业务中应当更加注重合法合规，防止因处理个人信息不当造成企业风险，防止因此陷入民事诉讼或行政处罚乃至牵涉到刑事责任。