技术是把双刃剑，谁来为人工智能确定“底线”？在今天下午举行的2019世界人工智能大会治理主题论坛上，青年科学家代表发布了《中国青年科学家2019人工智能创新治理上海宣言》，强调了人工智能发展需要遵循的伦理责任、安全责任、法律责任和社会责任等四大责任，展现了中国青年科学家参与推动全球人工智能伦理道德发展的责任担当。

上海市人大常委会副主任沙海林、科技部副部长李萌在论坛上致辞。全国人大外事委员会副主任委员、清华大学国际战略与安全研究中心主任傅莹，联合国科技促进发展委员会副主席Peter Major作主旨演讲。论坛以“合作治理 共创未来”为主题，来自联合国、欧盟、经合组织、清华大学、牛津大学以及国际知名智库、人工智能企业的数十位专家与会，围绕人工智能治理问题与国际合作展开研讨。

中国科学院院士、华东师范大学教授何积丰表示，人工智能的“底线”就是以人为本，这个方向不取得共识，未来工作没法做。

欧盟人工智能专家组成员，Skype创始工程师贾安·塔林（Jaan Tallinn）表示，做负责任的人工智能研究需要产学研三方携手，如果每一位科研人员、每一位企业家都能采取负责任的态度，人工智能发展失控的概率就会低得多。

上海在人工智能治理上肩负着先行先试的责任。今年5月，上海国家新一代人工智能创新发展试验区揭牌，明确了建立健全政策法规、伦理规范和治理体系的相关任务。6月，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则》，突出了负责任和开放协作的主题。

为落实《新一代人工智能治理原则》和上海人工智能创新发展试验区建设方案，推进全球人工智能治理合作，科技部战略规划司和上海市科委发起了2019世界人工智能大会治理论坛。

《中国青年科学家2019人工智能创新治理上海宣言》提出了一系列治理共识，如人工智能应遵循公平、无歧视原则，对不同人群提供无偏见服务；人工智能应是安全、稳健的,致力于将技术鲁棒性和安全性贯穿于整个研究过程；人工智能应将人类福祉摆在优先地位……

论坛上，还成立了上海国家新一代人工智能创新发展试验区专家咨询委员会，20位国内外专家委员将为上海国家新一代人工智能创新发展试验区建设和发展不断提供咨询建议。

延伸阅读：中国青年科学家2019人工智能创新治理上海宣言

1、伦理责任Ethical responsibility

1）隐私保护（Privacy）：制订相关法律法规，明确用户权属，加强隐私保护意识，发展隐私保护算法和技术，以公开、透明、合法的方式收集和使用数据。

2）多样公平（Diversity and Fairness）：人工智能应遵循公平、无歧视原则，对不同人群提供无偏见服务。致力于从系统工程角度出发，构建数据多样、算法无偏见的人工智能系统，提升用户体验的公平性。

3）道德规范（Ethics）：人工智能应符合人类价值观和利益。致力于制订可被广泛认可的人工智能道德规范，提出遵循道德规范的算法、产品设计技术框架，作为推理和决策时共同遵守的基本原则。

2、安全责任Safety responsibility

1）技术稳健（Robustness of technology）：人工智能应是安全、稳健的。致力于将技术鲁棒性和安全性贯穿于整个研究过程，提供安全可信系统，提高系统抗攻击、自我修复能力。

2）算法透明（Transparency of algorithms）：人工智能应是透明且易被解释的。致力于开源、可解释性研究，增加非黑盒算法研究，多层面提高透明度，以证明其结论和行为符合道德参考框架。

3、法律责任Legal responsibility

1）法治问责(Accountability)：人工智能应是可审计、可追溯的。致力于确定测试基准及部署流程与规范，保证算法可验证，逐步完善对人工智能系统的问责与监管机制。

2）人类作用（Humanistic approach）：人工智能应具备供用户自主选择的权利。致力于提供透明、可理解的决策解释和交互手段，允许用户参与、监督或干预决策过程。

4、社会责任Social responsibility

1）环境友好(Eco-friendly System)：人工智能应为人类的可持续发展赋能。致力于开展诸如模型裁剪与优化、高效能硬件架构、绿色数据中心等环境友好的研究与服务。

2）应用益民(Benefit to Human Wellbeing)：人工智能应将人类福祉摆在优先地位。致力于注重人工智能应用研发的民生导向，考虑用户的数字福祉,创造更具幸福感的工作和生活方式。

作者：沈湫莎

编辑：沈湫莎 陈曦（实习生）