《中国青年科学家2019人工智能创新治理上海宣言》发布
2019-08-29 上海


青年报·青春上海记者 郭颖/文 受访者/图

社区需要治理,人工智能创新也需要治理。

今天,世界人工智能大会-治理论坛以“合作治理 共创未来”为主题探讨新一代人工智能治理体系。论坛期间,上海市计算机学会青年工作委员会发布《中国青年科学家2019人工智能创新治理上海宣言》,发出人工智能治理与道德标准的中国青年科学家声音,倡导社会各界积极合作,从科学技术、道德伦理、社会责任等方面创新人工智能治理。

据悉,青年科学家处于人工智能理论研究与技术创新的第一线,肩负人工智能全球合作的使命,因此从青年科学家角度对人工智能创新治理提出倡议。为响应2019年6月17日,国家新一代人工智能治理专业委员会发布的《新一代人工智能治理原则——发展负责任的人工智能》,《上海宣言》从四大责任、九大原则方面对《治理原则》详细展开,提出青年科学家对人工智能创新治理的倡议。四大责任包括伦理责任、安全责任、法律责任、社会责任,进一步针对每个责任详细展开为隐私保护、多样公平、道德规范、技术稳健、算法透明、法治问责、人类作用、环境友好、应用益民九大原则。

《上海宣言》由上海市计算机学会青年工作委员会组织编制发布,编制团队青年科学家涉及人工智能、法律、伦理等研究方向,编制过程广泛听取上海市人工智能领域各大高校、研究所以及人工智能企业的青年科学家、专业精英的意见。

上海市计算机学会青工委副主任王昊奋现场宣读和发布《上海宣言》。

    上海宣言    

1、伦理责任

1)隐私保护:制订相关法律法规,明确用户权属,加强隐私保护意识,发展隐私保护算法和技术,以公开、透明、合法的方式收集和使用数据。

2)多样公平:人工智能应遵循公平、无歧视原则,对不同人群提供无偏见服务。致力于从系统工程角度出发,构建数据多样、算法无偏见的人工智能系统,提升用户体验的公平性。

3)道德规范:人工智能应符合人类价值观和利益。致力于制订可被广泛认可的人工智能道德规范,提出遵循道德规范的算法、产品设计技术框架,作为推理和决策时共同遵守的基本原则。

2、安全责任

1)技术稳健:人工智能应是安全、稳健的。致力于将技术鲁棒性和安全性贯穿于整个研究过程,提供安全可信系统,提高系统抗攻击、自我修复能力。

2)算法透明:人工智能应是透明且易被解释的。致力于开源、可解释性研究,增加非黑盒算法研究,多层面提高透明度,以证明其结论和行为符合道德参考框架。

3、法律责任

1)法治问责:人工智能应是可审计、可追溯的。致力于确定测试基准及部署流程与规范,保证算法可验证,逐步完善对人工智能系统的问责与监管机制。

2)人类作用:人工智能应具备供用户自主选择的权利。致力于提供透明、可理解的决策解释和交互手段,允许用户参与、监督或干预决策过程。

4、社会责任

1)环境友好:人工智能应为人类的可持续发展赋能。致力于开展诸如模型裁剪与优化、高效能硬件架构、绿色数据中心等环境友好的研究与服务。

2)应用益民:人工智能应将人类福祉摆在优先地位。致力于注重人工智能应用研发的民生导向,考虑用户的数字福祉,创造更具幸福感的工作和生活方式。

青年报·青春上海记者 郭颖/文 受访者/图

编辑:陆天逸

来源:青春上海News—24小时青年报

返回上页 回到首页

青年报社 版权所有

广告热线:021-61173717 | 违法和不良信息举报电话:021-61177819 / 61177827 举报邮箱:services@why.com.cn    测试版