邵志清代表呼吁:用法律为智能社会划出道德边界
2019-03-05 要闻

上海团全国人大代表集体酝酿并讨论、提出议案建议。

参加十三届全国人大二次会议的上海代表团昨天下午在驻地进行议案集中会签。19位领衔代表介绍了22份议案。邵志清代表带来一份“制定人工智能应用管理法”的议案。他呼吁,要用法律为智能社会划出伦理道德的边界。这也得到了许多代表的赞同。

青年报·青春上海北京特派记者 刘昕璐 摄影报道

“在造福人类的同时,人工智能所带来的社会问题也逐渐显现,开始从技术领域、民事领域向刑事领域转变,比如利用使用人工智能技术侵犯公民个人信息、竞争对手商业秘密,甚至危害人的健康生命、社会的安全稳定。”全国人大代表、致公党中央委员、上海市委专职副主委邵志清举例,2017年9月,浙江警方破获全国首例运用人工智能实施犯罪的案件。涉案平台利用人工智能技术快速识别验证码,截获、贩卖了10亿多组公民个人信息,供合作团伙进行网络诈骗。2015年7月英国《金融时报》报道了德国大众公司的机器人“杀人事件”,一名工作人员被正在安装的机器人突然抓起重重摔向金属板而不治身亡。

在他看来,这两个案件和事件中,一个是机器通过自主学习提升识别能力帮助人实施犯罪,另一个是因为机器完全自主的行为导致人员伤亡。对如何认定责任主体和行为意愿提出了全新的挑战。

“传统刑法领域只有自然人才是刑法规制的主体,在人工智能应用场景下,很多机器成为了主体。另外,机器的主观意愿的认定也带来了困难。对于这类问题,现有的法律难以规范。”邵志清坦言,由于涉及面太宽,社会对人工智能的认识也还处于初步阶段,目前对人工智能进行综合立法的条件还不具备。但是为了防范重大风险,需要针对人工智能的具体应用进行立法。

事实上,2016年以来,一些国家和机构对人工智能法律制订进行了一些探索。近几年,我国也对自动驾驶车辆测试方面进行管理规范,这些探索和实践为制定人工智能应用管理法提供了有益参考和依据。对此,邵志清认为,人工智能应用的管理应该重点围绕伦理道德、资源获取、主体认定、行为认定、责任划分等方面进行立法。

“尤其是伦理道德方面,应该明确禁止应用人工智能技术实施违反人类伦理道德的行为,特别是在基因工程、生命科学、情感意识等方面用法律为智能社会划出伦理道德的边界,让人工智能服务造福而不是困扰危害人类社会。”邵志清说道。

与此同时,在资源获取方面,邵志清说,明确禁止采集个人隐私、商业秘密、国家机密的资料、信息、数据,避免被人和机器恶意利用,从源头上遏制人工智能的不法应用。

“在主体认定上,要明确具有自主学习、思考、行动能力的机器人成为适格主体的应用场景和应用前提等,明确机器人与自然人主体进行区分认定和共同认定的条件和依据等。行为认定上,要明确认定机器人意图的原则,特别是要解决机器人基于人工智能进行独立判断和决定所实施侵害的主观方面认定问题。”邵志清还就责任划分上强调,要明确责任划分和处罚的原则。如此,一旦有侵害发生,要让智能机器人的使用者、制造者、机器人本身承担并严格区分的相关责任。


青年报·青春上海北京特派记者 刘昕璐 摄影报道

来源:青年报

阅读全文 返回上页

青年报社 版权所有

广告热线:021-61173717 | 违法和不良信息举报电话:021-61177819 / 61177827 举报邮箱:services@why.com.cn    测试版