“每个人都生活在算法结果里，算法看似是个技术，但却和人工智能时代的我们息息相关。”在今年的全国两会上，全国政协委员张毅疾呼，要更加完善算法监管体系，避免在“算法时代”成长起来的年轻人陷入“算法陷阱”。

在接受青年报记者专访时，他就透露说，早在去年下半年，自己作为上海新联会会长，就带头针对先导产业组织了多次调研，形成的专报之一便涉及算力问题。他的主张是，要给看起来72般变幻，无所不能的人工智能算法这个“孙悟空”戴上“监管的紧箍咒”。

青年报首席记者　范彦萍

委员当起“神秘顾客”明察暗访调研“算法陷阱”

“人工智能产业三大要素就是算法、算力和数据。”这几年，张毅始终关注人工智能产业的发展。去年全国两会上，他的提案关注了人工智能产业数据问题。两会结束后不久，他就开始酝酿算法治理体系的提案。提前一年为今年的提案做十足的准备。

从二三万字的调研素材凝缩成千把字的提案，可以说，此次历时近一年的研究和调研后形成的算法提案，是他长期以来关注人工智能产业的顺理成章的成果。

在调研过程中，张毅化身“神秘顾客”和网约车司机聊天，访谈监管机构工作人员、专家学者、技术人员。他发现不少平台都形成了“千人千面”的算法体系。“以网约车平台为例，一个A先生向他抱怨自己叫到的网约车经常比别人的要贵些，他猜测，也许在平台的用户画像里，他更愿意叫贵的车。算法是无差别计算的，并非针对A先生个人，而是根据算出来的用户画像自行做匹配。算法一定程度上决定了成本。”

算法比你本人更了解你的行为习惯

数据对年轻人意味着什么？　年轻人如何在“算法时代”生存？　这个问题，张毅曾请教过上海市人大代表、上海流程智造科技创新研究院公司董事总经理、上海新兴信息通信技术应用研究院首席专家贺仁龙，作为人工智能专家，他有足够的发言权。

对张毅调研时发现的人工智能隐藏的消费陷阱，贺仁龙透露说，这样的乱象比比皆是。“现在的人工智能已经能针对用户手机不同型号，判断出用户的身价，基于用户偏好，推送指定商品。有些恶意的已经属于价格歧视，违反市场交易的公平原则。欺负‘不计较钱的人’，严重的说，这已经涉嫌大数据欺诈。”

让贺仁龙感慨万千的是，生存在这个时代，避免被数据裹挟成为较为困难的事。“可以说，从某种意义上说，算法比你更了解你的行为习惯，大家深陷不公平的消费风险。”

但要开展算法的治理和审查，贺仁龙认为“难度也不小”，涉及到各个垂直领域的监管。

之所以造成监管难，贺仁龙认为，这是由人工智能的特性造成的。“如果说大数据还有算法代码，你还能找到原始明文，利用类似‘密码本’翻译摩尔斯密码的话，现在的人工智能可以实现深度学习，你完全不知道黑匣子的代码是什么。现在的人工智能是以结果为导向的，它会实现自我不断进化。”

此外，贺仁龙还认为，现在不少年轻人深陷信息茧房的桎梏，一些新闻资讯类平台也会根据用户的个性化喜好推送头条，并不断加强。

建议算法也要纳入公平秤式的日常监管

贺仁龙将算法的监管比喻为一杆公平秤。“这就好比在菜场买菜，必须要有公平秤。以前的消费者会拿一块钱硬币试一下分量是否对。”

他建议，人工智能的监管也要有一把尺。“菜市场里的公平秤由计量院专门校验，我们的算法也要有新的权威部门制订依据和计量办法，由官方机构检验，才允许上市备案。既然公平秤开展的是日常管理，算法也要纳入日常管理中。”

“部分大数据算法的行径扰乱了市场公平，让消费者在不等价不公平的情况下利益受损。”贺仁龙强调说，目前这样的监管是缺位的，新闻媒体也应该在“3·15”曝光这一现象。

他建议要尽快推进《人工智能法》的出台，构建人工智能算法治理体系，弥补监管体系空白。同时，可考虑通过针对性的法规予以补充规范。针对产业链上各主体，采取权责相统一原则，根据不同主体对于人工智能系统的控制力度来加诸相应的合规义务。将人工智能和算法技术按风险等级进行划分并采取不同监管措施，并设置事前、事中和事后全生命周期监管措施义务。

他还强调要强化和创新算法监管。强化由网信牵头，发展改革、数据、工信、公安等多部门共同参与的算法治理联席会议制度，完善“横向协同，纵向联动”算法治理格局。借助市场力量，外聘或者借调算法及人工智能领域的专家共同参与监管流程，补齐监管技术短板。引入“监管沙盒”制度，允许算法及人工智能企业在监管机构的监督下，于相对可控的环境内进行试验性地开发、测试和验证。此外，或可考虑探索将人工智能技术应用于人工智能监管，以提高监管效率。