青年报·青春上海见习记者 朱彬/文、图

去年年底，“豆包手机”——一款搭载豆包AI手机助手的工程样机横空出世，并掀起轩然大波。借助这款AI手机，用户仅靠语音输入便可完成外卖下单、比价购物、消息回复等各项复杂任务，其功能性堪比“超级APP”，在各大应用软件之上重新建构一个总体调度系统。而有关于此的风险边界问题也引发各界讨论。

用户从自主选择手机APP到依赖AI手机助手推荐选择，新的人机交互方式背后是否会诱发不正当竞争，从而对行业生态造成冲击？AI手机助手的“读屏+模拟点击”功能会读取屏幕各类信息，这是否涉及用户知情权同意？会否造成用户隐私泄露等风险？政策监管方面，又该如何应对上述问题的不确定性？1月13日上午，“AI手机合规制度构建”研讨会在上海华东政法大学举办，就AI手机发展的合规制度、技术逻辑与伦理价值等法律问题进行了深入探讨。

潜在风险：AI手机挑战法律与商业规则

AI手机是在传统智能手机基础上，嵌入大语言智能模型的一种新型手机形态，它能够根据用户的语音或文字指令，理解屏幕上显示的内容，并在多个应用之间完成信息查找和操作处理。会议提出，随着端侧大模型在AI手机中深度应用，由此引发的系统权限、数据安全及责任分配等法律与合规挑战日益凸显。

有观点认为，AI手机首先可能破坏现有第三方APP的外部交易秩序。以抢票为例，AI助手在直接选择一款APP执行操作背后，可能涉及到第三方APP与AI运营商的合作模式问题。

其次，AI手机能通过无障碍服务获得系统级权限，读取用户的社交聊天、支付明细、浏览记录等全数据的场景，一旦获取用户授权，可能还要持续不断地在后台静默运行，长期侵入用户的私人领域，未经授权获取数据。但与此同时，用户并不清楚它搜索的数据量及其流向。从效果上来看，AI手机带来的风险在传统外包和自动化灰产业中也都有体现，并不会因为技术先进或用户授权得到解决。

对此，中国社科院长城学者李明德强调，AI手机相关法律问题应回归本质，通过反不正当竞争、反垄断等现有法律框架解决争议。中国人民大学法学院教授郭禾也提出，保障用户对AI功能的实质知情是合规核心，应避免笼统告知，让用户在关键节点自主选择。

趋势观察：立法监管不宜过早介入

以上风险挑战，“涉及到的法律问题并不是新问题，在豆包手机开发前已有涉及。面对新技术，世界知识产权组织仲裁员陈锦川建议，监管立法不宜过早定调，应给市场竞争留出调整空间。专家们也大多持开放包容态度，他们认为可以“让子弹再飞一会儿”。

从技术变革角度来看，底层逻辑的改变——从以视觉为基础的操控手段改变为以语音操控为主要手段，对高度近视和盲人使用者更加有利。华东政法大学王迁教授指出，但就其中涉及的用户隐私和信息泄露等法律问题来看，“AI手机并没有增加个人信息泄露的风险，这种风险在智能助手出现之前便存在”。

在他看来，隐私问题讨论的关键在于AI手机是否过度获取数据。但这类手机所获得的个人信息和它获得的权限总和，不会超过每一个单独的应用程序收集的个人信息和权限总和，因此整体而言，用户的个人信息损失并不大。如果AI手机未获得用户知情同意导致其损失，根据现有规定进行民事责任赔偿即可。

但在司法审判中，AI侵权责任的认定仍存在诸多难点。由于数据处理环节存在多个数据控制者，每个环节都可能发生数据的不当泄露，对侵权主体以及损害结果发生的原因难以判定。那一旦AI手机引发隐私安全问题，各方责任如何界定？

上海市高级人民法院知识产权庭副庭长徐俊从承担侵权责任的特定情形、因果关系等角度进行分析。他表示，评估AI手机抓取数据的正当性要具体结合竞争形态、损害因果关系、数据使用的范围和影响等因素。此外，数据使用的目的和性质、使用的数量和程度、使用的范围和影响也会作为考量因素。“数据的流通是其本源所在。AI手机在跨端抓取数据过程中，如果将其创造性转化使用并造福社会，法院会酌情处理，采取更加包容的态度。”

他认为，应对AI手机这样一个潜在的技术市场给予充分尊重。伴随人工智能技术与手机应用系统的深度融合，未来竞争形态可能会更复杂多变，司法机构要对技术发展保持敏锐观察，以动态发展的眼光来审视各类竞争行为的正当性，在技术创新和维护公平竞争之间，维持动态均衡。

方案探讨：鼓励创新同时建立安全机制

面对AI手机引发的潜在性问题和规则重构，如何加以规范？今年1月10日，国家网信办已出台《互联网应用程序个人信息收集使用规定（征求意见稿）》。“可以说，这一新规主要针对AI手机。”华东政法大学特聘副研究员王镭指出，新规基本上回应且涵盖了AI手机可能存在的信息泄露等各种风险，对应用程序运营者提出了很高的合规义务和责任。

譬如，新规要求应用程序需要区分不同的任务类型和权限，让用户进行分开、独立授权，不得进行一次性授权，这要求用户过程中持续进行授权和行使知情同意。新规还强调落地最小必要原则，要求AI助手根据不同的任务场景，动态申请市场权限。当用户订外卖时，只有下达要哪个APP帮订外卖的指令，AI助手才能去申请读取APP的评估权限。

但他强调，若要求AI在调取不同应用程序过程中，反复取得用户同意和授权，会导致应用不能流畅运行，影响功能发挥和用户体验。“法律保护和监管的对象应该是与人产生利益关联的信息，而不是规制很多与个人利益无关的数据应用。”

如何把握好鼓励AI技术创新发展与监管的关系，应对AI带来的诸多挑战？与会人员在个人信息保护方面，达成“实质知情优先、避免笼统授权”共识。华东政法大学法治化营商环境研究院兼职研究员陈雯和上海市普陀区人民法院知产庭庭长吴大成建议，可要求AI手机运营商对敏感信息的使用进行动态化、场景化告知，避免用户笼统授权。在大方向上，倡导建立“标准先行、监督护航、奖惩并重”的合规体系。

“AI手机是一个产品，要符合基本的商业伦理和法律规范，不侵犯他人的隐私、财产信息和敏感信息。在此前提条件下，法律可以为技术发展、市场模式发展留出一定空间，让技术交给技术，让合理竞争交给市场，不要试图以法律问题解决技术和市场问题。”中国法学会知识产权法学会学术委员会主任李明德说。

上海知识产权法院副院长刘军华也表示，AI技术的运用将对经济、社会的发展、运行规律、组织结构等产生重大的影响。今天研讨的主题只是AI技术应用的一个缩影。面对这类问题，法律人士既要从整体上考察新一轮技术革命所可能带来的各种影响，也要找准真正的问题所在和法律干预的时机和方式。

青年报·青春上海见习记者 朱彬/文、图

编辑：张红叶

来源：青春上海News—24小时青年报