青年报·青春上海记者 范彦萍/文、图

随着生成式人工智能（AIGC）技术的快速普及，电商领域出现新型“黑灰产”，不法分子利用AI工具批量生成逼真的“商品破损”“货物瑕疵”图片，钻电商平台“仅退款”规则漏洞实施恶意索赔。

作为数字经济高地，上海聚集了大量中小电商商家，此类零成本、批量化、难辨别的恶意行为，不仅让商家蒙受损失，更破坏了市场秩序。市人大代表，上海合合信息科技股份有限公司董事、董事会秘书刘忱在调研中密切关注这一问题，在今年上海两会召开期间提出系列治理建议，为优化营商环境、保护中小商家权益发声。

在刘忱看来，AI恶意应用带来的负面影响已形成连锁反应。首先，中小商家成为直接受害者，不仅要承受货物损失、退款损失等直接经济成本，还面临高昂的维权成本。由于AI生成的虚假证据逼真度高，商家举证难度极大，加之维权流程复杂，不少商家只能忍气吞声。其次，线上电商平台虽承载着核心交易功能，但在追求经济利益的同时，对网络安全的投入仍有不足，审核机制难以有效拦截AI造假索赔行为。更严重的是，这种违背诚实信用原则的行为，正在侵蚀数字经济领域的信用体系，破坏公平交易的市场秩序，给上海的营商环境带来负面影响，亟需通过系统性治理加以改善。

为此，刘忱提出多维度治理建议，力求构建全链条防控体系。在监管层面，他建议“建立市场监管、网信、公安、电商行业协会等多部门联动机制，开展针对AI造假索赔的专项整治行动，重点排查高风险品类与高频索赔账号”。同时，支持上海本地监管技术创新，推广AI生成内容识别、商品溯源等监管工具，对平台审核流程实施常态化监督检查，督促平台落实审核义务。为降低商家维权门槛，他特别提出设立商家维权绿色通道，“简化AI造假索赔案件举证流程，建立‘快速立案、优先调处’机制，让商家维权更高效、更省心”。

在技术防控方面，刘忱强调要强化技术赋能，筑牢风险防线。他建议推动电商平台部署AI造假识别技术，通过算法比对商品原始信息与退款证据的一致性，精准拦截伪造内容，同时对高频索赔账号实施重点监控。“应建立跨平台协同治理机制，推动各大电商平台共享欺诈案例数据与恶意账号黑名单，实现联合管控，让恶意账号无处遁形”，刘忱表示。此外，还应推广数字水印等技术应用，引导商家对商品打包、发货全过程录像存证，为维权提供可靠的证据支撑。

在行业生态营造上，刘忱提出要加强引导，培育诚信经营环境。一方面，开展商家风险防范培训，普及AI造假识别技巧与证据留存方法，提升中小商家的自我保护能力；另一方面，通过多渠道宣传AI造假索赔的法律后果，揭露常见套路，引导消费者遵守诚实信用原则。“只有商家、平台、监管部门、消费者多方发力，才能形成治理合力，遏制AI恶意索赔行为，让数字经济在健康有序的环境中发展，真正优化上海的营商环境”，刘忱补充道。

青年报·青春上海记者 范彦萍/文、图

编辑：张红叶

来源：青春上海News—24小时青年报