青年报·青春上海评论员 张逸麟

当为恶的成本不及一杯奶茶，当操作门槛趋于“傻瓜”，我们还能不能守住科技向善的本心？

日前，央视起底了“AI脱衣”的黑色产业链。9.9元的AI造黄教程、色情提示词，168元的违法软件……AI这一当下最热门的技术，被不法分子拿来充当新型犯罪的帮凶。

从台球运动员、青岛汽车销冠，到生活照被污的大学生，受害者已非个例，且都是在违法图片大规模传播后才发现。即便事后被确认是AI生成，不法之徒也已受制裁，可受害者付出的代价却极其沉重。

哪怕不涉及“造黄”和丑化，利用AI随意盗用他人体征，本身就在营造群体的AI恐慌。艺人虞书欣的面部与声线被克隆用于非法盈利，名人如此，普通百姓就没有风险吗？被盗走的不光是几张图片，还有AI时代的社会安全感。当“我的脸可能不再属于我”的忧虑就此蔓延，我们可能连在社媒上发张个人照都会提心吊胆。

“防盗”的AI治理是一场全民竞速，法律在与技术竞速，围栏在与门槛竞速，道德在与恶意竞速。《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》等一系列法规构建的制度框架，在审核、溯源、标识、跨境打击方面，时时在更新。7月施行的《人工智能拟人化互动服务管理暂行办法》进一步要求建立未成年人模式、内容标识。而在实例判罚中，越来越不采信所谓“算法自动生成”“技术中立”的抗辩。

技术是否中立不好说，但道德没有中立，AI伦理更没有灰色地带，善便是善，恶便是恶。

在央视曝光的AI黑产中，有着分工明确的流水线：上游训练模型、打包工具；中游批量生成、接单加工；下游实施敲诈勒索、恶意传播。在这条链条上，每个参与者都认为自己“只是做了一小部分”，逃避道德审视和法律追责。但事实是，在技术为恶面前，没有“无辜的中间人”。购买、使用、传播，每一个环节都是对受害者权益的侵害，都是对法律底线的试探。

年轻一代作为数字原住民，是AI技术最活跃的用户群体，也理应成为数字伦理最坚定的践行者。建立起拒绝购买、使用任何侵犯他人权益的AI工具，不下载、不传播AI生成的侵权内容的数字素养，始于当下，也刻不容缓。只有这些成为AI时代的共识，方能抵御技术门槛不断降低而滋生的恶意，减少更多的受害者出现的可能，也在避免自己成为“下一个受害者”。

科技向善，既需要制度为技术划定跑道，也需要每一个使用者在内心筑起道德底线。而守护这条底线，从我们每一次负责任的点击开始。

青年报·青春上海评论员 张逸麟

编辑：陆天逸

编审：陈晓培

来源：青春上海News—24小时青年报