青年报·青春上海记者 范彦萍

近来，生成式人工智能（GAI）风起云涌，备受关注。仅在我国，截至去年底已经备案并上线的大模型数量超过300个，注册用户超过7亿人。不经意间，GAI改变着并改善着人们的工作习惯乃至生活方式。

现实生活纷繁复杂，AI赋能推波助澜。但AI可谓是把双刃剑，一方面推进高效工作，美好生活，另一方面又引发版权之争不断，已逝明星AI视频出现在短视频平台，AI聊天角色对话出现“擦边”、暴力，未成年人权益保护出现新情况，AI诈骗案不断……

在今年的全国两会上，全国政协委员、中华全国律师协会监事长、国浩律师（上海）事务所合伙人吕红兵呼吁，要为AI这个看似无所不能的“孙悟空”戴上紧箍，尽快为生成式人工智能立法。

AI引发诸多新的社会问题，相关立法不易

“任何事物都是有两面性的，AI也不例外。”吕红兵列举了AI引发的法律问题：“AI大模型语料训练版权挑战”成为“年度关键词”（人民大学国家版权贸易基地发布），AI引发版权之争不断；已逝明星AI视频出现在短视频平台，逝者肖像权、名誉权、隐私权受侵害情形频现；AI聊天角色回答问题出现色情、“擦边”、暴力对话，未成年人权益保护出现新情况；AI制造“老同学”头像、声音诈骗案，在全国各地频发；全国首例AI生成声音人格权侵权案，已由北京互联网法院判决。放眼海外，AI制作的泰勒虚假色情、血腥图片在多个社交平台疯传，明星成为AI“深度伪造”受害者再添案例；美国作家向纽约曼哈顿联邦地区法院提起集体诉讼，指控微软、OpenAI侵犯其著作权……

针对AI引发的种种新的社会问题，吕红兵介绍说，国际上已经有立法方面的先例。

比如去年3月21日，联合国大会通过全球首个关于监管人工智能的决议《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》；经过长达三年的筹备与谈判，也在去年3月，欧盟正式完成《人工智能法案》立法流程，出台全球首部关于人工智能的全面立法。在我国，国务院2023年度立法工作规划，已将人工智能法草案列入其中。

但想要为AI立法谈何容易。技术专家分析：相对于专用人工智能系统而言，GAI具有可以执行不特定任务、具有庞大数据训练量等重要特征。欧盟《人工智能法案》基于风险的监管路径对GAI监管缺少针对性，很难应对GAI与不具有预设目的、多用途使用情景和大规模攫取训练数据相关的风险。

吕红兵分析说，在讨论中国的人工智能立法时，应重点加快出台有关GAI全方位规范的立法。

建议先以GAI为切口尽快推进立法

在吕红兵看来，与传统立法相比，人工智能立法面临技术飞速发展带来的调整对象不确定性、技术产业迭代带来的社会关系不确定性，以及风险种类和程度的高度不可预见性，因此，制定一部既要解决当下问题，又能充分考虑长远的人工智能法难度极大。“在加紧研究、充分借鉴、尽力推进的同时，可以选择GAI这一社会最关心最直接最现实的‘切口’，尽快推进‘小、快、灵’立法，早些出台行政法规。”

他认为，该行政法规的核心，应该是明确规定将社会主义核心价值观贯穿生成式人工智能全生态，并由其统领。净化GAI生态，不仅需要道德规范、伦理约束，更需要社会主义核心价值观引领。这是一种法律制度，比道德更“刚”，比伦理更“硬”，比政策更“可持续”。“所谓‘以人为本’，就应以社会主义核心价值观为本；所谓‘人机对齐’，就应强调GAI输出结果与社会主义核心价值观相符。该行政法规应对GAI技术开发者、服务提供者、使用者、监管者以及社会公众，分门别类明确各自权利和义务、职能与责任。”

吕红兵打了个比方，比如技术开发者应对用于训练大语言模型的数据进行严格筛选与分类，确保数据源合法且内容健康，剔除不当元素文本数据；对于现有模型，可运用数据遗忘等技术手段，消除其不当内容输出，或在干净数据上重新训练生成优质大模型；应引入人工审核机制，对自动化系统标记为敏感或禁止的内容进行复核；应推动开放研究、社区合作、线索举报等措施，优化大语言模型的筛选机制。

AI生成内容过程中的著作权保护是个核心又敏感的问题。他强调说，在输入阶段，使用语料是否构成侵权；产出阶段，涉及生成作品性质和作者资格。从国际惯例看，输入端使用作品相对宽松，但前提是文本挖掘和数据训练使用为非商业性，一旦进入商业领域则版权严格保护。

他进一步建议，应明确服务提供者依据民法典侵权责任编有关责任主体的特殊规定履行“网络服务提供者”、依据民法典人格权编有关个人信息保护履行“信息处理者”的义务。

“要做到依法对生成内容进行标识；发现违法内容应及时处置、整改并报告；对使用者的输入信息和使用记录依法保护，及时处理有关查阅、复制、更正、补充、删除个人信息请求；履行用户管理义务，公开服务适用情况，指导使用者科学理性认识和依法使用技术，采取未成年人防沉迷措施，建立健全投诉、举报机制；提供安全、稳定、持续的服务等。”吕红兵举例说。

青年报·青春上海记者 范彦萍

编辑：张红叶

来源：青春上海News—24小时青年报