青年报·青春上海记者 范彦萍/文、图

AI大模型有何安全风险？生成式人工智能服务有哪些暂行管理办法？今天，由市委网信办指导，徐汇区委网信办、区检察院、区公安分局及区新型工业化办联合主办的2024年国家网络安全宣传周上海地区活动徐汇区大模型主题分论坛在上海“模速空间”创新生态社区举行，业内大咖们分享了自己的观点。

专家探讨如何在新技术的浪潮中

筑起信息安全坚固防线

近年来，徐汇区通过建设科技创新平台、发展人工智能产业、加速科技成果转化、规划科创街区以及优化政策支持，抢抓大模型在垂直领域形成爆发式应用的重要机遇期，打造各类通用大模型、垂类大模型、大模型应用创新初创项目落地上海的第一站，为上海人工智能创新发展探索了宝贵的“徐汇经验”。大模型技术迅猛发展的同时，随之带来了不小的安全性、合规性挑战。本次论坛紧紧围绕“大模型浪潮下的安全挑战”主题，聚焦大模型最新的技术进展及其所面临的安全难题，邀请相关领域的学者、科研专家、行业大咖，就大模型科研动态、发展趋势、技术实践以及安全挑战等话题展开深入的研讨与交流。

活动开场的舞台剧《谭谈互联网——AI大模型安全》以市民身边的三个典型案例生动演绎了AI大模型给人们生活带来的影响，教育和引导市民在享受技术带来便利的同时，不忘守护好自己的数字世界。面对大模型技术发展带来的变革与挑战，网信、公安与检察机关协同，在新技术的浪潮中筑起了信息安全与财产保护的坚固防线。

人工智能作为前沿科技的代表，安全性与治理路径已逐渐成为全球焦点。论坛中，来自上海人工智能研究院总工程师王资凯围绕《前沿技术安全与治理路径》议题，为与会嘉宾作主旨分享。

当前，生成式人工智能的安全治理日益受到重视，相关政策法规密集出台，监管力度显著增强。来自上海市信息安全测评认证中心总工程师李宏达以《生成式人工智能内容安全指引及备案》为题作交流分享。李宏达介绍说，中国提出的《全球人工智能治理倡议》更加注重国际合作和全球视角，提出了建立一个国际人工智能监管机构的建议，以创建一个统一的全球人工智能监管框架。这种倡议强调了全球问题需要全球解决方案的重要性，旨在通过国际合作来应对人工智能带来的挑战。

随后，来自智巡密码（上海）检测技术有限公司副总经理、高级工程师刘军荣带来《密码技术守护大模型安全》的主题分享，深入探讨了密码技术与大模型的融合应用与创新发展。

在最后的圆桌对话环节，来自上海商汤智能科技有限公司、上海数字安全科技有限公司、观源（上海）科技有限公司、深圳奥联信息安全技术有限公司等单位的行业专家围绕“大模型浪潮下的安全挑战”主题带来了一场思维盛宴。其中，上海商汤智能科技有限公司副总编辑牛梦雅提到了诈骗分子利用人工智能深度诈骗的风险。不仅如此，人工智能还可能会诞生更多网络谣言、侵犯个人知识产权等。“人工智能能生成一些不存在的景区，会让网友信以为真。”

“我们可以采取匿名或者脱敏技术，对不得不采集的数据进行保护，不过度采集数据。也可以采取联邦学习的方式，将用户数据放在本地。” 深圳奥联信息安全技术有限公司高级工程师王圣宝。

开设“网络安全市集”

帮助更好识别和应对网络威胁

当天下午，徐汇区在“模速空间”还举办了一场别开生面的“网络安全市集”活动。本次专业领域的市集活动作为一种创新的宣传方式，得到了三零卫士、纽顿科技等网络安全企业，米哈游、鹰角等网络游戏企业的积极响应和广泛参与。市集现场特别设置了专家咨询区、技术展示区、互动体验区等多个功能区域，吸引了众多市民和企业白领参与。

市集上，主办方通过网络安全知识竞赛、游戏活动等方式，吸引年轻人参与网络安全互动体验，提升网络安全风险意识和能力；通过身边案例的讲解，提醒老年人、未成年人加强个人信息保护，更好识别和应对网络威胁，如网络谣言、电信诈骗等。

互联网是社会发展的新引擎、新高地，同时也可能是一把“双刃剑”。据了解，近年来，徐汇区在探索实践的基础上，不断加大网络安全宣传力度、扩大覆盖面，全力护航属地企业合规发展，全力维护社区居民合法权益。

主办方表示，未来，徐汇将进一步加强市区联动、区域协同，聚焦大模型企业实际需求，始终坚持主动服务、靠前服务、精准服务，全力护航企业合规发展，共同筑牢网络安全防线，努力形成政策指导、技术创新、产业发展、安全保护全链条服务的良好发展生态。

青年报·青春上海记者 范彦萍/文、图

编辑:张红叶

来源:青春上海News—24小时青年报