青年报·青春上海见习记者 林千惠

“这个视频是真是假？”长约十秒的视频，一个老人悠闲地坐在林间，对着镜头讲话。观众议论纷纷：“人物很自然，衣服的格纹很细腻，应该是真的。”但下一刻，正确答案揭晓：视频作假。

10个混杂了AI与真实拍摄的视频，现场观众最终只答对了6道。在虚实交织的数字时代，人们该如何与之周旋，寻找真相，抑或学会共存？3月28日下午，由哔哩哔哩主办的“眼见非实·我心为尺”AI系列主题开放日活动在杨浦V聚场举行，讨论的正是这个问题。

“帮我点杯星巴克，再找一个像《爱乐之城》里那样的地方。”一位女士一边开车，一边向人工智能助手下达指令，系统很快完成了任务。复旦大学马兴军教授通过这段视频，展示了一种“近未来”的现实场景。

但另一面，AI带来的风险也不断增加。马兴军曾使用近来走红的OpenClaw，想测试安全性，令他吓到的是，在电脑另一端的朋友真的可以通过OpenClaw控制自己电脑的摄像头，在他不知情的情况下拍摄一切。

“Deepfake，所见为虚。”如果说如果说AI的安全问题让人担忧，那么它所带来的难辨虚实，则更让人无所适从。马兴军展示了一系列利用AI生成的身份证、护照，并请观众判断10个混杂了AI和真实拍摄的视频。观众屡次答错，他耐心解释这些AI视频的破绽，其实在于皮肤质感失真、人物整体形象异常。

倘若在现实生活中无法识别AI生成内容，后果远不止“答错”那么简单。B站UP主Git源宝（董纬）分享，一位母亲接到“女儿”的求救电话，声称遭到绑架，然而挂断电话后联系上女儿，却发现她安然无恙地在校园里。

而这个案例，只是当下AI诈骗乱象中再普通不过的一例：短短几秒语音，便可完成声音克隆；利用照片生成动态视频，实时模仿面部表情与唇动，实现AI换脸。随着AI技术的发展，这类诈骗手段的成本已从过去的数十万元降至几百元，门槛急剧降低。

Git源宝在研究中发现，各大平台上已形成完整的AI灰色产业链，从诈骗到流量变现，AI水军批量生成内容，操控舆论与情绪，成本低、效率高、且难以追踪。面对这一现实，他建议采取“慢、问、查”的策略：AI往往制造信息差，遇到可疑情况先冷静，进行交叉验证。

而当视线从AI带来的外部风险转向创作内部，则会发现它所冲击的，远不止安全与伦理的边界，即真实本身的价值，也正在被悄然侵蚀。这恰恰是月鹭文化负责人杨付博杰所关注的起点。作为一家深耕泛知识领域的MCN机构负责人，他在AI浪潮中感受到的影响，更多源于行业内部的结构性变化。

“AI进入行业后，许多潜规则和结构性问题被放大了。”杨付博杰坦言。一方面，内容来源变得模糊。以往依靠人力搜集与整理的内容，AI可以快速完成，但背后依赖的大数据算法，也带来了拼凑、挪用他人成果而不自知的风险。另一方面，AI大幅降低了内容生产的门槛，普通创作者的价值被削弱，进而影响商业合作，相比创作能力本身，合作方如今更看重IP的价值。

“从我们的观察来看，真正有价值的内容反而可能变得更少。因为做内容变得太容易了，认真做内容反倒成了一种成本较高的选择。”杨付博杰道出了一个看似矛盾的结论。正因如此，他认为创作者需要自行辨别AI的应用领域，把真正重要的事情留给自己：“因为AI无法替代你的判断，个人可以使用AI，不过要在伦理与效率之间寻求动态平衡。”

“我们无法让假的东西消失，但可以让自己成为真实的一部分。”Git源宝的结论，也许是当技术能够以假乱真，究竟该以何为尺的答案：AI终究是一面镜子，映照出个人的使用和定义，最终让真实得以存续的，不是更强大的算法，而是每一个选择真实面对世界、用心创造内容的人。

青年报·青春上海见习记者 林千惠

编辑：陆天逸

来源：青春上海News—24小时青年报