青年报·青春上海评论员 陈宏

刚刚过去的长假，很多人因为“雷军”成了受害者，原本温文尔雅的雷总风格突变，在各个短视频平台用犀利言辞怼天怼地，不满堵车、不满调休，游戏输了甚至直接破口大骂。当然，大批量涌现的“雷军”，其实是AI配音——据说雷军本人，上网也被“AI雷军”骂了。

这真是让人细思极恐。我们曾说“无图无真相”，后来PS技术越来越高超了之后，我们又追加一条，有视频才有真相。然而，当下的现实是，有图有视频有声音，真相还是不一定。网友们原本可以凭借一段文字、一张图片、一段视频，积极加入舆论场，参与公共事务，但现在AI技术的进步，让舆论热点经常伴随着“惊天大逆转”。只要你喂给AI足够详细的资料、足够精准的指令，它就能生成一个让人瞠目结舌的所谓“真相”。在网络上，“AI雷军”已经在教大家“雷军AI配音的详细制作教程”了。AI诈骗犯罪，也应运而生，并有了抬头的趋势。《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈增长了3000%。

但也就是在这两天，瑞典皇家科学院宣布，将2024年诺贝尔化学奖授予三位投身于“人工智能驱动的科学研究”领域的科学家，这三位科学家都在利用AI的深度学习研究蛋白质。此前不久，2024年诺贝尔物理学奖也被授予了两位人工智能领域的学者。诺贝尔奖的鼓励，几乎已经预示着，AI的发展未来将会继续狂飙突进。

对此，有人悲观，有人恐惧，真相如此容易被混淆，认知成本到底会高到哪里？是否我们的未来，每一步都需要小心翼翼、如临深渊？确实，当这个真实世界与虚拟世界的边界变得模糊，社会运行的风险突然就前所未有地增长。更何况，自媒体的时代，一个客观存在的隐性现实是：粉丝数经常取代了权威性，成为判断真相的重要标准之一，名人、大V们一旦主动参与或被动卷入“AI骗局”，在缺乏甄别能力和甄别机制时，人类社会会被带向何处？

《西游记》里出现过相似情景。孙猴子正常的72变，总会留下一个“后门”——他的尾巴，总能被真正的高手轻易认出来。但当他和六耳猕猴真假难辨时，各路神仙也都只能面面相觑、束手无策。

这事儿闹出的动静很大，最终一个紧箍咒解决了大问题。我们不是预言家，无法预知AI的未来。但我们已经看到，在AI产业链的各个环节，有关方面已经在“生成紧箍咒”：在上游，我国相继出台了《互联网信息服务深度合成管理规定》等法律法规，内容生产者权责分明；在下游，各大短视频平台也在加大治理力度，提升了科技甄别能力，像某些平台的AI内容，都会有“疑似为AI创作，请注意甄别”的明显提示。

发展和规范历来是相互制约又相互成就的两大法宝。既然人类科技的发展是一种必然，那我们也要依赖人类的智慧，小到自身的应对防范能力，大到全球的社会治理手段，我们确需“进化”出一个应对的“紧箍咒”，让AI在合理的渠道造福人类。

​青年报·青春上海评论员 陈宏

编辑:周晓 陆天逸

来源:青春上海News—24小时青年报