高质量发展调研行|商汤:大模型引领新一轮人工智能变革
2024-05-26 青年

青年报·青春上海记者 陈嘉音/文、图

大模型正引领新一轮人工智能变革。在高质量发展赛道上,上海如何凭借不断跃升的人工智能跑在前面?带着这样的疑问,青年报·青春上海记者跟随 “高质量发展调研行”主题采访活动来到商汤科技新洲大厦。

  ◆  “大医”覆盖20余个细分医疗场景  ◆  

智能自诊预测疾病风险、临床大数据治理、智能化专病随访服务……如今,越来越多未来感十足的就医新场景在上海渐次落地。

在商汤AI体验中心,商汤科技高级总监段琦向记者演示了智能自诊平台:用户可自由输入主诉症状、医学问题、就诊需求等内容,由AI医生答疑解惑并回复相关的医疗建议。此外,可以通过修改提示词对提问方式及回复要求进行调整,以获得不同形式、详略程度的回答。

“在1.0时代中,医院聚焦信息化建设。在2.0时代,智慧医院开始有单点应用落地。到了3.0时代,生成式人工智能全面赋能智慧医院。” 商汤科技高级总监段琦表示,高质量医院发展正在呼吁更全面的顶层设计。

段琦介绍,“大医”是商汤科技研发的医疗健康大语言模型,内嵌“场景集市”,能够覆盖20余个细分医疗场景使用需求,具备检索增强框架、长程记忆存取、智能工具调用等多元能力,拥有行业领先的医疗问答能力,能够处理各类复杂医学任务。

“在专业医学任务评测中,‘大医’在检验检查问答、电子病历生成、线上问诊、导诊、随访、辅助诊断决策等多项医疗任务上的表现已超越GPT-4。”段琦说。

“大医”以千亿参数规模的大语言模型“商量”为基模型,后者拥有万亿token预训练语料。在此基础上,“大医”利用超300亿token的高质量医学知识数据训练而成,数据范围涵盖医学教材、医学指南、临床路径、药品库、疾病库、体检报告、真实病历、医患问答和对话等。凭借丰富的知识储备和强大的逻辑能力,并在增量预训练、指令调优、奖励模型构建以及基于执业医师反馈的强化学习训练基础上,“大医”能够精确回答医疗健康领域专业问题。

据了解,“大医”聚焦健康管理、患者服务、临床诊疗辅助以及医学科研四大领域,已覆盖智能自诊、体检咨询、健康问答、导诊、预问诊、用药咨询、诊后随访管理、临床辅助决策、医学文献解读、影像报告结构化、病历结构化、医学数据统计等20余个细分医疗场景,充分释放大模型在医疗健康产业的潜力,为产业链高质量发展赋能。

在亮点优势上,“大医”拥有定制化知识库,RAG检索增强高效引入外部知识库,支持客户自有知识库以插件形式与“大医”集成,使模型更满足临床需求,显著提升回答准确度。

此外,“大医”不受模型上下文长度限制,支持接入外部插件补充记忆存储空间,可打造用户专属医疗健康档案,并结合历史数据给出更针对性的个性化诊疗建议。

在体检咨询上,可充当体检咨询助手,根据提出的体检相关问题,基于体检知识库搜索和总结能力,提供及时、专业、准确的分析建议。支持用户上传体检报告,系统可根据报告内容提示各类健康风险,并给出智能随访、复查建议。

在影像报告解读上,支持用户上传影像报告,可将报告中复杂的医学内容转化为通俗易懂的科普性解读,帮助用户轻松读懂影像报告。

据悉,商汤科技与上海交通大学医学院附属瑞金医院合作,基于“大医”建设了临床大数据治理及专病应用项目,高效实现多模态数据采集、数据计算、数据分析、数据治理,目前已完成对超过5万份病历、近50万份影像学检查、近2万份病理记录的数据治理,为医院开展专病科研提供巨大助力。

  ◆  商汤AI大装置算力再增强  ◆  

作为人工智能软件公司,商汤科技以“坚持原创,让AI引领人类进步”为使命,拥有深厚的学术积累,并长期投入于原创技术研究,不断增强行业领先的多模态、多任务通用人工智能能力,涵盖感知智能、自然语言处理、决策智能、智能内容生成等关键技术领域,同时包含AI芯片、AI传感器及AI算力基础设施在内的关键能力。

商汤前瞻性打造新型人工智能基础设施——商汤AI大装置SenseCore,打通算力、算法和平台,并在此基础上建立“商汤日日新SenseNova”大模型及研发体系,以低成本解锁通用人工智能任务的能力,推动高效率、低成本、规模化的AI创新和落地,进而打通商业价值闭环,解决长尾应用问题,引领人工智能进入工业化发展阶段。

目前,商汤大装置总算力规模高达12000 petaFLOPS,已有超4.5万块GPU,其中临港AIDC为8800 petaFLOPS,远远超出立项规划的3740 petaFLOPS算力总量。在支持商汤自身大模型研发的同时,也支持外部客户训练大模型和应用部署。强大算力可支撑超过20个千亿超大模型同时训练,并支持万亿参数大模型的全生命周期生成。

SenseCore商汤大装置是国内训练大模型最为先进的基础设施,最大实现了万卡的超大集群互联,并保持90%的加速效率。在训练稳定性上,商汤实现了超30天稳定训练不间断的能力,而出现训练间断时的诊断恢复时长也优化到了半小时。

在大模型推理服务上,商汤也实现了领先业界的推理极致优化,过去一年内推理服务的性价比提升了3倍,为客户提供了业界性价比最优的大规模弹性推理服务。

青年报·青春上海记者 陈嘉音/文、图

编辑:陆天逸

来源:青春上海News—24小时青年报

返回上页 回到首页

青年报社 版权所有

总机:021-61176117 | 广告热线:021-61173717 | 违法和不良信息举报电话:021-61177819 / 61177827 举报邮箱:services@why.com.cn    测试版