近日,在第十二届可信云大会主论坛上,《面向LLM应用的可观测性能力要求》标准正式发布。该标准由中国信息通信研究院联合行业各单位共同编制,旨在规范和指导企业开展大模型应用可观测性能力建设。作为核心参编单位,浪潮通信信息深度参与了此次标准的制定与发布,积极推动行业在大模型应用可观测性领域的标准化发展。
随着生成式AI技术的广泛应用,大语言模型(LLM)在对话系统、检索增强生成(RAG)、智能体(Agent)等场景中展现出巨大潜力,同时基于LLM以及AI生态技术栈构建的应用以及业务场景也越来越多,然而,LLM通常包含十亿甚至数万亿级别的参数,其应用在生产落地中仍面临着模型不确定性大、架构链路复杂、用户体验难以评估等痛点,如何构建大模型应用的全链路可观测性体系,如何评估LLM应用可观测性的能力是否完善,业界目前缺乏统一的标准。
基于此,浪潮通信信息与中国信通院及各行业专家展开深入合作,经过多轮严谨讨论,共同制定出一套面向LLM应用的可观测性能力分级要求,为行业实践提供了重要参考依据。该标准聚焦LLM应用在训练与推理过程中的可观测性建设工作,以数据的采集、建模、存储、应用为主线,对各环节所需具备的能力进行了系统性的标准化规范。
未来,浪潮通信信息将继续关注大模型行业的最新动态,不断深化在大模型全链条、全领域的研究与实践,全力推动大模型的标准化与产业化建设,助力各行各业提升运营效率,实现高质量发展。
催丹香是什么意思hcv8jop6ns6r.cn | 子宫粘连有什么症状hcv9jop7ns1r.cn | 25度穿什么衣服合适hcv8jop1ns4r.cn | 凉栀是什么意思hcv8jop8ns3r.cn | 骨盐量偏高代表什么hcv9jop2ns6r.cn |
摩根石是什么hcv9jop7ns4r.cn | 尘螨是什么东西hcv9jop1ns6r.cn | 下山虎是什么意思zsyouku.com | 手容易出汗是什么原因hcv8jop0ns3r.cn | 往来账是什么意思hlguo.com |
菌痢的症状是什么样hcv8jop5ns1r.cn | 兰州市区有什么好玩的地方hcv8jop7ns9r.cn | 狗摇尾巴是什么意思hcv9jop1ns1r.cn | 颈椎反曲是什么意思onlinewuye.com | 牛肉和什么不能一起吃hcv9jop3ns5r.cn |
丁丁是什么hcv9jop1ns7r.cn | 忧郁是什么意思hcv8jop1ns1r.cn | 吃什么能提升血小板hcv9jop1ns0r.cn | 王羲之兰亭序是什么字体hcv9jop5ns4r.cn | ffa是什么意思xjhesheng.com |
请输入验证码