浪潮通信信息参编《面向LLM应用的可观测性能力要求》标准正式发布

近日，在第十二届可信云大会主论坛上，《面向LLM应用的可观测性能力要求》标准正式发布。该标准由中国信息通信研究院联合行业各单位共同编制，旨在规范和指导企业开展大模型应用可观测性能力建设。作为核心参编单位，浪潮通信信息深度参与了此次标准的制定与发布，积极推动行业在大模型应用可观测性领域的标准化发展。

随着生成式AI技术的广泛应用，大语言模型（LLM）在对话系统、检索增强生成（RAG）、智能体（Agent）等场景中展现出巨大潜力，同时基于LLM以及AI生态技术栈构建的应用以及业务场景也越来越多，然而，LLM通常包含十亿甚至数万亿级别的参数，其应用在生产落地中仍面临着模型不确定性大、架构链路复杂、用户体验难以评估等痛点，如何构建大模型应用的全链路可观测性体系，如何评估LLM应用可观测性的能力是否完善，业界目前缺乏统一的标准。

基于此，浪潮通信信息与中国信通院及各行业专家展开深入合作，经过多轮严谨讨论，共同制定出一套面向LLM 应用的可观测性能力分级要求，为行业实践提供了重要参考依据。该标准聚焦LLM应用在训练与推理过程中的可观测性建设工作，以数据的采集、建模、存储、应用为主线，对各环节所需具备的能力进行了系统性的标准化规范。

未来，浪潮通信信息将继续关注大模型行业的最新动态，不断深化在大模型全链条、全领域的研究与实践，全力推动大模型的标准化与产业化建设，助力各行各业提升运营效率，实现高质量发展。