2025年7月22日，由中國信息通信研究院主辦的第十二屆可信云大會在北京召開。會上，國內(nèi)首個《面向LLM應(yīng)用的可觀測性能力要求》標準正式發(fā)布。該標準由中國信通院聯(lián)合業(yè)內(nèi)29家頭部單位共同制定，基調(diào)聽云作為重要參編單位之一，全程參與了標準的設(shè)計、討論與落地工作。

這一標準的發(fā)布，標志著國內(nèi)在大模型可觀測性領(lǐng)域邁出了從“實踐分散”到“能力標準化”的關(guān)鍵一步。

?

?

?

?

構(gòu)建生成式AI的可觀測性基線
行業(yè)首個權(quán)威標準發(fā)布

?

?

隨著生成式 AI 技術(shù)的加速應(yīng)用，LLM（大語言模型）在智能對話、RAG 檢索增強生成、Agent 智能體等場景中表現(xiàn)出巨大潛力。與此同時，圍繞 LLM 應(yīng)用部署的可觀測性建設(shè)也面臨前所未有的挑戰(zhàn)：

●?模型鏈路深、依賴復(fù)雜

●?推理響應(yīng)存在不確定性

●?用戶體驗難以量化評估

●?架構(gòu)層次多樣，監(jiān)控顆粒度模糊

標準的發(fā)布，正是為了解決上述痛點，建立一套“可量化、可評估、可落地”的觀測能力分級體系，指導(dǎo)企業(yè)在 AI 時代構(gòu)建穩(wěn)健的系統(tǒng)運行與質(zhì)量保障能力。

?

?

?

?

?

基調(diào)聽云參與標準制定
貢獻平臺經(jīng)驗與評估實踐

?

?

?

作為長期深耕智能觀測領(lǐng)域的技術(shù)提供方，基調(diào)聽云憑借在鏈路追蹤、性能評估、Token 分析、響應(yīng)延遲追溯等方面的平臺能力，積極參與本次標準制定全過程，并為多個關(guān)鍵指標體系的設(shè)計提供了實踐支撐。

?

?

?

?

助力大模型可觀測體系
走向標準化與工程落地

?

?

本次標準以數(shù)據(jù)為主線，提出了從數(shù)據(jù)采集、模型構(gòu)建、存儲治理到實際應(yīng)用的四大模塊化結(jié)構(gòu)，并細化指標至基礎(chǔ)設(shè)施層、中間件層、模型層、服務(wù)層和應(yīng)用層。其目標不僅是“規(guī)范現(xiàn)有”，更是“引導(dǎo)未來”。

?

基調(diào)聽云將持續(xù)與中國信通院等權(quán)威機構(gòu)保持緊密合作，共同推動生成式AI應(yīng)用的系統(tǒng)可視化、可解釋化、可評估化，構(gòu)建面向未來的大模型可觀測基礎(chǔ)能力。我們也將繼續(xù)依托“觀云智能可觀測性平臺”，打磨面向 AI 應(yīng)用場景的鏈路觀測、性能診斷與行為分析能力，助力企業(yè)更穩(wěn)、更快、更可控地落地 AIGC 生產(chǎn)體系。

推薦閱讀