隨著金融機構加速建設面向客戶的 AI 服務體系，AI 正從后臺效率工具走向一線服務前臺：智能客服、智能投顧、營銷與運營助手在更多業務鏈路中承擔“直接響應、直接建議、直接觸達”的角色。效率提升和體驗優化的收益顯而易見，但與此同時，治理壓力也被同步放大：輸出是否可控、決策是否可解釋、問題發生后是否可追溯、可審計、可擔責。
雙態 IT 的討論語境，恰好把這組矛盾呈現得更清晰：一方面要保持創新迭代的速度，另一方面又必須守住核心系統的穩定性與合規性。AI 走到面客場景之后，“創新與穩態并行”不再是組織口號，而成為每天都要回答的運行問題——如何讓新能力跑得快，同時讓風險看得見、管得住、說得清。
2026年1月9日至10日，第十五屆雙態 IT 用戶大會在泉城濟南圓滿落幕。本次大會以“迎接即將開啟的金融面客AI浪潮”為核心主題，匯聚了金融科技領域的頂尖專家與行業領袖。作為國內可觀測性與應用安全領域的領導者，基調聽云深度參與圍繞“面客 AI 的系統治理底座”與“應用安全閉環如何落地”進行了兩場分享，從治理邏輯到工程路徑，聚焦金融機構更關心、也更需要可落地答案的關鍵命題。
?
面客 AI 進入規模化階段：金融 IT 關注點正在從“穩定”轉向“可證明”
?
在大會分享中，基調聽云 CTO 楊金全強調：當 AI 直接面對客戶，金融 IT 系統面對的不僅是并發、時延與可用性，更是長期運行中的 決策可靠性、可追溯性與合規可信度。也就是說，過去“系統穩不穩”的評價框架依然重要，但已經不足以覆蓋面客 AI 的主要風險面。
?
?
面客 AI 往往以智能體（Agent）方式組織多步決策：檢索知識、調用工具、訪問業務系統、生成結論并輸出。每一步都可能引入新的不確定性：知識更新、策略變化、下游波動、模型差異、提示編排調整……當問題發生時，金融機構需要的不是“可能原因清單”，而是一套能快速收斂的定位與復盤機制，能回答：為什么會這樣、影響到哪里、依據是什么、責任如何界定、整改如何驗證。
?
因此，本場分享圍繞“可控、可解釋、可負責”三件事展開，核心并不在概念本身，而在于這些能力如何真正落到系統工程里。
可控：把邊界寫進運行鏈路，而不是寫在規范里
“可控”的關鍵，不是讓模型“謹慎表達”，而是讓系統在關鍵環節具備明確的控制點：哪些場景必須拒答或轉人工、哪些工具與系統允許被調用、調用失敗如何降級、關鍵輸出如何攔截與復核。
對金融機構來說，最困難的往往不是制定邊界，而是讓邊界在規模化運行后仍然有效：當場景增多、鏈路變長、團隊協作更復雜時，控制點如果只停留在文檔與人工流程中，就會不可避免地出現失效與漂移。把控制點落實到真實運行路徑、落實到鏈路與版本，才是“可控”能長期成立的前提。
可解釋：解釋必須基于證據，而非停留在“模型自述”
金融業務對“為什么”高度敏感。很多時候，結果是否正確只是第一層，真正決定信任的是：依據是什么、過程是什么、關鍵步驟如何影響最終輸出。面客 AI 的解釋性不能依賴模型自述，更需要系統證據支撐。
分享中提出的核心方向是：通過系統級觀測，將一次面客交互背后的關鍵鏈路串聯起來——輸入、檢索、關鍵調用、關鍵版本、關鍵響應以及最終輸出的形成過程。只有當決策過程能夠被還原，復盤與整改才能落到可操作的點上；否則，組織會長期陷入“看到了結果、看不到過程”的爭論成本里。
可負責：責任界定必須可追溯，治理才能形成閉環
當面客 AI 引發投訴、業務波動或合規質疑時，金融機構需要快速回答偏差來自哪里：模型問題、知識問題、策略問題，還是下游服務波動？影響范圍在哪里？處置應該由誰牽頭？修復后如何驗證不復發？
“可負責”并不是一句口號，而是對系統提出了明確要求：每一次輸出都應能夠追溯到具體版本、具體調用、具體路徑與關鍵證據，讓責任與處置路徑可落地，讓治理能閉環。這也是楊金全強調的一點：面客 AI 能否長期運行，最終取決于是否具備系統級可觀測性、統一數據治理與明確的決策依據——這些能力決定了 AI 決策是否可靠、是否合規、是否可追溯。
?
從“治理邏輯”走向“處置機制”：應用安全智能體要解決的，是“真實風險治理”
盧中陽在分享中強調，真實風險治理的關鍵在于證據鏈：通過融合 Trace、代碼語義與請求/響應證據，把風險落到真實入口與真實執行路徑上，讓團隊能夠基于事實回答三件事：
·?風險是否在生產中真實觸發？
·?觸發路徑與影響范圍是什么？
·?應當優先改哪里、如何驗證修復有效？
當證據鏈足夠清晰，風險研判才會從“討論與爭論”進入“執行與收斂”，安全資源也才能從平均用力轉向關鍵鏈路優先。優先級可證明：把“經驗排序”升級為“基于事實的治理順序”
在金融場景里，安全治理最怕平均投入。智能體能力的價值之一，是把優先級從經驗判斷升級為可證明的結論：哪些風險正在發生、哪些可被利用、哪些影響關鍵業務鏈路，從而把資源投向最需要治理的位置，縮短從發現到修復的周期。
閉環能跑起來：從發現到修復到驗證，讓安全成為“運行體系的一部分”
更重要的是，應用安全智能體的目標并非增加工具，而是減少摩擦：定位根因、推動修復、完成驗證與留痕，讓安全治理具備可持續性。只有閉環能長期跑在生產體系中，安全能力才不會退化為“另一套告警系統”，而能成為金融機構 AI 與核心業務共同依賴的底座能力。
雙態并行的關鍵：用統一的觀測與證據，讓“跑得快”與“守得住”同時成立
兩場分享最終指向同一個結論：在雙態體系下，創新側需要速度與試錯，穩態側需要確定性與可審計。要讓 AI 真正走向規模化運行，就必須把不確定性納入系統能力范圍——用可觀測性把過程看清楚，用證據鏈把責任與處置路徑說清楚，用閉環把風險管住。
當邊界能被系統約束、依據能被鏈路還原、責任能被證據支撐，面客 AI 才能從“可試點”走向“可長期運行”，也才能在雙態并行的框架下，實現創新與穩態運行的持續協同。
?
推薦閱讀
基調聽云成功入選2022中國信通院“卓信大數據計劃”第四批百強名錄。未來，基調聽云在為企業提供高效智能的運維之路上，將持續配合企業數據安全治理工作需要，充分保障用戶的數據安全性。
2022-12-05
數字化轉型已成為熱門話題，大家對于數字化轉型的重要性已有一定認識。根據咨詢機構的分析報告，91%的企業正在計劃進行數字化轉型，87%的企業認為數字化轉型可能顛覆行業。從另一個角度分析，數字化轉型以業務為中心，目標是提升服務和用戶體驗。如果企業在數字化轉型過程中只關注系統可用性而忽視用戶體驗評估，很可能導致數字化轉型失敗。
2023-08-01
