對話俞吳杰：近觀招商銀行如何修煉數字“內功”

每經記者｜趙景致    每經編輯｜張益銘

“在需要的領域，我們從不吝嗇投入。”接受采訪時，招商銀行信息技術部副總經理俞吳杰說道。

俞吳杰所說“需要的領域”，便是指招行AI信息技術方面的建設。近年來，招行持續加大科技投入，以2023年為例，招行信息科技投入達141.26億元，占到全行營業收入的4.59%，研發人才共計約11000人，占全行人數比例近10%。如此這般投入，也使招商銀行在數字金融服務上更進一步——“秒”級答復客戶疑問、數據風控審批貸款、人機協同無感切換……

大數據和AI是數字金融的底座之一。在大數據、AI崛起的時代，招商銀行怎樣勤修“內功”建設數字金融？

2024年，《每日經濟新聞》創刊20周年之際，特別啟動“智見未來——全球高端人物專訪系列”。借此契機，招商銀行信息技術部副總經理俞吳杰接受每日經濟新聞記者面訪，分享了建設“數字招行”的經驗與思考。

智算平臺于今年開啟建設

看似“橫空出世”的人工智能，其實相關概念存在已久，如科幻小說《三體》里的“智子”，以及廣為人知的最強圍棋“選手”AlphaGo。

事實上，在AI及數據化布局上，招行早有行動。2017年招行率先成立了AI實驗室；2023年3月，招行宣布完成全面上云，即“金融交易云”和“原生云平臺”的建設，并將所有應用系統、數據等全部遷移至云上，進入到全面數據化階段。

記者注意到，金融業與其他行業相比，有較高的專業性以及合規要求，且存在服務場景多、服務客群廣的客觀情況，因此通用大語言模型很難“圓滿”滿足銀行業的需求。對此，在“兩朵云”數據化新基建“底座”完成后，今年年初，招行正式開啟了“智算平臺”建設，用以探索新一代人工智能技術對銀行業務的創新應用。

“原來的服務器集群叫通算平臺，和大模型相關的叫智算平臺，這方面的投入非常高。”俞吳杰介紹，智算平臺包含了招行的“訓練平臺”以及“推理平臺”。“招行的重點不在通用模型，而是在金融行業的領域模型。”訓練平臺主要用于訓練專業的領域模型，推理平臺用于銀行具體服務場景。值得注意的是，無論是推理平臺還是訓練平臺，算力都是剛性需求。俞吳杰介紹，招行在智算平臺建設方面是以“億”為單位的投入。

此外，目前國內的智算平臺還處于起步階段，性能方面也需要持續提升。俞吳杰表示，招行在國內智算平臺建設方面走在前列，但因目前尚無成熟的智算平臺可以借鑒，在進一步提升算力效能方面仍面臨諸多挑戰。

新一代AI將對銀行業務帶來全面變化

如果僅從大語言模型來看，2022年底ChatGPT的問世才使得整個社會對生成式AI有了明顯感知，目前新一代人工智能在金融業的應用還處于探索階段。

在俞吳杰看來，銀行有三個重要的“密集型”特征，一是數據密集，包括客戶數據、行業數據、產業數據等；二是知識密集，銀行業有著大量的政策、法規、條款，同時還包括銀行內部的合規要求、管理等；三是人力密集，銀行業存在大量的運營工作，無論是網點還是審核團隊，大量的人力都集中在業務運營中。

因為這三個特征的存在，大語言模型能夠產生的價值面非常廣。“其實今天我們談及大語言模型的應用，并不是說在銀行的某一個點或者某一塊業務方面產生價值，而是全方位的。”俞吳杰表示。

如在服務質檢方面，目前只需要借助語音識別技術將通話轉化為文本，再交由大語言模型處理，并按照銀行要求整理歸類即可處理，以前人工可能需要5分鐘，現在效率已經達到“秒”級。

在風控方面，招行強大的AI水平可以集中體現在“天秤”風控平臺上。目前，“天秤”風控平臺已經可以通過神經網絡算法，識別客戶的異常風險行為并進行風險前置提示。

俞吳杰表示，“總體來看，AI已經融入銀行日常營銷、服務、經營的各個方面。雖然目前更深層次的AI使用還有待論證，但實際上我們日常工作中存在很多重復性的、簡單的流程化工作，而這恰巧是大語言模型能夠發揮作用的地方。”

聚焦“三個場景”打造“智慧招行”

“要給到領域模型足夠的專業知識和數據，特別是銀行業務方面的，未來也需要拓展到和銀行有很大關聯的證券、基金、保險等行業。”俞吳杰指出，目前互聯網上能獲取的相關知識有限，招行更多要做的，是要把自身幾十年來經營當中積累下來的專業語料給到大模型，“否則算力再強也沒有實用性。”

即使擁有領域大模型，相對“智慧招行”建設來說也只是“萬里長征走完了第一步”，要全方位打造智慧招行，需要更豐富多樣的應用場景。

“在應用場景的選擇方面我們也有比較全面的思考。”俞吳杰表示，場景選擇標準有“三多”：一是“錢投入多”、二是“人投入多”、三是“耗時多”，“這些場景用AI產生的價值會更大，對于招行而言，我們的創新一般兩條腿走路——自下而上和自上而下。”

自上而下是指招行會基于對大模型應用的整體規劃來投入資源，目前該行的規劃是按照業務條線，如零售、批發、中后臺業務，以及按照業務形態來劃分的營銷、運營、合規、風控等領域，來進行資源投入。

自下而上則是運用FinTech（金融科技）基金、創新競賽等機制設立和資金引導等方式，鼓勵一線員工發掘創新應用場景，引導廣大員工把大語言模型應用到日常工作場景中去。

截至10月底，招商銀行已經有超過100個應用場景在使用大語言模型。

聚力有溫度、有效率的“人+AI”服務

曾幾何時，電話服務“轉人工”困難成為普遍現象，不過在銀行業，尤其是招商銀行，這類問題已經基本得到了解決。俞吳杰表示，目前招行已經邁入了客戶服務的“第三個階段”。

第一個階段，即所有電話服務均由人工提供。但該階段最大的問題是銀行人工服務隊伍規模與賬戶數及客戶數的指數級增長不匹配的問題，無限制的員工隊伍增長將對企業造成巨大的財務壓力。

第二個階段，即使用數字化手段提高效率。在該階段，部分銀行通過自研或采買的自然語言處理小模型解答客戶疑問，但存在“答非所問”和“不知所云”等一系列問題，第二階段因技術的不成熟及人工的“失位”可能造成不好的用戶體驗。

第三個階段即“人+數字化”高效協同，既能保證服務質量，又解決效率問題。俞吳杰表示，“從銀行實踐來看，客戶的大部分問題都是簡單、重復的問題，機器人就可以解決。”此外招行采用AI技術，通過語速、音量等標準輔助判斷客戶情緒，提供信息幫助人工客服主動切入，從而避免投訴升級并提供“有溫度”的服務；而當客戶需要人工對接時，也可以直接按鍵切換到人工。

俞吳杰表示，在既要有溫度、又要有效率，同時又能夠讓真正有需要的客戶隨時觸達到服務人員等方面，目前招行已經探索出一套行之有效的“招行方案”，未來還會在人機協同方面繼續發展，為客戶提供更高質量的服務。

如何規避AI邏輯“黑盒”？

新生業態往往伴隨著新生風險。縱觀銀行業乃至整個金融業，信息安全都是繞不開的重點論題。“數據隱私是人工智能在金融領域方面非常大的考量。”俞吳杰表示，目前招行涉及訓練數據的準備上非常謹慎。

“尤其是在訓練環節，一定不能使用客戶敏感信息訓練模型，否則大模型可能會記住，并把信息泄漏出去。”俞吳杰強調。

此外，在大語言模型對于答案的可解釋性問題方面，俞吳杰表示目前該領域有很多的“黑盒子”。

“我們給大模型輸入，大模型給出一個輸出，但是為什么會給到這個輸出，還無法完全掌握，很多神經網絡分析的邏輯是黑盒子。落地到具體的金融業務場景，比如要做一個貸款發放審批，機器判斷這位客戶不通過，但無法判斷原因，就沒有辦法使用，必須得讓其解釋清楚。”俞吳杰表示。

值得注意的是，在銀行傳統信息科技應用中，也有相較于目前“大模型”的“小模型”，如信貸決策模型、評分卡模型等，“小模型”技術擁有更好的解釋性，它是專門針對銀行業務某一個場景開發的，能更好的適配該場景。

在“大模型”與“小模型”配合方面，俞吳杰表示未來二者一定會長期并存，“大模型覆蓋的領域會越來越廣泛，但在可解釋性方面‘小模型’有很好的針對性，特別是在算數方面，比如給客戶的授信額度如何評測，小模型表現會更好，我們會持續地用下去。”