度小滿金融大模型論壇 |鄔賀銓院士：金融大模型改變了金融科技的范式

10月17日下午，百度世界·度小滿金融大模型前沿發(fā)展論壇在北京召開(kāi)，中國(guó)工程院院士鄔賀銓在大會(huì)上表示“金融大模型改變了金融科技的范式，重塑金融行業(yè)的工作方式，改變了金融服務(wù)生態(tài)。”

中國(guó)工程院院士鄔賀銓發(fā)表主題演講

目前金融大模型已經(jīng)應(yīng)用在金融資訊、產(chǎn)品介紹內(nèi)容的文本自動(dòng)生成，構(gòu)建虛擬客服在線交互等方面，給用戶提供更人性的服務(wù)，提升金融機(jī)構(gòu)內(nèi)容運(yùn)營(yíng)的效率。

鄔賀銓指出，金融大模型的發(fā)展需要全行業(yè)共同參與，合作開(kāi)發(fā)，“基礎(chǔ)大模型多數(shù)從通用語(yǔ)料訓(xùn)練生成，通識(shí)能力強(qiáng)，可作聊天對(duì)話，但缺少行業(yè)專業(yè)知識(shí)，需要大模型提供方與垂直行業(yè)合作開(kāi)發(fā)行業(yè)大模型”。

以度小滿的開(kāi)源金融大模型“軒轅”為例，它是將預(yù)訓(xùn)練數(shù)據(jù)（一般預(yù)訓(xùn)練、金融預(yù)訓(xùn)練）和指令數(shù)據(jù)（一般指令、金融指令）隨機(jī)混洗到一個(gè)訓(xùn)練數(shù)據(jù)中進(jìn)行混合微調(diào)，通過(guò)多階段逐漸訓(xùn)練緩解預(yù)訓(xùn)練和微調(diào)間數(shù)據(jù)不匹配問(wèn)題，提高模型的表達(dá)、理解、遷移和泛化能力。

度小滿CEO朱光表示，“未來(lái)五年，生成式AI在金融領(lǐng)域的應(yīng)用，將成為度小滿最重要的戰(zhàn)略方向。度小滿將不斷加大金融垂類大模型及應(yīng)用的布局和投入，和業(yè)界一起把握機(jī)遇，推動(dòng)新一輪金融科技發(fā)展浪潮。”

鄔賀銓認(rèn)為，金融大模型的發(fā)展目前仍面臨著三方面挑戰(zhàn)。首先是金融行業(yè)對(duì)數(shù)據(jù)安全性、隱私合規(guī)性都有著嚴(yán)格的要求。尤其是在風(fēng)控方面，對(duì)時(shí)效性與精準(zhǔn)性要求嚴(yán)格，而一般的基礎(chǔ)大模型透明性、可信性、專業(yè)性不足，很難直接遷移為金融大模型。

第二點(diǎn)是金融大數(shù)據(jù)在成本與質(zhì)量上的平衡問(wèn)題。由于金融行業(yè)內(nèi)的數(shù)據(jù)難以共享，因此金融大模型的數(shù)據(jù)規(guī)模遠(yuǎn)遠(yuǎn)不及通用語(yǔ)料，導(dǎo)致金融大模型難以產(chǎn)生“智能涌現(xiàn)”的效果。

第三則是本地私有部署需要自建算力設(shè)施，對(duì)軟硬件產(chǎn)品有嚴(yán)格的信創(chuàng)要求，而且參數(shù)規(guī)模大則算力成本高。

對(duì)于金融大模型的落地應(yīng)用途徑，鄔賀銓院士建議：一是從可控入手開(kāi)發(fā)應(yīng)用，例如智能客服、智能運(yùn)營(yíng)、寫文章、寫郵件等安全的領(lǐng)域出發(fā)。二是從人機(jī)混合智能切入，例如在初期階段先讓金融大模型與傳統(tǒng)模型共存，經(jīng)應(yīng)用考驗(yàn)后再將金融大模型逐步替代傳統(tǒng)模型。同時(shí)還可以通過(guò)變換場(chǎng)景，豐富大模型的場(chǎng)景遷移學(xué)習(xí)能力，或加入反事實(shí)的數(shù)據(jù)來(lái)測(cè)試，改進(jìn)AI的學(xué)習(xí)本質(zhì)，提高模型的泛化能力。也可以在金融大模型訓(xùn)練或微調(diào)時(shí)通過(guò)有監(jiān)督學(xué)習(xí)思維鏈的模式，通過(guò)專家介入引導(dǎo)它一步一步地進(jìn)行思維推理。

中國(guó)工程院院士鄔賀銓（左）與度小滿CEO朱光（右）交流

“此外，還需要建立專門的監(jiān)控系統(tǒng)，例如微軟專門構(gòu)建內(nèi)容管理系統(tǒng)，它與語(yǔ)言模型協(xié)同工作，并使用特定算法檢測(cè)和監(jiān)控可能發(fā)生的服務(wù)濫用或有害內(nèi)容生成情況。”鄔賀銓院士指出。