螞蟻王曉航:大模型落地金融產業是復雜的系統工程
-
收藏
0
螞蟻集團副總裁、螞蟻金融大模型負責人王曉航
11月11日,2023金融街論壇年會“金融科技創新與合規安全”平行論壇在北京舉辦,螞蟻集團副總裁、螞蟻金融大模型負責人王曉航在發表 “跨越大模型金融產業落地鴻溝” 主旨演講時表示,大模型對金融產業的價值顯著,但通用大模型無法開箱即用,需要彌補許多不足之處,并在可靠性方面進行全周期加固。
1 大模型價值日漸凸顯,將重塑金融產業全鏈條
王曉航表示,規模化的產業技術變革和價值兌現不會一蹴而就,必然經歷階梯式的迭代向上過程。螞蟻作為普惠金融的踐行者,一直走在人工智能和金融結合的最前沿。
早在2013年,螞蟻推出了余額寶和小微金融等國民產品,為金融AI打開了巨大的價值空間。螞蟻首創的小微金融310模式,成功解決了小微長尾用戶的風險識別問題,展現了金融AI的普惠價值。
隨著AI技術逐漸深入各類金融場景,金融科技在2017年開始出現平臺模式。以“螞蟻財富”、“螞蟻?!焙汀熬W商銀行”為代表的數字金融平臺以開放姿態連接機構,通過科技賦能實現更豐富的金融供給和更深入的產業鏈。在這一階段,AI場景全面爆發,成為營銷、服務、投研、風管和資管各領域降本增效的關鍵手段。
到了2023年,大模型在金融產業的落地過程中展現出巨大的潛在價值,并具備以下三個重要特征:(1)能力深度,大模型憑借出色的語言和認知能力,在各種金融場景任務中不斷刷新前沿技術水平,并在許多高階任務中達到甚至超過人類專家水平;(2)迭代速度,大模型統一的算法架構降低了AI應用的復雜性,大幅加快了迭代速度;(3)創新寬度,大模型的專業知識生產和推理能力遠遠越出了上一代深度學習AI的擅長領域,推動了各類應用創新蓬勃出現,顯著提升用戶體驗和生產效率。
綜上所述,大模型已經展現出明確的產業價值:“金融服務鏈條上的每一個環節,都值得用大模型重做一次”。
2 不存在開箱即用,大模型落地金融產業是復雜系統工程
2.1 大模型落地金融產業挑戰
金融領域具有高度專業性、復雜的決策和極致的合規和可靠性要求。盡管大模型在能力方面取得了顯著進步,但在金融行業中無法直接應用,仍需克服領域知識、復雜決策和可靠性等三個方面的挑戰。
(1)首先,領域知識的短板。
通用大模型雖然能夠有效壓縮數萬億的世界知識,具備較強的通識能力,但金融通識相對薄弱,對金融原理的理解不夠深入,缺乏企業私域知識,并且無法實時更新和把握市場動態。例如,當用戶詢問“請推薦一只既能保本又能高收益的理財產品”時,大模型往往無法理解金融資產的“流動性、收益和風險”之間的不可能三角關系,也難以正確引導用戶。
(2)其次,復雜決策短板
通用大模型是個優秀的文科生,理解、溝通、推理能力強大,但是在復雜的專業問題上差強人意,無法勝任量化分析、資源運籌優化、精細化匹配這幾類問題。
(3)第三,可靠性不足
通用大模型除了眾所周知大模型幻覺與金融嚴謹性的沖突,也亟須有效識別金融業務常見的合規性陷阱,比如 用戶詢問“我怎么買這款信托產品”的背后,蘊藏了一個合格投資者判別問題。此外,大模型亦需要遵循金融企業的價值主張,如價值投資、風險平衡、科學配置等。
2.2 認知邊界,跨越邊界
在當前可得技術約束中,為了金融場景落地大模型順利補齊上述短板,除了對通用大模型注入金融通識和私域知識,還需要以系統工程解決方案,通過有效的技術組合,跨越鴻溝。
(1)“大模型+小模型”協作
大模型在感知、認知和交互領域具有顯著優勢。而各專業小模型專注于特定問題或任務,在特定領域(運籌、量化、圖算法)表現更為專精。在實際應用中,我們可以將大模型作為認知和交互的核心,而小模型則負責專業判斷和決策。通過大模型向小模型的任務分發,共同完成復雜的推理和決策工作。
(2)“大模型隱性知識+圖譜顯性知識”互補
大模型通識覆蓋廣,但不夠嚴謹可靠,容易出現幻覺和答非所問現象。相比之下,圖譜顯性知識專業性和可靠性強,但生產維護成本較高。鑒于金融領域的頭部問題是收斂的,應用中可用圖譜覆蓋嚴謹性和價值雙高場景(比如主流保險產品的條款,核保核賠知識),大模型覆蓋低頻和長尾場景,以實現服務質量與服務成本的平衡。
(3)“Open QA+Closed QA”結合
需要嚴謹答案的很多問題,可以轉化為“檢索增強”問題:系統接到用戶問題,檢索返回專業內容,大模型基于檢索結果生成問題答案(Closed QA)。這就像讓大模型從專業書籍尋找答案,適用于財經問答、客服和投教問答等場景。而基于大規模的參數知識進行問答,能夠回答開放性問題(Open QA),適用于需要理解和推理的復雜問題。
2.2滿足可靠性,還需要全周期強化
大模型落地金融產業的主要挑戰是可靠性,涉及內容安全性、金融合規、科技倫理和金融價值觀等領域。雖然上述技術組合可以有效彌補大模型的不足,但在消費級金融應用方面仍有待提高。螞蟻在為數千萬消費者提供服務的過程中,積累了豐富的安全和合規技術,并基于此構建了一套全生命周期的可靠性加固技術,以確保大模型的訓練和推理過程的可靠性。
(1)離線訓練階段
數據治理是關鍵,需要“高大正”( 高質量、大規模、價值觀正確)的數據。螞蟻通過模型和人工結合方式,從近2千億token中篩選出171億token優質金融語料,在源頭上保障大模型的學習質量和價值取向。
價值對齊亦至為關鍵,螞蟻建立了多達60萬以上的合規和價值對齊指令集,并配備了300多人的安全運營和標注團隊參與對齊工作。
(2)線上推理階段
螞蟻為金融大模型設立了專用安全圍欄:在請求和生成兩端都進行嚴密的風險判別和攔截,這個系統稱為蟻鑒,由數百個識別模型和數十萬判別規則組成。
檢索增強、圖譜增強:涉及到合規性、專業性要求高的內容,螞蟻金融大模型會優先Closed-QA,從可靠內容檢索尋找答案。
(3)持續攻防演練
螞蟻通過模型和人工結合方式,建立了數百萬負向樣本,在模型上線前后,持續自動化攻擊金融大模型可能的可靠性薄弱點,檢測安全能力。
經過上述加固,螞蟻金融大模型在可靠性各維度達到99%及以上的可靠性,媲美人工專家,具備了對消費者開放的可靠性要求。
3 螞蟻金融大模型實踐
王曉航在演講中強調人工智能是螞蟻金融科技的核心,并介紹了螞蟻金融大模型的實踐。
3.1螞蟻1+2技術布局
螞蟻自主開發了全棧技術體系,用于訓練金融大模型,并成功打造了代表性的AI原生應用 —— “支小寶”智能顧問(2C)和“支小助”智能業務助手(2B)。
金融大模型:擁有千億量級的金融通識知識、60萬+金融專屬指令集和320+金融專業工具;基于萬卡規模的異構算力,在金融“認知、生成、知識、決策、安全”維度優勢明顯。
支小寶:基于金融大模型,已經服務了超過4000萬用戶。它在金融領域能夠提供個性化的理財和保險服務,用戶意圖識別準確率達到95%。支小寶關聯著千萬級別的金融知識圖譜,具備媲美專家的市場研判和熱點解讀的能力。
支小助:作為金融服務鏈條上的智能業務助手,支小助顯著提高了金融顧問、投研、理賠、營銷和風控等專家的專業水平和服務效率。其中,“支小助顧問版”已經幫助理財顧問和保險代理人擴大了70%的服務半徑;“支小助投研版”助力金融分析師每天能夠提取超過100+篇研報的信息,將市場事件解讀的效率從每周10篇提升到每日超過400篇;“支小助理賠版”實現了醫療險理賠的全流程自動化,并創造了便捷的“秒賠”理賠體驗。
3.2 開源金融Agent框架
為了更好地服務行業生態,助推行業智能化升級,螞蟻將開源金融大模型應用開發框架—— 金融大模型智能體(Agent)框架。該框架的核心優勢在于充分利用螞蟻金融大模型卓越的語言、金融認知和推理能力,提供了豐富的金融知識和專業工具,及知識增強和工具增強套件。并融入螞蟻對金融大模型落地實踐的經驗,通過金融大模型智能體框架,金融企業能夠更高效構建金融智能服務系統,提升用戶提升和生產效率。
猜你喜歡
已有銀行應用DeepSeek,業界:或將縮小中小行與大行大模型研發差距
對哪家銀行的吐槽最能引起你的共鳴?是否和你的體感一致?奇富科技金融AI大模型成果落地,超5500萬小微企業享受數字化信貸服務
奇富科技發布了AI產品“小奇”,這款產品,是基于大模型技術的 AI 伴侶可全天候服務,深度理解并預測用戶的金融需求。中關村科金喻友平:平臺+應用+服務的“三級引擎戰略”是企業大模型落地最佳路徑
中關村科金總裁喻友平正式發布中關村科金大模型時代的“三級引擎戰略”,并重磅推出得助大模型平臺 2.0,以及一系列深耕場景的大模型應用。螞蟻數科SOFAStack發布大模型服務平臺,助力技術通用走向行業可用
螞蟻數科旗下多云PaaS平臺SOFAStack正式發布大模型服務平臺AI Max。