三大金控與輝達 合作代理式AI

輝達執行長黃仁勳5月來台刮起旋風，更意外揭露輝達正與國內多家金控巨頭聯手。目前已知國泰、玉山、中國信託三大金控已與輝達展開深度AI合作，巧的是，這3家恰好也是金管會「金融科技聯盟」的要角。可預見在台灣金融業的AI發展版圖中，輝達將扮演舉足輕重的關鍵角色！

國泰金控副總劉浩翔指出，與輝達的合作已超越單純的硬體算力，深化至AI框架訓練等技術交流。AI應用範疇廣及風險管理、流程改善與客戶識別，並整合雲地兩端的部署。為了規模化AI應用及厚植人才，國泰世華銀行今年特地開啟AI儲備幹部（MA）招募計畫，力求建立AI戰略核心能力。

劉浩翔解釋，國泰金深度應用輝達NeMo框架進行AI實作訓練，並借助其GPU強化算力，劍指達成金融業各業務領域的AI代理人（AIAgent）大型模型願景。國泰金控副總梁明喬則說，國泰金控和輝達合作的重點，在於透過輝達的技術實力和算力基礎，打造台灣未來的金融AI代理人，過去3個月已在建立具備台灣金融授信知識的大型語言模型方面，取得初步的合作成果，且輝達有很多AI代理人相關模型的框架，未來也有助於打造更多元化應用的基礎。

劉浩翔指出，未來在技術上，國泰金希望其AI代理人能有更多的學習、記憶處理、環境互動、學習成長的能力，這些也將是國泰金希望和輝達繼續攜手合作的重點，更長遠的目標是希望和異業合作夥伴做AI代理人之間互相合作的生態系。

對於串聯AI代理人的大型語言模型，包括法規、金融知識，國泰金已建立起作為訓練之用的資料集，並且透過由AI代理人來模擬參加台灣金融授信的證照考試，測試這些訓練的實驗是否成功。劉浩翔也對國泰金目前的各種AI代理人說明，國泰金希望透過AI Banking來打造全場景的智慧金融，舉凡比價、優惠、繳費、理財、信用卡、投資、CUBE、信貸、放款、保險、資產管理、支付等各類業務，都能為客戶打造出為其量身訂作的AI代理人。

玉山金控科技長張智星則指出，玉山將推出兩大AI核心計畫，期以更智慧、更快速的服務提升客戶體驗，一是AI代理，二是阻詐。對此，輝達的技術有非常大的貢獻，尤其是透過輝達的「技術框架」以及「算力」，發展速度將更快。張智星進一步指出，玉山金將同時導入NVIDIA H100 GPU與NeMo，不僅大幅提升運算效能，更可有效降低成本；他認為，由於AI代理本身就是生成式AI的一環，所以在生成式AI方面，玉山在確認技術可行、安全可靠後，將與主管機關在金融科技產業聯盟的架構下討論相關標準，穩健推動對外服務。

張智星也表示，阻詐是玉山金在AI技術運用上的一大重點，而輝達對此貢獻的重點在於算力的增加。張智星具體指出，玉山金將圖分析（Graph Analysis）技術嵌入現有防詐金流模型，讓複雜交易關係一目了然，偵測準確度提升2倍，並藉由NVIDIA Rapids及H100 GPU加速，「端到端」詐欺偵測模型訓練流程更將較以往快約880倍。在他看來，這兩項創新應用不僅強化內部作業效率，更為使用者帶來安全、便捷的智慧金融服務。

張智星認為，輝達技術在阻詐上的最大貢獻，一是提供很多的程式庫，包括很強的框架平台讓業者能運用，二是整體的運算速度很快，而這是一體的兩面，要先有方便的框架，再搭配他們的GPU速度才會變快，一是軟體、二是硬體，軟硬體的整合，才能發揮最大貢獻，尤其輝達的算力強大，貢獻範圍甚廣。而對於輝達的程式庫，張智星說，多半是對不同的節點所畫出的圖形在處理，這些圖形並非只能用在阻詐，還能運用到其他更多元化的面向，就看應用的目標是什麼，再去呼叫對應的程式庫，進而使整個運算速度加快。

另一方面，玉山也將聚焦在AI代理人。對此張智星指出，玉山金將打造全新AI代理平台，透過單一對話介面來整合多元專業代理人，並以標準化架構加速開發與安全測試。對於AI代理人的運用，張智星舉例，銀行要對客戶做KYC，從開戶到授信或其他業務都需要，此時，銀行體系裡對AI的統整運用，就會做到每一個伺服器都可以呼叫這個KYC的AI代理人，來進行KYC。

和國泰金一樣，輝達和玉山金的合作項目中，NeMo也是其中重點。對於金融業者和輝達合作之後所能得到的重要幫助，張智星分析，輝達提供金融業者很多的框架，包括提供很多演算法API來呼叫程式的運用，尤其輝達可以寫出一些程式，讓GPU進行平行的運轉，進而運用其GPU的特點，達到加速的效果。

張智星更深入指出，輝達所提供的不同框架，可重新訓練出不同的語言模型。對於語言模型，不同的業務會有不同的語言模型，例如有些語言模型的專長僅在於授信，而且只能在行內使用，不能連到外面的雲端。以玉山為例，顧客能透過AI詢問理財方面知識為其重點。

對於大型語言模型的重要性，劉浩翔則認為，發展AIBanking最重要的「金融大腦」引擎，就是以大型語言模型為基礎來打造，再外掛各種金融服務的串接，創造更多的金融AI代理人。

和輝達合作的銀行不只國泰跟玉山，也包括了中信。對於雙方合作內容，中信銀行指出，中信銀積極布建的AI基礎相關建置中，NVIDIAGPU就是一大合作重點，目前中信銀正大量運用AI科技於內部效率提升、風險控管等議題，例如研發防詐科技，大幅提升阻詐效能，中信也持續與NVIDIA進行技術交流與合作，其中，如何提升大型語言模型的運算效能，加速研發金融場景生成式AI應用落地，均是和輝達進行合作的重要範疇。

展望未來，運用AI，梁明喬說，金融業從網路銀行到行動銀行，接下來將進入透過AI互動來提供更多個人化服務的新階段。梁明喬也分析，在驅動AIBanking之下，市場上也有多種挑戰，包括客戶的需求變化大、風控難度高、資訊量爆增及流程複雜度，而AI具有自主決策的能力，可因應環境的變化來決策，也能跨域進行整合性任務。（作者為長期關心金融議題的資深媒體人）