金融科技 2024年7月

台新孫一仕:AI進入民主化時代

金融業AI新戰場
撰文:陳以謙

AI人工智慧已成為各行業下個競技場,金融業更是積極規劃導入AI,強化競爭力,推動銀行數位化發展不遺餘力的台新金控資訊長孫一仕表示,此波生成式AI與過去AI最大的差別是,這波可說是「人工智慧民主化」,從過去特定專業領域可用,擴散至所有員工都可以使用,而台新金的策略在於積極打造「台新腦」,盼成為一個全功能、知道台新所有知識的核心腦。

AI在金融業應用行之有年

台新金推動AI大步向前,且走得比其他金控更快。孫一仕說,「其實AI在金融業應用已經很久」,包括最早的信用卡、防詐、防偽、防惡意軟體,或是信用核貸等,其實都有AI的應用;而此波AI浪潮有較大差別,主因2022年大型生成語言模型(LLM)問世,尤其生成式預先訓練模型(GPT)出來後,2023年起LLM直接影響到金融業相關應用。

孫一仕補充,近年生成式AI技術發展加速,大概在2023年發展到較成熟階段,因此,台新在2023年3月即拍板,決定積極投資,並強化AI應用,打造屬於台新金的「台新腦」。

孫一仕說明,「金融業使用生成式AI有兩條路線可走」,一是自己開發大型語言模型,二是借用現在市面上如ChatGPT等現有模型。而台新金希望打造自身的「台新腦」,便以大型語言模型為基礎,並以台新獨有的數據、資料為輔進行訓練,重點在「了解台新內部及金融業相關的知識」,藉以協助台新員工在工作上提高效率,也藉由大型語言模型的技術,提供更好的客戶服務,改善用戶體驗。

選擇模型開始訓練「金融腦」

目前全球AI發展以微軟、亞馬遜、谷歌及臉書的四大AI腦為主,原本台新金預計從中選一家,合作打造「台新腦」。但孫一仕指出,台新更注重的是繁體中文的處理能力,因此先前找了學術領域的專家評比,選了4家模型測試,最終選定中文力更強的「TaiwanAILabs雅婷智慧」;孫一仕強調,AI就是訓練的資料越多,就越準確,而雅婷在繁體中文的競爭力十足。

近期台北國際電腦展(COMPUTEX)再度掀起國內AI浪潮與民眾關注,孫一仕直言,此波AI發展與過去大不同,而這一次生成式人工智慧可謂是「AI民主化」,過去AI技術集中在非常專業的領域,進行特定的應用,一般人或基層員工幾乎不會接觸。但這波浪潮最值得注意的是,AI服務非常普及,且深入各行各業,如同每個人都能使用ChatGPT產出文字。當AI近用性提高了,就更能夠成為人類最佳的助手,因此未來是「AI賦能」的時代。如同台新腦現階段正積極開展智能助手的功能,就是為了提高同仁生產力。

AI民主化讓同仁主動出擊

而這波AI民主化,也慢慢在台新內部發酵。孫一仕指出,台新成立「創新科技應用部」主導AI服務的開發和運營,今年3月首度舉辦企業內部的圖像生成挑戰賽,邀請金控及旗下銀行、人壽、證券等子公司同仁組隊參賽,使用台新自行訓練的圖片生成模型,同仁可創作結合台新品牌角色的Richart、獅馬特、智能客服Sunny和Rose的圖像,大幅節省人工設計廣宣素材的時間與成本;此外,創新科技應用部的團隊正規劃將圖片串聯,開發影片生成的功能,預計年底開放行員使用,未來將有更多場景適用。

不過,除內部應用持續推展,市場最在意的是,金融業何時將AI應用提供給客戶端。孫一仕指出,台新內部期望在今年底之前,可以開始提供特定服務讓客戶使用,台新AI技術預計先結合現行的智能客服,讓智能客服變得更聰明,也讓客戶能更快得到想要的答案或完成需要的服務。孫一仕強調「我們永遠要記住一件事情,當你面對客戶時,必須確定答案是百分之百正確的」,而當前每家金融業幾乎都有智能客服,台新就是希望透過台新腦,用生成式AI解決更廣泛的客戶需求。

孫一仕進一步說明,台新用AI加強智能客服,計畫在客服電話進線後,藉由語音辨識,馬上就能知道客戶的需求,客服同仁便可直接將答案提供給客戶。舉例來說,若客戶詢問去日本要刷哪張台新卡最划算,過去是我們客服接聽後,從內部系統開始找資料,這時間只能讓客戶在線上等候。但加入AI辨識後,客戶表達的過程,AI就已辨識出客戶的需求,系統就能把答案從後端找出來,讓客服直接回覆給客戶。如此便縮短電話溝通的時間,提高接線的效率,達到效能上的節省,這是台新下一步要做的。

台新推AI,目前圖片生成服務在5月底已經上線,而文件生成及金融摘要生成大概要等到10月底左右。圖片生成已經有好的開始,畢竟行銷同仁要做廣告、信用卡要做設計等,因實用性較高,因此率先推出。但所有AI訓練都牽涉到數據(Data),數據要夠多、訓練的時間要充足,這部分有資源上的限制,因此文件生成及金融摘要生成會較慢推出。

「生成式AI最大的難題,就是要懂得下指令」,孫一仕以台新今年舉辦生成式圖片的比賽為例,不只是單純產出圖片,而是要讓員工有意向,知道怎麼運用指令做出圖片,能在下指令時加入自己的想法,並正確地跟AI溝通。有的同仁只要初步的訓練就掌握到Prompting的使用訣竅,透過指令做出精美圖片。這場活動當時吸引700多位同仁參與,也讓所有員工知道,「AI可以跟生活多麼接近」。

金融業的新一輪軍備競賽

談到同業間競爭,金控推AI儼然如軍備競賽。孫一仕則說,觀察各家推展AI態度其實差不多,包括台新在內,所有同業將AI應用到客戶端都很謹慎,但不同的公司策略大不同,台新是自己建立LLM,但有些金控則借助外部資源,例如使用微軟的後台等方式。雖然自己打造LLM要從頭訓練AI大腦,但台新相信,訓練完的台新腦才能夠更符合品牌精神、貼近客戶需求。

孫一仕形容,ChatGPT就像一個17、18歲的天才兒童,唱歌跳舞都會,而相對之下,台新腦就像是一個年約7歲的天才兒童。雖不像ChatGPT什麼都會,但最重要是台新腦只要了解台新就好,「我也不希望它唱歌跳舞,但你問他任何台新的問題,他都可以給你正確答案,這才是最重要的。」

話鋒一轉,孫一仕談到近日最紅的輝達晶片,若金控要買輝達的GPU,比較可能是要自己建立模型,台新購買的輝達GPU早在1月到貨,相較同業,部分金融業者則選擇與微軟等廠商合作,在雲端上跑資料、進行運算。他強調,各家做法不同,但如果長時間使用,其實固定式的租用不會比較便宜,自購GPU反而有優勢。假如買了H1008片放在台新內部跑的成本,相較其他同業,需先與雲端業者談好,只能用輝達H100約一段固定的時間。

孫一仕也說,市場不免質疑,現在買輝達H100的GPU,明年可能GB200就會推出,但其實金融業對於目前的應用及算力需求,相對製造業沒有那麼高,用H100或GB200,兩者差異不會太大。與其追逐最新的晶片效能,不如及早布局企業內部的AI基礎建設。因此,台新決定趁早開始運作了解整個環境、整體運作規則,「假如我們相信生成式AI是趨勢,趁早處理大型語言模型,以及圖片生成等等,未來會更有感覺」。

孫一仕總結,台新及其他金融業發展AI,若要達到成熟,最少還需3至5年左右,但他強調,AI發展已經長達68年,他個人第一次碰到人工智慧已是35年前,真正更深入的應用,也是去(2023)年左右才開始,因此,金融業若要普及AI應用,再發展3至5年也已經算是比較快了。

他也強調,未來AI民主化後的樣貌,是你在用AI的時候,已經不知道自己在用AI,也就是深植為日常、隨時會拿來用的工具,就像是目前每天用的Apple Face ID,很自然地使用,甚至不會感覺到它的存在。但所有AI其實不會像廣告所說「會快速取代人類」,孫一仕最後強調,「現階段生成式AI重點還是輔佐人類」,中間將有很多學習過程,由時事Data持續累積才是最重要的拓展關鍵。(本文作者為現役記者,長期鑽研金融各種創新議題)