正視設計的可解釋性 防AI錯判

打詐是國銀的當務之急，尤其是如何有效降低警示帳戶，是當前共同努力的目標。但是近來民眾帳戶被「誤殺」的事件頻傳，許多民眾抱怨帳戶被鎖控的結果，是日常生活費用繳不出去，甚至還有股市交割款因此被攔下，差點發生違約交割，讓銀行警示帳戶一時之間好似成為眾矢之的。

對於層出不窮的「誤殺」事件，顯示出當前金融業所使用的防詐模型有必須精進之處，來改善誤判率。玉山銀行負責數金與AI的主管坦言，在AI模型的運用上，的確可能因數據不足或過度敏感而產生高誤報率，導致無辜用戶被誤判、帳戶遭凍結，但以目前各銀行的情況來看，AI模型對於自家客戶資料在阻詐、設控等相關的研判、使用，已經用到極限了，接下來恐怕需要更多非自家銀行資料的加入、佐證，才能把AI模型調校得更好，發揮更精確的研判效果，而向外取材借鏡資料，也必須把握「經濟實惠，而且快速有效」的原則，否則只是白花費一大筆經費，但成效卻比想像中有限。

這類AI決策的透明度與問責性，可回歸到金管會所發布的六大AI核心原則來檢視，尤其是使用AI時所必備的「可解釋性」，更不能馬虎。至於AI判斷結果如何解釋給用戶？但所謂的「可解釋性」，並非直接和民眾解釋實作細節！尤其是阻詐，絕對不宜對外解釋太多，這是由於很多詐團分子會偽裝成一般民眾來抱怨造成「不知是真客戶或假客戶」的情況；倘若銀行說明的對象錯了，那麼詐團馬上就會找出破解銀行防堵之法，令銀行前功盡棄。

進一步說明，所謂的「可解釋性」是不論使用資料的問題，或是模型因子，或是哪些參數被放入，這些都需要有「可解釋性」，但這個可解釋性，是用於內部的邏輯，屬於模型的風險管理，而不是去對外說明。

例如，現在停車場都是影像辨識，但關於影像辨識的模型與原理，不用向民眾解釋，這時所謂的「可解釋性」，反而是會要求，當一台車被影像辨識攔住時，是如何透過演算法、資料、模型訓練的因子等等，來確定該車有一定的風險，需要攔住，也就是AI在決策流程中，能有一套合乎邏輯的、把可疑車子攔阻的原因和理由，這才是在運用AI的「可解釋性」。

因此若要精進模型，增加準確度，不妨在「可解釋性」上下工夫，作為鑑別模型好壞的參考，這時包括各種模型中因子的穩定度，該做的抽樣，是否定期監控，這些都可去檢視其可解釋性。

另一家中大型民營銀行的資訊主管，則對監理沙盒在精進AI模型的必要性指出，其實一開始金管會發布六大指引時，就未打算用沙盒方式來讓業者使用AI，以現在實際運用情況來看，每家的學習資料都不同，而沙盒所要追求的是實驗成功之後能普及到所有金融業，而且還要花上一段時間，因此透過沙盒的實驗，並不能滿足所有業者精進模型的需求。

這位中大型民營銀行的主管也指出，AI一開始使用，就不用進沙盒，而是透過金管會所發布的六大AI運用指引來學習。原本的AI管理草案，是要求當AI運用在與客戶有影響的範圍，必須要特別再去檢視，但銀行大半都是內部自己作AI的模型，是否會放到前端去影響客戶的行為，由各銀行自己來判斷。

有些銀行的作法，則是AI會先去踩名單、去看金流，出來之後會先丟給前線，然後由前線去關懷客戶，來了解這是否有誤判的狀況，若有誤判，就再放入模型讓AI繼續學習，當有一定的模型可信度之後，才會下放到ATM或網銀等。例如AI模型經過學習之後，先前發覺薪轉戶若是外籍移工，後面沒有撥薪，就會把它結掉。因為仍由人去設定AI的把關要嚴謹，或是寬鬆，這些最終都是由銀行專業人員來決定是否要用AI演算的結果設控帳戶。

不少銀行私下也指出，很多分行向總行求援，客戶硬逼著銀行來解控，結果總行一把鎖控戶解掉，該帳戶沒多久馬上變成「警示戶」，因此，並不能說銀行的誤殺，就是因為「偏見」而造成，因為再大的命中率，也一定會有誤差。再例如久未使用的帳戶就有很高的可疑帳戶機率，是否能說其有偏見？但往往為了避免偏見而解控，所造成的問題更大。

要如何處理所謂的「偏見」，實務上就直接回歸到「公平」的原則來處理，例如「公平待客」原則。早在沒有AI的時期，公司治理也就要求「公平待客」的原則，使用AI也是一樣。不能因為有差別區隔，就說是不公平，如以性別為例，在AI模型之下，男女的性別區分沒關係，重點在於對不同性別不要有應對上的落差，不過在服務的差異，本來男性與女性偏好的作法或想法就經常有所不同，因此，不需為了達成形式上的公平，就不讓性別成為其中一項差異化的因子。即使過去人工作業，也會從職業、年紀、過去信用紀錄來判斷，但也沒人說這是不公平，因為這些本來就會列入參考，即使在過去人工作業判讀時也一樣。

至於如何去判斷模型是否太敏感、太嚴格？這可拿過去資料做回測，來驗證模型的有效度，包括了AI背後的決策透明度、是否有偏見等。這時，「可程式化的AI治理」是唯一的辦法。亦即，再設計一個程式化的方式，來管理AI；至於要如何改善誤殺的情況，有一家民營銀行主管則建議，在比率要一直下降的外部壓力之下，參數一定會設得非常嚴，而且，很多被攔的靜止戶的確很容易跑出警示戶，但靜止戶這個池子很大，很多靜止戶裡只有幾百、幾千，不到一萬，都是小錢，因此，與其擋很多小的，不如擋一件大的，倘若目標再更精確，也許能再降低誤殺的機率。（作者為資深媒體人，長期關注金融議題）