「FinTech Taipei 2024台北金融科技展」,今(1)日於台北世貿中心登場,今年各家業者積極搭上AI應用列車,中信金今年展出「GPT ATM」、「AI客戶助理」等AI應用,並透露考量後續的算力需求,希望爭取將伺服器規格朝向輝達GB200邁進;而台新金也向輝達購置H100伺服器,目前投入AI相關建置設備已斥資3千多萬元。
今年的台北金融科技展順利躲過康芮颱風,如期開展,包括來自12個國家的專家一起共襄盛舉,合計超過200家國內外金融機構、政府單位、新創公司、學校團隊參與會展活動。
金管會主委彭金隆致詞時表示,這是一個令人振奮的場合,由於台灣在科技、技術能力具有領先的優勢,今年金融科技展聚焦在AI運用,而目前已有3分之2的銀行陸續導入AI運用,範圍包括行政流程改善、風險管理、智能服務、防詐騙等領域。
中信金推出「GPT ATM」、「AI客戶助理」,考慮爭取輝達GB200伺服器
在金融業的諸多創新金融應用當中,中信金控今年首度對外曝光「GPT ATM」,這是金融業第一個運用生成式AI 的ATM,簡單來說,就是透過「語音」指令就能完成ATM提款,並且支援中、英、印、泰、越、日、韓7國語言可自動切換,另外也可以根據個人的近期交易紀錄提供個人化建議,預計最快在明(2025)年有機會導入銀行體系的ATM。
另外,還有一項新運用則是「AI客戶助理」,這個運用是由中信研發團隊整合內部專家知識系統、跨知識檢索技術能力,並透過機器視覺、生成式 AI 整合資產配置模型開發而成,由客戶語言諮詢問答了解理財需求,猶如理財專員跟客戶的互動,並且根據個人的理財需求給予理財規劃以及財務配置建議。
中信金控資訊最高主管賈景光指出,「AI客戶助理」的實際落實運用,預計明年初步先讓內部理專使用,確保AI不會產生幻覺,等到準確性無誤且穩定後,第二階段才會開放一般民眾使用,「難點在於,要把理專的知識放進AI模型,讓它用中國信託理專的身分回答客戶問題,又不能說錯話,後面這一段很難。」
賈景光說,目前中信金主要的防詐AI應用的伺服器多在處在地端,並採用輝達GPU,其餘應用則採用混合雲模式,有些在地端、有些在雲端,他也透露,考量未來AI應用越來越普遍,算力也將成為關鍵,因此內部確實已經有在考慮爭取相關預算,朝向輝達GB200伺服器的規格邁進。
台新金也向輝達購買H100算力晶片,發展智能客服落地運用
另一方面,台新金控也透過生成式AI產生音樂、圖片以及程式碼,並且進一步建置大型語言模型「台新腦」,運用在智能客服領域。
台新金資訊長孫一仕指出,AI運用在智能客服領域,目前台新金領先於金融業,成為第一個企業銀行的智能客服,合計整體投入相關AI硬體的金額目前約3000多萬元,包括向輝達(Nvidia)購買約16片的H100算力晶片,來訓練跟應用模型,他指出,「目前業界比較容易拿到的是H100,預期更高階的GB200還要再等一段時間。」
以台新金來說,目前確定可以落地的AI應用有3個,包括智能客服、內部知識管理、內部圖片生成。孫一仕舉例,舉例來說,行銷人員可以使用圖形生成的模型產生意象,方便跟行銷公司溝通,
孫一仕指出,針對這3個落地應用,起初是跟外面廠商合作模型,包括蒐集資料、加上台新金的金融知識,運作模型後再由內部接手維運。他也說,在智能客服方面,希望能逐步做到「理解客戶」的需求,並且初步預估明(2025)年年底能將生產力提升至25%,因此明年將有一整年的執行成效會出現。
孫一仕認為,金融業做人工智慧很重要的就是負責任,因此領先業界做AI治理,使用AI工具來確定模型能夠符合道德規範,而不會偏移,因此台新金不僅採購了硬體,目前AI團隊也已經有20位正職同仁。
李長庚呼籲建置國家級語言大模型,彭金隆:金融業與新創打「團體戰」
談到AI運用投入以及後續的布局規劃,國泰金控總經理李長庚今日也說,國泰金在今年7月已取得金管會核准、成為第一家數據上雲的金融機構,並在今年也成立資料跟人工智慧治理委員會,預計從AI ready、AI native、AI empower 3個階段發展,透過AI工具運用於打詐領域,也運用到智能房貸、健康保險等。
因應AI軍備競賽開打,身為金融業的李長庚指出,企業是否要自己建置大模型,這確實是嚴肅課題,他認為,是否可能透過國家的力量來建置國家級的語言大模型等建設基礎建設,讓大家共同投資、共同分攤費用、共同使用,或許是比較理想的方法。
彭金隆則表示,目前金管會已大幅放寬業務示範的範圍,也在評估如何調整監理沙盒、創新實驗的落地機制,他也呼籲,金融業跟金融科技業攜手合作,建議採取團體戰的新策略,集中有限的資源來提升創新的動能,此外,金管會也鼓勵成立「金融科技合作聯盟,進一步推動技術研發。