金管會即將公布的AI指引,其中最令金融業者矚目的在於「集中度風險」管理。該指引已明確要求金融業者在合作前「整個市場委託該機構的集中度風險,都要一併評估」。換言之,金融機構找合作對象要趁早,否則恐有「名額限制」。
所謂的風險集中度的衡量方式,雖然並未在指引中明訂,但銀行業者指出,顯然金管會擔心這種風險過度集中的情況;另外金管會也要求包括責任範疇、未達績效或發生問題時要如何索賠都要事先簽好書面契約,並訂定「退出或轉換」機制,中止委託之後,第三方業者所持有的包括客戶的人臉辨識之類的資料,都要移除。
金管會八月訂定的AI六大核心原則已提出讓AI使用兼顧永續概念,如今該指引將「永續發展」抽象概念化為八大明確方針,包括必須辨識使用AI後對環境產生的風險、優化硬體設施、共享資源和虛擬化、改進模型與演算法、預先處理資料、智慧控管能效、回收與再利用資源、降低消費者或員工的數位焦慮和數位落差。
例如金融機構可選擇能效較高的硬體設備減少能耗,如採用節能伺服器、低功耗處理器與高效能數據中心設備等。
此外,不論是使用生成式AI或一般AI,金管會特別要求「人機協作」,包括避免生成式AI產出內容對特定群體產生偏見或歧視,對客戶或金融消費者不公平。
例如,用在與民眾日常生活相關的業務舉凡辦房貸、信用卡、信用貸款業務,若AI資料有偏差,很可能導致明明財資力是一樣的人,卻因為居住在不同地區、不同教育程度,甚至性別不同,在AI建議的核貸額度上竟出現明顯差異,這就和資料偏差有關。一旦出現會讓消費者質疑的判讀結果時,就必須把AI的運算邏輯與決策過程,以簡單易懂的方式讓消費者知道原因何在,做到使用AI時不致造成群體間的不公平。
為了確保客戶權益及隱私,金管會已在指引裡要求,以生成式AI為例,在沒有適當的管控機制下,金融機構不可向AI提供未經客戶同意公開的資訊。所謂適當的環境是指採用封閉型地端部署的生成式AI模型;客戶如果不想使用AI須提供客戶可選擇的替代方案,例如直接由銀行人員服務。金管會還提到,除資安外,電力穩定也非常重要,不能讓AI系統面臨電力不穩、頻寬不足問題。