首個金融大模型應用風險治理行業標準將出臺?

發布時間:2023-10-10 18:07:31  |  來源:消金界  

自2022年11月ChatGPT上線以來,生成式人工智能(Generative Artificial Intelligence,以下簡稱生成式 AI)概念持續發酵。


(資料圖)

在鼓勵創新的同時,監管也不期而至。近日,據21財經報道,在中國人民銀行指導下,一項關于金融領域人工智能應用風險治理的推薦性行業標準正在制定中。該標準將為金融行業人工智能系統應用的風險識別與防控,以及系統升級、實現、驗證、測試、管理提供依據。

事實上,金融行業是數字化、智能化的先行者,也是大模型技術落地的最佳領域。以物聯網、云計算、大數據、AI大模型等為代表的信息技術的應用,正在大幅提高運營效率,改變傳統金融業務的作業模式,創造出不同以往的前沿金融業務形態。這些技術與金融業務相互成就,共同進步與發展。

生成式AI的應用技術與案例開始涌現。

今年3月底,彭博社發布擁有500億參數的大型語言模型——BloombergGPT,標志著全球首個金融大模型的誕生,也引發市場對金融垂直領域大模型的關注。

5月,度小滿發布了千億級中文大模型“軒轅”,這也是國內首個垂直金融行業的開源大模型;6月,恒生電子發布金融行業大模型LightGPT;8月,馬上消費推出全國首個零售金融大模型——天鏡大模型;就在9月8日的外灘大會上,螞蟻集團也正式發布了金融大模型,并開源生成式AI編程平臺CodeFuse。

在需求側,工商銀行、農業銀行、中國銀行、交通銀行等,在半年報中明確提出正在探索大模型的應用。在未來的競爭中,生成式AI將在降低獲客成本、提升資產質量、提高運營能力等方面發揮出更大作用。

與此同時,金融行業也是一個強監管的行業,面臨著數據、算力、算法、應用等諸多挑戰。在新興業務形態如火如荼的發展過程中,也衍生出隱私侵犯、數據濫用、算法歧視、業務惡性擴張等一系列問題。因此,各領域的行業標準正在加速落地。

9月19日,由中國信通院牽頭,聯合騰訊云、奇富科技、科大訊飛等四十多家企業共同編制的《面向行業的大規模預訓練模型技術和應用評估方法第1部分:金融大模型》標準成為國內首個金融行業大模型標準。

該標準主要從業務角度出發,涵蓋了金融大模型的關鍵能力要求,包括場景適配度、能力支持度和應用成熟度三大方面。

在鼓勵金融科技創新的同時,也要關注科技倫理的風險。如何在發展中識別、防范技術風險,成為重要工作之一。在大模型的浪潮下,人工智能應用風險治理更受關注,而科技倫理已成為一項重要的評測指標。

10月8日,科技部聯合十部門聯合印發《科技倫理審查辦法(試行)》,成為科技倫理風險防控與創新風險治理的準則。

而就在去年10月9日,央行正式發布并實施《金融領域科技倫理指引》 ,提供了在金融領域開展科技活動需要遵循的守正創新、數據安全、包容普惠、公開透明、公平競爭、風險防控與綠色低碳等7方面價信理念與行為規范。

互聯網發展到今天,科技創新的發展模式需要從獲取用戶注意力到促進用戶數字福祉轉變。

落實到金融領域,一方面是人人都可享受到普惠金融帶來的便利和紅利,另一方面是促進個人對數字技術和金融服務的高質量使用,減少甚至防止數字技術在個人金融服務中的負面影響。

如今,監管正在醞釀的關于金融領域人工智能應用風險治理的推薦性行業標準,也是從制度方面提供保障,加強金融科技倫理治理。通過為金融科技創新及其應用劃定底線和邊界,確保其向上向善的發展方向。

關鍵詞:

 

最近更新