發展金融大(dà)模型需注重安全可(kě)信

“作爲人(rén)工智能應用(yòng)的(de)重要場景,金融行業是大(dà)模型技術和(hé)算(suàn)法突破的(de)沃土。”8月(yuè)28日,在重慶兩江新區舉行的(de)金融大(dà)模型發展論壇暨馬上消費金融大(dà)模型發布會上,中國工程院院士倪光(guāng)南(nán)表示。

論壇上,多(duō)位院士專家圍繞生成式人(rén)工智能和(hé)金融大(dà)模型展開了(le)討(tǎo)論。

中國工程院院士、浙江大(dà)學求是特聘教授譚建榮講解了(le)大(dà)模型的(de)關鍵技術與發展趨勢。他(tā)介紹,過去的(de)人(rén)工智能強調因果關系,而現在大(dà)數據強調關聯關系,從不确定性中尋找确定性,從變量中找出不變量。

“生成式人(rén)工智能的(de)三大(dà)技術特征就是大(dà)數據、大(dà)模型和(hé)大(dà)算(suàn)力。”譚建榮表示,生成式人(rén)工智能是基于知識工程和(hé)知識圖譜的(de)大(dà)模型,知識工程就是從數據裏凝練出知識,這是人(rén)工智能的(de)核心,其目的(de)還是提高(gāo)人(rén)們借助現代化(huà)工具利用(yòng)信息的(de)能力。

“生成式人(rén)工智能的(de)基本定位還是智力勞動者的(de)助手。”歐洲科學院外籍院士、清華大(dà)學人(rén)工智能研究院常務副院長孫茂松表示,生成式人(rén)工智能不會把一個行業整體取代。通(tōng)用(yòng)大(dà)模型ChatGPT對文本語言比較重視,對數字其實不敏感,所以有時候會答(dá)非所問。另外,通(tōng)用(yòng)大(dà)模型的(de)落地也(yě)是一大(dà)挑戰,如用(yòng)在金融領域就很有可(kě)能出現“雞同鴨講”的(de)情況。

“坦誠地講,在工業領域、金融領域,通(tōng)用(yòng)大(dà)模型還有4個關鍵的(de)難題。”馬上消費金融股份有限公司(以下(xià)簡稱馬上消費)首席信息官蔣甯表示,這4大(dà)難題包括關鍵性任務和(hé)動态适應性、個性化(huà)要求和(hé)隐私保護、群體智能與安全可(kě)信以及基礎設施的(de)能力。

應對人(rén)工智能風險方面,國際系統與控制科學院院士、重慶國家應用(yòng)數學中心主任楊新民表示,随著(zhe)大(dà)模型的(de)開放開源,深度合成技術的(de)非法使用(yòng)存在加速積聚的(de)風險。

針對提升大(dà)模型應用(yòng)的(de)可(kě)信實踐,中國信息通(tōng)信研究院副總工程師王愛華在緻辭中表示:“可(kě)信人(rén)工智能實踐的(de)路徑逐步清晰。人(rén)工智能發揮作用(yòng)越大(dà),對于安全可(kě)信的(de)要求也(yě)就越高(gāo)。”

會上,馬上消費發布全國首個零售金融大(dà)模型——“天鏡”。“我們希望在任何情況下(xià)‘天鏡’給客戶的(de)回答(dá)、給所有員工的(de)回答(dá)是合規的(de),并且在任何不可(kě)預期的(de)情況下(xià)是穩定的(de)。”蔣甯表示,馬上消費已形成“三縱三橫”的(de)大(dà)模型發展技術布局。所謂三縱,是指實時人(rén)機協作、多(duō)模态智能、數據決策智能,在數據領域實現智能化(huà)和(hé)結構性數據判别式模型的(de)綜合能力。三橫是指持續學習、模型合規、組合式AI形成安全合規可(kě)信的(de)魯棒性技術能力,确保讓模型越用(yòng)越聰明(míng),同時更穩定、更安全可(kě)控。

基于此,中國信息通(tōng)信研究院、重慶國家應用(yòng)數學中心和(hé)馬上消費牽頭發起,阿裏雲、複旦大(dà)學金融科技研究院、騰訊雲、中國科學院自動化(huà)研究所等單位聯合倡議發起“金融大(dà)模型可(kě)信安全驗證與聯合創新行動計劃”。(記者 雍 黎)