金融領(lǐng)域合規(guī)機制建設(shè)已上升為驅(qū)動行業(yè)持續(xù)健康發(fā)展的核心命題。7月31日，由北京商報社、深藍媒體智庫主辦的"AI金融雙刃劍：從安全底線尋找轉(zhuǎn)型機遇"沙龍在上海成功舉辦。作為此次沙龍的重磅環(huán)節(jié)之一，現(xiàn)場圓桌對話圍繞"AI算法備案時代的金融合規(guī)路徑"展開。多位行業(yè)專家和企業(yè)嘉賓對AI金融的未來發(fā)展趨勢進行了洞察和展望。
與會嘉賓認為，金融AI合規(guī)的本質(zhì)是在監(jiān)管剛性要求與技術(shù)可行性之間尋找動態(tài)平衡點。在人工智能技術(shù)深度滲透金融服務(wù)的背景下，如何通過制度設(shè)計與技術(shù)管控構(gòu)建合規(guī)體系，既滿足監(jiān)管要求又保障創(chuàng)新活力，成為當(dāng)前金融科技發(fā)展中亟待突破的關(guān)鍵課題。
從被動合規(guī)到主動治理
在AI算法備案制度的框架下，金融領(lǐng)域業(yè)務(wù)算法，如智能投顧、信用評估、保險定價等，進行合規(guī)改造與備案準備時，面臨多重系統(tǒng)性挑戰(zhàn)。
具體而言，金融AI算法備案的核心是穿透算法黑箱，實現(xiàn)可審計、可干預(yù)的透明決策。企業(yè)需以"主動合規(guī)"重構(gòu)技術(shù)倫理。
星火智云（上海）科技發(fā)展有限公司（以下簡稱"星火智云"）副總裁羅方舟表示，為應(yīng)對監(jiān)管環(huán)境變化，公司核心策略是系統(tǒng)采集監(jiān)管文本、圖片、視頻及銷售流程意見，將其轉(zhuǎn)化為AI學(xué)習(xí)的底層知識庫。通過類似"基礎(chǔ)必修課"的規(guī)劃，將正向準則植入AI訓(xùn)練流程，并持續(xù)豐富數(shù)據(jù)來源。例如，監(jiān)管對營銷內(nèi)容的指導(dǎo)意見、保險公司提供的銷售內(nèi)容文件等，均被納入知識庫訓(xùn)練AI，形成"AI研修課"以完善合規(guī)能力，為未來AI在業(yè)務(wù)中大規(guī)模應(yīng)用奠定基礎(chǔ)。
據(jù)了解，作為一家互聯(lián)網(wǎng)營銷企業(yè)，星火智云自2018年起開展互聯(lián)網(wǎng)保險業(yè)務(wù)。企業(yè)經(jīng)營重點之一是關(guān)注安全問題，從信息流投放到客戶運營、售后環(huán)節(jié)，自2019年起已大規(guī)模應(yīng)用AI技術(shù)。
"具體應(yīng)用場景包括內(nèi)容生產(chǎn)等。"羅方舟表示，每日需生成大量內(nèi)容，構(gòu)建包含數(shù)字人、短視頻混剪等技術(shù)的完整內(nèi)容生產(chǎn)線。在此過程中，監(jiān)管對通過內(nèi)容引導(dǎo)用戶進行保險消費的約束日益清晰，尤其關(guān)注保險產(chǎn)品介紹邊界及灰色地帶的合規(guī)性，各流量平臺對相關(guān)內(nèi)容的約束界限也逐漸明確。
"大模型本身無善惡之分，關(guān)鍵在于如何使用。"神州融信云科技股份有限公司研發(fā)技術(shù)中心總經(jīng)理郭學(xué)超表示，當(dāng)前金融市場呈現(xiàn)"冰火兩重天"態(tài)勢：表面上看熱度較高，各類概念頻出；但實際成熟應(yīng)用模式較少。通過原有算法備案是一種方式，客戶更關(guān)注模式的可靠性與準確性。此外，合規(guī)性至關(guān)重要，備案或許是很好的解決路徑。
AI領(lǐng)域的特殊性體現(xiàn)在AI面客服務(wù)尚未被允許等方面。郭學(xué)超也認為，金融行業(yè)與其他行業(yè)一樣，必須在合規(guī)框架內(nèi)開展業(yè)務(wù)，不容許出錯。目前公司主要通過應(yīng)用端到端大模型、固化流程、結(jié)合小模型等方式規(guī)避合規(guī)困境，通過技術(shù)手段解決合規(guī)問題。
細分領(lǐng)域共探解題思路
需要關(guān)注的是，從智能投顧、信用評估到保險定價，不同細分領(lǐng)域的風(fēng)險特征與影響范圍存在顯著差異，備案策略需在統(tǒng)一框架下實現(xiàn)精準適配。
"基于不同金融細分領(lǐng)域應(yīng)用AI算法的風(fēng)險特征和影響范圍，從監(jiān)管備案及應(yīng)用層面來看，行業(yè)方向已較為明確。"上海金融與發(fā)展實驗室特聘研究員潘曉俊表示，過去可從最合規(guī)的路徑解決問題并控制風(fēng)險，關(guān)于后續(xù)發(fā)展，可從簡單、可控的場景逐步深入。例如，監(jiān)管對模型專業(yè)性的要求，不僅涉及技術(shù)專業(yè)度，更需關(guān)注業(yè)務(wù)效果的專業(yè)性。若告知監(jiān)管，當(dāng)前應(yīng)用僅聚焦于簡單的圖片、文字或視頻生成，或可更易被接受。
潘曉俊的另一個觀點是"用魔法打敗魔法"。他認為，近期行業(yè)一大痛點是電信外呼受監(jiān)管影響較大。從監(jiān)管角度看，外呼為何被管控？因其可能影響客戶體驗。若明確告知監(jiān)管，我們通過AI接口優(yōu)化外呼形式，既可減少對客戶的騷擾，又能提升效率，這或許是很好的應(yīng)用方向。畢竟外呼是當(dāng)前一大痛點，一旦被投訴，短期內(nèi)可能無法使用，尤其是營銷短信等，而新技術(shù)若具備可解釋性與可控性，或可規(guī)避此類問題。
中誠信信用分析（北京）有限公司信評總監(jiān)曹閏在圓桌環(huán)節(jié)表示，從監(jiān)管層面而言，"幻覺"問題是需要重點考慮的。在應(yīng)用AI進行輸出時，始終要保持更為謹慎的態(tài)度。然而，目前的主要難點在于，AI學(xué)習(xí)過程中收集的數(shù)據(jù)來自多方，這些數(shù)據(jù)的隱私性和密集性存在差異，且缺乏完全明確的監(jiān)管規(guī)定。
基于此，曹閏認為，若自行制定數(shù)據(jù)使用規(guī)則，也可能面臨監(jiān)管的挑戰(zhàn)。因此，數(shù)據(jù)的保密程度及如何合規(guī)利用這些數(shù)據(jù)，成為較大的難題。公司當(dāng)前的應(yīng)對措施是將數(shù)據(jù)拆分為內(nèi)部數(shù)據(jù)和較為敏感的數(shù)據(jù)兩類，進行了一定的努力。但后續(xù)拆分是否符合監(jiān)管要求以及輸出是否能夠滿足合規(guī)性，仍需各方進行交流。"我們也相信，隨著AI未來的升級和迭代，目前面臨的問題將不再那么嚴峻，但仍需深度探索。"
作為一家面向C端的企業(yè)，羅方舟表示，雖然在算法備案方面規(guī)模較小，但同樣面臨顯著挑戰(zhàn)。當(dāng)前流量平臺核心收入依賴廣告收入，星火智云需通過算法精準挖掘目標客戶，如保險領(lǐng)域高價值用戶，而平臺傾向于將核心用戶打包售賣，排斥低價值用戶，由此引發(fā)流量場景的"算法對抗"——雙方通過數(shù)據(jù)和算法能力爭奪目標用戶。在此過程中，數(shù)據(jù)安全問題尤為突出。平臺對用戶數(shù)據(jù)的采集，包括App使用行為、聊天內(nèi)容等較為全面，而公司作為保險數(shù)據(jù)獲取方，需在算法中明確數(shù)據(jù)使用邊界：哪些數(shù)據(jù)可合法使用、哪些不可，并確保數(shù)據(jù)存儲、應(yīng)用及衍生數(shù)據(jù)處理的合規(guī)性。依托支付通道與監(jiān)管部門的溝通，公司需驗證數(shù)據(jù)流的安全性、合規(guī)性及算法可控性，以實現(xiàn)監(jiān)管認可的合規(guī)狀態(tài)。
北京商報記者胡永新
不看后悔的高品質(zhì)小說《英雄聯(lián)盟之獵魔人》,個性鮮明快來看看吧!
