專家：從業(yè)者應提高認識警惕風險

    本報記者 李冰

    4月10日，中國支付清算協(xié)會發(fā)布《關于支付行業(yè)從業(yè)人員謹慎使用ChatGPT等工具的倡議》（以下簡稱“倡議”）。倡議提出，正確認識ChatGPT等工具的機遇和風險。

    易觀分析金融行業(yè)高級咨詢顧問蘇筱芮對《證券日報》記者表示，“此前，國外已出現(xiàn)過ChatGPT等工具隱私泄露的情況。中國支付清算協(xié)會倡議慎用ChatGPT等工具，無論是對金融機構還是用戶而言，均是一種保護行為。”

    應依法合規(guī)使用

    倡議稱，近期，ChatGPT等工具引起各方廣泛關注，已有部分企業(yè)員工使用ChatGPT等工具開展工作。但是，此類智能化工具已暴露出跨境數(shù)據(jù)泄露等風險。為有效應對風險、保護客戶隱私、維護數(shù)據(jù)安全，提升支付清算行業(yè)的數(shù)據(jù)安全管理水平，根據(jù)《中華人民共和國網(wǎng)絡安全法》《中華人民共和國數(shù)據(jù)安全法》等法律規(guī)定，中國支付清算協(xié)會向行業(yè)發(fā)出倡議。

    具體來看，一是提高思想認識，依法依規(guī)使用。支付行業(yè)從業(yè)人員要遵守所在地區(qū)的網(wǎng)絡使用規(guī)定，正確認識ChatGPT等工具的機遇和風險，全面評估使用ChatGPT等工具處理工作內容的風險，依法合規(guī)使用ChatGPT等工具。

    二是不上傳關鍵敏感信息。支付行業(yè)從業(yè)人員在使用ChatGPT等工具時，要嚴格遵守國家及行業(yè)相關法律法規(guī)要求，不上傳國家及金融行業(yè)涉密文件及數(shù)據(jù)、本公司非公開的材料及數(shù)據(jù)、客戶資料、支付清算基礎設施或系統(tǒng)的核心代碼等。

    三是會員單位加強內部管理和引導。會員單位要進一步健全信息安全內控管理制度，開展有針對性的數(shù)據(jù)風險防控工作，加強宣傳和引導，提升員工的風險防范和數(shù)據(jù)保護意識，切實維護國家金融及支付清算行業(yè)安全。

    “ChatGPT是人工智能技術驅動的自然語言處理工具，需要對數(shù)據(jù)庫不斷更新。金融從業(yè)者使用ChatGPT存在金融數(shù)據(jù)隱私及安全問題，中國支付清算協(xié)會向行業(yè)發(fā)出倡議十分有必要。”博通咨詢金融行業(yè)資深分析師王蓬博表示。

    或存在兩方面風險

    經記者梳理，目前金融機構試水ChatGPT類應用呈現(xiàn)三類方式，一是借助自身在科技尤其是人工智能領域的積累，結合自有場景主動開啟研發(fā)和探索；二是接入類ChatGPT相關應用的生態(tài)，借助外部力量進行提升；三是通過自有能力和借助外部力量雙線并行。

    冰鑒科技研究院高級研究員王詩強對《證券日報》記者表示，“ChatGPT等工具是基于自然語言處理、深度學習人工智能技術開發(fā)的智能工具，通過收集、處理數(shù)據(jù)，不斷自我學習。其收集的數(shù)據(jù)除了外部公開數(shù)據(jù)外，也有大量數(shù)據(jù)來自客戶分享，在其他客戶咨詢同類問題時可能會共享出去。因此，一旦有從業(yè)者將公司重要數(shù)據(jù)共享給ChatGPT等工具，極有可能導致商業(yè)機密泄露。”

    對于ChatGPT等工具可能存在的風險，索信達控股AI創(chuàng)新中心主任邵俊博士對《證券日報》記者表示，這主要來自兩個層面，一是信任風險，比如不法分子通過ChatGPT技術模仿真人實施不法行為；二是模型風險，ChatGPT本質是從網(wǎng)絡大量數(shù)據(jù)中學習，但網(wǎng)上也充斥著大量錯誤信息，真假參半的信息容易對用戶造成誤導，另外，從業(yè)者的“無心之失”也容易在工作中把重要數(shù)據(jù)流出，構成違規(guī)風險。

    在中關村科金人工智能資深產品專家李國慶看來，“ChatGPT在科技能力上涉及芯片、算力、模型、工具、場景等多個層面。目前，我國不少頭部科技企業(yè)都已經開始著手研發(fā)類似于ChatGPT的產品。同時，國內自然語言處理和人工智能領域的研究及發(fā)展也不斷取得重大突破，在原始數(shù)據(jù)積累、人才儲備及政策支持方面均具有一定優(yōu)勢，基于大量底層數(shù)據(jù)和強大的算力支撐，國內一些智能產品有望抓住機遇，加速大模型的研發(fā)和產業(yè)化。”