風起于青萍之末,浪成于微瀾之間!2023年初ChatGPT的推出,讓AI技術掀起了一波前所未有的發展與應用熱潮,同時也不可避免地帶來的許多新的安全風險,這些安全風險涵蓋了從網絡威脅、數據安全、隱私保護、倫理關切和監管影響等各個方面。

2023年11月2日,由中國內部審計協會、ISACA中國、谷安天下公司聯合舉辦的第三屆數字風險大會于在北京隆重開幕。本次大會主題聚焦于“AI時代的數字風險挑戰與應對”,邀請了眾多網絡安全與數字風險領域的研究學者、產業專家、用戶代表聚集一堂,從安全科技、風險控制和IT審計等多維度視角,全面探討了AI技術應用的發展機遇和新型數字風險管理。

中國內部審計協會副會長兼秘書長沈立強

在本次大會的主論壇上,中國內部審計協會副會長兼秘書長沈立強代表大會主辦方致辭,他表示:AI技術的突破性進展成為引領數字時代發展的新引擎。內部審計作為組織內部經濟決策科學化、管理規范化,風險防控常態化的一項重要制度設計,承擔著為各個組織實現高質量發展保駕護航的重要使命。為進一步推動內部審計的數字化轉型,企業組織應該做好以下方面:一是要增強使命感,充分認識到數字化轉型是實現高質量發展的必然要求;二是要堅持正確方法論,注重數字化轉型的系統性、整體性、協同性和時效性;三是要勇于自我革命,著力加強內部審計數字化轉型的能力建設。

ISACA全球首席戰略官Chris Dimitriadis

ISACA全球首席戰略官Chris Dimitriadis以遠程方式為大會發表了主題為《數字信任護航AI安全》的視頻演講。他指出:AI正在改變各個行業的發展模式并支持業務創新,為新產品和新的服務模式的推出鋪平道路。AI技術應用雖然存在風險,但也可以使數字信任行業收益。在IT審計工作中應用AI,能夠實時審計完整的數據集,取代傳統的抽樣或定時審計。數字信任可以支持網絡安全識別、保護、檢測、響應和恢復,而AI監控和增強技術運營作為一個整體,其實現方法將會更智能、更快捷、更全面。

中國內部審計協會副會長、北京國家會計學院教授 秦榮生

中國內部審計協會副會長、北京國家會計學院教授秦榮生發表了主題為《審計智能與智能審計》的演講,他指出:生成式AI改變了數據生成方式和數據生成規律,并顛覆數據庫的結構以及數據分析方式。生成式AI產業應該在繼續加強技術創新和應用推廣的同時,也要注重加強對生成式 AI 生成數據的審計,保障生成式AI生成數據的真實和可信,研究審計生成式AI生成數據的實現路徑。隨著智能審計體系的構建,人機共生將成為未來數智化審計工作的一部分。

中國建設銀行首席信息官金磐石

中國建設銀行首席信息官金磐石發表了主題為《AI 技術在銀行業數字化轉型中的應用與挑戰》的主旨演講,并圍繞AI技術賦能建行數字化轉型和建行應用AI技術的挑戰及應對措施兩大方面展開詳細說明。據金磐石介紹:基于企業級人工智能平臺,中國建設銀行已發布400多個模型服務,支撐800多個業務場景。目前,中國建設銀行對AI技術應用需求旺盛,實現了業技融合多維分析,能夠通過差異化推進場景建設以及產品化建設敏捷賦能。

北京大學計算機學院教授博士生導師 陳鐘

北京大學計算機學院教授博士生導師陳鐘發表了《人工智能安全挑戰與治理》的主題演講。他表示:隨著互聯網技術演進到賽博空間,涌現出更多的技術創新,比如人臉識別、生成式預訓練大模型GPT、AI作畫、AI創作等。我國應高度重視人工智能產業的發展與治理,只有數字信任才能加快新興技術的創新應用、彌合國際/區域數字鴻溝。當前亟需從可信數字身份出發,借助密碼技術、區塊鏈、大數據、人工智能等技術,打造面向數字經濟時代的新型數字信任體系,為政府和企業的數字化轉型奠定數字安全基礎設施,賦能數字經濟發展和智慧城市建設。

中國移動通信集團內部審計部武漢分部總經理張國宏

中國移動通信集團內部審計部武漢分部總經理張國宏在《運用AI技術開展數字化審計的探索與實踐》演講中表示:大道至簡,審計思維也需要化繁為簡。中國移動集團內部審計部充分利用公司在人工智能、云計算、大數據等方面的先進技術儲備設計了覆蓋底座層、平臺層、工具層、產品層四個層次的“Al+審計”整體技術架構,實現“通用平臺+場景應用”模式在審計領域的落地,為AI審計能力的快速構建、高效運行、深入應用提供堅實保障。

谷安天下董事長陳偉

谷安天下董事長陳偉發表了題為《新時期數智風險管控的思路與方法》的主題演講,并就新時期數智化風險的特點、AI安全與倫理的重要性、AI風險管理框架分析對比和適用AI風險管控思路方法展開了詳細闡釋。陳偉指出,各類機構在面對新型AI應用帶來的風險時,可根據國際上AI安全與倫理通用規則及國內主管部門對科技倫理和AI安全的基本要求,開展針對AI的安全風險評估,并在此基礎上建立適宜的AI安全風險控制框架,逐步推進AI安全控制措施的落地實施。

火山引擎大模型安全平臺產品負責人 郭建新

火山引擎大模型安全平臺產品負責人郭建新發表了題為《基于云原生的大模型安全分析》的主題演講,對大模型的業務分析、安全需求、安全架構、業務安全以及基于云原生的安全防護等內容進行了詳細介紹。郭建新表示:大模型技術在具體應用時面臨模型輸出異常、對話機制異常、數據安全、大模型系統漏洞檢測等問題。為了增強大模型的安全性,組織需要從防御者權限角度出發,開展數據質量審查、基于端到端的模型增強、基于流程的模型增強。

在本次大會上,還發布了網絡安全和數字風險領域的多項研究成果,分別是由中國內部審計協會、谷安天下聯合編寫的《數智化審計調研報告》,由ISACA編寫發布的《生成式AI應用現狀及政策建議報告》和《2023年網絡安全現狀 ——勞動力、資源和網絡運營的全球發展新態勢報告》,以及安全牛調研編寫的《AI時代的安全風險與能力創新》研究報告。這些報告涵蓋了企業組織的IT審計、網絡安全、人才培養和AI應用等熱點領域,對相關行業和領域的發展具有重要的指導和參考價值。

為了從應用實踐角度關注AI技術的應用風險和價值,本次大會特別設置了“數智化風險控制與IT審計”和“AI引領數字風險防護創新”兩場主題分論壇,一眾行業大咖針對各自主題發表了一系列精彩演講,以自身見解和深度經驗分享引發了現場觀眾的熱烈討論。

第三屆數字風險大會的舉辦,為行業搭建了一個思想碰撞和經驗分享的多層次平臺,提出了在AI時代數字進行風險管理的重要性和迫切性,引領行業走向更加安全和可持續的未來。據介紹,數字風險大會目前已經成功舉辦了三屆,該會議旨在讓數字風險和網絡安全領域的思想領袖、行業主管、業內學者、企業高層、技術專家聚集在一起,共同面對和探討當下業界緊迫的數字風險問題,同時推動行業各方緊密合作,共同開發全面的策略和前沿的解決方案,以有效地管理各種數字風險。

關鍵詞：