風起于青萍之末,浪成于微瀾之間!2023年初ChatGPT的推出,讓AI技術掀起了一波前所未有的發(fā)展與應用熱潮,同時也不可避免地帶來的許多新的安全風險,這些安全風險涵蓋了從網(wǎng)絡威脅、數(shù)據(jù)安全、隱私保護、倫理關切和監(jiān)管影響等各個方面。
2023年11月2日,由中國內部審計協(xié)會、ISACA中國、谷安天下公司聯(lián)合舉辦的第三屆數(shù)字風險大會于在北京隆重開幕。本次大會主題聚焦于“AI時代的數(shù)字風險挑戰(zhàn)與應對”,邀請了眾多網(wǎng)絡安全與數(shù)字風險領域的研究學者、產(chǎn)業(yè)專家、用戶代表聚集一堂,從安全科技、風險控制和IT審計等多維度視角,全面探討了AI技術應用的發(fā)展機遇和新型數(shù)字風險管理。
中國內部審計協(xié)會副會長兼秘書長沈立強
在本次大會的主論壇上,中國內部審計協(xié)會副會長兼秘書長沈立強代表大會主辦方致辭,他表示:AI技術的突破性進展成為引領數(shù)字時代發(fā)展的新引擎。內部審計作為組織內部經(jīng)濟決策科學化、管理規(guī)范化,風險防控常態(tài)化的一項重要制度設計,承擔著為各個組織實現(xiàn)高質量發(fā)展保駕護航的重要使命。為進一步推動內部審計的數(shù)字化轉型,企業(yè)組織應該做好以下方面:一是要增強使命感,充分認識到數(shù)字化轉型是實現(xiàn)高質量發(fā)展的必然要求;二是要堅持正確方法論,注重數(shù)字化轉型的系統(tǒng)性、整體性、協(xié)同性和時效性;三是要勇于自我革命,著力加強內部審計數(shù)字化轉型的能力建設。
ISACA全球首席戰(zhàn)略官Chris Dimitriadis
ISACA全球首席戰(zhàn)略官Chris Dimitriadis以遠程方式為大會發(fā)表了主題為《數(shù)字信任護航AI安全》的視頻演講。他指出:AI正在改變各個行業(yè)的發(fā)展模式并支持業(yè)務創(chuàng)新,為新產(chǎn)品和新的服務模式的推出鋪平道路。AI技術應用雖然存在風險,但也可以使數(shù)字信任行業(yè)收益。在IT審計工作中應用AI,能夠實時審計完整的數(shù)據(jù)集,取代傳統(tǒng)的抽樣或定時審計。數(shù)字信任可以支持網(wǎng)絡安全識別、保護、檢測、響應和恢復,而AI監(jiān)控和增強技術運營作為一個整體,其實現(xiàn)方法將會更智能、更快捷、更全面。
中國內部審計協(xié)會副會長、北京國家會計學院教授 秦榮生
中國內部審計協(xié)會副會長、北京國家會計學院教授秦榮生發(fā)表了主題為《審計智能與智能審計》的演講,他指出:生成式AI改變了數(shù)據(jù)生成方式和數(shù)據(jù)生成規(guī)律,并顛覆數(shù)據(jù)庫的結構以及數(shù)據(jù)分析方式。生成式AI產(chǎn)業(yè)應該在繼續(xù)加強技術創(chuàng)新和應用推廣的同時,也要注重加強對生成式 AI 生成數(shù)據(jù)的審計,保障生成式AI生成數(shù)據(jù)的真實和可信,研究審計生成式AI生成數(shù)據(jù)的實現(xiàn)路徑。隨著智能審計體系的構建,人機共生將成為未來數(shù)智化審計工作的一部分。
中國建設銀行首席信息官金磐石
中國建設銀行首席信息官金磐石發(fā)表了主題為《AI 技術在銀行業(yè)數(shù)字化轉型中的應用與挑戰(zhàn)》的主旨演講,并圍繞AI技術賦能建行數(shù)字化轉型和建行應用AI技術的挑戰(zhàn)及應對措施兩大方面展開詳細說明。據(jù)金磐石介紹:基于企業(yè)級人工智能平臺,中國建設銀行已發(fā)布400多個模型服務,支撐800多個業(yè)務場景。目前,中國建設銀行對AI技術應用需求旺盛,實現(xiàn)了業(yè)技融合多維分析,能夠通過差異化推進場景建設以及產(chǎn)品化建設敏捷賦能。
北京大學計算機學院教授博士生導師陳鐘
北京大學計算機學院教授博士生導師陳鐘發(fā)表了《人工智能安全挑戰(zhàn)與治理》的主題演講。他表示:隨著互聯(lián)網(wǎng)技術演進到賽博空間,涌現(xiàn)出更多的技術創(chuàng)新,比如人臉識別、生成式預訓練大模型GPT、AI作畫、AI創(chuàng)作等。我國應高度重視人工智能產(chǎn)業(yè)的發(fā)展與治理,只有數(shù)字信任才能加快新興技術的創(chuàng)新應用、彌合國際/區(qū)域數(shù)字鴻溝。當前亟需從可信數(shù)字身份出發(fā),借助密碼技術、區(qū)塊鏈、大數(shù)據(jù)、人工智能等技術,打造面向數(shù)字經(jīng)濟時代的新型數(shù)字信任體系,為政府和企業(yè)的數(shù)字化轉型奠定數(shù)字安全基礎設施,賦能數(shù)字經(jīng)濟發(fā)展和智慧城市建設。
中國移動通信集團內部審計部武漢分部總經(jīng)理張國宏
中國移動通信集團內部審計部武漢分部總經(jīng)理張國宏在《運用AI技術開展數(shù)字化審計的探索與實踐》演講中表示:大道至簡,審計思維也需要化繁為簡。中國移動集團內部審計部充分利用公司在人工智能、云計算、大數(shù)據(jù)等方面的先進技術儲備設計了覆蓋底座層、平臺層、工具層、產(chǎn)品層四個層次的“Al+審計”整體技術架構,實現(xiàn)“通用平臺+場景應用”模式在審計領域的落地,為AI審計能力的快速構建、高效運行、深入應用提供堅實保障。
谷安天下董事長陳偉
谷安天下董事長陳偉發(fā)表了題為《新時期數(shù)智風險管控的思路與方法》的主題演講,并就新時期數(shù)智化風險的特點、AI安全與倫理的重要性、AI風險管理框架分析對比和適用AI風險管控思路方法展開了詳細闡釋。陳偉指出,各類機構在面對新型AI應用帶來的風險時,可根據(jù)國際上AI安全與倫理通用規(guī)則及國內主管部門對科技倫理和AI安全的基本要求,開展針對AI的安全風險評估,并在此基礎上建立適宜的AI安全風險控制框架,逐步推進AI安全控制措施的落地實施。
火山引擎大模型安全平臺產(chǎn)品負責人郭建新
火山引擎大模型安全平臺產(chǎn)品負責人郭建新發(fā)表了題為《基于云原生的大模型安全分析》的主題演講,對大模型的業(yè)務分析、安全需求、安全架構、業(yè)務安全以及基于云原生的安全防護等內容進行了詳細介紹。郭建新表示:大模型技術在具體應用時面臨模型輸出異常、對話機制異常、數(shù)據(jù)安全、大模型系統(tǒng)漏洞檢測等問題。為了增強大模型的安全性,組織需要從防御者權限角度出發(fā),開展數(shù)據(jù)質量審查、基于端到端的模型增強、基于流程的模型增強。
在本次大會上,還發(fā)布了網(wǎng)絡安全和數(shù)字風險領域的多項研究成果,分別是由中國內部審計協(xié)會、谷安天下聯(lián)合編寫的《數(shù)智化審計調研報告》,由ISACA編寫發(fā)布的《生成式AI應用現(xiàn)狀及政策建議報告》和《2023年網(wǎng)絡安全現(xiàn)狀 ——勞動力、資源和網(wǎng)絡運營的全球發(fā)展新態(tài)勢報告》,以及安全牛調研編寫的《AI時代的安全風險與能力創(chuàng)新》研究報告。這些報告涵蓋了企業(yè)組織的IT審計、網(wǎng)絡安全、人才培養(yǎng)和AI應用等熱點領域,對相關行業(yè)和領域的發(fā)展具有重要的指導和參考價值。
為了從應用實踐角度關注AI技術的應用風險和價值,本次大會特別設置了“數(shù)智化風險控制與IT審計”和“AI引領數(shù)字風險防護創(chuàng)新”兩場主題分論壇,一眾行業(yè)大咖針對各自主題發(fā)表了一系列精彩演講,以自身見解和深度經(jīng)驗分享引發(fā)了現(xiàn)場觀眾的熱烈討論。
第三屆數(shù)字風險大會的舉辦,為行業(yè)搭建了一個思想碰撞和經(jīng)驗分享的多層次平臺,提出了在AI時代數(shù)字進行風險管理的重要性和迫切性,引領行業(yè)走向更加安全和可持續(xù)的未來。據(jù)介紹,數(shù)字風險大會目前已經(jīng)成功舉辦了三屆,該會議旨在讓數(shù)字風險和網(wǎng)絡安全領域的思想領袖、行業(yè)主管、業(yè)內學者、企業(yè)高層、技術專家聚集在一起,共同面對和探討當下業(yè)界緊迫的數(shù)字風險問題,同時推動行業(yè)各方緊密合作,共同開發(fā)全面的策略和前沿的解決方案,以有效地管理各種數(shù)字風險。
（免責聲明：本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）
