頂端新聞?dòng)浾呃钛芑?文 記者 時(shí)碩/圖
在數(shù)據(jù)價(jià)值日益凸顯、人工智能深刻重塑社會(huì)的當(dāng)下,如何筑牢安全防線,護(hù)航數(shù)字未來?
12月11日,AI賦能與數(shù)據(jù)安全協(xié)同發(fā)展研討會(huì)暨中原數(shù)據(jù)審核中心揭牌儀式在鄭州舉行。研討會(huì)上,中國聯(lián)通網(wǎng)絡(luò)與信息安全首席專家韋峻峰提出,面對(duì)AI帶來的新型風(fēng)險(xiǎn),傳統(tǒng)的孤立、滯后、人工分類分級(jí)的安全防護(hù)模式已難以與整體安全體系相集成,必須轉(zhuǎn)向構(gòu)建具有數(shù)據(jù)質(zhì)量管控、模型可信度增強(qiáng)、內(nèi)容安全檢測(cè)等技術(shù),可覆蓋大模型全生命周期的數(shù)智能力一體化AI安全防護(hù)體系。
韋峻峰指出,我們已步入以數(shù)據(jù)驅(qū)動(dòng)為核心的數(shù)字化轉(zhuǎn)型深水區(qū),數(shù)據(jù)的整合、流通、共享開放與深度利用,是核心要素。與此同時(shí),人工智能正從生活到生產(chǎn)全方位重塑人類社會(huì)的運(yùn)行模式與體驗(yàn)方式。

然而,機(jī)遇與風(fēng)險(xiǎn)并存,數(shù)據(jù)安全事件頻發(fā)。隨著人工智能的發(fā)展,隱私泄露、版權(quán)侵權(quán)以及生成有害內(nèi)容等前所未有的新型風(fēng)險(xiǎn)也隨之而來。近年來,全球各國對(duì)數(shù)據(jù)安全與人工智能安全治理關(guān)注度不斷提升,正積極布局?jǐn)?shù)據(jù)安全與人工智能產(chǎn)業(yè)發(fā)展,強(qiáng)化法律政策監(jiān)管力度,這意味著,數(shù)據(jù)安全和人工智能領(lǐng)域已進(jìn)入到強(qiáng)監(jiān)管時(shí)代。
面對(duì)挑戰(zhàn),韋峻峰稱,人工智能技術(shù)本身也為數(shù)據(jù)安全的進(jìn)化帶來了機(jī)遇。他系統(tǒng)闡述了以AI賦能安全的關(guān)鍵路徑:利用大模型智能體技術(shù),提升數(shù)據(jù)分類分級(jí)的效率和準(zhǔn)確性,為安全建設(shè)打下堅(jiān)實(shí)基礎(chǔ),效率可提升90%以上;通過生成式AI增強(qiáng)提升數(shù)據(jù)安全分析響應(yīng)能力,解決海量日志分析關(guān)聯(lián)能力、知識(shí)抽取的擴(kuò)展性、安全響應(yīng)知識(shí)的依賴性等問題;通過數(shù)據(jù)質(zhì)量管控、模型可信度增強(qiáng)、內(nèi)容安全檢測(cè)等核心技術(shù),構(gòu)建可信、可靠、可溯的一體化的人工智能安全體系。
這一安全體系強(qiáng)化了數(shù)據(jù)質(zhì)量管控,確保敏感數(shù)據(jù)進(jìn)不來、出不去、管得住。同時(shí)提高模型可信增強(qiáng)能力,對(duì)輸入、輸出內(nèi)容進(jìn)行實(shí)時(shí)檢測(cè)與防護(hù),識(shí)別并攔截各類違規(guī)風(fēng)險(xiǎn),形成安全閉環(huán),實(shí)現(xiàn)“智能治模”。
2025年是AI+垂直行業(yè)應(yīng)用的元年,韋峻峰預(yù)測(cè),未來人工智能技術(shù)將進(jìn)一步深入垂直行業(yè),有效實(shí)現(xiàn)數(shù)據(jù)安全的全面融智。

