頂端新聞?dòng)浾呃钛芑?文 記者 時(shí)碩/圖
在數(shù)據(jù)價(jià)值日益凸顯、人工智能深刻重塑社會(huì)的當(dāng)下，如何筑牢安全防線，護(hù)航數(shù)字未來？
12月11日，AI賦能與數(shù)據(jù)安全協(xié)同發(fā)展研討會(huì)暨中原數(shù)據(jù)審核中心揭牌儀式在鄭州舉行。研討會(huì)上，中國聯(lián)通網(wǎng)絡(luò)與信息安全首席專家韋峻峰提出，面對(duì)AI帶來的新型風(fēng)險(xiǎn)，傳統(tǒng)的孤立、滯后、人工分類分級(jí)的安全防護(hù)模式已難以與整體安全體系相集成，必須轉(zhuǎn)向構(gòu)建具有數(shù)據(jù)質(zhì)量管控、模型可信度增強(qiáng)、內(nèi)容安全檢測(cè)等技術(shù)，可覆蓋大模型全生命周期的數(shù)智能力一體化AI安全防護(hù)體系。
韋峻峰指出，我們已步入以數(shù)據(jù)驅(qū)動(dòng)為核心的數(shù)字化轉(zhuǎn)型深水區(qū)，數(shù)據(jù)的整合、流通、共享開放與深度利用，是核心要素。與此同時(shí)，人工智能正從生活到生產(chǎn)全方位重塑人類社會(huì)的運(yùn)行模式與體驗(yàn)方式。
然而，機(jī)遇與風(fēng)險(xiǎn)并存，數(shù)據(jù)安全事件頻發(fā)。隨著人工智能的發(fā)展，隱私泄露、版權(quán)侵權(quán)以及生成有害內(nèi)容等前所未有的新型風(fēng)險(xiǎn)也隨之而來。近年來，全球各國對(duì)數(shù)據(jù)安全與人工智能安全治理關(guān)注度不斷提升，正積極布局?jǐn)?shù)據(jù)安全與人工智能產(chǎn)業(yè)發(fā)展，強(qiáng)化法律政策監(jiān)管力度，這意味著，數(shù)據(jù)安全和人工智能領(lǐng)域已進(jìn)入到強(qiáng)監(jiān)管時(shí)代。
面對(duì)挑戰(zhàn)，韋峻峰稱，人工智能技術(shù)本身也為數(shù)據(jù)安全的進(jìn)化帶來了機(jī)遇。他系統(tǒng)闡述了以AI賦能安全的關(guān)鍵路徑：利用大模型智能體技術(shù)，提升數(shù)據(jù)分類分級(jí)的效率和準(zhǔn)確性，為安全建設(shè)打下堅(jiān)實(shí)基礎(chǔ)，效率可提升90%以上；通過生成式AI增強(qiáng)提升數(shù)據(jù)安全分析響應(yīng)能力，解決海量日志分析關(guān)聯(lián)能力、知識(shí)抽取的擴(kuò)展性、安全響應(yīng)知識(shí)的依賴性等問題；通過數(shù)據(jù)質(zhì)量管控、模型可信度增強(qiáng)、內(nèi)容安全檢測(cè)等核心技術(shù)，構(gòu)建可信、可靠、可溯的一體化的人工智能安全體系。
這一安全體系強(qiáng)化了數(shù)據(jù)質(zhì)量管控，確保敏感數(shù)據(jù)進(jìn)不來、出不去、管得住。同時(shí)提高模型可信增強(qiáng)能力，對(duì)輸入、輸出內(nèi)容進(jìn)行實(shí)時(shí)檢測(cè)與防護(hù)，識(shí)別并攔截各類違規(guī)風(fēng)險(xiǎn)，形成安全閉環(huán)，實(shí)現(xiàn)“智能治模”。
2025年是AI+垂直行業(yè)應(yīng)用的元年，韋峻峰預(yù)測(cè)，未來人工智能技術(shù)將進(jìn)一步深入垂直行業(yè)，有效實(shí)現(xiàn)數(shù)據(jù)安全的全面融智。
