羊城晚報(bào)訊 記者李煥坤、羅仕、郭思琦、陳曉楠攝影報(bào)道：9月9日，在2024年國(guó)家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全技術(shù)高峰論壇主論壇暨粵港澳大灣區(qū)網(wǎng)絡(luò)安全大會(huì)上，中國(guó)工程院院士方濱興就電信詐騙、大模型風(fēng)險(xiǎn)、數(shù)據(jù)跨境流動(dòng)安全性等問(wèn)題分享他的觀點(diǎn)。

　　問(wèn)：近年來(lái)，電信詐騙犯罪層出不窮，如何在事前預(yù)防階段解決電信詐騙，防患于未然？

　　方濱興：預(yù)防電信詐騙，我們可以通過(guò)宣傳、管理、技術(shù)三個(gè)手段。首先，加強(qiáng)對(duì)公眾網(wǎng)絡(luò)安全教育的宣傳力度，提高民眾的防范意識(shí)和識(shí)別能力，這是我們一直在做的。其次，管理就是通過(guò)公安部門的雷霆手段震懾打擊不法分子。再者，就是通過(guò)技術(shù)手段進(jìn)行預(yù)警防控。

　　現(xiàn)在有些人剛接到詐騙電話，馬上就有另一個(gè)電話打過(guò)來(lái)，說(shuō)前面那個(gè)電話可能是詐騙電話，要小心。為什么這么快就有預(yù)警電話？這里面就有技術(shù)手段�，F(xiàn)在還有一些技術(shù)能夠提前發(fā)現(xiàn)電信詐騙。這背后的原理是不法分子實(shí)施電信詐騙時(shí)可能要經(jīng)歷很多來(lái)回，不是一次成功的，這就給技術(shù)追蹤留出了時(shí)間，只要市民及時(shí)報(bào)警，就有相關(guān)工作人員跟進(jìn)。更廣泛的技術(shù)聯(lián)動(dòng)是，如果有市民接到詐騙電話，可以預(yù)警這位市民的銀行賬號(hào)可能存在風(fēng)險(xiǎn)，一旦這個(gè)賬號(hào)發(fā)生轉(zhuǎn)錢的行為，可以進(jìn)行保護(hù)性凍結(jié)，聯(lián)系家屬再確認(rèn)一下。

　　問(wèn)：人工智能大模型的快速演進(jìn)給網(wǎng)絡(luò)安全帶來(lái)哪些挑戰(zhàn)？如何用人工智能大模型賦能網(wǎng)絡(luò)安全建設(shè)？

　　方濱興：一般來(lái)說(shuō)，我們會(huì)從四個(gè)層面討論新技術(shù)的安全性。前兩個(gè)層面是新技術(shù)的AB面。以人工智能大模型為例，它能賦能攻擊，比如AI換臉成為現(xiàn)在視頻詐騙的新技術(shù)手段。賦能防御則是更多的，比如現(xiàn)在研判攻擊離不開(kāi)人工智能大模型。第三個(gè)層面是內(nèi)生安全問(wèn)題，比如對(duì)抗樣本攻擊就可能暴露人工智能大模型自身存在的脆弱性。第四個(gè)層面是衍生安全問(wèn)題，比如人工智能大模型被利用或不恰當(dāng)使用引發(fā)的事件。

　　我建議用外置手段給人工智能大模型做二次防范。比如企業(yè)里有大量敏感信息，當(dāng)不同員工去獲取經(jīng)大模型輸出的信息時(shí)，可以根據(jù)員工管理權(quán)限，限制其對(duì)敏感數(shù)據(jù)的訪問(wèn)程度。

　　問(wèn)：目前我國(guó)正在推動(dòng)數(shù)據(jù)跨境流動(dòng)，從技術(shù)層面如何保障數(shù)據(jù)跨境流動(dòng)的安全性？

　　方濱興：數(shù)據(jù)跨境流動(dòng)的安全性保障需要法律法規(guī)和技術(shù)手段的雙重支持。首先數(shù)據(jù)跨境流動(dòng)是受法律法規(guī)約束的。一個(gè)比較簡(jiǎn)單方法就是發(fā)布負(fù)面清單，明確禁止跨境流動(dòng)的數(shù)據(jù)類型。另一個(gè)就是用技術(shù)手段解決，我把它叫作“數(shù)據(jù)不動(dòng)程序動(dòng)”。什么意思呢？就是在數(shù)據(jù)不離開(kāi)本地的情況下，通過(guò)程序處理數(shù)據(jù)，并將處理結(jié)果進(jìn)行跨境傳輸，實(shí)現(xiàn)隱私保護(hù)與數(shù)據(jù)流動(dòng)共存的最優(yōu)目標(biāo)。比如，一名內(nèi)地人去香港創(chuàng)業(yè)需要貸款，香港方面要調(diào)查這個(gè)人有沒(méi)有資質(zhì)、過(guò)往的借貸歷史。但這些數(shù)據(jù)都在內(nèi)地，涉及個(gè)人隱私信息，不允許跨境流動(dòng)。由于香港那邊是需要了解這個(gè)人的貸款償還能力，那么可以在一個(gè)可信的執(zhí)行環(huán)境中運(yùn)算分析出這個(gè)人的信譽(yù)數(shù)值，這個(gè)數(shù)值的流動(dòng)就是安全合規(guī)的。