我們要將科技安全擺在更加重要位置，進(jìn)一步凝聚社會共識、完善治理體系，在總體國家安全觀的指引下，統(tǒng)籌發(fā)展和安全。

郝 敏

隨著“4·15”全民國家安全教育日的臨近，維護(hù)國家安全再次成為全社會關(guān)注的焦點(diǎn)。在技術(shù)迭代日新月異的今天，生成式人工智能以前所未有的速度重塑著我們的生產(chǎn)生活方式。然而，以“AI換臉”“語音克隆”等為代表的深度偽造技術(shù)，正可能成為金融詐騙、輿論操縱、間諜竊密等活動的“隱形武器”。近期，國家安全部發(fā)布安全提示，呼吁公眾謹(jǐn)防深度偽造的“魔改”陷阱。

當(dāng)前，生成式人工智能在視頻制作、內(nèi)容創(chuàng)作等領(lǐng)域展現(xiàn)出巨大潛力，正成為數(shù)字時代的內(nèi)容生產(chǎn)利器。但技術(shù)一旦被惡意使用，就可能淪為侵害公民權(quán)益、擾亂社會秩序甚至危害國家安全的工具。比如，境外間諜情報機(jī)關(guān)、各種敵對勢力可能利用深度偽造技術(shù)，捏造虛假言論、偽造公務(wù)人員不當(dāng)視頻、炮制虛假政策畫面，以此制造社會恐慌、抹黑國家形象；不法分子可能利用深度偽造克隆親友、客服等聲音面容，實(shí)施冒充轉(zhuǎn)賬、虛假投資、仿冒官方渠道詐騙等非法活動。更值得警惕的是，還有人可能利用深度偽造人臉、聲紋等生物特征，突破身份認(rèn)證、權(quán)限校驗(yàn)等核心數(shù)據(jù)防護(hù)機(jī)制，盜取賬號、入侵后臺，使得敏感數(shù)據(jù)批量泄露。

面對深度偽造帶來的多重風(fēng)險，如何避免“看得見效果”的技術(shù)演變?yōu)椤翱床灰婏L(fēng)險”的新變量，已成為深入審視和平衡科技與安全關(guān)系的重要課題?？萍急举|(zhì)上是力量的杠桿，具有顯著的“雙刃劍”效應(yīng)：一方面，人工智能等前沿科技極大擴(kuò)展了國家安全的“感知半徑”和“響應(yīng)速度”，使情報預(yù)警更早、風(fēng)險研判更準(zhǔn)、資源配置更優(yōu)，進(jìn)而重塑傳統(tǒng)國家安全體系的運(yùn)轉(zhuǎn)邏輯；另一方面，當(dāng)技術(shù)進(jìn)化到足以重塑感官認(rèn)知、消弭視聽邊界時，其也會成為一種新的風(fēng)險載體，可能侵蝕社會信任基礎(chǔ)，甚至對國家安全構(gòu)成直接威脅。

由此來看，安全不再意味著能夠絕對的“零風(fēng)險”，而是需要構(gòu)建一種以科技制衡科技、用“魔法打敗魔法”的韌性體系。唯有將安全邏輯內(nèi)嵌于算法研發(fā)和數(shù)據(jù)訓(xùn)練之中，讓“技術(shù)向善”從倫理倡議轉(zhuǎn)化為法治剛性，以良法善治打造防范深度偽造的“安全閥”，我們才能在暢享科技紅利的同時，牢牢守住國家安全的數(shù)字命門。

目前，我國的制度構(gòu)建已穩(wěn)步展開。民法典、刑法、個人信息保護(hù)法、數(shù)據(jù)安全法、網(wǎng)絡(luò)安全法等法律法規(guī)，為防范深度偽造的安全風(fēng)險，織密了一張法律交叉適用的防護(hù)網(wǎng)。例如，利用深度偽造技術(shù)惡意篡改他人肖像、制作或傳播虛假內(nèi)容的行為，既可能侵犯他人人格權(quán)進(jìn)而承擔(dān)相應(yīng)的民事責(zé)任，也可能因擾亂公共秩序被處以行政處罰，情節(jié)嚴(yán)重構(gòu)成犯罪的，要承擔(dān)刑事責(zé)任。涉及國家安全的，還可能因觸犯反間諜法、國家安全法等，面臨更加嚴(yán)厲的法律制裁。

作為目前針對深度偽造技術(shù)治理的重要部門規(guī)章，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確規(guī)定任何組織和個人不得利用深度合成服務(wù)，制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得從事危害國家安全和利益等活動。而《生成式人工智能服務(wù)管理暫行辦法》則進(jìn)一步明確生成式AI服務(wù)應(yīng)堅(jiān)持社會主義核心價值觀，不得生成危害國家安全等違法有害信息，要求服務(wù)提供者履行訓(xùn)練數(shù)據(jù)合法來源審查、安全評估、算法備案、內(nèi)容標(biāo)識等義務(wù)，從源頭規(guī)范深度偽造技術(shù)的應(yīng)用邊界。近日印發(fā)的《人工智能科技倫理審查與服務(wù)辦法（試行）》，強(qiáng)化以技術(shù)手段防范科技倫理風(fēng)險，為推動人工智能健康發(fā)展提供了重要制度支撐。

守護(hù)國家安全的數(shù)字命門是一項(xiàng)系統(tǒng)工程，在完善法治“硬約束”的同時，還需要積極開展宣傳引導(dǎo)、能力建設(shè)、激勵約束等配套“軟舉措”，筑牢防范深度偽造濫用的多方協(xié)同防線。例如，有關(guān)部門可以加強(qiáng)情報研判和技術(shù)監(jiān)測，通過發(fā)布典型案例和安全提示，持續(xù)提升公眾辨識能力，震懾利用AI技術(shù)實(shí)施的滲透、竊密與煽動行為；生成式AI服務(wù)的提供者和平臺企業(yè)在依法依規(guī)建立完善算法安全管理體系的同時，應(yīng)進(jìn)一步加強(qiáng)技術(shù)反制能力，研發(fā)深度偽造識別技術(shù)，構(gòu)建“用AI識別AI”的安全防線，降低虛假內(nèi)容傳播速度和影響范圍；社會公眾也應(yīng)主動提升“技術(shù)識讀”能力，樹立安全意識，對來源不明、內(nèi)容極端、情緒強(qiáng)烈的視頻音頻保持高度警惕，不輕信、不盲從、不轉(zhuǎn)發(fā)，做好個人信息保護(hù)。

國家安全是實(shí)現(xiàn)國家利益最根本的保障，與每個人息息相關(guān)。面對新一代人工智能技術(shù)快速演進(jìn)的新形勢，我們要將科技安全擺在更加重要位置，進(jìn)一步凝聚社會共識、完善治理體系，在總體國家安全觀的指引下，統(tǒng)籌發(fā)展和安全，通過政府監(jiān)管、企業(yè)履責(zé)、公眾參與的多維合力，讓法治為人工智能立界，讓治理為國家安全添力，在推動生成式人工智能高質(zhì)量發(fā)展的同時，把深度偽造風(fēng)險牢牢關(guān)進(jìn)法治和技術(shù)的“籠子”里，為數(shù)字時代的國家安全筑牢一道堅(jiān)固可靠的智能防線。

（作者系外交學(xué)院國際法系教授、國際關(guān)系學(xué)院知識產(chǎn)權(quán)與科技安全研究中心研究員）