□ 法治觀察

我們要將科技安全擺在更加重要位置，進一步凝聚社會共識、完善治理體系，在總體國家安全觀的指引下，統(tǒng)籌發(fā)展和安全

□ 郝敏

隨著“4·15”全民國家安全教育日的臨近，維護國家安全再次成為全社會關注的焦點。在技術迭代日新月異的今天，生成式人工智能以前所未有的速度重塑著我們的生產(chǎn)生活方式。然而，以“AI換臉”“語音克隆”等為代表的深度偽造技術，正可能成為金融詐騙、輿論操縱、間諜竊密等活動的“隱形武器”。近期，國家安全部發(fā)布安全提示，呼吁公眾謹防深度偽造的“魔改”陷阱。

當前，生成式人工智能在視頻制作、內(nèi)容創(chuàng)作等領域展現(xiàn)出巨大潛力，正成為數(shù)字時代的內(nèi)容生產(chǎn)利器。但技術一旦被惡意使用，就可能淪為侵害公民權益、擾亂社會秩序甚至危害國家安全的工具。比如，境外間諜情報機關、各種敵對勢力可能利用深度偽造技術，捏造虛假言論、偽造公務人員不當視頻、炮制虛假政策畫面，以此制造社會恐慌、抹黑國家形象；不法分子可能利用深度偽造克隆親友、客服等聲音面容，實施冒充轉賬、虛假投資、仿冒官方渠道詐騙等非法活動。更值得警惕的是，還有人可能利用深度偽造人臉、聲紋等生物特征，突破身份認證、權限校驗等核心數(shù)據(jù)防護機制，盜取賬號、入侵后臺，使得敏感數(shù)據(jù)批量泄露。

面對深度偽造帶來的多重風險，如何避免“看得見效果”的技術演變?yōu)椤翱床灰婏L險”的新變量，已成為深入審視和平衡科技與安全關系的重要課題?？萍急举|(zhì)上是力量的杠桿，具有顯著的“雙刃劍”效應：一方面，人工智能等前沿科技極大擴展了國家安全的“感知半徑”和“響應速度”，使情報預警更早、風險研判更準、資源配置更優(yōu)，進而重塑傳統(tǒng)國家安全體系的運轉邏輯；另一方面，當技術進化到足以重塑感官認知、消弭視聽邊界時，其也會成為一種新的風險載體，可能侵蝕社會信任基礎，甚至對國家安全構成直接威脅。

由此來看，安全不再意味著能夠絕對的“零風險”，而是需要構建一種以科技制衡科技、用“魔法打敗魔法”的韌性體系。唯有將安全邏輯內(nèi)嵌于算法研發(fā)和數(shù)據(jù)訓練之中，讓“技術向善”從倫理倡議轉化為法治剛性，以良法善治打造防范深度偽造的“安全閥”，我們才能在暢享科技紅利的同時，牢牢守住國家安全的數(shù)字命門。

目前，我國的制度構建已穩(wěn)步展開。民法典、刑法、個人信息保護法、數(shù)據(jù)安全法、網(wǎng)絡安全法等法律法規(guī)，為防范深度偽造的安全風險，織密了一張法律交叉適用的防護網(wǎng)。例如，利用深度偽造技術惡意篡改他人肖像、制作或傳播虛假內(nèi)容的行為，既可能侵犯他人人格權進而承擔相應的民事責任，也可能因擾亂公共秩序被處以行政處罰，情節(jié)嚴重構成犯罪的，要承擔刑事責任。涉及國家安全的，還可能因觸犯反間諜法、國家安全法等，面臨更加嚴厲的法律制裁。

作為目前針對深度偽造技術治理的重要部門規(guī)章，《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》明確規(guī)定任何組織和個人不得利用深度合成服務，制作、復制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得從事危害國家安全和利益等活動。而《生成式人工智能服務管理暫行辦法》則進一步明確生成式AI服務應堅持社會主義核心價值觀，不得生成危害國家安全等違法有害信息，要求服務提供者履行訓練數(shù)據(jù)合法來源審查、安全評估、算法備案、內(nèi)容標識等義務，從源頭規(guī)范深度偽造技術的應用邊界。近日印發(fā)的《人工智能科技倫理審查與服務辦法（試行）》，強化以技術手段防范科技倫理風險，為推動人工智能健康發(fā)展提供了重要制度支撐。

守護國家安全的數(shù)字命門是一項系統(tǒng)工程，在完善法治“硬約束”的同時，還需要積極開展宣傳引導、能力建設、激勵約束等配套“軟舉措”，筑牢防范深度偽造濫用的多方協(xié)同防線。例如，有關部門可以加強情報研判和技術監(jiān)測，通過發(fā)布典型案例和安全提示，持續(xù)提升公眾辨識能力，震懾利用AI技術實施的滲透、竊密與煽動行為；生成式AI服務的提供者和平臺企業(yè)在依法依規(guī)建立完善算法安全管理體系的同時，應進一步加強技術反制能力，研發(fā)深度偽造識別技術，構建“用AI識別AI”的安全防線，降低虛假內(nèi)容傳播速度和影響范圍；社會公眾也應主動提升“技術識讀”能力，樹立安全意識，對來源不明、內(nèi)容極端、情緒強烈的視頻音頻保持高度警惕，不輕信、不盲從、不轉發(fā)，做好個人信息保護。

國家安全是實現(xiàn)國家利益最根本的保障，與每個人息息相關。面對新一代人工智能技術快速演進的新形勢，我們要將科技安全擺在更加重要位置，進一步凝聚社會共識、完善治理體系，在總體國家安全觀的指引下，統(tǒng)籌發(fā)展和安全，通過政府監(jiān)管、企業(yè)履責、公眾參與的多維合力，讓法治為人工智能立界，讓治理為國家安全添力，在推動生成式人工智能高質(zhì)量發(fā)展的同時，把深度偽造風險牢牢關進法治和技術的“籠子”里，為數(shù)字時代的國家安全筑牢一道堅固可靠的智能防線。

（作者系外交學院國際法系教授、國際關系學院知識產(chǎn)權與科技安全研究中心研究員）