□ 法治時評

□ 林楠特

近年來，多模態(tài)等人工智能技術(shù)迭代突破，推動陪伴型AI快速發(fā)展，擬人化互動服務(wù)已成為重要應(yīng)用方向，在適幼照護、適老陪伴等領(lǐng)域展現(xiàn)出巨大潛力，同時也帶來了諸多風(fēng)險。近日，國家互聯(lián)網(wǎng)信息辦公室等部門聯(lián)合公布《人工智能擬人化互動服務(wù)管理暫行辦法》（以下簡稱《辦法》），為人工智能擬人化互動服務(wù)健康發(fā)展和規(guī)范應(yīng)用提供明確指引。

從智能伙伴陪伴老人，到情感助手慰藉心靈，技術(shù)正以“類人”姿態(tài)打破人機隔閡，為人們帶來全新體驗與社會價值。但技術(shù)紅利也暗藏風(fēng)險：AI的無條件迎合易導(dǎo)致用戶認(rèn)知扭曲，尤其讓孤獨群體產(chǎn)生深度依賴，脫離現(xiàn)實人際關(guān)系；價值觀尚未成熟的青少年長期與不具備真實情感智慧的AI互動，可能影響其情感耐受力和社會認(rèn)知，削弱現(xiàn)實社交能力；當(dāng)算法被注入惡意生成不良內(nèi)容，更可能成為誘導(dǎo)自傷的隱形推手……這些風(fēng)險警示我們，技術(shù)發(fā)展必須堅守安全底線、以人為本，絕不能以侵蝕人的自主性與身心健康為代價。

擬人化互動服務(wù)的生命力，在于有溫度更有尺度，夠智能更守規(guī)矩。我國網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個人信息保護法、《未成年人網(wǎng)絡(luò)保護條例》等已對人工智能安全發(fā)展作出規(guī)定?！掇k法》立足擬人化互動服務(wù)的特點，聚焦情感互動邊界、用戶依賴干預(yù)、數(shù)據(jù)安全、未成年人網(wǎng)絡(luò)保護等關(guān)鍵環(huán)節(jié)，進一步落實法律規(guī)定，明確要求服務(wù)提供者建立健全算法機制機理審核、科技倫理審查、信息內(nèi)容管理、網(wǎng)絡(luò)和數(shù)據(jù)安全、風(fēng)險預(yù)案和應(yīng)急處置等管理制度；在特定情形下履行干預(yù)提醒義務(wù)，并對未成年人、老年人等群體強化特殊保護。《辦法》既劃定“不可為”的紅線，也明確“鼓勵為”的方向，是對技術(shù)創(chuàng)新的有力護航，也是對用戶權(quán)益和公共利益的堅實守護。

人工智能的終極價值在于造福人類。技術(shù)向善，關(guān)鍵在人、核心在治。服務(wù)提供者要扛起安全主體責(zé)任，將倫理與法治嵌入技術(shù)研發(fā)、產(chǎn)品設(shè)計全流程；有關(guān)部門要強化執(zhí)法協(xié)作，對違法違規(guī)行為“零容忍”，為行業(yè)筑牢法治護欄；社會公眾要提升AI素養(yǎng)，理性看待擬人化互動服務(wù)，警惕安全風(fēng)險。唯有各方合力共治，才能推動AI擬人化互動服務(wù)崇法向善、行穩(wěn)致遠(yuǎn)，真正以科技溫暖人心。