八旬婆婆為“霸總”消費近萬元 手寫情書還要嫁給“他”
“AI數(shù)字人”圍獵老人 從業(yè)者稱五分鐘生成一個視頻 可輕松日入2000元
84歲奶奶給數(shù)字人“建國”的手寫情書
5分鐘制作一個“AI霸總”視頻，幾十個賬號同步推送、引導消費者下單，從業(yè)者單日就能收入幾千元？大量“AI數(shù)字人視頻”在各大短視頻平臺傳播，不少中老年女性誤信屏幕那頭有位能朝夕相伴、溫柔關(guān)懷自己的成熟男性，主動為其消費，購買各類商品或虛擬產(chǎn)品。
近日，多位老年女性家屬向記者表示，自己拿起手機發(fā)現(xiàn)，她們的短視頻賬號早被各類“AI霸總”侵占。
記者調(diào)查發(fā)現(xiàn)，這些所謂的“AI霸總”其實都是AI數(shù)字人。視頻中的數(shù)字人常身處客廳、辦公室，呈現(xiàn)出儒雅深情的形象，相關(guān)視頻還會貼上“中老年”“老年人的幸福生活”等標簽，被精準推送給情感上缺乏陪伴的中老年女性。這些緊盯老年群體的“AI霸總”，暗藏著帶貨牟利、詐騙等諸多陷阱。
84歲奶奶給AI數(shù)字人寫情書
消費近萬元還要嫁給他
“建國，春節(jié)快樂！先給你賠禮道歉，我那天傷害了你，其實我也在自責，你是不是很恨我？”春節(jié)前夕，84歲的張玉蘭手寫了一封500字的情書向“建國”表示情意。而收信人“建國”并非真實存在的人物，是一個AI數(shù)字人?！敖▏背Ｒ晕餮b造型、大背頭形象示人，開口常用“親愛的姐姐”這類溫情話術(shù)，主打噓寒問暖的情感關(guān)懷，還會分享所謂生活智慧，以此博取中老年女性的好感與信任。
3月8日，張玉蘭的孫女王婷告訴記者，奶奶沉迷“AI霸總”已有一段時間。早在2016年，74歲的張玉蘭便開始使用智能手機，當時只學會了最基礎(chǔ)的操作。家人發(fā)現(xiàn)異常是在去年10月，張玉蘭開始頻繁從AI數(shù)字人視頻關(guān)聯(lián)的櫥窗購買掛件，這些動輒售價幾百元的掛件，在淘寶上僅售9.9元。
“一開始家里人沒當回事，以為奶奶只是刷短視頻圖個好玩，沒想到她竟和這個AI數(shù)字人談起了戀愛，還考慮嫁給他。”王婷說，即便家人反復告訴她這是騙局，老人也只是短暫醒悟，很快又再次沉迷。有時她還會背著家人偷偷看相關(guān)視頻，生怕被發(fā)現(xiàn)，甚至還開通了公眾號，專門給“建國”發(fā)消息。
幾個月來，張玉蘭每天要花近十個小時刷AI數(shù)字人相關(guān)視頻，為推文打賞，還購買了不少價高質(zhì)劣的商品，累計下來花了七八千元。不管是AI霸總“建國”，還是AI文案視頻里用了“建國”的聲音，張玉蘭都會認為是“建國”在和自己對話交談。此前有發(fā)布AI數(shù)字人視頻的賬號添加張玉蘭的微信，還把她拉進群聊發(fā)送不明鏈接，王婷便將奶奶微信上所有加好友的申請渠道都關(guān)閉了，只能奶奶主動向他人發(fā)消息。但張玉蘭還是常會主動添加與數(shù)字人關(guān)聯(lián)的企業(yè)微信賬號，并向?qū)Ψ桨l(fā)送消息、發(fā)起視頻通話請求，即便對方一直沒有回復。
3月11日，張玉蘭又花費了1227元購買AI視頻“推薦”的書籍。這一次，王婷將視頻號關(guān)聯(lián)的商家投訴至12315平臺。目前，商家所在地的江蘇省宿遷市沭陽縣市場監(jiān)督管理局已受理此事。可即便如此，張玉蘭依舊執(zhí)意為AI數(shù)字人花錢。
在這場針對中老年女性的情感圍獵陷阱背后，不少“張玉蘭”深陷其中。內(nèi)蒙古82歲的王萍也是其中之一，她同樣愛上了AI數(shù)字人“建國”。
王萍的外孫賈慶告訴記者，姥爺去世后，姥姥獨自生活了幾年，平日里十分孤獨，“去年我媽退休后全職陪伴姥姥，情況也沒有任何改善，姥姥依舊從早到晚刷這些無營養(yǎng)的AI視頻?！?/p>
2024年年初，家人為阻止王萍繼續(xù)刷這類短視頻，給她更換了手機并重新注冊了微信。在查看她的舊微信時，家人發(fā)現(xiàn)了她與相關(guān)賬號的聊天、轉(zhuǎn)賬記錄，這才得知王萍確實給對方轉(zhuǎn)過錢，轉(zhuǎn)賬、打賞、購物的花費累計有幾千元，她還曾向騙子透露自己的電話號碼和家庭住址。
“姥姥誤以為網(wǎng)上的人能給她送錢，來娶她、接她去大城市過富豪生活?！辟Z慶說，家人曾咨詢過民警，得知被騙的錢財難以追回，且因短視頻和網(wǎng)絡(luò)的特殊性，相關(guān)部門最多只能封禁涉事騙子的賬號，可這類騙子依舊層出不窮，時至今日，姥姥還在刷數(shù)字人視頻。
從業(yè)者稱五分鐘生成一個視頻
日入2000元一個號最多用5天
2025年2月，中央網(wǎng)信辦開展“清朗行動”，整治AI技術(shù)濫用亂象被列入八項重點任務(wù)之一。2月下旬起，各大短視頻平臺對“建國”相關(guān)賬號予以關(guān)停。然而，即便“建國”被封禁，各類風格相似的AI霸總數(shù)字人仍層出不窮，“建軍”“國華哥哥”等均打著溫情關(guān)懷的旗號，專門瞄準中老年女性展開情感圍獵。
從形象來看，這類數(shù)字人已成了一種風格：梳著側(cè)背頭、身著正裝，一口一句姐姐叫著。一名被阿姨們稱作“海弟”的博主，擁有7.7萬粉絲，每天直播數(shù)小時，其直播間僅展示著一張穿著紅色短袖襯衫、手持話筒的照片，照片上寫著“歡迎姐姐來聽弟弟唱歌，感謝姐姐對弟弟的喜歡”的文字，直播間有不少人送禮物，甚至還留言“我愛你，不知道你愛我嗎？”
該博主日常發(fā)布的視頻中，也常有“姐姐，之前有很多人買了弟弟店里的東西都覺得好用，姐姐點開左下角的小黃車，買些東西支持一下弟弟”之類的話語，不少中老年女性就會在評論區(qū)回復“支持支持?！?/p>
“中老年群體真有意思，不僅能用來做數(shù)據(jù)，還聽話，看他們的私信甚至覺得有點可愛。”這是AI數(shù)字人行業(yè)“老手”阿明寫在朋友圈的一段話，他打造的AI數(shù)字人形象讓許多中老年人步入陷阱。
近日，記者以學員身份聯(lián)系上阿明，他暢談了AI數(shù)字人帶貨的種種內(nèi)幕。“想要做AI數(shù)字人就要做好違規(guī)的心理準備，它不是一個特別長期的賽道?！卑⒚鹘榻B，AI數(shù)字人帶貨最主要是“能接受違規(guī)”，只要照著流程操作，不可能帶不出去貨的。
阿明口中所謂的“流程”，實際上就是用軟件制作AI短視頻，然后在多個社交平臺發(fā)布，再上架商品到櫥窗，自然會有下沉用戶下單。至于商品質(zhì)量、售后、平臺判定違規(guī)等問題，阿明淡然地說：“這些都不用擔心。你只管賣，今天賣，明天去結(jié)款?！倍话阕儸F(xiàn)的形式，為打賞和帶貨兩種。
隨后，記者收到阿明發(fā)來的一個案例賬號。該賬號主頁顯示，在已經(jīng)發(fā)布的18條AI數(shù)字人短視頻中，主角都為“阿姨最愛的海?！保瑑?nèi)容大多為海海向阿姨們袒露心聲，言語中滿是對阿姨們的關(guān)心和稱贊，盡管視頻下方大多標注了“虛擬內(nèi)容，請理性觀看”，但仍有大量用戶留言，并對海海表示關(guān)心。
在陸續(xù)發(fā)布多個視頻吸引了一些粉絲后，該賬號發(fā)布第9條視頻時開始嘗試帶貨。視頻中，海海向阿姨們介紹一款泡腳包，希望大家能購買。于是，許多阿姨抱著支持的心態(tài)紛紛下單。
據(jù)阿明所述，類似這樣的案例還有很多，這只是最近一個新學員所做的。阿明的朋友圈還分享了很多“成功”的學員事跡。“做得好的話，一天幾千塊不是問題?！卑⒚鞅硎?，商品銷售額的50%都是傭金，比如賣出60元的商品，30元都是學員的，只要流量足，大家就有動力做。
而想成為學員，則必須交錢。當記者聊到如何才能學習AI數(shù)字人帶貨時，阿明表示“要加錢”，998元每人，包括如何制作視頻、運營賬號、和供貨商對接實現(xiàn)變現(xiàn)等。
阿明介紹，這些供應(yīng)商都是利潤幾千萬的大廠，穩(wěn)定合作很多年了。學員后續(xù)只需跟供應(yīng)商對接，對方核對賬號的銷售額就會直接打款，沒有中間商賺差價。不過，阿明也提到這種賬號帶貨在多個平臺都是違規(guī)的，常會被封號，所以學員需要在多個平臺帶貨，來回換號，也可以注銷重啟。
入行數(shù)年的黃興也向記者坦言，他主要做中老年情感賽道的視頻帶貨，手下有幾百名學員，他深度參與打造了“建國”“小?！钡葦?shù)字人形象?！拔覀円话銜\營幾十個視頻號，百分之百會違規(guī)，一個號最多用5天，核心就是靠視頻號帶貨賺傭金，一天至少能賺2000元?！秉S興說，生成一條數(shù)字人視頻只需要5分鐘，且每條視頻不能重復，幾十個賬號會持續(xù)更新。因為容易違規(guī)，如今他已不再使用數(shù)字人形象，而是直接用此前中老年女性熟悉的“建國”“小?！钡穆曇簦钆銩I生成的引導下單文案。
當記者直言“這不就是利用情緒價值騙老年人的錢嗎”，對方表示“這么理解也行”。記者繼續(xù)追問“是不是賣的都是劣質(zhì)產(chǎn)品”，他則回復“反正吃不死人”。
部分婚戀機構(gòu)用數(shù)字人引流收費
記者調(diào)查發(fā)現(xiàn)，除了常規(guī)的直播、帶貨等形式，不少婚戀機構(gòu)也用“AI霸總”數(shù)字人來迷惑用戶。在某社交平臺，記者關(guān)注幾位“AI霸總”賬號后，立刻收到對方私信發(fā)來的鏈接卡，提示“點擊卡片添加，可發(fā)送男士資料”。
隨后，記者按鏈接卡提示添加了四川某婚戀服務(wù)公司的企業(yè)微信，向?qū)Ψ教岢鱿胍@取視頻中“AI霸總”的聯(lián)系方式，對方則稱“需要電話溝通具體的收費標準”。重慶某婚戀服務(wù)公司的工作人員還說這些數(shù)字人都是“真實的”，如果想獲取聯(lián)系方式，需先支付4999元。
3月10日，記者以相親者的身份在視頻平臺私信了一個名為“喜有家-派幸?！钡馁~號，對方立馬發(fā)送了一張企業(yè)微信名片。記者添加后詢問對方是否有“AI富婆”的聯(lián)系方式，對方則直接要視頻聊天，記者以不方便為由婉拒，對方再未回過消息。11日，記者在該平臺發(fā)現(xiàn)，“喜有家-派幸?！辟~號已被封禁。
來自廣西的陳真告訴記者，他母親李小華曾被貴州某婚戀機構(gòu)騙取1000元。陳真提供的社交賬號顯示，該婚戀機構(gòu)常發(fā)布數(shù)字人照片，并附帶相關(guān)個人資料。李小華按要求添加對方微信后，對方稱可為其介紹對象，隨后引導其轉(zhuǎn)賬，李小華轉(zhuǎn)賬1000元后，對方則以整理資料為由一直拖延，“母親也不好意思報警，就當花錢買教訓了?！?/p>
隨后，記者添加了這家婚戀公司的工作人員，對方稱“這些是廣告，具體要問業(yè)務(wù)部門，照片中的人可能是請的模特?！碑斢浾邎猿忠c照片中的人相親時，對方才坦言，照片中的是用來引流的AI數(shù)字人，只能介紹其他人。
3月11日，記者又以同行身份聯(lián)系上這家婚戀公司的老板。他表示，其公司僅將數(shù)字人用于引流，同時表示目前婚戀行業(yè)部分同行存在亂象，有機構(gòu)借AI數(shù)字人或找模特冒充真人，向客戶謊稱是真實的相親對象，收取高達1萬元的會員費，后續(xù)僅安排人員與客戶短暫聊天，便以彼此不合適為由結(jié)束對接。
AI數(shù)字人圍獵觸碰法律紅線
情感關(guān)懷與制度約束缺一不可
AI數(shù)字人圍獵中老年群體，實際上涉及更深層次社會問題和法律問題。
廣東哲清律師事務(wù)所馬俊哲律師告訴記者，利用AI數(shù)字人圍獵中老年人的相關(guān)行為已觸碰多重法律紅線，且存在明確的監(jiān)管依據(jù)與改進方向。法律層面，此類行為若以非法占有為目的，通過虛構(gòu)身份、情感誘導等方式騙取錢財，完全符合詐騙罪構(gòu)成要件，同時因借助網(wǎng)絡(luò)通訊工具面向不特定多數(shù)人實施，屬于典型的電信網(wǎng)絡(luò)詐騙。
“根據(jù)司法解釋，詐騙金額3000元至1萬元以上即達到刑事立案標準，即便金額略低，因針對老年人這一特殊群體，情節(jié)惡劣的仍可能被立案偵查。而批量制作運營AI數(shù)字人賬號，形成‘技術(shù)開發(fā)-引流獲客-實施詐騙-資金變現(xiàn)’的完整鏈條，已構(gòu)成組織化、分工明確的黑灰產(chǎn)業(yè)鏈，是司法機關(guān)全鏈條打擊的重點?！瘪R俊哲律師認為，各相關(guān)方均需承擔對應(yīng)法律責任——數(shù)字人技術(shù)提供方若明知他人用于詐騙仍提供支持，可能構(gòu)成詐騙罪共犯或幫助信息網(wǎng)絡(luò)犯罪活動罪；運營者作為核心主體將被以詐騙罪追究刑責，組織者、慣犯會依法從嚴懲處；直播平臺未履行審核義務(wù)需承擔過錯責任；婚介機構(gòu)若參與虛假宣傳、誘騙轉(zhuǎn)賬，將面臨刑事、民事及行政多重責任。
武漢大學老齡科研基地科研綜合辦公室主任陳昫表示，中老年群體被AI數(shù)字人蒙騙應(yīng)從多維度來看，首先是老年人自身存在的脆弱性問題，比如對于數(shù)字人缺乏辨別鑒偽能力；其次從需求層次來說，老年人會有對溫情、尊重、愛的需求，所以讓一些違規(guī)不法行為鉆了空子。最后是老年人有社會經(jīng)驗的相對剛性，他們可能認為照片、視頻很難造假，類似這樣既有的經(jīng)驗判斷，可能會影響他們對于數(shù)字人詐騙等新興形態(tài)詐騙的警惕性和自我防御意識。
華中科技大學社會學院教授石人炳補充說，一些居心不良者正是利用老年人的心理和情感需求，以AI擬人化技術(shù)為工具行騙。當老年人對新科技認知有限、社會對相關(guān)行為的法律打擊沒有跟上時，這類騙術(shù)就會大行其道。
陳昫表示，相關(guān)治理工作的核心應(yīng)是彌合數(shù)智發(fā)展和老年生活之間的溝壑。首先可以借助社區(qū)的力量，在社區(qū)開辦興趣培訓班或智能手機教學班，告訴老人如何辨別數(shù)字人，形成自主防范意識；其次，子女、親友要告訴老人，涉及錢款不要輕易付出，同時切記不要批評老人，要鼓勵他們多接觸AI等新生事物，告知他們其中的風險所在，通過家庭信息流的方式來構(gòu)筑老人防范意識的前線。此外，立法、平臺、政策等多方面都應(yīng)協(xié)同發(fā)力，打擊AI詐騙，平臺也要加強監(jiān)管，特別是中老年用戶看視頻時，可適當增加一些風險提示，共同構(gòu)筑一個綜合的防范體系。（文中除馬俊哲、陳昫、石人炳外均為化名）
編輯：遲明緒
京公網(wǎng)安備 11010502000576號