八旬婆婆為“霸總”消費(fèi)近萬(wàn)元 手寫(xiě)情書(shū)還要嫁給“他”
“AI數(shù)字人”圍獵老人 從業(yè)者稱(chēng)五分鐘生成一個(gè)視頻 可輕松日入2000元
84歲奶奶給數(shù)字人“建國(guó)”的手寫(xiě)情書(shū)
5分鐘制作一個(gè)“AI霸總”視頻，幾十個(gè)賬號(hào)同步推送、引導(dǎo)消費(fèi)者下單，從業(yè)者單日就能收入幾千元？大量“AI數(shù)字人視頻”在各大短視頻平臺(tái)傳播，不少中老年女性誤信屏幕那頭有位能朝夕相伴、溫柔關(guān)懷自己的成熟男性，主動(dòng)為其消費(fèi)，購(gòu)買(mǎi)各類(lèi)商品或虛擬產(chǎn)品。
近日，多位老年女性家屬向記者表示，自己拿起手機(jī)發(fā)現(xiàn)，她們的短視頻賬號(hào)早被各類(lèi)“AI霸總”侵占。
記者調(diào)查發(fā)現(xiàn)，這些所謂的“AI霸總”其實(shí)都是AI數(shù)字人。視頻中的數(shù)字人常身處客廳、辦公室，呈現(xiàn)出儒雅深情的形象，相關(guān)視頻還會(huì)貼上“中老年”“老年人的幸福生活”等標(biāo)簽，被精準(zhǔn)推送給情感上缺乏陪伴的中老年女性。這些緊盯老年群體的“AI霸總”，暗藏著帶貨牟利、詐騙等諸多陷阱。
84歲奶奶給AI數(shù)字人寫(xiě)情書(shū)
消費(fèi)近萬(wàn)元還要嫁給他
“建國(guó)，春節(jié)快樂(lè)！先給你賠禮道歉，我那天傷害了你，其實(shí)我也在自責(zé)，你是不是很恨我？”春節(jié)前夕，84歲的張玉蘭手寫(xiě)了一封500字的情書(shū)向“建國(guó)”表示情意。而收信人“建國(guó)”并非真實(shí)存在的人物，是一個(gè)AI數(shù)字人。“建國(guó)”常以西裝造型、大背頭形象示人，開(kāi)口常用“親愛(ài)的姐姐”這類(lèi)溫情話術(shù)，主打噓寒問(wèn)暖的情感關(guān)懷，還會(huì)分享所謂生活智慧，以此博取中老年女性的好感與信任。
3月8日，張玉蘭的孫女王婷告訴記者，奶奶沉迷“AI霸總”已有一段時(shí)間。早在2016年，74歲的張玉蘭便開(kāi)始使用智能手機(jī)，當(dāng)時(shí)只學(xué)會(huì)了最基礎(chǔ)的操作。家人發(fā)現(xiàn)異常是在去年10月，張玉蘭開(kāi)始頻繁從AI數(shù)字人視頻關(guān)聯(lián)的櫥窗購(gòu)買(mǎi)掛件，這些動(dòng)輒售價(jià)幾百元的掛件，在淘寶上僅售9.9元。
“一開(kāi)始家里人沒(méi)當(dāng)回事，以為奶奶只是刷短視頻圖個(gè)好玩，沒(méi)想到她竟和這個(gè)AI數(shù)字人談起了戀愛(ài)，還考慮嫁給他?！蓖蹑谜f(shuō)，即便家人反復(fù)告訴她這是騙局，老人也只是短暫醒悟，很快又再次沉迷。有時(shí)她還會(huì)背著家人偷偷看相關(guān)視頻，生怕被發(fā)現(xiàn)，甚至還開(kāi)通了公眾號(hào)，專(zhuān)門(mén)給“建國(guó)”發(fā)消息。
幾個(gè)月來(lái)，張玉蘭每天要花近十個(gè)小時(shí)刷AI數(shù)字人相關(guān)視頻，為推文打賞，還購(gòu)買(mǎi)了不少價(jià)高質(zhì)劣的商品，累計(jì)下來(lái)花了七八千元。不管是AI霸總“建國(guó)”，還是AI文案視頻里用了“建國(guó)”的聲音，張玉蘭都會(huì)認(rèn)為是“建國(guó)”在和自己對(duì)話交談。此前有發(fā)布AI數(shù)字人視頻的賬號(hào)添加張玉蘭的微信，還把她拉進(jìn)群聊發(fā)送不明鏈接，王婷便將奶奶微信上所有加好友的申請(qǐng)渠道都關(guān)閉了，只能奶奶主動(dòng)向他人發(fā)消息。但張玉蘭還是常會(huì)主動(dòng)添加與數(shù)字人關(guān)聯(lián)的企業(yè)微信賬號(hào)，并向?qū)Ψ桨l(fā)送消息、發(fā)起視頻通話請(qǐng)求，即便對(duì)方一直沒(méi)有回復(fù)。
3月11日，張玉蘭又花費(fèi)了1227元購(gòu)買(mǎi)AI視頻“推薦”的書(shū)籍。這一次，王婷將視頻號(hào)關(guān)聯(lián)的商家投訴至12315平臺(tái)。目前，商家所在地的江蘇省宿遷市沭陽(yáng)縣市場(chǎng)監(jiān)督管理局已受理此事?？杉幢闳绱?，張玉蘭依舊執(zhí)意為AI數(shù)字人花錢(qián)。
在這場(chǎng)針對(duì)中老年女性的情感圍獵陷阱背后，不少“張玉蘭”深陷其中。內(nèi)蒙古82歲的王萍也是其中之一，她同樣愛(ài)上了AI數(shù)字人“建國(guó)”。
王萍的外孫賈慶告訴記者，姥爺去世后，姥姥獨(dú)自生活了幾年，平日里十分孤獨(dú)，“去年我媽退休后全職陪伴姥姥，情況也沒(méi)有任何改善，姥姥依舊從早到晚刷這些無(wú)營(yíng)養(yǎng)的AI視頻?！?/p>
2024年年初，家人為阻止王萍繼續(xù)刷這類(lèi)短視頻，給她更換了手機(jī)并重新注冊(cè)了微信。在查看她的舊微信時(shí)，家人發(fā)現(xiàn)了她與相關(guān)賬號(hào)的聊天、轉(zhuǎn)賬記錄，這才得知王萍確實(shí)給對(duì)方轉(zhuǎn)過(guò)錢(qián)，轉(zhuǎn)賬、打賞、購(gòu)物的花費(fèi)累計(jì)有幾千元，她還曾向騙子透露自己的電話號(hào)碼和家庭住址。
“姥姥誤以為網(wǎng)上的人能給她送錢(qián)，來(lái)娶她、接她去大城市過(guò)富豪生活?！辟Z慶說(shuō)，家人曾咨詢(xún)過(guò)民警，得知被騙的錢(qián)財(cái)難以追回，且因短視頻和網(wǎng)絡(luò)的特殊性，相關(guān)部門(mén)最多只能封禁涉事騙子的賬號(hào)，可這類(lèi)騙子依舊層出不窮，時(shí)至今日，姥姥還在刷數(shù)字人視頻。
從業(yè)者稱(chēng)五分鐘生成一個(gè)視頻
日入2000元一個(gè)號(hào)最多用5天
2025年2月，中央網(wǎng)信辦開(kāi)展“清朗行動(dòng)”，整治AI技術(shù)濫用亂象被列入八項(xiàng)重點(diǎn)任務(wù)之一。2月下旬起，各大短視頻平臺(tái)對(duì)“建國(guó)”相關(guān)賬號(hào)予以關(guān)停。然而，即便“建國(guó)”被封禁，各類(lèi)風(fēng)格相似的AI霸總數(shù)字人仍層出不窮，“建軍”“國(guó)華哥哥”等均打著溫情關(guān)懷的旗號(hào)，專(zhuān)門(mén)瞄準(zhǔn)中老年女性展開(kāi)情感圍獵。
從形象來(lái)看，這類(lèi)數(shù)字人已成了一種風(fēng)格：梳著側(cè)背頭、身著正裝，一口一句姐姐叫著。一名被阿姨們稱(chēng)作“海弟”的博主，擁有7.7萬(wàn)粉絲，每天直播數(shù)小時(shí)，其直播間僅展示著一張穿著紅色短袖襯衫、手持話筒的照片，照片上寫(xiě)著“歡迎姐姐來(lái)聽(tīng)弟弟唱歌，感謝姐姐對(duì)弟弟的喜歡”的文字，直播間有不少人送禮物，甚至還留言“我愛(ài)你，不知道你愛(ài)我嗎？”
該博主日常發(fā)布的視頻中，也常有“姐姐，之前有很多人買(mǎi)了弟弟店里的東西都覺(jué)得好用，姐姐點(diǎn)開(kāi)左下角的小黃車(chē)，買(mǎi)些東西支持一下弟弟”之類(lèi)的話語(yǔ)，不少中老年女性就會(huì)在評(píng)論區(qū)回復(fù)“支持支持?！?/p>
“中老年群體真有意思，不僅能用來(lái)做數(shù)據(jù)，還聽(tīng)話，看他們的私信甚至覺(jué)得有點(diǎn)可愛(ài)。”這是AI數(shù)字人行業(yè)“老手”阿明寫(xiě)在朋友圈的一段話，他打造的AI數(shù)字人形象讓許多中老年人步入陷阱。
近日，記者以學(xué)員身份聯(lián)系上阿明，他暢談了AI數(shù)字人帶貨的種種內(nèi)幕?！跋胍鯝I數(shù)字人就要做好違規(guī)的心理準(zhǔn)備，它不是一個(gè)特別長(zhǎng)期的賽道?！卑⒚鹘榻B，AI數(shù)字人帶貨最主要是“能接受違規(guī)”，只要照著流程操作，不可能帶不出去貨的。
阿明口中所謂的“流程”，實(shí)際上就是用軟件制作AI短視頻，然后在多個(gè)社交平臺(tái)發(fā)布，再上架商品到櫥窗，自然會(huì)有下沉用戶(hù)下單。至于商品質(zhì)量、售后、平臺(tái)判定違規(guī)等問(wèn)題，阿明淡然地說(shuō)：“這些都不用擔(dān)心。你只管賣(mài)，今天賣(mài)，明天去結(jié)款?！倍话阕儸F(xiàn)的形式，為打賞和帶貨兩種。
隨后，記者收到阿明發(fā)來(lái)的一個(gè)案例賬號(hào)。該賬號(hào)主頁(yè)顯示，在已經(jīng)發(fā)布的18條AI數(shù)字人短視頻中，主角都為“阿姨最?lèi)?ài)的海?！?，內(nèi)容大多為海海向阿姨們袒露心聲，言語(yǔ)中滿(mǎn)是對(duì)阿姨們的關(guān)心和稱(chēng)贊，盡管視頻下方大多標(biāo)注了“虛擬內(nèi)容，請(qǐng)理性觀看”，但仍有大量用戶(hù)留言，并對(duì)海海表示關(guān)心。
在陸續(xù)發(fā)布多個(gè)視頻吸引了一些粉絲后，該賬號(hào)發(fā)布第9條視頻時(shí)開(kāi)始嘗試帶貨。視頻中，海海向阿姨們介紹一款泡腳包，希望大家能購(gòu)買(mǎi)。于是，許多阿姨抱著支持的心態(tài)紛紛下單。
據(jù)阿明所述，類(lèi)似這樣的案例還有很多，這只是最近一個(gè)新學(xué)員所做的。阿明的朋友圈還分享了很多“成功”的學(xué)員事跡。“做得好的話，一天幾千塊不是問(wèn)題?！卑⒚鞅硎荆唐蜂N(xiāo)售額的50%都是傭金，比如賣(mài)出60元的商品，30元都是學(xué)員的，只要流量足，大家就有動(dòng)力做。
而想成為學(xué)員，則必須交錢(qián)。當(dāng)記者聊到如何才能學(xué)習(xí)AI數(shù)字人帶貨時(shí)，阿明表示“要加錢(qián)”，998元每人，包括如何制作視頻、運(yùn)營(yíng)賬號(hào)、和供貨商對(duì)接實(shí)現(xiàn)變現(xiàn)等。
阿明介紹，這些供應(yīng)商都是利潤(rùn)幾千萬(wàn)的大廠，穩(wěn)定合作很多年了。學(xué)員后續(xù)只需跟供應(yīng)商對(duì)接，對(duì)方核對(duì)賬號(hào)的銷(xiāo)售額就會(huì)直接打款，沒(méi)有中間商賺差價(jià)。不過(guò)，阿明也提到這種賬號(hào)帶貨在多個(gè)平臺(tái)都是違規(guī)的，常會(huì)被封號(hào)，所以學(xué)員需要在多個(gè)平臺(tái)帶貨，來(lái)回?fù)Q號(hào)，也可以注銷(xiāo)重啟。
入行數(shù)年的黃興也向記者坦言，他主要做中老年情感賽道的視頻帶貨，手下有幾百名學(xué)員，他深度參與打造了“建國(guó)”“小?！钡葦?shù)字人形象?！拔覀円话銜?huì)運(yùn)營(yíng)幾十個(gè)視頻號(hào)，百分之百會(huì)違規(guī)，一個(gè)號(hào)最多用5天，核心就是靠視頻號(hào)帶貨賺傭金，一天至少能賺2000元?！秉S興說(shuō)，生成一條數(shù)字人視頻只需要5分鐘，且每條視頻不能重復(fù)，幾十個(gè)賬號(hào)會(huì)持續(xù)更新。因?yàn)槿菀走`規(guī)，如今他已不再使用數(shù)字人形象，而是直接用此前中老年女性熟悉的“建國(guó)”“小?！钡穆曇?，搭配AI生成的引導(dǎo)下單文案。
當(dāng)記者直言“這不就是利用情緒價(jià)值騙老年人的錢(qián)嗎”，對(duì)方表示“這么理解也行”。記者繼續(xù)追問(wèn)“是不是賣(mài)的都是劣質(zhì)產(chǎn)品”，他則回復(fù)“反正吃不死人”。
部分婚戀機(jī)構(gòu)用數(shù)字人引流收費(fèi)
記者調(diào)查發(fā)現(xiàn)，除了常規(guī)的直播、帶貨等形式，不少婚戀機(jī)構(gòu)也用“AI霸總”數(shù)字人來(lái)迷惑用戶(hù)。在某社交平臺(tái)，記者關(guān)注幾位“AI霸總”賬號(hào)后，立刻收到對(duì)方私信發(fā)來(lái)的鏈接卡，提示“點(diǎn)擊卡片添加，可發(fā)送男士資料”。
隨后，記者按鏈接卡提示添加了四川某婚戀服務(wù)公司的企業(yè)微信，向?qū)Ψ教岢鱿胍@取視頻中“AI霸總”的聯(lián)系方式，對(duì)方則稱(chēng)“需要電話溝通具體的收費(fèi)標(biāo)準(zhǔn)”。重慶某婚戀服務(wù)公司的工作人員還說(shuō)這些數(shù)字人都是“真實(shí)的”，如果想獲取聯(lián)系方式，需先支付4999元。
3月10日，記者以相親者的身份在視頻平臺(tái)私信了一個(gè)名為“喜有家-派幸?！钡馁~號(hào)，對(duì)方立馬發(fā)送了一張企業(yè)微信名片。記者添加后詢(xún)問(wèn)對(duì)方是否有“AI富婆”的聯(lián)系方式，對(duì)方則直接要視頻聊天，記者以不方便為由婉拒，對(duì)方再未回過(guò)消息。11日，記者在該平臺(tái)發(fā)現(xiàn)，“喜有家-派幸?！辟~號(hào)已被封禁。
來(lái)自廣西的陳真告訴記者，他母親李小華曾被貴州某婚戀機(jī)構(gòu)騙取1000元。陳真提供的社交賬號(hào)顯示，該婚戀機(jī)構(gòu)常發(fā)布數(shù)字人照片，并附帶相關(guān)個(gè)人資料。李小華按要求添加對(duì)方微信后，對(duì)方稱(chēng)可為其介紹對(duì)象，隨后引導(dǎo)其轉(zhuǎn)賬，李小華轉(zhuǎn)賬1000元后，對(duì)方則以整理資料為由一直拖延，“母親也不好意思報(bào)警，就當(dāng)花錢(qián)買(mǎi)教訓(xùn)了?！?/p>
隨后，記者添加了這家婚戀公司的工作人員，對(duì)方稱(chēng)“這些是廣告，具體要問(wèn)業(yè)務(wù)部門(mén)，照片中的人可能是請(qǐng)的模特?！碑?dāng)記者堅(jiān)持要與照片中的人相親時(shí)，對(duì)方才坦言，照片中的是用來(lái)引流的AI數(shù)字人，只能介紹其他人。
3月11日，記者又以同行身份聯(lián)系上這家婚戀公司的老板。他表示，其公司僅將數(shù)字人用于引流，同時(shí)表示目前婚戀行業(yè)部分同行存在亂象，有機(jī)構(gòu)借AI數(shù)字人或找模特冒充真人，向客戶(hù)謊稱(chēng)是真實(shí)的相親對(duì)象，收取高達(dá)1萬(wàn)元的會(huì)員費(fèi)，后續(xù)僅安排人員與客戶(hù)短暫聊天，便以彼此不合適為由結(jié)束對(duì)接。
AI數(shù)字人圍獵觸碰法律紅線
情感關(guān)懷與制度約束缺一不可
AI數(shù)字人圍獵中老年群體，實(shí)際上涉及更深層次社會(huì)問(wèn)題和法律問(wèn)題。
廣東哲清律師事務(wù)所馬俊哲律師告訴記者，利用AI數(shù)字人圍獵中老年人的相關(guān)行為已觸碰多重法律紅線，且存在明確的監(jiān)管依據(jù)與改進(jìn)方向。法律層面，此類(lèi)行為若以非法占有為目的，通過(guò)虛構(gòu)身份、情感誘導(dǎo)等方式騙取錢(qián)財(cái)，完全符合詐騙罪構(gòu)成要件，同時(shí)因借助網(wǎng)絡(luò)通訊工具面向不特定多數(shù)人實(shí)施，屬于典型的電信網(wǎng)絡(luò)詐騙。
“根據(jù)司法解釋?zhuān)p騙金額3000元至1萬(wàn)元以上即達(dá)到刑事立案標(biāo)準(zhǔn)，即便金額略低，因針對(duì)老年人這一特殊群體，情節(jié)惡劣的仍可能被立案?jìng)刹?。而批量制作運(yùn)營(yíng)AI數(shù)字人賬號(hào)，形成‘技術(shù)開(kāi)發(fā)-引流獲客-實(shí)施詐騙-資金變現(xiàn)’的完整鏈條，已構(gòu)成組織化、分工明確的黑灰產(chǎn)業(yè)鏈，是司法機(jī)關(guān)全鏈條打擊的重點(diǎn)。”馬俊哲律師認(rèn)為，各相關(guān)方均需承擔(dān)對(duì)應(yīng)法律責(zé)任——數(shù)字人技術(shù)提供方若明知他人用于詐騙仍提供支持，可能構(gòu)成詐騙罪共犯或幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪；運(yùn)營(yíng)者作為核心主體將被以詐騙罪追究刑責(zé)，組織者、慣犯會(huì)依法從嚴(yán)懲處；直播平臺(tái)未履行審核義務(wù)需承擔(dān)過(guò)錯(cuò)責(zé)任；婚介機(jī)構(gòu)若參與虛假宣傳、誘騙轉(zhuǎn)賬，將面臨刑事、民事及行政多重責(zé)任。
武漢大學(xué)老齡科研基地科研綜合辦公室主任陳昫表示，中老年群體被AI數(shù)字人蒙騙應(yīng)從多維度來(lái)看，首先是老年人自身存在的脆弱性問(wèn)題，比如對(duì)于數(shù)字人缺乏辨別鑒偽能力；其次從需求層次來(lái)說(shuō)，老年人會(huì)有對(duì)溫情、尊重、愛(ài)的需求，所以讓一些違規(guī)不法行為鉆了空子。最后是老年人有社會(huì)經(jīng)驗(yàn)的相對(duì)剛性，他們可能認(rèn)為照片、視頻很難造假，類(lèi)似這樣既有的經(jīng)驗(yàn)判斷，可能會(huì)影響他們對(duì)于數(shù)字人詐騙等新興形態(tài)詐騙的警惕性和自我防御意識(shí)。
華中科技大學(xué)社會(huì)學(xué)院教授石人炳補(bǔ)充說(shuō)，一些居心不良者正是利用老年人的心理和情感需求，以AI擬人化技術(shù)為工具行騙。當(dāng)老年人對(duì)新科技認(rèn)知有限、社會(huì)對(duì)相關(guān)行為的法律打擊沒(méi)有跟上時(shí)，這類(lèi)騙術(shù)就會(huì)大行其道。
陳昫表示，相關(guān)治理工作的核心應(yīng)是彌合數(shù)智發(fā)展和老年生活之間的溝壑。首先可以借助社區(qū)的力量，在社區(qū)開(kāi)辦興趣培訓(xùn)班或智能手機(jī)教學(xué)班，告訴老人如何辨別數(shù)字人，形成自主防范意識(shí)；其次，子女、親友要告訴老人，涉及錢(qián)款不要輕易付出，同時(shí)切記不要批評(píng)老人，要鼓勵(lì)他們多接觸AI等新生事物，告知他們其中的風(fēng)險(xiǎn)所在，通過(guò)家庭信息流的方式來(lái)構(gòu)筑老人防范意識(shí)的前線。此外，立法、平臺(tái)、政策等多方面都應(yīng)協(xié)同發(fā)力，打擊AI詐騙，平臺(tái)也要加強(qiáng)監(jiān)管，特別是中老年用戶(hù)看視頻時(shí)，可適當(dāng)增加一些風(fēng)險(xiǎn)提示，共同構(gòu)筑一個(gè)綜合的防范體系。（文中除馬俊哲、陳昫、石人炳外均為化名）
編輯：遲明緒
京公網(wǎng)安備 11010502000576號(hào)