AI造假起號亂象調(diào)查

2025-08-11 21:51 來源：新華網(wǎng)

新華視點(diǎn)｜3到15天速成萬粉號——AI造假起號亂象調(diào)查

外國人熟練演唱中文歌曲、銀發(fā)奶奶傳授養(yǎng)生秘訣、氛圍感女孩分享穿搭美學(xué)……社交媒體上，一些AI生成的視頻關(guān)注度頗高，“細(xì)節(jié)滿滿”讓很多網(wǎng)友信以為真。“新華視點(diǎn)”記者調(diào)查發(fā)現(xiàn)，不少社交賬號利用AI技術(shù)造假、博眼球快速“吸粉”起號，進(jìn)而變現(xiàn)。

近期，多個(gè)平臺對“AI起號”現(xiàn)象開展專項(xiàng)治理行動，清理違規(guī)內(nèi)容并封禁部分賬號。

AI造假起號成新套路

廣西市民王夏經(jīng)常刷到這樣的視頻：“帥哥”“美女”高頻率更新日常生活，并在評論區(qū)與網(wǎng)友頻繁互動。由于熟悉AI軟件，王夏很快發(fā)現(xiàn)這些視頻的主角是AI數(shù)字人，“但視頻沒有任何AI生成提示字樣，好幾個(gè)賬號顯示來自同一家MCN公司”。

當(dāng)前，生成式人工智能技術(shù)日益普及，不少內(nèi)容創(chuàng)作者通過AI創(chuàng)作出更具想象力的作品。但也有一些人利用AI造假，無底線博眼球，作為起號變現(xiàn)捷徑。

記者在某社交平臺上發(fā)現(xiàn)，部分賬號將目標(biāo)鎖定中老年女性群體，利用AI打造“完美熟齡女性形象”，搭配“40+、50+長這樣，怎么樣”等話術(shù)，進(jìn)行“年齡焦慮”營銷。

此類賬號發(fā)布的穿搭、保養(yǎng)、護(hù)膚、養(yǎng)生等視頻多未設(shè)置AI生成提示，不少網(wǎng)友誤以為是真人，在評論區(qū)咨詢保養(yǎng)方法。一些賬號背后運(yùn)營者則借機(jī)推送“三無”保健產(chǎn)品廣告，還有“水軍”互動造勢。記者注意到，雖然部分視頻存在明顯技術(shù)破綻，但瀏覽、點(diǎn)贊、評論量依舊不少。

記者調(diào)查發(fā)現(xiàn)，當(dāng)前，主流網(wǎng)絡(luò)平臺普遍升級AI內(nèi)容識別系統(tǒng)，要求對AI生成作品添加標(biāo)注，但仍有一些人采用各種手段繞過審核。

“平臺甄別AI內(nèi)容主要依靠特征性技術(shù)痕跡，一些起號者通過多種手段削弱特征痕跡，逃避平臺標(biāo)注。”重慶理工大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院教授李彥說，如通過微信轉(zhuǎn)壓縮等方式改變視頻文件代碼結(jié)構(gòu)，再上傳至平臺，就較難判定為AI生成內(nèi)容。

記者用一款A(yù)I軟件生成一張人像圖片，裁掉AI生圖軟件水印后發(fā)布在社交平臺上。發(fā)布后，平臺系統(tǒng)并未自動識別、提示添加標(biāo)注。相當(dāng)一部分網(wǎng)友辨別不出這是AI生成圖，紛紛點(diǎn)贊、發(fā)送私信，賬號后臺收到超200條消息。

起號有教程

多手段變現(xiàn)

記者調(diào)查發(fā)現(xiàn)，社交平臺上有不少AI造假起號的教程，情感、養(yǎng)生、顏值等類別是“重災(zāi)區(qū)”，相關(guān)帖子常以“條條是爆款”“最適合普通人入局”“3天暴力起號”等為噱頭。

以一則“養(yǎng)生賽道”起號教程為例，先向AI軟件輸入器官、食物等關(guān)鍵詞，生成吸睛文案，批量產(chǎn)出擬人化素材、智能合成動態(tài)視頻；再在片尾設(shè)置養(yǎng)生知識問答，引導(dǎo)互動并刺激轉(zhuǎn)發(fā)，以提升賬號互動權(quán)重。該教程聲稱：“按照此方法，單條視頻制作最快僅需15分鐘，單賬號日均收益可達(dá)500+（元）。”

有專營平臺起號的商家告訴記者，只需繳納1680元，3到15天即可運(yùn)營出一個(gè)萬粉AI賬號。當(dāng)賬號積累一定流量后，就可以通過電商帶貨、賬號轉(zhuǎn)賣等方式變現(xiàn)。

“后面的電商帶貨，從直播間搭建、選品策略、話術(shù)設(shè)計(jì)到違禁詞規(guī)避等，我們有一套運(yùn)營體系，學(xué)員照葫蘆畫瓢就行。”一名售賣AI賬號起號教程的商家說。

一名博主透露，她借助AI軟件生成的“氛圍感美女”視頻在多個(gè)平臺“吸粉”過萬，接到不少推廣商單，月收入在1萬元左右。

有商家稱，手上有未標(biāo)注AI生成的“美女”賬號，粉絲量均在一萬以上，且為“三無賬號”（無實(shí)名、無賬號違規(guī)、無作品違規(guī)），“現(xiàn)在平臺風(fēng)控很嚴(yán)，賬號會升值”。

該商家說，這些賬號銷售十分火爆，買家經(jīng)常催著加急起號，有個(gè)合作商“一周就要幾十個(gè)萬粉號”。在其提供的交易截圖中，9個(gè)賬號的成交價(jià)從700元至4000元不等，而百萬粉絲的號要十幾萬元。

記者搜索發(fā)現(xiàn)，社交平臺上有眾多網(wǎng)友求購和出售賬號。一名賣家稱，2.5萬粉絲的AI養(yǎng)生號售價(jià)6000元，11萬粉絲的AI寵物號售價(jià)1.6萬元，11.7萬粉絲的AI母嬰號售價(jià)1.35萬，這些賬號同樣為“三無賬號”。

一名賬號售賣者在朋友圈展示銷售火爆。（網(wǎng)絡(luò)截圖）

阻斷AI造假起號利益鏈

根據(jù)反電信網(wǎng)絡(luò)詐騙法，任何單位和個(gè)人不得非法買賣、出租、出借互聯(lián)網(wǎng)賬號。多個(gè)網(wǎng)絡(luò)平臺規(guī)定，賬號僅限本人使用，禁止以任何形式出租、轉(zhuǎn)讓、售賣或以其他方式許可他人使用賬號。

重慶公孝律師事務(wù)所執(zhí)行主任徐斌表示，AI造假起號灰色產(chǎn)業(yè)鏈?zhǔn)羌夹g(shù)異化的結(jié)果，可能造成低俗獵奇信息泛濫，加速虛假新聞、謠言傳播，擾亂網(wǎng)絡(luò)空間秩序，亟待加強(qiáng)清理整治。

今年4月以來，中央網(wǎng)信辦部署開展“清朗·整治AI技術(shù)濫用”專項(xiàng)行動，聚焦AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標(biāo)識缺失誤導(dǎo)公眾等AI技術(shù)濫用亂象開展重點(diǎn)整治。第一階段累計(jì)處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬余條，處置賬號3700余個(gè)。

前不久，多家互聯(lián)網(wǎng)平臺發(fā)布專項(xiàng)治理公告，重點(diǎn)整治AI批量造假、AI起號引流帶貨、轉(zhuǎn)讓銷售AI虛擬賬號等違規(guī)行為。

李彥等專家認(rèn)為，AI造假起號的背后，涉及技術(shù)提供者、傳播平臺、內(nèi)容發(fā)布者等多個(gè)參與方，技術(shù)、數(shù)據(jù)等關(guān)鍵信息存在壁壘，需加強(qiáng)協(xié)同治理，多方共同打擊違規(guī)行為。

北京郵電大學(xué)互聯(lián)網(wǎng)治理與法律研究中心執(zhí)行主任謝永江建議，技術(shù)提供者強(qiáng)化技術(shù)的安全性和合規(guī)性研發(fā)，提供技術(shù)支持和解決方案；平臺提高對深度偽造內(nèi)容的檢測精度，進(jìn)一步完善相關(guān)規(guī)則，明確對AI造假起號等違規(guī)行為的界定和處罰標(biāo)準(zhǔn)等。

阻斷違規(guī)賬號的流量變現(xiàn)，是從根源上打擊黑灰產(chǎn)業(yè)鏈的關(guān)鍵。受訪專家建議，監(jiān)管部門應(yīng)督促平臺履行治理責(zé)任，建立違規(guī)賬號“黑名單”，對高頻、反復(fù)觸犯平臺規(guī)則的賬號主體加大處罰力度，禁止違規(guī)賬號進(jìn)行帶貨、賣課等商業(yè)活動，持續(xù)開展AI造假起號整治，切斷其獲利渠道。

謝永江說，還應(yīng)鼓勵(lì)公眾參與亂象治理，如舉報(bào)可疑賬號、引入專業(yè)機(jī)構(gòu)開展評估等，“真實(shí)、優(yōu)質(zhì)的用戶創(chuàng)作，是平臺活力和創(chuàng)新的源泉”。

編輯：徐衛(wèi)民