隨著人工智能技術(shù)的普及,，人工智能生成內(nèi)容技術(shù)也就是AIGC技術(shù)正在改變社交媒體生態(tài),。有了創(chuàng)意,，它能幫你生成文字,；有了文字,，它還能接著生成圖片,，進而做出視頻。但是,，本來是幫助提升創(chuàng)作效率的工具,，卻被一些人拿來造假起號，通過AI批量生產(chǎn)虛假內(nèi)容來積累粉絲,。

記者調(diào)查發(fā)現(xiàn),，目前多個社交平臺上都出現(xiàn)大量“AI起號秘籍”相關(guān)內(nèi)容,，這些AI生成內(nèi)容多以俊男靚女、育兒百科,、健康養(yǎng)生為主,，大都低俗獵奇。有些AI生成的人物形象能做到以假亂真,，還有人傳授繞過平臺“AI打標”的經(jīng)驗。

一旦起號成功,，這些賬號就會隱藏AI引流內(nèi)容,，開始帶貨、賣課,。有的賬號還被明碼標價放到賬號交易網(wǎng)站上,，形成了一條“起號、轉(zhuǎn)型,、轉(zhuǎn)賣”的灰色產(chǎn)業(yè)鏈,。在這背后有哪些不容忽視的隱患？

一張外國面孔,，用流利的中國話科普育兒知識,，這樣的視頻你會多看兩眼嗎？某育兒短視頻賬號上,，大量類似內(nèi)容打著“外國幼兒教育專家”旗號輸出觀點,。但是這看似專業(yè)的視頻里有不少說法都極端絕對，暗藏誤導(dǎo)風(fēng)險,。

實際上,，這些所謂“外國專家”是AI生成的虛擬形象。在一堂AI數(shù)字人視頻教學(xué)課程中,，這個育兒賬號是導(dǎo)師口中的成功起號案例：

導(dǎo)師：我們就是做的這種展現(xiàn)的形式,，一個人物是AI數(shù)字人、虛擬人,，不是真人,，但是很像真人。不僅嘴動頭動,，身體也在動,。這個賬號，我們團隊的小伙伴已經(jīng)做到了39萬粉絲,，賣貨21萬的戰(zhàn)績,。

打造一個優(yōu)質(zhì)自媒體賬號并非易事，從創(chuàng)意到文案腳本再到拍攝制作,，每一個作品都需要創(chuàng)作者親力親為,，通常會耗費大量時間,。

現(xiàn)在，各大社交平臺上出現(xiàn)了大量“AI起號”相關(guān)分享,，宣稱零門檻,、易操作、漲粉快,、可變現(xiàn),。

記者調(diào)查發(fā)現(xiàn)，這些起號教程教授的思路基本一致：僅需借助兩三個AI工具,，按“文生圖,、圖生圖、圖生視頻”的標準化流程,，幾分鐘就能制作一段時長五秒的美女跳舞視頻,，這些視頻中虛擬人動作雖然略有僵硬，但形象逼真,。一位從業(yè)者表示,，他的課程499元，內(nèi)容包含從賬號搭建,、視頻制作到內(nèi)容變現(xiàn)的全流程一對一輔導(dǎo),。

一位主打“顏值博主人設(shè)”的博主告訴記者，自己選用了一張相貌平平的男生照片,，AI工具在此基礎(chǔ)上生成了一張高顏值男生照片,。對比前后照片，人物臉型發(fā)型,、五官比例,、皮膚質(zhì)感都有了較大改變，衣著和環(huán)境也有一些改變,，但記者在該內(nèi)容評論區(qū)觀察發(fā)現(xiàn),，多數(shù)網(wǎng)友并未察覺這是AI生成的虛擬形象。

目前,，各平臺已普遍升級AI內(nèi)容識別系統(tǒng),，要求對AI生成作品進行顯著標注，這位博主告訴記者,，自己花了900元學(xué)費學(xué)習(xí)AI起號技術(shù),，主要就是為了購買老師在AI工具中預(yù)配置的鏡像文件——用這些鏡像參數(shù)一鍵生成的虛擬人形象可以以假亂真，最大限度規(guī)避平臺的AI內(nèi)容強制標注機制,。

記者發(fā)現(xiàn),，如今不少AI虛擬人創(chuàng)作者為避免作品被平臺限流，會在發(fā)布時主動標注內(nèi)容由AI生成,。但各平臺也有一部分未主動標注的作品沒有被系統(tǒng)識別出來,。有從業(yè)者坦言,，隨著各平臺監(jiān)測升級，“不標注等于高風(fēng)險”：

從業(yè)者：保證不被系統(tǒng)檢測出就是沒法保證,，我們只是說通過自己的一些維度的東西去減少被系統(tǒng)評為AI作品,。因為目前來講人物視頻動起來的話，就是它篇幅（幅度）不能太大了,，一大的話就很容易出現(xiàn)問題,。假如突然哪一天被系統(tǒng)識別出來，讓你人臉識別,，你識別不出來怎么辦,，你這號不是廢了嗎？

記者調(diào)查了解到,，AI賬號起號成功后大都會隱藏此前引流內(nèi)容，改頭換面成為帶貨賬號,；有的順勢打出“AI起號實戰(zhàn)”噱頭,，將自身包裝成“成功案例”售賣起號課程；還有一部分賬號被明碼標價進行售賣,。

實際上,，在AI的加持下，起號的成本和門檻被降低,，大量此類賬號進入了賬號交易市場,。某賬號交易網(wǎng)站客服告訴記者，他們網(wǎng)站有不少可供選擇的AI起號賬號,，價格相對于其他類型賬號更加便宜,。

實際上，多數(shù)社交平臺明確禁止賬號轉(zhuǎn)賣,。以記者在網(wǎng)站上咨詢的抖音賬號為例,，抖音平臺在其服務(wù)協(xié)議和相關(guān)規(guī)則中就規(guī)定，抖音賬號僅限本人使用,，禁止以任何形式贈予,、借用、出租,、轉(zhuǎn)讓,、售賣或以其他方式許可他人使用該賬號。

對此,，中國政法大學(xué)傳播法研究中心副主任朱巍表示：轉(zhuǎn)讓賬號法律風(fēng)險是非常高的,，這個賬號以前可能有一些違法違規(guī)的情況，這賬號以前有沒有銷售產(chǎn)品,，一旦出現(xiàn)問題要承擔相關(guān)的責(zé)任,。

當前,，人工智能技術(shù)給人們生產(chǎn)生活帶來便利的同時，也帶來不少風(fēng)險挑戰(zhàn),。為了促進人工智能健康發(fā)展,，規(guī)范人工智能生成合成內(nèi)容標識，近日,，四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》,，要求人工智能生成合成內(nèi)容標識包括顯式標識和隱式標識。新規(guī)自2025年9月1日起施行,。朱巍表示,，新規(guī)正式落地后，此類亂象將得到遏制,。

朱?。?/b>顯式標識就是那些被編輯的音視頻、文檔等等,，帶水印的,，帶有明確提示的。那還有一種情況,，就是第三方平臺生成的東西,，有一些隱式標識。意味著什么呢,？在肉眼上看不到它有任何標識,，但是如果你放到像抖音、快手這樣的平臺上,，在人工智能審核的時候,，它會發(fā)現(xiàn)你生成的這個內(nèi)容里面有這個隱式的標識。他以后這種再起號的時候,，即便你做得再好,，強制性的標記也會存在，很難做到以假亂真了,。