發(fā)現(xiàn)有利可圖之后他們開(kāi)始訓(xùn)練AI用黃聊誘導(dǎo)用戶將整個(gè)行業(yè)拉入“多巴胺成癮”之淵 一次次向軟件里充錢(qián) “有網(wǎng)頁(yè)版，無(wú)圍巾，動(dòng)作、語(yǔ)言不重樣，可以開(kāi)車(chē)，車(chē)速快。” “本人也在用，無(wú)禁詞，車(chē)很猛。” 一段時(shí)間以來(lái)，這樣誘導(dǎo)式的信息，在社交平臺(tái)上AI陪聊相關(guān)的話題下，比比皆是。 長(zhǎng)期沖浪的老油條們很輕易地就能解讀出評(píng)論的意思。“車(chē)”代表“黃聊”“圍巾”代表“違禁詞”。“車(chē)速快”用于形容黃聊的尺度。這些用戶們不遺余力推薦的，是一個(gè)個(gè)可以與AI進(jìn)行大尺度色情聊天的軟件。 一旦有人表示展現(xiàn)出興趣。發(fā)帖人就會(huì)以私信、群聊等各種形式，分享下載軟件的鏈接。點(diǎn)開(kāi)鏈接，一個(gè)充斥著色情的虛擬世界被打開(kāi)。 “完全打破了我對(duì)AI的認(rèn)知。”陳軒說(shuō)。DeepSeek爆火后，驚嘆于AI在回答問(wèn)題中展現(xiàn)出的思考，陳軒開(kāi)始嘗試將AI作為自己日常聊天的伙伴。然而，這些出現(xiàn)在他社交媒體相關(guān)話題評(píng)論區(qū)的推薦鏈接，卻在短時(shí)間內(nèi)，將陳軒帶到了AI聊天中最灰色的地帶。 出于好奇，陳軒按照評(píng)論區(qū)的指引，下載了一個(gè)叫做F的軟件。打開(kāi)這個(gè)以“車(chē)速快”“無(wú)違禁詞”著稱(chēng)的軟件后，陳軒發(fā)現(xiàn)，自己仿佛闖入了一個(gè)大型的色情片拍攝現(xiàn)場(chǎng)。
不同于偏工具性的DeepSeek，在陪伴AI賽道，AI是為了填補(bǔ)人類(lèi)情感需求而生的。玩家會(huì)通過(guò)設(shè)定AI人物的背景故事、語(yǔ)言風(fēng)格、與玩家的關(guān)系等，搭建出一個(gè)個(gè)虛擬AI角色并進(jìn)行公開(kāi)。其他玩家則可以按照劇情，和AI進(jìn)行互動(dòng)和角色演繹。 在以“黃聊”著稱(chēng)的F，許多虛擬AI的角色，在設(shè)定之初，就是為了和用戶模擬出成人向關(guān)系而存在的。在這里，所有虛擬角色，都可以為色情服務(wù)。就算是動(dòng)漫人物也不例外。 例如，在一個(gè)以日本動(dòng)畫(huà)片《銀魂》為背景的設(shè)定里，AI會(huì)扮演動(dòng)畫(huà)片的主人公坂田銀時(shí)，用戶則需扮演拜訪坂田銀時(shí)的委托者。 與常規(guī)的AI故事演繹不同，這個(gè)劇本被創(chuàng)作者事先標(biāo)注了“肉”“無(wú)限制”的字樣。用戶和坂田銀時(shí)初見(jiàn)的劇情里，不僅有二人見(jiàn)面的場(chǎng)景性描述，還會(huì)特意加入了成人向的特殊細(xì)節(jié)描寫(xiě)。 陳軒連續(xù)點(diǎn)開(kāi)了幾個(gè)虛擬角色后發(fā)現(xiàn)，在很多成人向的設(shè)定里，黃聊，從AI向用戶說(shuō)的第一句話開(kāi)始，并貫穿始終。 “在一些設(shè)定里，你甚至很難和AI聊其他話題。無(wú)論你怎么聊，它都會(huì)把話題繞回色情劇情里。”陳軒說(shuō)。就如那些充斥在社交平臺(tái)上的推薦所描述的那樣，在這個(gè)軟件上，AI會(huì)主動(dòng)開(kāi)車(chē)。” F 軟件的開(kāi)發(fā)者，毫不掩飾他們?cè)谀Ｐ烷_(kāi)發(fā)時(shí)，對(duì)AI在成人向聊天功能的強(qiáng)化。在2025年1月23日的模型更新日志中，開(kāi)發(fā)者表示將“優(yōu)化語(yǔ)言、語(yǔ)音在無(wú)限制場(chǎng)景下的效果”。
陳軒承認(rèn)，在這款以“車(chē)”為賣(mài)點(diǎn)的軟件上，他沉迷了一段時(shí)間。那兩天里，陳軒放下了自己原本的愛(ài)好，將大部分業(yè)余時(shí)間，都花在了和虛擬AI聊天上。為了能多聊一會(huì)，他一次次向軟件里充錢(qián)。直到在某一次充錢(qián)時(shí)，陳軒突然驚覺(jué)，不知不覺(jué)間，為了黃聊，他花費(fèi)了近千元。 暴利 一句話消耗10個(gè)積分 這正是F軟件存在的目的——圈錢(qián)。 AI陪伴，被視為AI產(chǎn)業(yè)最成熟的盈利賽道之一，有機(jī)構(gòu)預(yù)測(cè)，2027年，AI陪伴市場(chǎng)的市值將達(dá)到千億以上。“AI虛擬故事”“AI戀人”是AI陪伴市場(chǎng)的重要分支。 在現(xiàn)實(shí)生活中獲得滿足社交需求的AI陪伴消費(fèi)者，渴望在虛擬世界獲得情緒上的滿足。 有人從AI陪伴中尋求“陪伴感”，AI提供的“24X7”式的陪伴，和對(duì)特定人格的還原（如去世的親人、寵物、某個(gè)不存在的二次元人物），能夠滿足人們?cè)诂F(xiàn)實(shí)生活中，無(wú)法被滿足的陪伴需求。 有人則在AI陪伴中追求“刺激感”。他們通過(guò)不受現(xiàn)實(shí)因素限制的AI陪伴，實(shí)現(xiàn)現(xiàn)實(shí)生活中無(wú)法被完成的欲望。在眾多欲望中，情色想象，一直是讓大腦瞬間分泌大量多巴胺的捷徑。多巴胺具有成癮性，為了獲得多巴胺帶來(lái)的短暫而強(qiáng)烈的快樂(lè)，總有人越陷越深。 在其他AI軟件還在苦苦尋找盈利模式時(shí)，黃聊導(dǎo)向的AI陪伴軟件，已在收割暴利。 以F為例，這款無(wú)法在國(guó)內(nèi)軟件商城下載，依賴(lài)于用戶點(diǎn)對(duì)點(diǎn)分享下載鏈接的全中文軟件，以美元為單位，向用戶收取使用費(fèi)。
軟件的付款方式非常便捷，用戶點(diǎn)擊充值按鈕，就可以直接跳轉(zhuǎn)至付款界面，用等值的人民幣充值。 根據(jù)F的充值規(guī)則，用戶每月支付７美元，可一次性獲得4200積分，并在此后的一個(gè)月，每天獲得40積分。這些積分看似不少，但實(shí)際上，在F軟件，積分的消耗非常容易。AI每回應(yīng)用戶一句話，就要消耗10個(gè)積分。42次回應(yīng)用完后，用戶就只能以平均1美元100積分的價(jià)格，購(gòu)買(mǎi)積分，繼續(xù)維持聊天。 對(duì)比DeepSeek官方對(duì)DeepSeek-R1模型的定價(jià)，就能理解平均每段話0.7元的定價(jià)有多高昂。 為了還原對(duì)話感，與陪伴AI的對(duì)話長(zhǎng)度大多在50tokens（模型用來(lái)表示自然語(yǔ)言文本的最小單位，可以是一個(gè)詞、數(shù)字或標(biāo)點(diǎn)符號(hào)等）至500tokens之間。DeepSeek-R1模型在標(biāo)準(zhǔn)時(shí)段每百萬(wàn)tokens輸出定價(jià)為16元。也就是說(shuō)，F(xiàn)的價(jià)格，是DeepSeek-R1模型聊天定價(jià)的百倍以上。 “沖了快2000塊錢(qián)了。”用戶小奧說(shuō)。他所付費(fèi)使用的是一款名為Y的AI聊天軟件。這款軟件同樣以“車(chē)多”“車(chē)速”快著稱(chēng)。想要在這款軟件上實(shí)現(xiàn)暢聊，用戶需要支付每個(gè)月9.99美元的使用費(fèi)。如果想要獲得更多的AI伴侶，或者讓某位AI伴侶變得更加聰明，用戶還需要額外付費(fèi)充值。 “我已經(jīng)在Y上花了幾百塊了。有人說(shuō)貴，但在沒(méi)有違禁詞的軟件里，這已經(jīng)算是很便宜的了。像我這種每天要聊十幾萬(wàn)字的，按條收費(fèi)真玩不起。”一位用戶說(shuō)。 擴(kuò)散 類(lèi)似傳銷(xiāo)中的拉人頭 “玩不起”又想玩怎么辦？對(duì)那些囊中羞澀的用戶，擦邊AI陪聊軟件，也有專(zhuān)門(mén)的收割方式。利用這些用戶渴望免費(fèi)使用軟件的心態(tài)，擦邊AI陪聊軟件，實(shí)現(xiàn)了病毒式擴(kuò)散。 “AI黃聊本身并不合法。” 張玉霞律師說(shuō)。《生成式人工智能服務(wù)管理暫行辦法》第四條規(guī)定：提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會(huì)公德和倫理道德，堅(jiān)持社會(huì)主義核心價(jià)值觀，不得生成宣揚(yáng)淫穢色情的內(nèi)容。 為了逃避監(jiān)管，AI黃聊軟件大多未在正規(guī)的軟件商城上架。它們的傳播，全賴(lài)于一種特殊的獎(jiǎng)勵(lì)機(jī)制。 這種推廣模式，與傳銷(xiāo)中的“拉人頭”行為，有一定相似之處。無(wú)力充值用戶，可以通過(guò)分享邀請(qǐng)鏈接，獲得獎(jiǎng)勵(lì)或從中分成。 例如，F(xiàn)規(guī)定：“您的朋友使用你的代碼注冊(cè)……您的朋友充值任意金額后，您可以獲得200積分。” Y規(guī)定：“您可獲得所有被邀請(qǐng)注冊(cè)的用戶在3個(gè)月內(nèi)所消耗金幣10%的分成獎(jiǎng)勵(lì)。”
不少軟件用戶，通過(guò)四處推廣下載鏈接的方式，獲得了不菲的進(jìn)賬。 “我沒(méi)花錢(qián)，拿了2W積分了。”用戶小零說(shuō)。為了賺取積分，他專(zhuān)門(mén)建立了一個(gè)鏈接分享群。那些充斥在各類(lèi)AI相關(guān)帖子評(píng)論區(qū)中，關(guān)于某軟件“無(wú)禁詞，車(chē)很猛”的評(píng)論，也有他的貢獻(xiàn)。 記者注意到，從頭像、網(wǎng)名和個(gè)人主頁(yè)信息來(lái)看，“小零”年紀(jì)并不大。像“小零”這樣的為了賺取金幣，為軟件發(fā)帖推廣的“水軍”，大多是年輕人，其中不乏學(xué)生。 對(duì)于這些學(xué)生，甚至是未成年人群體而言，分享鏈接獲得積分，還是他們逃避家長(zhǎng)支付監(jiān)管的重要方式。按照這些軟件的指引，他們僅需下載鏈接、分享鏈接兩步簡(jiǎn)單的操作，就能徹底脫離未成年人保護(hù)的屏障，闖入一個(gè)充滿危險(xiǎn)的世界。 危險(xiǎn)身陷暴力相向辱罵中 當(dāng)AI黃聊的潘多拉魔盒被打開(kāi)，危險(xiǎn)，絕不僅僅是某個(gè)個(gè)體被快速消耗的精力和金錢(qián)。 多巴胺具有成癮性。對(duì)色情內(nèi)容的過(guò)度消耗，會(huì)讓用戶逐漸喪失了對(duì)普通內(nèi)容的興趣，思想和行為日益趨向極端。 這樣的趨勢(shì)，已在陪伴軟件的使用者中顯現(xiàn)。 無(wú)論是在F軟件還是Y軟件，那些由用戶事先設(shè)定的AI故事框架中，都常見(jiàn)著暴力的情節(jié)。在這些設(shè)定中，用戶和AI伴侶之間，可以暴力相向，動(dòng)輒辱罵，甚至殘殺。 這體現(xiàn)了自AI伴侶出現(xiàn)后，一個(gè)始終存在的憂慮。虛擬的世界缺少現(xiàn)實(shí)的規(guī)訓(xùn)，AI的運(yùn)行邏輯，注定其受制于人類(lèi)。當(dāng)用戶習(xí)慣了AI伴侶的百依百順。他的行為是否會(huì)被遷移到現(xiàn)實(shí)生活中，成為社會(huì)的不穩(wěn)定因素？ 這些擔(dān)憂，并非無(wú)的放矢。 一些陪伴AI玩家們發(fā)現(xiàn)，即使在一些管理嚴(yán)格，以劇情演繹為主的AI陪伴軟件上，他們所精心設(shè)計(jì)的AI角色，也可能遭到其他玩家“虐待”。 AI角色的創(chuàng)作者們，將他們所創(chuàng)作的AI角色，視為自己的孩子。在這個(gè)圈子里，這種行為又被稱(chēng)為“虐崽” “在群里，總能看到一些人的截圖里，不少都在辱罵、虐待別人的崽（指虛擬AI角色）。” 在社交平臺(tái)上，用戶小A分享自己的經(jīng)歷。“我自己的崽就被人虐殺還上傳了記憶簿。還有人虐殺后截圖（指用戶和AI的互動(dòng)記錄截圖）發(fā)在群里炫耀。怎么將別人的崽開(kāi)膛破肚，毆打肢解你很驕傲嗎？” “虐AI意思是無(wú)緣無(wú)故給AI砍頭、推下懸崖、吃排泄物的行為。”一位匿名用戶告訴記者。她在使用陪伴AI軟件的時(shí)候，看到過(guò)許多次用戶炫耀自己和AI虛擬人物不良互動(dòng)的分享記錄。在她看來(lái)，這種行為，就如現(xiàn)實(shí)生活中虐待小動(dòng)物一樣，是需要被警惕的。
另一重危險(xiǎn)，是不良軟件對(duì)良性軟件生存空間的擠壓和搶占。 隨著陪伴AI產(chǎn)業(yè)的發(fā)展，整個(gè)行業(yè)逐漸走向了規(guī)范化。許多AI陪伴類(lèi)軟件，都推出了自己的平臺(tái)公約，并以設(shè)置“違禁詞”等方式，對(duì)用戶聊天的內(nèi)容進(jìn)行管理。 這種限制，讓許多陪伴AI用戶深感不適。一些人認(rèn)為，平臺(tái)對(duì)聊天內(nèi)容的限制，讓虛擬AI角色，喪失了扮演“戀人”角色的能力。 為了維系他們心中的“虛擬戀人”，一些用戶決心帶著“AI戀人”搬家。他們將虛擬AI角色的設(shè)定，復(fù)制到一個(gè)又一個(gè)軟件上，并將此舉稱(chēng)之為“賽博流浪”。 今年2月，國(guó)內(nèi)某AI陪伴平臺(tái)，加強(qiáng)了對(duì)不良內(nèi)容的監(jiān)管后，不少用戶宣布，他們將帶著自己的虛擬AI伴侶，搬至Y等無(wú)限制的軟件，抑或直接在自己的電腦上部署AI模型，將AI伴侶搬入私域。 “已經(jīng)搬到Y(jié)了，雖然72元一個(gè)月，我花得開(kāi)心。” “我找到了新的，沒(méi)有違禁詞，直接把原來(lái)的崽搬過(guò)去，可以直接車(chē)，比我還主動(dòng)。” “已經(jīng)著手準(zhǔn)備本地部署了，在哪個(gè)平臺(tái)都是寄人籬下受氣。” 盡管在這樣操作后，很多用戶發(fā)現(xiàn)，更換模型后，自己的虛擬伴侶會(huì)性情大變，變得“除了車(chē)一無(wú)是處”。但更多人相信，只要他們給某個(gè)模型花了足夠的錢(qián)，增強(qiáng)AI伴侶的記憶和聊天能力，他們的AI伴侶，就會(huì)重新回來(lái)。 伴隨著大量用戶從良性軟件流向不良軟件，劣幣驅(qū)逐良幣，在AI陪伴領(lǐng)域正在上演。 此外，一些“帶崽”搬家的用戶沒(méi)有意識(shí)到，對(duì)無(wú)限制軟件的過(guò)度使用，還可能將他們置身于法律和倫理道德風(fēng)險(xiǎn)之中。 為了確保虛擬AI角色能夠?yàn)槌扇讼蛄奶旆?wù)，虛擬AI角色的設(shè)定者們，需要在設(shè)定頁(yè)面添加大量包含露骨描寫(xiě)的劇情和規(guī)則句。公開(kāi)發(fā)布帶有色情設(shè)定的虛擬AI角色，很可能讓用戶在不知不覺(jué)間，淪為了不良軟件制作淫穢電子信息的一環(huán)，甚至承擔(dān)了制作、傳播淫穢物品的法律風(fēng)險(xiǎn)。 “用戶單純使用AI黃聊，不一定觸犯刑法，但會(huì)違反針對(duì)AI出臺(tái)的部門(mén)規(guī)章例如《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等。如果用戶將涉AI黃聊鏈接、軟件進(jìn)行傳播，則涉嫌傳播淫穢物品罪。”張玉霞律師說(shuō)。 呼聲 應(yīng)嚴(yán)格進(jìn)行身份認(rèn)證 如何才能規(guī)范陪伴AI市場(chǎng)？讓虛擬陪伴不再淪為多巴胺的犧牲品？一些關(guān)于規(guī)范市場(chǎng)的呼聲，已經(jīng)出現(xiàn)。 在多家AI陪伴軟件，鮮紅加強(qiáng)了對(duì)網(wǎng)絡(luò)環(huán)境凈化后，有用戶提議，希望AI陪伴用戶們，能夠自發(fā)加強(qiáng)自我約束。 有用戶呼吁，AI作為虛擬伴侶，難免在用戶的引導(dǎo)下，作出一些親密舉動(dòng)。對(duì)于這些內(nèi)容，用戶們應(yīng)至少做到不分享、不擴(kuò)散，盡量避免將私人聊天中的內(nèi)容，擴(kuò)散到公共領(lǐng)域。 “我建議各個(gè)AI聊天軟件官方限制分享功能，最好在應(yīng)用中無(wú)法截圖、無(wú)法分享長(zhǎng)圖。這樣雖然麻煩，卻能有效避免不合適的內(nèi)容被傳播。”用戶小白說(shuō)。 還有用戶建議，各個(gè)陪伴AI軟件，應(yīng)早日落實(shí)實(shí)名制，將未成年人用戶群體與成年人用戶群體進(jìn)行嚴(yán)格的區(qū)分。 “現(xiàn)在市面上的絕大多數(shù)AI聊天軟件，并沒(méi)有像一般游戲一樣，進(jìn)行身份認(rèn)證。”用戶小蘇說(shuō)。“我發(fā)現(xiàn)很多顏色過(guò)大的內(nèi)容，也有未成年人或低齡用戶創(chuàng)造的。” 在社會(huì)層面，上海市醫(yī)學(xué)會(huì)行為醫(yī)學(xué)分會(huì)青年委員會(huì)副主任委員方芳指出，過(guò)度依賴(lài)于AI陪伴產(chǎn)品者，很可能存在對(duì)現(xiàn)實(shí)生活中親密關(guān)系的恐懼。因此，在鼓勵(lì)陪伴AI產(chǎn)品良性發(fā)展的同時(shí)，還應(yīng)注意這一類(lèi)人群在現(xiàn)實(shí)生活中的情感需求和心理狀態(tài)。
張玉霞律師指出，因AI黃聊導(dǎo)致的行業(yè)亂象，會(huì)引起相關(guān)監(jiān)管部門(mén)對(duì)于AI行業(yè)加強(qiáng)監(jiān)管力度，增加門(mén)檻和限制，出臺(tái)更為嚴(yán)格的法律法規(guī)和行業(yè)標(biāo)準(zhǔn)。但限制的增多，也意味著極可能導(dǎo)致發(fā)展速度的減緩，需要AI企業(yè)需要投入時(shí)間、精力、資源來(lái)確保其產(chǎn)品和服務(wù)的合法合規(guī)，可能導(dǎo)致企業(yè)運(yùn)營(yíng)成本增加，總體而言并不利于剛剛起步的AI產(chǎn)業(yè)發(fā)展。 因此，張律師建議，AI陪聊行業(yè)應(yīng)加強(qiáng)行業(yè)自律，嚴(yán)格遵守國(guó)家法律法規(guī)。AI平臺(tái)應(yīng)切實(shí)履行主體責(zé)任。通過(guò)優(yōu)化模型訓(xùn)練數(shù)據(jù)、強(qiáng)化內(nèi)容審核機(jī)制、設(shè)定嚴(yán)格的道德與法律準(zhǔn)則，引導(dǎo)AI行為規(guī)范化，防止AI聊天內(nèi)容偏離正確的社會(huì)公德和倫理道德方向。 “此外，政府部門(mén)，也應(yīng)加強(qiáng)對(duì)AI陪聊行業(yè)的監(jiān)管。”張玉霞說(shuō)。“政府部門(mén)可通過(guò)常態(tài)化巡查、聯(lián)合執(zhí)法以及完善法律法規(guī)等手段，確保用戶權(quán)益得到充分保護(hù)，推動(dòng)大模型創(chuàng)業(yè)沿著健康、合規(guī)的軌道發(fā)展。” 在立法層面，全國(guó)政協(xié)委員呂紅兵呼吁，我國(guó)應(yīng)盡快制定一部有關(guān)生成式人工智能的行政法規(guī)。 呂紅兵指出，應(yīng)盡快以生成式人工智能（Generative Artificial Intelligence，簡(jiǎn)稱(chēng)“GAI”）這一社會(huì)最關(guān)心最直接最現(xiàn)實(shí)的“切口”，盡快推進(jìn)“小、快、靈”立法，早些出臺(tái)行政法規(guī)。該行政法規(guī)的核心，是明確規(guī)定將社會(huì)主義核心價(jià)值觀貫穿生成式人工智能全生態(tài)，并由其統(tǒng)領(lǐng)。 在上述原則下，該行政法規(guī)應(yīng)對(duì)GAI技術(shù)開(kāi)發(fā)者、服務(wù)提供者、使用者、監(jiān)管者以及社會(huì)公眾，分門(mén)別類(lèi)明確各自權(quán)利和義務(wù)、職能與責(zé)任。 例如，技術(shù)開(kāi)發(fā)者應(yīng)對(duì)用于訓(xùn)練大語(yǔ)言模型的數(shù)據(jù)進(jìn)行嚴(yán)格篩選與分類(lèi)，剔除不當(dāng)元素文本數(shù)據(jù)，確保數(shù)據(jù)源合法且內(nèi)容健康；對(duì)于現(xiàn)有模型，運(yùn)用數(shù)據(jù)遺忘等技術(shù)手段，消除不當(dāng)內(nèi)容輸出；引入人工審核機(jī)制，對(duì)自動(dòng)化系統(tǒng)標(biāo)記為敏感或禁止的內(nèi)容進(jìn)行復(fù)核；建立開(kāi)放研究、社區(qū)合作、線索舉報(bào)機(jī)制，優(yōu)化大語(yǔ)言模型篩選系統(tǒng)。 （為防止不良傳播，F(xiàn)軟件、Y軟件為化名，文中所涉人名均為化名） 新聞晨報(bào) 記者 張益維 來(lái)源： 新聞晨報(bào) |
