文 | 深眸財經(jīng)
誰來定義偶像的 " 親密權(quán) "?
6 月初,一款主打偶像 AI 聊天的應(yīng)用 Almigo 掀起爭議漩渦。
該應(yīng)用由中型娛樂公司 RBW 與 AI 技術(shù)公司 KLLEON 聯(lián)合推出,提供與旗下藝人包括 Solar(MAMAMOO)、許齡智(KARA)、效定(OH MY GIRL)等在內(nèi)的 "AI 分身 " 互動功能,卻因被質(zhì)疑存在疑似擦邊功能,被全網(wǎng)聲討。
AI 合成語音、復(fù)刻形象、擬人對話,本是看似順理成章的技術(shù)拓展。而從 " 陪伴 " 到 " 擦邊 ",AI 介入得有多深,才算越界?
01 AI 分身辣聊風(fēng)暴
據(jù)悉,在這款 AI 應(yīng)用 Almigo 上,用戶不僅可以文字聊天、聽 AI 仿生語音回復(fù),甚至還能開啟仿真人臉的視頻對話。
而最具爭議的部分,落在了名為 "Spicy" 的付費功能上。該功能宣傳中暗示,付費用戶可以與 AI 偶像進(jìn)行更私密、更親昵的交流。
而在平臺未對用戶身份、年齡做出明確限制的情況下,部分未成年偶像的 AI 形象也被納入可互動角色之列,使得輿論質(zhì)疑進(jìn)一步升溫。
推特、Instiz 等社交平臺上涌現(xiàn)大量抗議聲音:"AI 物化女性 "、"Deepfake 犯罪 "。不少海外粉絲也聯(lián)合發(fā)起 Tag" 運動抵制 Almigo"。事件發(fā)酵后,藝人 Solar 本人通過粉絲平臺回應(yīng)稱 " 已向公司表達(dá)意見 ",但表態(tài)克制,并未直接提及合成內(nèi)容的授權(quán)過程。
面對爭議,KLLEON 代表在 6 月 9 日接受《韓民族日報》采訪時表示:"Almigo 從技術(shù)上并不可能進(jìn)行與偶像的性暗示對話 ",并強(qiáng)調(diào)平臺已采取相關(guān)措施,以遵守 AI 倫理準(zhǔn)則。他還補充稱,項目自 2023 年初啟動,已通過所屬公司向藝人們 " 充分傳達(dá)相關(guān)內(nèi)容 ",但 " 可能在溝通上產(chǎn)生了一些偏差 "。
一場試圖借 AI 變現(xiàn)的新嘗試,在數(shù)天內(nèi)以道歉、下架、口碑下滑收場。然而,其引發(fā)的討論遠(yuǎn)未平息。
02 推手與共謀
這場 AI 應(yīng)用的越界是如何發(fā)生的?
從表面看,這似乎只是 AI 公司過度逐利、娛樂公司監(jiān)管不力。
但若回溯合作背景會發(fā)現(xiàn),RBW 與 KLLEON 并非簡單的甲乙方關(guān)系,而更像一組利益一致、愿賭同輸?shù)?AI 投機(jī)聯(lián)盟。
KLLEON 是韓國近年來頗具代表性的 AI 內(nèi)容創(chuàng)業(yè)公司之一,成立于 2018 年,核心產(chǎn)品包括 AI 視頻轉(zhuǎn)換平臺 KAMELO、AI 人設(shè)生成工具 Klone 以及數(shù)字人實驗性服務(wù) Killing。
此前他們曾與 CJ ENM、MBN 電視臺合作實驗虛擬主持人等內(nèi)容項目,積累一定技術(shù)口碑。
據(jù)韓媒《Digital Daily》報道,RBW 在 2023 年就已參與 KLLEON 的 A 輪融資,成為公司戰(zhàn)略股東之一。根據(jù)商業(yè)登記信息,兩家公司在日本市場的分公司地址也高度重合,有分析認(rèn)為二者在海外市場開拓中可能存在資源整合、渠道共享等合作。
同時,RBW 作為 KLLEON 股東之一,本身就對 AI 技術(shù)商業(yè)化有利益訴求。推出合作產(chǎn)品既可以驗證投資成果、分享收益,也有助于 RBW 對外樹立科技先鋒形象。在如今娛樂業(yè)與 AIGC 結(jié)合的趨勢下,RBW 希望走在前列,通過 AI 偶像互動開創(chuàng)行業(yè)新模式,搶占賽道高地。
相比耗費人力拍真人綜藝、辦巡演、開粉絲見面會,一個可復(fù)制、可全天候運營的 "AI 藝人 " 看起來更具 ROI 潛力,還能綁定會員制度帶來持續(xù)收益。
但問題在于,RBW 高估了技術(shù)換情感的能力,也低估了粉絲對 " 擬人親密關(guān)系 " 的邊界執(zhí)念。特別是在女偶像深陷過度物化爭議已久的背景下,這種將 AI 作為 " 定制情欲陪聊 " 的操作,不僅踩到了粉絲心理底線,也引發(fā)公眾對 " 女性 AI 商品化 " 的普遍警惕。
RBW 的問題,并非出在對 AI 技術(shù)的想象力,而是缺乏想象力之外的判斷力。這次冒進(jìn)不僅沒有帶來預(yù)期收益,還導(dǎo)致市場信任度直線下降、粉絲群體流失與藝人受挫,可謂得不償失。
有業(yè)界評論指出,RBW 此舉也暴露出中小型娛樂公司在品牌轉(zhuǎn)型上的浮躁,一味追趕 AI 風(fēng)口,卻忽視了偶像關(guān)系的核心資產(chǎn):粉絲對藝人的情感投射,以及公司對藝人品牌的長期培育。
短視逐利而損害這兩類關(guān)系,則終將自食惡果。
03 誰來決定親密的尺度?
AI 偶像并不罕見。
早在 2010 年代中期,Hatsune Miku 等虛擬偶像便已完成從 " 技術(shù)產(chǎn)物 " 到 " 文化角色 " 的躍遷;日本市場也早已培育出虛擬 YouTuber、AI 歌姬等成熟品類,粉絲樂于接受 "TA 們本就不真實 " 的前提,與其建立獨特的投射關(guān)系。
這類虛擬形象并無現(xiàn)實對應(yīng)人物,公司對其擁有完全的控制權(quán)和 IP 歸屬,公眾的關(guān)注點主要集中在 " 技術(shù)實現(xiàn) " 和 " 人設(shè)魅力 ",而非倫理風(fēng)險。
前者允許用戶創(chuàng)建包括明星在內(nèi)的各類角色 AI,自娛自樂為主,系統(tǒng)會過濾露骨語句,強(qiáng)調(diào)這些 AI" 不是本人 ";而后者則一度鼓勵用戶與 AI 伴侶發(fā)展戀愛甚至情色關(guān)系,最終因過界問題引發(fā)爭議,在 2023 年被迫調(diào)整 " 成人模式 " 權(quán)限。
Almigo 的爭議,正是在于它同時違背了法律與倫理的兩重準(zhǔn)線——既動用現(xiàn)實偶像的圖像與語音,又在內(nèi)容上模糊互動界限,制造有意的曖昧空間。
在法律尚未完全明確 " 數(shù)字人格權(quán) " 的當(dāng)前階段,一個至關(guān)重要的問題被擺上臺面:公司是否有權(quán)以 " 授權(quán) " 為名,讓 AI 分身替藝人進(jìn)入模糊的親密關(guān)系場?哪怕合約上允許合成語音或形象生成,是否也應(yīng)單獨征得偶像本人對具體應(yīng)用場景的知情同意?
不少行業(yè)觀察者指出,這種合成互動如果涉及性暗示,其倫理風(fēng)險幾乎等同于未經(jīng)授權(quán)的深度偽造內(nèi)容。
此外,作為最常被 AI 擬像瞄準(zhǔn)的群體,女性偶像的權(quán)利邊界也因此再度受到挑戰(zhàn)。即便 Almigo 中不存在直接裸露或猥褻對話,技術(shù)手段的開放性本身就為濫用埋下隱患—— AI 模型極易被二次 " 訓(xùn)練 " 說出低俗話術(shù)、生成性別暴力內(nèi)容,成為對偶像的另一種深偽式傷害。
更重要的是,偶像本就是高度依賴公眾情感想象的存在。一旦與 AI 形象之間產(chǎn)生混淆,她們所面對的不只是權(quán)責(zé)的模糊,更是人格邊界和情感認(rèn)知的持續(xù)侵蝕。
粉絲愿意為情感投資,但這份投資從不是對算法的投注。RBW 這次的翻車,并非 AI" 不可用 ",而是技術(shù)濫用。
技術(shù)可以突破場景,卻不能突破體驗的邊界。AI 確實為娛樂業(yè)帶來了前所未有的想象空間——數(shù)字人能讓偶像同時出現(xiàn)在千千萬萬粉絲面前,虛擬偶像可以 24 小時營業(yè) " 永不塌房 ",但偶像產(chǎn)業(yè)始終建立在真實連接之上,有著脆弱而珍貴的情感生態(tài)和倫理底線。