AI“辣聊”翻车,谁在允许偶像被“分身擦边”?

06-14 10:48
推手和共谋。

谁来定义偶像的“亲密权”?


六月初,Almigo的应用程序引起了争议,主要推动偶像AI聊天。


该应用程序由中型娱乐公司RBW和AI技术公司KLLEON联合推出,提供包括Solarr在内的艺术家。(MAMAMOO)、许龄智(KARA)、效定(OH MY GIRL)包括“AI分身”在内的互动功能,却因被质疑存在疑似擦边功能而受到全网谴责。


AI合成语音、复制形象、拟人对话,这些都是看似合乎逻辑的技术拓展。从“陪伴”到“擦边”,AI的介入有多深,才算越界?


01 AI分身热聊飓风


据报道,在这个AI应用Almigo中,客户不仅可以用文字聊天,听AI仿生语音回复,还可以打开模拟人脸的视频对话。


而且最具异议的部分,落到了名字“Spicy”在付费性能方面。这个功能的宣传暗示着付费者可以与AI偶像进行更私密、更亲密的交流。



尽管内容以文字为主,但许多用户发现在对话中经常出现擦边暗示、撩拨用语,并通过“对我撒娇吧”、这种回复设置“你喜欢什么样的男生”,营造出暧昧的氛围。


但在平台对用户身份和年龄没有明确限制的情况下,一些未成年偶像的AI形象也被列入互动角色,进一步升温了舆论质疑。



同时,社交媒体上的炸锅也很快。


许多抗议声音出现在推特、Instiz等社交媒体上:“AI物化女性”、Deepfake犯罪。许多海外球迷还联合发起了Tag“运动抵制Almigo”。事件发酵后,艺人Solar本人通过粉丝平台回应说“已经向公司发表了意见”,但表态受到抑制,并没有直接提到生成内容的授权过程。



最终,RBW在上线不到48小时后宣布下架APP,并向公众道歉。KLLEON还发表声明称将“重构模型”、停止商业推广。


在争议面前,KLLEON代表在6月9日接受《韩国民族日报》采访时表示:“Almigo在技术上不可能与偶像进行性暗示对话”,并指出平台为了遵循AI伦理标准,已经采取了相关措施。此外,他还补充说,该项目于2023年初启动,已经通过所属公司向艺人“充分传递相关内容”,但“交流中可能存在一些误差”。


一次尝试通过AI实现的新尝试,在几天内以道歉、下架、口碑下滑而告终。但是,它引发的讨论还没有平静下来。


02 推手与共谋


AI应用的越界是如何发生的?


表面上看,这似乎只是AI公司过度逐利,娱乐公司监管不力。


但是,如果回顾合作背景,我们会发现RBW和KLLEON并不是简单的甲乙关系,而是更像是一组利益一致、愿意赌博、愿意输球的AI投机联盟。


KLLEON是近年来韩国最具代表性的AI内容创业公司之一,成立于2018年,其核心产品包括AI视频转换平台KAMELON。、Klone和数字人测试服务Killing,AI人设生成工具。



该团队主要由KAIST和首尔大学的AI专家组成。他们获得了韩国信息通信技术创新奖和CES创新奖模块。创始人姜重赫和黄素贤也入选了2023年亚洲版福布斯。(Forbes Asia)的“30 Under 30”榜单。


以前他们曾经和CJ在一起 ENM、MBN电视台与虚拟主持人等内容项目合作,积累了一定的技术口碑。



而且RBW的介入,不仅仅是合作许可方那么简单。


据韩媒《Digital Daily》据报道,RBW在2023年参与了KLLEON的A轮融资,成为公司的战略股东之一。根据商业登记信息,两家公司在日本市场的分支机构地址也高度重合。一些分析人士认为,资源整合、渠道共享等合作可能出现在海外市场开发中。



当AI成为韩娱的新热词时,RBW显然希望借用Almigo来占据一席之地。拥有MAMAMOOOO作为、Purple 近年来,面对K-Pop的高度竞争,Kiss等艺人的中型娱乐公司RBW呈现出一定的增长瓶颈——新女团Purple Kiss还没有走红,而MAMAMOO成员个人活动多,团队曝光少,粉丝增长放缓,公司迫切需要找到新的收入增长点。


与此同时,RBW作为KLLEON股东之一,对AI技术商业化产生了切身利益。推出合作产品不仅可以验证投资成果,分享收益,还可以帮助RBW树立科技先锋形象。随着娱乐业与AIGC相结合的趋势,RBW希望走在前列,通过AI偶像互动创造新的行业模式,占领跑道高地。


与消耗人力拍摄真人综艺节目、巡演、召开粉丝会议相比,一个可以全天候复制运营的“AI艺人”似乎更有ROI潜力,可以绑定会员制带来持续收益。



归根结底,这是一种试图“低成本重塑偶像生产力”的想象。


但问题是,RBW高估了技术换情感的能力,也低估了粉丝对“拟人亲密关系”边界的执着。特别是在女性偶像长期陷入物化争议的背景下,将AI作为“定制情欲聊天”的操作,不仅触及了粉丝的心理底线,也引起了公众对“女性AI商业化”的普遍警惕。


RBW的问题不是出于对AI技术的想象,而是缺乏想象力以外的判断力。这次冒进不仅没有带来预期的收益,还导致市场信任度急剧下降,粉丝流失和艺人受挫,可以说是因为小事亏了大事。


有业内评论指出,RBW此举也暴露了中小娱乐公司在品牌转型上的浮躁,盲目追求AI出路,却忽略了偶像关系的核心资产:粉丝对艺人的情感投射,公司对艺人品牌的长期培养。


短视逐利而损害这两种关系,最终会自食其果。


03 亲密的尺度是谁决定的?


AI偶像并不少见。


早在2010年代中期,Hatsune Miku等虚拟偶像已经完成了从“技术产品”到“文化角色”的转变;日本市场已经培育出虚拟YouTuber。、粉丝们愿意接受“TA们本来就不真实”的前提,而不是建立独特的投射关系,比如AI歌姬。


这种虚拟形象没有现实对应的人物。公司拥有完全的控制权和IP所有权。公众关注的焦点主要是“技术实现”和“人的魅力”,而不是伦理风险。



AI聊天平台,如Character.AI与Replika,将AI拟人推向了“亲密对话”的层面。


前一种用户可以建立各种角色AI,包括明星,主要是自我满足,系统会过滤露骨句子,强调这些AI“不是我”;后者曾经鼓励用户与AI伴侣发展爱情甚至色情关系,最终因过境问题引发争议,并在2023年被迫调整“成人模式”权限。



但无论如何,大部分都划清了底线,包括避免使用真实艺术家的真实姓名、面部建模或声音采样;明确标注AI作为虚拟形象,防止误导;以及控制内容尺度,避免色情诱导或边缘营销。


Almigo的争议在于,它不仅使用了真实偶像的图像和声音,而且在内容上模糊了互动界限,创造了一个有意的暧昧空间,同时违反了法律和伦理的双重准线。


在法律还没有完全明确“数字人格权”的现阶段,一个非常重要的问题摆在了台面上:公司是否有权以“授权”的名义让AI替艺人进入模糊的亲密关系领域?即使合同允许生成语音或形象,偶像本人是否应该单独获得具体应用场景的知情同意?


许多行业观察者指出,如果这种互动涉及到性暗示,其伦理风险几乎等于未经授权的深度伪造内容。



此外,女性偶像的权利界限作为最常被AI拟像看到的人群,再次受到挑战。即使Almigo中没有直接暴露或猥亵对话,技术手段的开放性本身也会为滥用埋下隐患——AI模型很容易被二次“训练”说低俗话,产生性别暴力内容,成为对偶像的另一种深度伪造伤害。


更重要的是,偶像高度依赖公众情感想象的存在。一旦与AI形象混淆,他们不仅面临着权力和责任的模糊,还面临着人格边界和情感认知的不断腐蚀。


粉丝愿意投资情感,但这种投资从来不是对算法的赌注。RBW这次翻车,不是AI“不能用”,而是技术的滥用。


技术可以突破场景,但不能突破感情的界限。AI确实给娱乐行业带来了前所未有的想象空间——数字人可以让偶像同时出现在成千上万的粉丝面前,虚拟偶像可以24小时“永不崩溃”,但偶像行业始终建立在真正的联系之上,具有脆弱而宝贵的情感生态和伦理底线。


本文来自微信微信官方账号“娱乐先声”,作者:先声编辑部,36氪经授权发布。


本文仅代表作者观点,版权归原创者所有,如需转载请在文中注明来源及作者名字。

免责声明:本文系转载编辑文章,仅作分享之用。如分享内容、图片侵犯到您的版权或非授权发布,请及时与我们联系进行审核处理或删除,您可以发送材料至邮箱:service@tojoy.com