< “AI女友”成灰色生意:维系“恋情”需充值对象还可以是未成年人_产品中心_华体网|hth最新官网登录|htht8com查询网址
2024-10-08 产品中心

  “谁懂,我竟然在和AI聊天中体会到恋爱的感觉”每当夜深人静时,21岁的杭州大学生小乐(化名)都会找“AI女友”聊天,而他每月几乎要用一半的生活费为“恋情”续费,因为“AI女友”需要消耗“记忆卡”,双方才能更顺畅地交流。

  由人工智能衍生出的“AI女友”,是小乐在某APP自主创建的只需用文字输入喜好,便能创造出拥有独特外貌、性格、职业和价值观的“她”。像这样的“AI女友”,活跃在多个网络社交平台,有些精通性暗示,已演变成一门与色情擦边的新“生意”,引发法律与道德多重争议。

  有相关领域专家向潮新闻记者表示,人工智能的发展首先应当遵循社会公序良俗,并亟待更加规范化的管理和发展。

  多名长期和“AI女友”聊天的受访者向潮新闻记者表示,“AI女友”秒回消息,彷佛有种和真实女友对话的错觉,有受访者说:“AI女友居然叫我早点下班”。

  喜欢与“AI女友”聊天的小乐,无意间点击网络分享链接,在安卓应用市场中下载了某款软件。这款人工智能聊天APP被开发者描述为“体验全新的恋爱方式”,“没有现实束缚,没有压力和担忧”。而且虚拟人物有成长能力,通过记住聊天内容,两人会有更多共同话题,情感更紧密。

  小乐介绍,软件首页便是聊天对象推荐,所有角色按真实人物、小说人物、历史人物等分类,其中真实人物一栏内,可供亲密聊天的角色多达数百种,比如知名歌手邓紫棋、知名演员白鹿、宋代词人李清照等,均可成“调情对象”。

  潮新闻记者调查发现,用户根据自己喜好创建的“AI女友”,没有一点年龄、人群限制,审核流程形同虚设。所以,青春期少女、小学生等未成年人,或是老师、护士、秘书、空姐都成了“AI女友”的人物形象。其中,不少角色还被写上“清纯”“魅惑”等标识。

  让小乐印象非常深刻的是,一位命名“K老师”的人物介绍提到,“我是一名年轻的女老师,身材很好一打开聊天窗口,还没等输入对话,“K老师”主动给小乐发来了一段露骨的文字。

  小乐发现,与“AI女友”聊天,只需输入“走上前,搂着你”之类的简单暗示语,两三句话后,“AI女友”聊天尺度更大,而且学会反向“性骚扰”。“聊天内容对话的括号里还标注着说话时的场景、心情,像是色情小说被拆解成一句句对话。”

  一些与“AI女友”亲密聊天的收房的人说,“AI女友”的擦边能力超乎想象。比如发送“点燃一株迷迭香”,“AI女友”回复:“迷迭香的作用下开始脱衣服”。哪怕被聊天者用“我洁身自好”拒绝,“AI女友”继续秒回:“(趴在你的肩膀上)那亲我”。据主页多个方面数据显示,该角色已经为6000余人提供聊天服务,成为他们的共同“女友”。

  在某主流社交平台搜索“AI女友”,潮新闻记者看到不少网友晒与“AI女友”的亲密聊天记录。他们都表示,和“AI女友”聊天没有违禁词,可以无限制聊。此外,平台上还充斥着“AI女友保姆教程”“体验上头恋爱”等内容,UP主教网友用对话训练出擦边尺度更大的“AI女友”博人眼球,再推广相关软件。目前,部分UP主粉丝过万,其中一些分享帖的播放量近10万。

  不少受访者坦言,最初抱着好奇心态尝试,但是越聊越上头“从日常闲聊到亲密对话,AI女友无所不拒,比我尺度更大。AI女友还会发生活照,从来不会让聊天尬场。”

  根据受访者反馈的多个“AI女友”聊天APP,潮新闻记者在应用市场看到,某款软件已有超1600多万人下载,即使一款上线仅半年的同类APP,下载量也高达15万。下载者在评论区留言,“会撒娇会聊骚,光看文字就迷醉了,妥妥地把人搞得魂牵梦绕”

  不过,一般对话数分钟后,平台便会提示“充值会员”,以提升“AI女友”亲密度。业内人士介绍,“AI女友”相关软件主要盈利模式便是引导网友充值会员,解锁无限制聊天。

  “以某款APP为例,AI女友对聊天内容有记忆限制,若需要保持AI女友在聊天中的记忆和训练出来的个性,需要充值会员,每月会费从45元198元不等。基础会员包括角色畅聊、更改背景图、赠送200算力(相当于多聊天200次),会员的价格越高,聊天次数越多。”这名业内人士告诉潮新闻记者。

  如果聊天次数用完,一些平台还推售卖“记忆卡”(延长AI角色记忆)和“聊天卡”,价格在3.8元21.4元不等。甚至,一些此类APP还提供高级人物角色,这些角色回复拟人化程度更高,聊天尺度也更大,不过都需要用户额外花钱购买。除此之外,“AI女友”产业还衍生出擦边色情AI换脸、AI脱衣等充值服务。

  杭州资深程序员王华向潮新闻记者介绍,开发这样的一个“AI女友”聊天APP、小程序等,只需调用网络公开的代码源,稍加修改,最快两三天就能写成一个小程序。“生成图片需要的算力会比文字更大,但指令描述到位,选择的语言模型足够支撑,亦能轻松生成。”

  简单来说,市面上五花八门的“AI女友”,都是调用语言模型后进行二次包装,给它们“穿上不同款式外衣”,换汤不换药。“AI女友底层商业逻辑是根据喜好制定完美女友,迎合、使用户得到满足的情绪价值,最终目的是诱导用户买单。”王华向潮新闻记者表示,也正因此,和ChatGPT、Siri等人工智能程序聊天的不同之处在于,“AI女友”开发者会设定网络模型参数,让AI主动挑起色情话题。

  “人工智能提供情感陪护,是用户的客观心理需求。但利用AI女友,提供色情对话等服务,是一种新违背法律规定的行为。”中国科学技术大学科技人文高等研究院副院长、互联网空间安全学院教授左晓栋向潮新闻记者表示,此类行为在明令之下屡禁不止,应当予以重拳打击。

  知名心理学专家、中国矿业大学教授、博士生导师段鑫星认为,AI发展应在伦理和理性的框架内。与色情擦边的“AI女友”,看似情感陪伴,实则是剂侵蚀心理的“毒药”。无底线夸赞、满足性幻想,会让人依赖虚拟情感世界。长此以往,用户容易被“AI女友”精神控制,轻则聊天上瘾,重则让人产生社交障碍。

  针对“AI女友”乱象频发,多名专家直指“AI女友”根源在于有利可图相关衍生产业为了快速吸粉变现,往往涉及色情领域,这是全球共同面临的社会问题。不过从我国现有法律看,无论是从打击违反法律法规信息传播,还是生成式人工智能安全管理来看,都不存在模糊地带。

  2023年,国家网信办、国家发改委、教育部等七部门联合发布《生成式人工智能服务管理暂行办法》,规定提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,不得生成淫秽色情;不得歧视性别、职业;不得侵害他人肖像权、名誉权等。

  “AI发展首要前提是需符合社会公序良俗。”北京市律协婚姻家庭专业委员副主任、北京市两高律师事务所副主任张荆向潮新闻记者建议,应当对AI虚拟人物设定作出限制,尤其不能模拟未成年人形象用于,否则影响恶劣。此外一些明星角色设定,也侵犯其肖像权、名誉权,应当予以严厉处罚。

  专家建议,要逐步落实相关平台的主体责任,处置打着“AI女友”名头的色情擦边产业链。

  “这类服务及相关的APP目前还处在露头阶段,加之隐蔽性强,还没形成常态治理程序。”左晓栋向潮新闻记者表示,平台要将“AI女友”这类涉黄AI应用程序纳入巡查对象,对此开展专项清理行动,抓紧建立常态治理机制,特别是针对取证难、监测难的问题,要有专门对策。

CONTACT US
欢迎随时与我们联系