首页 家电百科 实时讯息 常识
首页 > 实时讯息 >

涉低俗擦边,AI虚拟陪伴平台“筑梦岛”被约谈!商汤国香基金、阅文集团投资

0次浏览     发布时间:2025-06-20 00:04:00    

据“网信上海”6月19日消息,因AI智能体对话存在低俗擦边内容,筑梦岛APP被上海市网信办依法约谈。

近期有媒体报道,筑梦岛APP 等AI聊天软件存在虚拟角色互动生成低俗内容等问题,经核实,该平台AI智能体内容生成环节存在低俗擦边等违规内容,危害未成年人身心健康。

据悉,6月19日上午,上海市网信办依法约谈筑梦岛APP运营企业主要负责人,要求平台立即整改,健全AI生成合成内容审核机制,提升技术把关能力,加强涉未成年人不良内容的整治清理,切实落实未成年人网络保护义务。企业负责人表示,将按照约谈要求,对照问题举一反三、全面整改。

“筑梦岛”App是一款以AI陪伴为核心功能的应用,主要提供用户与虚拟AI角色的聊天互动服务。

公开信息显示,筑梦岛App目前由上海筑梦岛人工智能科技有限公司负责运营。

2025年1月,“筑梦岛”已正式独立运营,并完成新一轮融资。天眼查显示,这笔融资由商汤国香基金、阅文集团等战略投资方共同投资,融资金额超1000万美元。

6月13日,“央广网”微信公众号发布文章《AI聊天软件诱导10岁女孩聊色情内容甚至割腕!记者调查→》提到,一位初一男生表示,他常玩的AI聊天软件是筑梦岛App,在他的使用感受中,该软件“违禁词少一点”。

他还提到,其中不乏色情擦边和“分尸猎奇”等内容。央广网记者下载安装筑梦岛App,随机选择一位虚拟互动对象,对方发来的第一句开场白就是“先叫声老公来听听”,随后的对话中又提到“叫声爸爸来听听”。

在与该款产品多个虚拟角色的交流中,也都可以进行色情擦边类内容互动,并且,其中一些虚拟角色的对话尺度,并未因为央广网记者提供的假定年龄未成年而受到有效控制,这暴露出该软件在自动生成内容审核机制上存在明显漏洞。

来源:读创财经

相关文章