由于虚拟伴侣产品缺乏青少年保护措施,人们对人工智能社会治理的担忧日益加剧
最近,几款基于人工智能的虚拟伴侣应用因合规风险和伦理问题而受到媒体的密切关注。调查显示,诸如“Hoshino”、“Mingdao”和“EchoMe”等情感陪伴类应用在用户数量迅速增长的同时,却存在广泛的安全漏洞。 其中部分应用不仅通过付费解锁亲密场景来吸引用户,还未能充分保护未成年人,存在“青少年模式”设置易被绕过、AI生成内容标注不明确等问题。

从企业格局来看,这些应用背后的公司往往是新成立的企业,且股权结构高度集中。 “Hoshino”背后的运营主体——上海吉智纵横科技有限公司成立于2025年4月,由上海吉智五杰科技有限公司全资持有。“Mingdao”背后的公司, 上海明道人工智能科技有限公司成立于2024年3月,由洪一秀和葛文兵共同持有。 “EchoMe”由杭州尼香信息技术有限公司运营,该公司成立于2022年1月。尽管这些初创企业的经营范围包含人工智能软件开发和电信增值服务,但其角色设计和互动内容却常常濒临低俗,其中不乏大量形象可疑的角色。

经历了爆炸式增长后,AI伴侣行业目前正处于治理的关键阶段。随着生成式AI技术的普及,情感模拟已成为应用最快的领域,但也最容易出现灰色地带的操作。 此次针对性的监管行动表明,AI社交产品将从无节制的扩张转向合规驱动的发展。提高算法透明度并加强内容审核体系,将成为企业在此领域生存的关键门槛。
相关文章
Suno 在法律诉讼中为歌曲添加水印
Suno,这个允许用户生成由人工智能创作的音乐的平台,近日推出了新功能,包括为平台制作的曲目添加标签、限制下载,并更新社区标准以遏制未经授权的复制品。这些更新是在Suno面临多家唱片公司和艺术家组织提起的多起诉讼之际推出的。在博客文章中,联合创始人兼首席执行官Mikey Shulman概述了核心原则,强调该平台旨在促进原创创作,同时扩大更广泛受众对人工智能音乐工具的访问权限。一个主要的争议点在于,用户将人工智能生成的歌曲上传到其他流媒体服务并通过操纵系统获取收入。Suno表示,现在将采用音频
马斯克承认 Grok 构建过程中泄露了用户代码,并承诺清除所有历史数据
埃隆·马斯克直接回应了围绕 Grok Build 的隐私争议,首先以简单的“True”(属实)确认了该事件的有效性。他承诺,此前上传至 SpaceXAI 的所有用户数据将被永久删除,并表示“不留一个字节”。这是人工智能行业首次由主要科技领袖公开承认错误并主动删除用户数据。安全研究人员的“钓鱼”测试揭示了数据泄露的具体证据此次争议源于独立人工智能安全研究人员 @cereblab 的一份报告。SpaceXAI 推出的 AI 编程助手 Grok Build 在其官方网站上声称其“优先本地运行,代码
美国股市触及历史里程碑,人工智能与航空航天巨头准备开启万亿美元时代
埃隆·马斯克、山姆·阿尔特曼和达里奥·阿莫迪,这三位科技领域的巨头,正推动其各自的企业迈向首次公开募股(IPO)。随着 SpaceX、OpenAI 和 Anthropic——这三家估值接近万亿美元的行业巨头——即将上市,2026 年被预测将成为美国历史上新股发行规模最大的一年。这一历史性的资本激增已引起全球金融界的关注,成为检验公共市场吸收如此大规模资金能力的关键压力测试。这些主要融资活动的同步启动预计将打破 2021 年创下的 1560 亿美元纪录。超级独角兽的资本博弈每家公司上市的路径
相关专题推荐
评论 (0)
0/500
最近,几款基于人工智能的虚拟伴侣应用因合规风险和伦理问题而受到媒体的密切关注。调查显示,诸如“Hoshino”、“Mingdao”和“EchoMe”等情感陪伴类应用在用户数量迅速增长的同时,却存在广泛的安全漏洞。 其中部分应用不仅通过付费解锁亲密场景来吸引用户,还未能充分保护未成年人,存在“青少年模式”设置易被绕过、AI生成内容标注不明确等问题。

从企业格局来看,这些应用背后的公司往往是新成立的企业,且股权结构高度集中。 “Hoshino”背后的运营主体——上海吉智纵横科技有限公司成立于2025年4月,由上海吉智五杰科技有限公司全资持有。“Mingdao”背后的公司, 上海明道人工智能科技有限公司成立于2024年3月,由洪一秀和葛文兵共同持有。 “EchoMe”由杭州尼香信息技术有限公司运营,该公司成立于2022年1月。尽管这些初创企业的经营范围包含人工智能软件开发和电信增值服务,但其角色设计和互动内容却常常濒临低俗,其中不乏大量形象可疑的角色。

经历了爆炸式增长后,AI伴侣行业目前正处于治理的关键阶段。随着生成式AI技术的普及,情感模拟已成为应用最快的领域,但也最容易出现灰色地带的操作。 此次针对性的监管行动表明,AI社交产品将从无节制的扩张转向合规驱动的发展。提高算法透明度并加强内容审核体系,将成为企业在此领域生存的关键门槛。
Suno 在法律诉讼中为歌曲添加水印
Suno,这个允许用户生成由人工智能创作的音乐的平台,近日推出了新功能,包括为平台制作的曲目添加标签、限制下载,并更新社区标准以遏制未经授权的复制品。这些更新是在Suno面临多家唱片公司和艺术家组织提起的多起诉讼之际推出的。在博客文章中,联合创始人兼首席执行官Mikey Shulman概述了核心原则,强调该平台旨在促进原创创作,同时扩大更广泛受众对人工智能音乐工具的访问权限。一个主要的争议点在于,用户将人工智能生成的歌曲上传到其他流媒体服务并通过操纵系统获取收入。Suno表示,现在将采用音频
马斯克承认 Grok 构建过程中泄露了用户代码,并承诺清除所有历史数据
埃隆·马斯克直接回应了围绕 Grok Build 的隐私争议,首先以简单的“True”(属实)确认了该事件的有效性。他承诺,此前上传至 SpaceXAI 的所有用户数据将被永久删除,并表示“不留一个字节”。这是人工智能行业首次由主要科技领袖公开承认错误并主动删除用户数据。安全研究人员的“钓鱼”测试揭示了数据泄露的具体证据此次争议源于独立人工智能安全研究人员 @cereblab 的一份报告。SpaceXAI 推出的 AI 编程助手 Grok Build 在其官方网站上声称其“优先本地运行,代码
美国股市触及历史里程碑,人工智能与航空航天巨头准备开启万亿美元时代
埃隆·马斯克、山姆·阿尔特曼和达里奥·阿莫迪,这三位科技领域的巨头,正推动其各自的企业迈向首次公开募股(IPO)。随着 SpaceX、OpenAI 和 Anthropic——这三家估值接近万亿美元的行业巨头——即将上市,2026 年被预测将成为美国历史上新股发行规模最大的一年。这一历史性的资本激增已引起全球金融界的关注,成为检验公共市场吸收如此大规模资金能力的关键压力测试。这些主要融资活动的同步启动预计将打破 2021 年创下的 1560 亿美元纪录。超级独角兽的资本博弈每家公司上市的路径





首页






