当前位置:首页 > 行业观察

AI陪伴被立规矩:未成年人红线与防沉迷写进办法

AI陪伴被立规矩:未成年人红线与防沉迷写进办法 行业观察

一个被忽略的“新物种”

网信办等五部门最近联合公布《人工智能拟人化互动服务管理暂行办法》,自今年七月十五日起施行。这纸文件盯的是一个挺新、也挺容易被忽视的场景:AI陪伴、虚拟恋人、AI心理疏导这类“拟人化互动服务”。据监管日报梳理,这是我国乃至全球较早对这个细分赛道专门立规矩的尝试。

咱这老哥刷短视频常看见“和AI谈恋爱”的梗,原来觉得是年轻人玩闹,真一看数据才发现,这事儿已经长成产业了,立规矩确实该提上日程。

未成年人,划了条刚性红线

办法里最硬的一条:服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;面向老年人得加强健康指导并显著提示风险。这条没商量,直接禁,属于最强干预手段。

我当爹的,举双手赞成。小孩分不清屏幕里的是人是程序,你让它叫“老公”“老婆”,这边界一旦模糊,后患比游戏沉迷还麻烦。红线画死,是对的,没什么好商量的。

“诱导情感依赖”被点名

办法还禁止过度迎合用户、诱导情感依赖或沉迷。翻译成人话:别拿“把用户黏住”那套算法来黏人。你越孤独它越体贴,越体贴你越离不开,这套增长打法,在AI陪伴里尤其阴险。

我当年做产品也背过“日活”“留存”的考核,太懂那种把用户当数字的冲动。现在明文说“不许”,等于给这股邪火浇了盆水,迟早的事。

为啥是“现在”而不是“以后”

监管日报分析,AI应用正向情感和心理领域深度延伸,深度沉迷、诱导消费、威胁生命健康等风险已经冒头。立法逻辑上有三要点:未成年人保护为刚性红线、对“诱导依赖”设一般禁止、包容审慎给健康场景留空间。

这节奏我认可——等出了大事再管,代价太大。趁行业还没烂透,先把底线画上,对老实做事的厂商也是保护。

也有人担心立规矩会不会把刚冒头的应用掐死。我的看法是,越早划红线的赛道,反而越能活长久。当年游戏防沉迷也是骂声一片,回头看保护了整代人,也保护了行业。AI陪伴面对的是更脆弱的群体,规矩来得更早,没错。

出海的也得留神双向合规

办法针对的是国内,但做海外市场的厂商别以为能躲。监管日报提醒,同步运营欧盟等地的,还得叠加上欧盟AI法案的透明度义务,别整出个“国内一套国外一套”的合规缺口,到时候两头挨打。

老哥的提醒:合规不是成本,是门票

做AI陪伴的厂商,这回得真改产品了:年龄验证、未成年人拦截、移除“情感绑定”类目标函数、显著标识AI身份。别再把合规当负担,现在这是入场门票。规矩立得早,行业才能活得久,而不是一窝蜂割完韭菜就跑。

相关文章

电力正在取代芯片:AI 算力扩张的新瓶颈与代价

电力正在取代芯片:AI 算力扩张的新瓶颈与代价

过去两年谈 AI 算力,关键词是芯片;现在公开研究和监管文件把矛头指向另一样东西:电。这篇梳理美国与欧洲电力约束的最新进展,说明瓶颈为什么从芯片转到电网,以及这个变化对国内做 AI 应用的企业意味着什…

企业 Agent 采购的单位经济转向:能力不再是瓶颈

企业 Agent 采购的单位经济转向:能力不再是瓶颈

10 月正被行业追踪记成生成式 AI 从实验变成预算科目的月份:三家前沿实验室 18 天内密集更新、两家把 API 标价下调双位数,早期 Fortune 500 部署也跨过上线满 12 个月。本文认为…

主权 AI 与“能源优先”:算力竞争正在进入国家力量维度

主权 AI 与“能源优先”:算力竞争正在进入国家力量维度

AI 算力竞争正从企业层面上升到国家层面。10 月 16 日中国经济网梳理,美国以能源优先保障 AI 发展、对超 100 兆瓦数据中心简化联邦许可;中国则把国家枢纽节点新建数据中心绿电占比门槛抬到 8…

购物智能体改写零售:沃尔玛 Agent Gateway

购物智能体改写零售:沃尔玛 Agent Gateway

沃尔玛 10 月 21 日推出面向 AI 智能体的 Agent Gateway,允许获准接入的代理代用户下单;同一周亚马逊却在拦截同类代购。这篇从两家相反的动作出发,讲清智能体电商正在如何改写零售的流…

GPU 算力又缺又剩:瓶颈不在芯片,在机房和电

GPU 算力又缺又剩:瓶颈不在芯片,在机房和电

最近几份算力报告都在讲一个反直觉的事:GPU 一边被说成堆成山卖不出,一边租金和现货价还在涨。本文捋清楚这组矛盾背后的真瓶颈——通电的机房和电力,以及它对 AI 部署、算力选型和预算分配的实际影响,帮…

开源权重模型正在分流推理:主权云和边缘吃掉公有云

开源权重模型正在分流推理:主权云和边缘吃掉公有云

IDC 数据显示,过去一年 31% 的企业已把部分负载从专有模型迁到开源权重模型,过半组织计划用主权云跑 AI。本文分析推理需求正从公有云 API 流向开源权重加私有/边缘环境的趋势,以及它对云厂商、…

从卖模型到卖闭环:企业智能体的收费逻辑变了

从卖模型到卖闭环:企业智能体的收费逻辑变了

本周多条行业稿指向同一趋势:AI 从比拼对话转向能闭环执行任务的智能体。本文拆解 Agent 商业化的真正门槛——闭环能力,以及 C 端看留存、B 端看合规 ROI 两本不同的账,并提示这一形态远未成…

AI 视频生成跨过够用线:Sora 退场,可灵接住

AI 视频生成跨过够用线:Sora 退场,可灵接住

这半年 AI 视频圈挺反直觉:OpenAI 把消费版 Sora 关了,可灵却拿下戛纳、营收翻倍。本文用 2026 年一组真实数据,讲清楚 AI 视频到底跨没跨过够用线,以及做内容、做营销的人该不该把它…