你能一眼分辨出屏幕那头是真人还是AI？一张“身份证照片”背后，是否真的对应一个活生生的人？一段看似亲密的聊天记录，又会不会是批量生成的虚假素材？

这些疑问，正在变得不再遥远。随着生成式AI技术飞速发展，伪造身份、批量生产低质内容、仿冒名人、AI托管账号等行为，已经在多个内容平台悄然蔓延。普通人面对一张图片、一段视频，越来越难以判断其真伪。而平台作为内容分发的守门人，如何划定AI使用的边界，已成为无法回避的考题。

4月27日，小红书在北京举办了首届AI治理开放日，并首次完整输出平台对AI内容的治理主张。这份主张不仅明确了“鼓励什么”，更清晰列出了“反对什么”——从AI辅助创意到AI造假的红线，从主动标识到违规封禁，小红书试图在“人”与“AI”之间，为内容社区找到一条不丢失真实底色的路。

鼓励AI成为“创意放大器”，而非“造假流水线”

在许多讨论中，AI常被简单标签为“取代人类创作”的威胁。但在小红书的治理框架里，AI首先被看作一种工具，关键在于如何使用。

平台鼓励的方向很具体：创作者以AI为创意放大器，生产有审美、有叙事、有真实信息增量的优质内容。比如利用AI将复杂知识变成可视化科普，让难懂的数据变得直观；用AI创作有辨识度的虚拟角色，或对已有IP进行有亮点的二次创作；借助AI进行视觉创作，产出艺术插画、电影感短片等。

创作者@一方画猫呢 视频截图

央美国画毕业生@一方画猫呢的案例颇能说明问题。她专攻宋代院体画，一幅手绘作品需要近一个月的精细打磨。过去，她限于动画制作能力，这些静态画作无法被生动呈现。如今，AI帮她突破了“画不能动”的技术瓶颈——当她画的小龙猫实现穿云而过的效果时，她笑称“一下子感觉来了一个动画团队”。但核心仍然是她自己：画面的原创性、核心想法和每一笔手绘，都由她亲手完成。AI扮演的，是创作最后阶段的视觉效果放大器。

这正是小红书所定义的“AI良性应用”：AI放大人的能力，而非替代人的判断与审美。

四类“零容忍”行为：从AI造假到AI托管账号

与“鼓励清单”对应的，是一份明确的“禁止清单”。小红书首次梳理出四类平台坚决反对的AI行为：利用AI违规运营、利用AI造假、利用AI侵权、利用AI进行低质创作。

其中，最引人关注的是对“AI托管账号”的打击。所谓AI托管，是指账号完全交由AI自动运营——自动生成内容、自动回复评论、自动模仿真人互动，背后没有真实人类参与。这类行为被平台视为破坏社区秩序的典型。今年以来，小红书已处置AI托管账号超80万个。

另一类高发问题是AI造假。包括利用AI仿冒名人、虚构人设、伪造个人经历、编造虚假信息，或是恶搞经典作品、借热点进行低质营销。这些内容不仅欺骗用户，也挤压了真实创作者的生存空间。据统计，今年以来小红书累计处置AI造假笔记近15万篇。

此外，平台反对利用AI侵犯肖像权、著作权；反对利用AI批量生产同质化内容、生成猎奇博眼球的极端画面，或传播不良价值观。对于违规账号，平台采取梯度处理——从限制曝光、警告到封禁。明确由AI托管、无真实人类参与的账号，将直接封禁。

“AI标识”不是流量惩罚，而是知情权保障

在鼓励与反对之间，还有一个关键动作：标识。

小红书在治理主张中再次强调，所有AI参与创作的内容均需主动标识。平台会在识别后为未标识内容统一添加AI标识贴条。小红书的用户信任中心负责人吉吉特别说明：AI贴条本身不影响流量，非违规内容不会因此被限流。平台已上线针对AI标识的申诉通道，创作者如有异议可以反馈。

这一设计的逻辑是：标识不是为了惩罚，而是为了保障用户的知情权。用户有权知道，自己看到的是一段完全由人类创作的记录，还是借助AI生成的画面。这种透明度，是社区“真诚分享”价值观在AI时代的延续。

普通人的风险：AI跑得快，规则和意识要跟得上

AI科普创作者@大师的AI小灶 在开放日现场分享了一个观点：“AI跑得很快，但人的辨别意识和平台规则需要同步跟上，这个时间差正是普通人需要警惕的风险空间。”

他指出，AI幻觉、AI造假等议题并非遥不可及的技术讨论，而是普通人每天刷内容时可能遇到的陷阱。一张伪造的身份证截图、一段AI生成的“熟人”语音、一篇看似真实的“亲身经历”笔记——如果平台缺乏系统治理，用户极易上当。

从这个角度看，小红书的AI治理主张并非“可有可无的选择题”，而是“必须做的功课”。今年以来，小红书在AI治理上持续加码：1月发布《社区公约2.0》，明确反对虚假、鼓励AI标识；2月发布加强自主标记AI生成标识的公告；3月打击AI托管运营账号；4月首次完整输出AI治理主张。这一系列动作，形成了一条从原则到细则、从宣导到执行的清晰链条。

当AI越来越像人，平台如何守住“人”的价值？

小红书的这次主张发布，放在更大的行业背景下看，具有标志意义。目前，各大内容平台对AI生成内容的治理仍处于探索阶段——有的平台对AI内容不加区分地“流量灌溉”，有的则简单粗暴地下架所有疑似AI内容。小红书选择的是一条更精细化的路：不排斥AI，但要求AI必须服务于人，而不是替代人、欺骗人或淹没人的真实表达。

“小红书社区是真实的人与人之间的连接。”吉吉在分享中重复了这一判断。在AI生成内容可以以假乱真的时代，守住“真实”二字，不再是价值观口号，而是需要具体规则、识别能力、处罚机制和用户教育共同支撑的系统工程。

这份治理主张的发布，某种程度上也是一次对内对外的沟通：对创作者，它给出了清晰的创作边界和鼓励方向；对用户，它承诺了知情权和真实社区的维护；对整个行业，它提供了一个可参照的治理框架——不是非此即彼地拥抱或拒绝AI，而是在技术的狂奔中，为“人”的价值留出不可替代的位置。