主动推出AI代管账户的小红书为何先行一步？

维系小红书公共氛围的真实体验和情感只能从人民那里获得。在 OpenClaw 越来越受欢迎、“龙虾孵化场”的安全性仍然受到质疑的时候，使用 OpenClaw 等人工智能工具创建的人工智能管理账户悄然进入了主流内容社区。在此背景下，小红书发起了首次针对AI托管账户的攻击。这也是主流平台首次明确规范人工智能代理工具在内容社区的滥用行为。作为一个以真人分享起家的UGC社区，小红书一直以诚实、真实为基础。如果人工智能代理试图侵犯社区的可信度，就会侵犯平台的最高利益。小红书社此举不仅是为了保护自身生态系统，也是为了及时纠正行业混乱的局面。开源神器 OpenClaw 的推出一名政治情报特工，最近在世界范围内引起了轰动。 “龙虾农场”一词迅速成为科技界的热门话题，因为它的图标类似于小龙虾。与只能提供交互的传统AI助手不同，Lobster的主要优势是能够执行“动手任务”。作为一个超级个人助理，OpenClaw不仅可以与你互动，根据你的指令完成任务，而且它还可以“控制”你的电脑，自动检索各种数据完成复杂的任务，并且24小时保持在线。 《龙虾》代表了人工智能从对话到执行的一些技术飞跃。也就是说，人们对于Agent的使用理解门槛已经降低了。只需要自然语言指令就可以直接控制计算机并完成相关操作。很快，一场“龙虾热潮”爆发并蔓延开来。如何准备和饲养龙虾已成为网上最热门的话题社交媒体。然而，仅仅几天后，人们开始担心“龙虾”可能导致信息泄露的风险。 3月10日，国家互联网应急中心对OpenClaw安全应用发出风险提示，指出OpenClaw的默认安全设置非常薄弱，攻击者一旦发现漏洞，很容易完全控制系统。这也意味着，对于没有专业技能的普通用户来说，如果网络攻击者恶意利用OpenClaw漏洞，就等于将自己家门的钥匙交给了路人。在蝗虫安全争论中，使用 OpenClaw 等人工智能工具创建的人工智能管理账户已经悄然渗透到包括小红书在内的主要内容社区。什么是AI托管账户？这意味着用户使用人工智能托管模型来操作他们的帐户，该模型通过技术手段自动生成内容并发布注释，模拟真实的人类n 评论、私信、群聊等场景交互。例如，在小红书的账号“网络螃蟹”中，账号的角色设计、创作以及日常操作都是由AI操作完成的。虽然模仿真人面部表情，但由于信息同质化严重，真实性无法验证，因此被禁止。目前，小红书已对这些批量操作的AI管理账号采取官方措施。 2026年3月10日，小红书发布关于打击AI托管交易账户的治理公告，严禁使用技术手段。利用科技手段模拟真人生成不切实际的内容、进行虚假互动或开放举报渠道。用户可以通过注释或帐户页面上的报告功能报告可疑的人工智能管理帐户。公告还提到将再次采取的具体管控措施人工智能管理账户： 1. 偶尔使用虚假人工智能管理帖子、注释或互动的普通账户。根据违规严重程度，平台将采取警告、限制内容分发等渐进措施。 2、平台禁止直接通过AI Hosting工具注册、发布或完成交互，或首页所有公开备注均由AI Hosting发布的账户。至于如何判断账号是否被AI控制，接近小红书的人士告诉36氪，平台会根据账号的公开行为自动综合判断账号是否被AI操控，同时维护投诉入口。小红书此举不仅是主流内容平台首次针对AI托管账户发起攻击，也是主流平台首次明确规范内容社区中AI代理工具的滥用行为。真实性是钥匙。小红树为何选择先出手？原因并不复杂。 AI管理账户的存在与小红书一直声称的可信度相矛盾。以分享真人起家的如何吃UGC单元，小红书立足于“诚实、真实”。基于真人体验的UGC内容也是小红书的核心资产。曾经的社区氛围让小红书在互联网上战胜了竞争，也成为了今天的样子。 “人情味”的背后是用户真实的分享和表达。小红书官方透露，2025年1月至11月，小红书每天产生超过7000万条评论，每月约有2亿用户在小红书上搜索购物建议。但人工智能管理账户的逻辑是扩大规模并实现货币化。内容模板一旦运行，就会被批量复制，并最终通过广告和广告获利。直接链接到产品。这与真实人物的创作无关，更谈不上制作优质内容，其真实性令人担忧。然而，一旦上述账目全部算清，小红书的核心资产将不可避免地被逐渐侵蚀。 AI产生的同质化、低质量内容取代了真实UGC的分发空间，稀释了优质内容的权重。更重要的是，随着人工智能的微妙味道逐渐渗透到社区中，从长远来看，用户将很难知道它是真人还是屏幕后面的算法，最终影响用户对平台的信任，动摇社区的根基。正如社区是小红书一切价值观的基础一样，UGC内容仍然是小红书营销的基础。这也是小红“种草”诞生并验证gshu的原因。用户现在更加信任小红书内容并且更有可能接受e 作为消费者的行动。本质是用户更愿意相信普通人，而不是猖獗的广告。随着种草文化的扎根，小红书成为人们消费决策的终点。然而，人工智能代管账户却催生了一系列灰色产业链。当这些账号伪装成素人笔记来吸引流量变现时，真假难辨的内容不仅会损害用户信任，还会严重降低小红书的质量。品牌和卖家的正常运营。去年上半年以来，为了规范平台上的虚假营销内容，小红书内部成立了“虚假营销对策小组”，封禁了超过12百万个虚假账号。当时，这些账户仍然由人工团队管理。有了人工智能管理的账户，这个数字将呈指数级增长。对人工智能管理账户的打击对于小红书来说，也是一种“早期介入”。 AI托管账户示例 最终，小红书的治理活动旨在共同保护用户、创作者和平台。对于用户来说，小红书保护了真实的共享空间，防止用户被虚假内容欺骗。对于创作者来说，公平健康的创作环境得到维护，真人优质内容创造良性循环，获得应有的曝光和回报。就会这样。就我们的平台而言，我们坚持社区的核心价值观并忠于其根源。 AI代理的局限性在哪里？需要注意的是，小红书对AI代管账户的打压并不是对AI技术运用的一刀切做法。事实上，人工智能代理并不是祸害。在社区场景中，其合理应用可以为用户和创作者提供支持，丰富社区内容生态。这次的小红书平台禁止完全依赖AI托管进行发布、交互甚至管理的活动，但不限制创作者使用AI技术支持其创作。换句话说，平台真正关心的是内容创作背后到底是人类还是人工智能。毕竟，维系小红树群体氛围的真实体验和情感只能来自于人。人工智能无法取代人与人之间的情感流动。因此，如果一个AI代理试图违背社区的可信度，那就触犯了小红书无可超越的底线。技术可以帮助创建内容，但不能用来伪造现实或欺骗用户。社区的本质是“人与人之间真正的联系”，技术的价值在于支持而不是取代这种联系。人们希望人工智能成为一种为他们的生活提供帮助的工具，但他们不希望它不留痕迹地沉浸在他们的生活中。至少，他们不应该是决定你所看到的、指导你、欺骗你或影响你决定的人。尽管人工智能代理可以充当助手，但它们无法取代真人作为社区中的参与者。尤其是像小红书这样基于信任的UGC社区，用户寻求的是真正的经验交流、诚实的互动和人性化的温暖，而不是由算法或IA.E批量生产的“模板笔记”精心包装的虚假内容。如果这种信任被破坏，社区的凝聚力就会被破坏，平台的价值也会被破坏。从宏观角度来看，人工智能代理的大规模采用是必然趋势。从某种意义上说，人工智能和社区并不是对手。只有找到合理的应用限制才能实现共生。小红树的AI管理账号管理不仅保护了自身的社区生态，也为行业将AI代理技术应用于社区服务提供了启发。场景。最终，与人工智能的动态共生将是所有内容平台面临的未来挑战。今天只是一个开始。
特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）由网易号用户上传发布，网易号是一个仅提供信息存储服务的社交媒体平台。