抖音快手等平台出手清理劣质AI内容:创作者为何不能再靠“量产魔幻视频”博流量

内容总结生成中
你看见的,不仅是一个总结

短视频平台正在收紧对低质量AI内容的治理。据创业邦等媒体报道,此前走红的”AI雷军”骂人视频在抖音快速传播后被平台清理,这类用AI合成公众人物形象、配上恶搞或攻击性台词的内容,已被纳入重点处置范围。与此同时,用户在抖音、快手等平台刷到疑似机器生成的画面时,会看到”该图片疑似使用了AI生成技术,请谨慎甄别”一类提示。这些动作背后,是平台自2025年以来陆续落地的AI内容管理规则。对靠批量生产猎奇、魔幻AI视频博流量的创作者来说,这条路正在变窄。

手机短视频画面角落出现AI生成提示标签的示意场景

已确认的平台动作

把目前已公开的信息梳理一下,可以看到平台治理不是零散反应,而是成体系的持续动作。

抖音在2026年4月发布”AI生成不当内容及侵犯他人权益”专项治理公告,披露阶段性数据:2026年以来已累计下架AI侵权视频超53.8万条,依规处罚违规账号4000余个。其中AI仿冒蹭热类下架超36万条,AI肖像、AI声音类侵权内容处置8.5万条,针对”AI霸总”误导、诱导中老年人互动的不当内容清理超3万条、处置账号1300余个。公告明确两个重点方向:一是AI换脸、盗声及侵权带货,二是用AI”魔改”经典进而传播血腥暴力、色情低俗等内容。

快手这边,安全中心在2026年7月底公告整治”毒动画”进展,累计处置违规动画内容超3万条,多个屡次违规账号被永久封禁。所谓”毒动画”,指把经典动画做切片、二次创作或剪辑拼接,塞入暴力、血腥、恐怖画面,其中就包括利用AI技术恶搞经典动画形象的做法。这是快手”清朗·未成年人网络保护”专项行动的一部分,平台还对历史存量内容做了回扫清理。

标注提示则是另一条线。据公开报道,国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》自2025年9月1日起施行,要求AI生成的文字、图片、音频、视频等内容”亮明身份”,平台在审核时核验标识,对未标识或疑似生成内容添加风险提示。多家平台随之上线显式角标和隐式元数据标识。读者在短视频下方看到的AI提示,正是这套机制在传播端的体现。

治理为什么集中出现

这些动作集中出现,和生成式AI的扩散节奏直接相关。据《生成式人工智能应用发展报告(2025)》,截至2025年6月我国生成式AI用户规模已达5.15亿人。工具门槛的下降,让换脸、克隆声音、批量生成”抽象”或魔幻画面的成本大幅降低,一条猎奇内容可以在短时间内被模仿、复制并病毒式扩散。

这给平台治理带来现实难题。抖音相关负责人也承认,当前行业仍普遍面临AI生成内容判断难、AI声音识别能力不足等问题。平台采取的手段包括一键删除、加注提示、技术检测与人工核查结合,但识别相对内容生产存在滞后性——往往是某类内容已经扩散后,才被批量清理。换句话说,标注和删除是在和生产速度赛跑。

从官方层面看,治理方向也在延伸。据报道,中央网信办”清朗·整治AI应用乱象”专项行动第二阶段进展提到,治理重点已从AI服务源头扩展到内容传播与账号处置,涉及抖音、快手、微博、B站、小红书等多家平台,识别手段包括多模态识别模型以及动态扩充的人脸库、声纹库和违规样本库。需要说明的是,这些信息能确认的是治理方向和趋势,具体审核阈值各平台并不相同,仍应以各自最新社区规则和站内提示为准。

对创作者流量逻辑的实际改变

对内容创作者而言,最直接的变化是:靠低质量、猎奇AI内容博流量的路径正在收窄。以下几类内容按已公开的治理重点看,较容易被清理或限流。

  • AI换脸、盗声合成公众人物或普通用户:把他人肖像合成到低俗、恶搞场景,或克隆艺人声音做虚假带货,属于明确打击对象。
  • 仿冒、蹭热他人:用AI生成内容冒充真人、假借热点人物身份引流。
  • “魔改”经典、渲染暴力恐怖:对经典形象做AI恶搞并塞入血腥、低俗元素,尤其涉及未成年人保护时处置更严。
  • 程序化批量发布:完全脱离真人控制、靠脚本和AI批量生产的同质化水文,已被部分平台单独列为治理对象。
  • 该标未标、删改标识:使用AI却故意不标注,或删除、篡改、隐匿AI标识。

需要区分的是,这里被打击的不是”使用AI”本身。多份治理信息都指向同一判断:AI辅助创作可以正常使用,真正的高风险在于虚假、仿冒、侵权、低俗以及规避标识,而不是内容带不带”AI感”。这是趋势性的判断,不是对单条内容结果的保证,但方向足够清晰,值得创作者在选题阶段就纳入考虑。

投稿前可以调整的动作

落到具体操作,有几件事可以在发布前自查。

第一,按规则主动标注。使用AI生成或合成的内容,发布时应按平台要求打标,不要寄望于”平台检测不到”。被平台自动加注”疑似AI生成”提示,往往也意味着内容已进入更谨慎的分发或审核流程。

第二,核对素材权利与事实。涉及他人肖像、声音、经典IP形象的,确认是否有授权;涉及资讯、事件的,发布前核实真实性,避免用AI制造或放大虚假信息。

第三,重新评估选题方向。如果账号此前主要靠量产魔幻、猎奇、恶搞类AI视频获取流量,这类内容的清理和限流风险正在上升,继续押注同一路径的性价比在下降。把AI当作提升效率的工具,而非替代真人判断的捷径,是目前更稳妥的定位。

后续值得关注的方向

这轮治理仍在进行中,有几个点值得持续观察。一是各平台的识别能力和审核阈值会如何细化,尤其是AI声音识别等目前仍存难点的环节;二是标识规则在不同平台的落地差异,显式角标位置、隐式元数据要求并不完全一致;三是处置对象是否进一步从单条内容扩展到账号、MCN机构乃至相关服务。对创作者和运营者来说,比起追踪每一次热点清理,更实际的做法是把平台最新社区规则和站内提示当作日常参考,在投稿流程里固定一道标注与权利自查的环节。

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布或转载收集发布,发布内容都是作者本人发布,与本站无关。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。

给TA打赏
共{{data.count}}人
人已打赏
17 条回复 A文章作者 M管理员
  1. CloutChaserPro

    所以AI辅助剪辑算不算违规啊,有点怕误伤

  2. 窑工何

    魔改经典动画给小孩看的那种早该清了

  3. 自恋的猕猴桃

    最该管的是克隆声音带货那种,太能骗人了

  4. 独对夜空

    标注这块各平台要求不一样,发之前真得挨个核对

  5. 碧海豚

    那个AI雷军骂人视频我刷到过,确实离谱

❯
个人中心
购物车
优惠劵
有新私信 私信列表
搜索