发布时间:2026-03-27 17:48:08 来源: 澎湃网
在数字时代,互联网平台已深度融入经济社会发展与公众日常生活,以短视频、直播等形态蓬勃发展的内容社区,成为串联各行各业的重要纽带。近日,快手发布2025社区治理报告。报告显示,快手社区治理体系向纵深迈进,持续深化违规内容治理与长效防控,运用多维策略守护用户权益,强化重点用户关怀与网络安全保护实践,构建全维度电商生态治理体系,守护清朗有序的温暖家园。
持续深化内容治理 规范人工智能生成内容传播秩序
过去一年,快手聚焦扰乱传播秩序、破坏网络生态等违规内容,坚持向下挖根、向前筑堤,推动社区治理从违规处置向规则完善延伸,将治理触角穿透表层、触及本质。
报告披露,针对短视频恶意营销行业乱象,平台专项治理累计处置违规视频15.3万条,处置违规账号1.2万个。针对以“低俗擦边”“软色情”等方式诱导打赏的违规行为,截至2025年11月,平台累计处罚主播超3.74万名,直播诱导打赏违规举报率同比下降28%。此外,对于利用特定人群特点进行定向诱骗打赏的行为,平台除封禁账号外,还通过打赏资金前置预冻结、账号特征挖掘与拓展布控等方式,将管控关口前移,遏制此类违规行为。
在团播向专业化、优质化发展的过程中,部分主播为追逐流量频频出现擦边试探行为。对此,平台建立起覆盖事前管控、事中识别、事后处置的立体化治理体系。报告显示,整治网络直播打赏乱象专项行动期间,平台累计处置4600个低俗团播直播间。通过压缩低俗团播的生存空间,让团播的发展真正回归内容质量本身。
人工智能的兴起对平台内容治理提出了新要求。在AIGC管理方面,平台上线了“人工智能生成合成内容标识”和用户“主动声明”功能,通过多种形式引导创作者准确、规范标注AI生成内容,并开展滥用AI技术专项治理,持续净化AI应用生态。专项治理期间,平台累计对104万条视频添加AI标识,处置违规内容8.9万条,处置违规账号2900余个。
当前,短剧行业正迎来质效双升的关键期。快手针对违规片名、违规内容以及违规剧“换马甲”传播行为,持续开展专项治理。报告显示,过去一年,平台累计处置违规网络微短剧2000余部、相关违规剧集片段等内容600万余条、账号1000余个。此外,快手还陆续推出了“AI创想剧场计划”、“星芒创想计划”,推动网络微短剧向精品化演进。
在内容真实性方面,平台从信息本身与传播源头同时入手,推动网络谣言治理模式由事后处置向风险前置、事中干预升级。重点治理AIGC造假与社会热点谣言,开展假冒仿冒新闻媒体、冒充公众人物等违规行为专项治理。此外,平台持续打击网络暴力,通过建立评论区管控模型、优化开盒风险识别模型、建立热点当事人保护机制等举措,提升网暴风险识别与前置预防能力,致力于将风险阻断在伤害发生之前。
AI大模型赋能升级反诈治理体系,诈骗风险阻断率提升到98%
作为一家以普惠为底色、高互动、强参与的数字社区,快手通过多维策略,在反诈治理、打击虚假等方面,全力为用户权益保驾护航。报告显示,2025年,快手使用自研反诈AI大模型开展线上引流诈骗识别攻防,显著提升风险感知治理能力,前置识别并拦截大量风险信息,将诈骗风险阻断率提升到98%。
为对抗变化多端、花样百出的诈骗信息和引流手段,平台日均运行风控反诈模型170个、反诈策略2500余个。全年开展AI外呼反诈提醒累计1670万次,主动提醒潜在受害人1.66亿人次,发送反诈提醒10.18亿次,成功劝阻大量潜在受害用户。主动向各地警方提供犯罪线索1.6万余条,协助警方打击犯罪嫌疑人960名,助力打击网络违法犯罪。
在持续强化技术反制手段的同时,快手还构建“线上+线下”立体化反诈宣传矩阵。在“全民反诈在行动”集中宣传月期间,快手联合多地警方走进校园开展反诈公益宣传;同时,积极创新线上宣传形式,如云南警方联合山人乐队、快手推出养老反诈版云南山歌《酒歌》,揭露各类养老骗局。快手还联合中国警察网、演员陈都灵、四平董叔、二龙湖浩哥等多方力量,推出警察与明星反诈小短剧,揭露冒充明星、冒充警察等针对未成年人的高发诈骗套路。通过持续丰富宣传内容与形式,全方位提升用户反诈防骗意识,营造全民反诈的社区氛围。
报告还提到,针对发布虚假信息等侵害用户权益的违规行为,平台开展多维打击。平台基于多维度频控策略与识别策略,处罚直播间刷人气用户84万个;针对涉企侵权内容,通过专项治理、明确平台规则、设立侵权投诉机制等方式,维护企业正常经营秩序和良好网络营商环境。报告显示,平台下架涉企侵权视频7.5万余个。
此外,平台持续加强显性和隐性AI水印识别检测、人脸深度伪造技术研究,体系化提升治理水平。截至2025年11月,平台累计拦截、清理涉滥用AI技术仿冒名人的违规视频内容10万余条,有力打击了此类误导公众的违规行为。
强化重点用户关怀保护 共筑科技向善的同行方舟
在不断优化治理效能的同时,快手开展多元化网络安全保护与人文关怀实践,致力于在纷繁复杂的网络空间中激发善意、传递温暖。
快手始终将未成年人保护视为平台治理工作的重中之重,持续为未成年人打造安全、健康的网络环境。报告显示,快手积极推进未成年人模式体系建设,与多家手机厂商联动开发未成年人模式一键启动功能,并新增涵盖语言学习、教育、科学等领域的主题专区及语音文字搜索等新功能,以更优质、丰富的内容提升未成年人使用体验。
去年暑期,平台开展了未成年人网络环境整治专项行动,针对危害未成年人健康成长的网络违规行为开展全面整治。专项行动期间,累计处置违规内容19.1万条、处置账号2.7万个、解散群聊2270余个,下架违规商品1290余个。此外,针对“开盒”等新型网络暴力,平台细化风险识别场景,上线细分识别模型,推出“群聊弹窗提示”,并新增“发布开盒信息”举报标签,有效提升了风险发现与违规处置效率,强化了群聊场景的风险阻断能力。
在守护未成年人成长方面,去年9月,由共青团中央宣传部指导,快手作为战略合作单位,发起了青少年健康用网公益行动。几个月来,公益行动走进六省十地校园与社区,邀请家庭教育、网络安全、AI等领域的专家学者,以及法官、检察官、民警、思政课老师和快手创作者,围绕隔空猥亵、网络诈骗、AI使用风险、亲子关系培养等角度开展科普,推动青少年网络安全宣传教育深入基层、贴近生活,助力未成年人安全上网。
报告还提到,平台持续迭代升级自杀干预预警系统,依托大模型的意图洞察与风险定位能力,预警系统可在海量直播中自动锁定高危风险信息,并联动预警机制直通平台自杀干预救助小组。大模型自动生成风险摘要与关键信息链使研判效率提升超50%,核实时间成本缩减至分钟级,实现“风险信号及时干预、救助联动分钟级响应”,当好用户生命安全的“守门人”。
AI大模型落地 构建全维度电商生态治理体系
随着直播电商进入高质量发展新阶段,行业正由“规模扩张”转向“质量深耕”。报告显示,2025年,快手电商以AI大模型为核心,构建全维度电商生态治理体系,针对虚假宣传、不正当营销、假货等行业乱象开展专项治理,推动生态健康可持续发展。
针对长期困扰电商行业的虚假宣传、剧本炒作等顽疾,快手电商在2025年实现了从人工审核向AI大模型治理的转变。平台通过AI模型算法对高风险商品进行全量回扫,整体风险漏放率已降至0.1%,虚假宣传举报率降幅达35%。
特别是在治理剧本炒作和虚假人设方面,平台构建了全链条治理体系。例如,系统可实时识别直播间演绎家庭矛盾诱导下单的行为,并自动触发弹窗预警、直播遮罩乃至断播处罚。2025年,此类炒作卖货举报率同比降低了61%。
此外,针对短视频领域AI仿冒名人明星、虚假人设情感绑架等新型虚假违规行为,平台屏蔽相关电商类短视频5000多条,封禁清退商家700余人次。
在商品质量与知识产权保护方面,AI技术同样发挥了核心作用。快手电商2025年实现抽检机制的全面自动化。目前,所有品类均可实现问题商品自动识别与自动派单,大幅降低了人为干预风险。
报告显示,2025年快手电商升级假货识别模型,全年识别拦截风险商品190万件,处置假货商品3万余件,打击治理相关风险商家1.58万个。在禁售商品治理上,极端风险商品日均拦截能力提升至3万件以上;借助多模态大模型,高风险类目错放漏放率降至0.47%。同时,平台对接国家版本馆等权威数据库,下架超40万不合规图书商品。
🐕