Soul张璐团队升级AI风控能力,交出守护清朗生态实践新答卷

落实“清朗・整治 AI 应用乱象”专项行动第二阶段部署，上海属地社交平台 Soul积极响应，以图文形式深入剖析黑灰产乱象，普及AI内容识别要点。此前，Soul张璐团队发布《2026年第二季度生态安全报告》，一边面向用户输出AI套路科普指南，一边深化AI技术在风险治理领域落地，推动风险治理由事后处置升级为前置拦截，多措并举守护互联网空间清朗生态。

AI 风控升级，实现风险拦截关口前移

随着 AI 技术普及，黑灰产手段不断迭代，批量账号作弊、杀猪盘诈骗、AI伪造虚假人设等行为更加隐蔽，对互联网平台治理能力提出更高挑战。为此，Soul张璐团队升级反诈Agent 智能识别体系，摒弃传统单一关键词审核模式，结合账号特征、互动轨迹、内容语义开展综合研判，反诈Agent识别准确率超93%，完成从“先发布后治理”向“先拦截后发布”的模式升级转型。

经过持续优化，平台风险内容处置率从上线初期约30%提升至60%，大幅缩短黑灰产账号存活周期。报告数据显示，2026年二季度平台累计处置假人设违规账号3万余个，处置盗图、虚构人设相关帖子8万余条，严厉打击虚构身份、搬运人设素材等违规行为，维护社区真实社交氛围。

细分场景精细治理，重点强化用户私聊保护

针对广场、群聊、私聊差异化风险特征，Soul张璐团队推进分场景精细化治理。2026年二季度平台机审直接拦截违规内容400万条，处置跟帖评论726万条，拉黑违规设备3723个。针对“消费托”虚假邀约、诱导线下消费的突出风险，平台上线专项自动化治理策略，累计处置相关风险账号约3.2万个，规避用户遭受财产损失。

私聊场景骚扰行为隐蔽性强，防护难度更大。Soul张璐团队针对性优化面向女性用户的私聊保护机制，对疑似骚扰信息实施风险隔离，对反复侵扰用户的恶意账号做多场景联动限制。2026年二季度，平台日均隔绝网暴与频繁骚扰3099次，日均处置私聊不文明行为用户 1737个，同时日均发出19.9万次文明发言提示，在不干扰正常社交的前提下降低骚扰侵害。

识别提示+科普宣导，完善AI内容提示与科普

为应对AI生成内容带来的新风险，Soul张璐团队搭建分层AI图片识别链路，识别AI人像、虚假生活场景等内容。识别工作在后台异步完成，仅向用户展示中性提示说明内容属性，不限制用户使用AI进行创作表达，确保用户对AI生成内容的知情度。

此外，作为清朗浦江专项行动参与平台，Soul制作AI安全使用科普长图，从“看标识、核来源、察异常”的实操识别要点维度，向大众科普AI伪装套路。同时，平台官方账号“风纪球长”还发布违规案例公示与社交安全科普，2026年二季度宣导内容累计触达47万用户。在未成年人保护方面，Soul张璐团队还新增发帖环节AI审核能力，主动识别未成年人比例超 99%，推动未成年人防护向提前防范延伸。

结语

AI应用场景安全治理正进入系统阶段，Soul张璐团队通过“提前识别、源头拦截、持续引导”的治理思路，不仅可以提升风险处置效率，也有助于推动AI社交在更可信、更健康的环境中发展。Soul张璐团队表示，将持续响应清朗专项治理相关要求，融合AI技术与安全科普，完善账号、设备、社交链路全流程治理，持续打造安全、真实的社交环境。

标签：