5 月 24 日 , 腾讯 QQ 发布 2024 第一季度 QQ 平台生态治理公告。公告显示 , 第一季度平台累计打击违规账号 411 万个 , 并重点整治涉网络赌博、诈骗、未成年人负面影响的有害内容。

为给用户打造清朗健康的网络环境、安全可靠的使用体验 ,25 年来 QQ 持续通过技术手段、产品手段、运营手段的多维度升级 , 不断巩固平台安全防御机制。2023 年 , 基于 QQNT 重构 , 安全团队协同腾讯多个安全实验室全面加强各项核心安全能力 , 并持续加大对网络黑灰产和不良信息的整治力度 , 进一步保障用户权益 , 维护平台生态秩序。

AI 技术加持 , 更精准实现黑灰产打击治理

互联网产品所面临的主要挑战之一是网络黑灰产的持续作恶。大数据、人工智能、区块链等新技术、新业态的发展 , 也使得网络黑产非法牟利的技术和手段不断变形升级。

为了有效对抗黑灰产 , 在充分保障用户隐私的情况下 ,QQ 安全团队利用安全大数据、社交图计算、安全多模态大模型等手段构建了一套全方位的安全技术防御体系 , 实现上游严格管控黑灰产账号资源、中游及时准确识别各类风险、下游精准打击处置违规内容。

违规内容示例

据 QQ 安全团队介绍 , 以违规内容识别打击为例 , 借助大模型对通识和社交知识的学习积累和应用能力 ,QQ 平台能够准确鉴别各类色情低俗内容。而针对 "AI 换脸 " 新型诈骗 ,QQ 也已经储备了异常环境检测、风险账号识别和异常操作分析等多重技术手段 , 一但出现此类风险可以对疑似被诈用户下发提醒或直接拦截阻断 , 保障用户隐私和财产安全。

同时 ,QQ 也根据不同用户特点 , 在 " 加好友、加群、沟通、分享屏幕 " 等业务场景部署多重安全防护措施 , 通过安全弹框、状态栏消息、公众号推送等多种形式的安全提醒每天触达约 30 余万名用户 , 及时有效提醒广大用户警惕网络风险。

风险流量下降超过 90%,QQ 协议挂治理成效显著

不久前 ,# 小时候被盗的 QQ 终于有救了 # 一度登上话题热搜 , 起因是有一网友分享了自己成功找回 QQ 的经验。作为国内最早的即时通讯工具 ,QQ 账号是许多用户的互联网钥匙 , 被广泛应用于各个互联网产品中 , 这也无形中放大了 QQ 账号密码泄露的风险 , 增加了 QQ 账号安全工作的复杂性。

针对黑产作恶全链路的多个核心节点 ,QQ 安全团队基于 QQNT 全新的系统架构 , 全面加强各项核心安全能力 , 实时响应并自动化拦截突发异常 , 精准打击黑流量 , 在用户零感知情况下精细化处置各类风险 , 守护用户数据资产安全。

据 QQ 安全团队介绍 , 目前已经对 " 黑产自动化作恶工具、作恶号源批量生产、黑号解封复活操作、恶意流量曝光占位 " 等实现有效的持续性封堵拦截 , 特别是在 QQ 协议挂的治理上基本达成 " 团灭 " 的打击效果。随着新版 QQ 安全加固的落地 , 其针对所有端的协议都完成了自动化管理覆盖 , 平台整体风险流量相比 2022 年初下降超 90%。

此外 , 在 " 账号登录、账号异常风险提醒、账号找回 " 等涉及用户体验层面 ,QQ 也在持续优化流程 , 保障用户安全便捷操作。

账号安全功能界面

青少年模式下实现内容分层 ,QQ 未成年保护进一步升级

飞速发展的互联网一方面拓展了未成年人学习、生活的空间 , 同时也引发了全社会对未成年人网络保护问题的关注。早在 2020 年 ,QQ 就率先上线了适合网课场景使用的 " 学习模式 ", 并在同年 9 月将 " 学习模式 " 全面升级为 " 青少年模式 "。截至目前 ,QQ 在 " 游戏娱乐 "、" 消费充值 "、" 广告推送 "、" 短视频内容 " 等方面进行 80 余次的持续优化 , 全方位保护未成年人网络安全。近期 ,QQ 青少年模式新增了内容分级能力 , 帮助未成年人在不同年龄段触达更适合的知识内容。

为给青少年用户提供快捷、有效、有用的举报能力 ,QQ 特别增设了未成年人专属快速举报通道 , 并细化有害标签 , 一方面指引用户顺利完成举报 , 另一方面也确保平台能以最快的速度核查处理涉未成年相关的举报内容。同时 , 平台举报流程中还会为用户提供快速报案指引 , 根据用户地理位置为其提供最近的派出所信息及报警热线。

未成年专属举报通道及报案指引

想要保护未成年用户不受不良网络信息的侵害 , 除了对平台的技术产品和巡查处置能力提出要求 , 还需要进一步培养未成年用户的风险识别意识与抵制能力。基于此 ,QQ 充分考虑其兴趣和成长需求 , 设置未成年人守护专区 , 联合内外创新打造多形式的网络安全教育、人文科技知识科普内容和活动 , 并提供线上线下的专业帮助 , 为未成年人身心健康成长保驾护航。

线上线下安全教育

平台安全是一项长期工作 ,QQ 也将持续强化平台责任担当 , 提升平台安全防护能力 , 持续治理违规行为和不良内容 , 营造良好的社区氛围、保障用户利益、提升用户体验。QQ 安全团队也呼吁广大用户如发现异常行为第一时间向平台举报 , 共同维护良好的网络秩序。