随着互联网用户群体的年轻化趋势愈发明显，英国政府正积极探索人工智能（AI）在保护年轻网民方面的潜力。AI 技术因其在欺诈、虚假信息等在线恶意活动中的潜在滥用而备受关注。目前，英国的监管机构 Ofcom 正着手研究如何利用 AI 技术，特别是针对有害儿童的内容，进行有效的打击和预防。

Ofcom，作为负责执行英国在线安全法案的权威机构，已宣布计划就如何运用 AI 及其他自动化工具进行在线非法内容的主动检测与删除展开深入咨询。该机构特别关注如何通过这些技术保护儿童免受有害内容的侵害，并识别那些以往难以被检测到的儿童性虐待材料。

这些技术的应用将成为 Ofcom 正在制定的一系列更广泛提案的关键部分，这些提案主要聚焦于提升在线儿童的安全。Ofcom 透露，关于这些综合提案的磋商将在未来的几周内启动，而关于 AI 的具体磋商则计划在本年度稍后进行。

Ofcom 在线安全小组的主管 Mark Bunting 在接受 TechCrunch 采访时表示，他们对 AI 技术的兴趣源于其作为筛查工具的广泛应用。他指出，尽管一些服务已经在使用这些工具来保护儿童免受有害内容的影响，但关于这些工具的准确性和有效性的信息却相对匮乏。因此，Ofcom 希望深入研究如何确保行业在采用这些工具时能够进行适当的评估，同时确保言论自由和隐私的风险得到妥善管理。

Ofcom 可能提出的建议将指导平台如何评估以及评估哪些内容，这不仅可能促使平台采用更先进的工具，还可能对未能有效阻止有害内容或未能创造更好留住年轻用户的方法的平台处以罚款。

Mark Bunting 强调，与许多在线安全监管措施一样，公司有责任确保他们采取适当的措施并使用适当的工具来保护用户。

同时，Ofcom 也发布了关于英国儿童如何上网的最新研究。研究显示，上网的年幼儿童数量创下新高，迫使 Ofcom 开始关注越来越年轻的年龄段。据调查显示，近四分之一的 5 至 7 岁儿童现在拥有自己的智能手机，若包括平板电脑，这一比例上升至 76%。这些儿童在这些设备上使用媒体的频率也在增加：65% 的儿童进行过语音和视频通话，一半的儿童正在观看流媒体。

尽管社交媒体应用对年龄有所限制，但在英国，这些限制似乎并未受到足够重视。Ofcom 发现，约 38% 的 5 至 7 岁儿童正在使用社交媒体，其中 WhatsApp 以 37% 的比例成为最受欢迎的应用。TikTok 和 Instagram 分别以 30% 和 22% 的比例紧随其后，而 Discord 则以 4% 的比例位列末尾。

此外，该年龄段约有三分之一的儿童独立上网，30% 的家长表示他们对未成年孩子拥有社交媒体个人资料持满意态度。YouTube Kids 以 48% 的比例成为最受年轻用户欢迎的网络平台。

游戏作为儿童的最爱，目前有 41% 的 5 至 7 岁儿童参与其中，其中 15% 的孩子玩射击游戏。

Ofcom 指出，尽管 76% 的家长表示他们曾与孩子讨论如何安全上网，但孩子所看到的内容与他们向父母报告的内容之间存在差异。在对 8 至 17 岁儿童的研究中，Ofcom 直接采访了这些孩子。研究发现，32% 的孩子表示他们在网上看到过令人担忧的内容，但只有 20% 的家长表示他们的孩子报告过任何内容。

Ofcom 在报告中写道，即使存在一些报告不一致的情况，研究仍表明，年龄较大的孩子接触到潜在有害的在线内容与他们与父母分享的在线经历之间存在脱节。除了令人担忧的内容，深度伪造（deepfakes）也是一个日益严重的问题。Ofcom 表示，在 16 至 17 岁的儿童中，有 25% 的人表示他们对区分网上的假货和真货缺乏信心。