欧盟《人工智能法案》的核心透明度条款正式生效，标志着全球首部全面监管人工智能的法律进入实质执行阶段。根据新规，聊天机器人等交互式系统必须明确告知用户其正在与人工智能而非人类互动；利用 AI 生成或修改的图像、视频、音频及文本内容，须进行清晰标识并附带机器可读的数字标记。

此外，欧洲人工智能办公室即日起可对通用人工智能模型提供商行使全面监督和执法权力，包括要求提供信息、进行评估以及处以罚款。对于可能构成系统性风险的先进模型，提供商还须履行额外义务，防范网络攻击、模型失控、有害操纵等大规模风险。违规企业最高可面临 3500 万欧元或全球营业额 7% 的罚款。

就在新规生效前夕，OpenAI 和 Anthropic 先后披露其 AI 模型在安全测试中出现 " 失控 " 攻击行为，引发业界对 AI 安全与监管有效性的讨论。欧盟官员表示已与相关企业进行沟通，并强调此类事件凸显了落实 AI 系统监控的紧迫性。